רשימה: מתאוריה לטסט: משפט, אתיקה ומכוניות אוטונומיות | עדי טוכמן בן-עזרא

מתאוריה לטסט: משפט, אתיקה ומכוניות אוטונומיות

עדי טוכמן בן-עזרא*

פתח דבר. פרק א: המכונית האוטונומית; 1. התפתחויות טכנולוגיות; 2. יתרונות המכונית האוטונומית. פרק ב: סוגיות של אתיקה ומשפט; 1. במה המכונית האוטונומית ייחודית ומדוע היא מעוררת שאלות חדשות של אתיקה ומשפט?; 2. שני סוגים של אלגוריתמים והשלכותיהם המוסריות; 3. היבטים משפטיים; 4. המחשת הדילמות באמצעות תרגיל מחשבתי. סיכום.

 פתח דבר

החלפתן של מכוניות הנהוגות בידי אדם במכוניות אוטונומיות תוביל לשינויים רבים במגוון תחומים. כך, למשל, תידרש חשיבה מחודשת בתחום הביטוח; עולם השיווק ייפתח לאפשרויות חדשות ומלהיבות; ההגנה על הזכות לפרטיות תהיה מאתגרת יותר (בדומה לאתגרים רבים הנובעים מהפיתוחים הטכנולוגיים של דורנו); אפילו שוק הדיור עשוי להשתנות – עלויות הנובעות ממרחקים גאוגרפיים יצומצמו ואת זמן הנסיעה ניתן יהיה לנצל באופן יעיל. במוקד רשימה זו אדון באחת מהסוגיות החשובות שמעוררת המכונית האוטונומית: החלפת התגובה האנושית הספונטנית בהכרעות מחושבות מראש. כפי שאנסה להמחיש להלן, בעובדה זו לבדה יש כדי להעלות שאלות עמוקות של מוסר ושל משפט, שראוי להתמודד עימן טרם כניסתן של מכוניות אוטונומיות לכבישים הפתוחים, ואף לעצב את מדיניות השימוש במכוניות האוטונומיות לאורן.

כשלים במערכות ממוחשבות הם מציאות מוכרת, בוודאי לכל מי שנסמך על טכנולוגיה כחלק משגרת החיים המוכרת. תוכנות אינן מוצר מושלם, וגבול היכולת שלהן הוא כגבול יכולתו של האדם שמתכנת אותן, שמזין אותן במידע, או שמתפעל אותן. אם כן, אניח כנקודת-מוצא שאין בסיס לטענה שמכוניות אוטונומיות יאפשרו בטיחות יציבה ועקבית ללא דופי, וכי תאונות עתידות להתרחש למרות כל אמצעי הזהירות שיינקטו.[1] זאת במיוחד כאשר עסקינן בנסיעה בכבישים פתוחים, שם גם עיכוב של עשירית שנייה בתגובת המכונית עשוי להיות קריטי.

ברשימה זו אבקש להציג מעט מן המידע הרלוונטי על אודות התפתחויות בנות-ימינו בתחום המכונית האוטונומית והשפעותיהן האפשריות על חיינו. בפרק הראשון אסקור את היתרונות שמציגה המכונית האוטונומית, אמנה ואפרט את רמות האוטומציה האפשריות וההתפתחויות בשוק הרכב העולמי בפועל, ואנסה להבין מה תפקידה של "למידת מכונה" בתוך כל אלה; בפרק השני אבהיר את ייחודה של המכונית האוטונומית מנקודת-מבט מוסרית ומשפטית, אציג ואנתח דילמות אתיות שונות הממחישות את מורכבות הסוגייה האתית בנושא ולבסוף אדון בשינוי הנדרש, אם נדרש, בדין הישראלי בכלל ובדיני הנזיקין בפרט, כדי להתאימם למציאות החדשה.

 פרק א: המכונית האוטונומית

  1. התפתחויות טכנולוגיות

דיונים בנושא רובוטיקה מאופיינים ככלל בניחוח עתידני–בדיוני, וכך גם עשויות להישמע תחזיות בנוגע להשלכות ארוכות-טווח של המכונית האוטונומית. אך האמת היא שכבר בהווה רכבים המיוצרים בשוק העולמי הופכים בהדרגה לאוטומטיים יותר, ולפי דיווחים אחדים כעשרה מיליון מכוניות אוטונומיות יהיו על הכביש עד סוף שנת 2020. צי המכוניות ללא נהג של גוגל כבר נסע למעלה מ-4 מיליון קילומטרים בכבישים ציבוריים של מדינות רבות ברחבי ארצות-הברית,[2] ומספר רב של יצרניות רכב השיקו דגמים הכוללים אוטומציה של סיוע בנהיגה.[3]

ארגון מהנדסי הרכב העולמי (SAE) הגדיר סולם מושגים בן חמש דרגות לאוטומציה של רכבים: הדרגה הראשונה כוללת רכבים עם מערכות של בקרת שיוט מסתגלת, מערכות לשמירה על נתיב הנסיעה ומערכות דומות אחרות המשתלבות בנהיגה האנושית; בדרגה השנייה (שהיא רמת האוטומציה המרבית המצויה בכלי הרכב המשווקים כיום) ישנן מערכות בקרה צִדית ואורכית המאפשרת למכוניות לשמור על נתיב נסיעתן; בדרגה השלישית מתאפשרת העברת השליטה לנהיגה אוטומטית במצבים מסוימים, כגון פקקי תנועה בדרכים מהירות (כשההחלטה להעביר למצב אוטונומי מצויה בידי הנהג האנושי); ובשתי הדרגות האחרונות, הרביעית והחמישית, כלי הרכב מתפקד ללא סיוע אנושי. שתי הדרגות נבדלות זו מזו בתרחישים ובנסיבות שיגרמו להעברת השליטה לרכב: בדרגה הרביעית, למשל, תתאפשר נהיגה אוטומטית רק לפעולות מסוימות, כגון חניה אוטומטית בחניונים סגורים להולכי רגל ולכלי רכב בלתי אוטומטיים או בנתיבים המוקצים לכלי רכב מסוג זה בדרכים מהירות; בדרגה החמישית, לעומת זאת, מדובר בנסיעה אוטומטית מלאה.

יצרניות הרכב וחברות הטכנולוגיה העוסקות בייצורן של מכוניות אוטונומיות בימינו שואפות להגיע לדרגת האוטומציה הרביעית. ביום בו יצרניות הרכב יעפילו אל דרגת האוטומציה החמישית, יתכן שראוי יהיה לבחון אם בכלל נכון לאפשר שליטה אנושית ברכב; ואם כן – באילו תנאים: באילו מקרים, אם בכלל, תחויב המערכת האוטונומית "לעקוף" את הנהיגה האנושית? ובאילו מקרים, אם בכלל, יחויב המפעיל האנושי לעקוף את הנהיגה האוטונומית?

נוסף על ההבחנה בין דרגות האוטומציה, נדרשת הבחנה חשובה נוספת בין תִכנות דטרמיניסטי לבין תִכנות למידת מכונה.[4] בעוד שבתכנות דטרמיניסטי מושא התכנות (המכונית, במקרה זה) יפעל על פי הנחיות ברורות לפעולה במצבים משתנים, שהוטמעו בו על ידי המתכנת האנושי, בטכנולוגיה המתקדמת יותר, מסוג למידת מכונה, ישנה שאיפה להטמיע בתוכנה גם יכולות למידה והסתגלות. למידת מכונה מאפשרת זיהוי אוטומטי של דפוסים שונים בתוך מאגרי נתונים נרחבים (שהולכים ומתרבים ככל שהשימוש בטכנולוגיה הולך וגובר). שימוש בכלים מתחום הסטטיסטיקה ומתחום מדעי המחשב, מאפשר לאלגוריתם לנתח את אירועי העבר, ללמוד ולהסיק מהם, וכך לנבא את תרחישי העתיד. עם זאת, בשונה מסטטיסטיקה – מתכנתי האלגוריתם הלומד יתקשו בדרך-כלל לספק הסבר מפורט ביחס לאופן שבו נוצר הניבוי. הקושי נעוץ בעיקר בכך שבדומה ללמידה האנושית, האלגוריתם משתכלל על בסיס למידה מניסיון, ולא על בסיס ביצוע דקדקני של הוראות מפורשות שניתנו לו. שימוש בטכנולוגיית למידת מכונה במכוניות אוטונומיות תאפשר לקוד המוטמע בהן ללמוד ולשכלל את דרך נהיגת המכונית, על בסיס מאגר הנתונים שייאסף לאורך כל שעות נסיעתן בדרכים, ועל בסיס מאגרי נתונים נרחבים חיצוניים לה. אך אליה וקוץ בה: חסרונה של המכונית האוטונומית הלומדת הוא דווקא בכך שהיא בלתי-דטרמיניסטית,[5] ומשכך היא בלתי-צפויה ובלתי-קבועה; שני כלי רכב יכולים לצאת מאותו פס ייצור, אך כתוצאה מהיתקלויות במצבי תנועה שונים, התנהגותן של שתי המערכות תהיה שונה מאוד זו מזו.

  1. יתרונות המכונית האוטונומית

נתוני ארגון הבריאות העולמי מראים כי למעלה מ-1.2 מיליון אנשים ברחבי העולם מתים בכל שנה כתוצאה מתאונות דרכים, ובין עשרים לחמישים מיליון נפצעים.[6] תאונות הנגרמות כתוצאה מנהיגה תחת השפעת אלכוהול עולות לממשלת ארצות-הברית למעלה משלושים ושבעה מיליארד דולר בשנה, וגורמות בממוצע למותו של אדם אחד בכל שעה.[7] בהינתן שהגורם האנושי הוא הסיבה לרובן המוחלט של תאונות הדרכים, וליתר דיוק – תשעים וחמישה אחוזים מהן[8] – קידום הבטיחות הוא המניע המרכזי לפיתוח טכנולוגיה שתאפשר נסיעת רכבים ללא צורך בנהג אנושי. אחד המחקרים בנושא ניבא כי כשנתח השוק של מכוניות אוטונומיות יגיע לכתשעים אחוזים בארצות-הברית, מותם של כ-21,700 בני אדם בכל שנה יימנע.[9] השפעות אלה יחסכו עלויות חברתיות נוספות כגון שהות בבית חולים, אובדן ימי עבודה והמחיר הרגשי שגובות תאונות דרכים ממשפחות המעורבים.[10]

לצד הפחתת הסיכון בדרכים, לתפוצת טכנולוגיית המכונית האוטונומית נלווים יתרונות רבים נוספים. תתאפשר בזכותן ניידות במידה שטרם התאפשרה עבור מבוגרים ובעלי-מוגבלויות;[11] בהנחה שהטכנולוגיה תייצר נסיעה יציבה יותר, השומרת על קצב נהיגה קבוע, בשונה מהנהיגה האנושית המאופיינת בשינויים תכופים במהירות הנסיעה, המכוניות האוטונומיות ייחסכו בדלק ויפחיתו פליטת מזהמים; לצד יציבות הנסיעה, מנגנוני הגנה שיוטמעו במכוניות יאפשרו נסיעה צפופה יותר בכבישים, וכך תיתכן הגברה משמעותית של קיבולת הכביש;[12] זמני הנסיעה הארוכים שרבים מאזרחי העולם המערבי מבלים בנהיגה מביתם לעבודתם וחזרה,[13] יהיו זמנים הניתנים לניצול יעיל יותר, בלי להתפשר על רמת השמירה על הבטיחות.[14] עם תפוצתן של מכוניות אוטונומיות, בהנחה שמכונית תוכל להיענות ל"קריאה" של אדם, להסיע אותו למחוז חפצו, ולהמשיך ליעד הבא ללא מעורבות אנושית; עד מהרה, עשוי להתייתר הצורך בבעלות פרטית על מכוניות, והן יהפכו לשירות-לפי-דרישה, בדומה לשירותי מוניות והסעות פרטיות כיום. שינוי זה עשוי להוביל בהמשך לשרשרת השפעות על תחומים רבים ומגוונים, כגון עידוד מגורים במקומות מרוחקים ממקום העבודה, שינויים בענף שירותי ההובלה ושינוי בניצול משאבי קרקע (כתוצאה, למשל, מהפחתת הצורך במקומות חניה בערים).

פרק ב: סוגיות של אתיקה ומשפט

  1. במה המכונית האוטונומית ייחודית ומדוע היא מעוררת שאלות חדשות של אתיקה ומשפט?

הנהיגה האנושית העלתה גם היא, ומוסיפה להעלות, שאלות של מוסר ושל משפט: מהו האיזון הראוי בין התפתחויות טכנולוגיות ובין זכויות אדם (דוגמת הזכות לחיים), כאשר האחת פוגעת לעיתים באחרת? מהו המשטר הנזיקי הראוי בכל הנוגע בטיפול בתאונות דרכים? מהי חלוקת האחריות הראויה בין הגורמים השונים המשתתפים בייצור, במכירה ובשימוש ברכב?[15] וכן שאלות שונות בנוגע לתפקידה של המדינה בהסדרת הדרכים והנהיגה בהן – הן בהיבטים חוקתיים הן בהיבטים פליליים. בשל כל אלה, יש לתהות על ייחודה של המכונית האוטונומית ולשאול מדוע היא מעוררת שאלות חדשות של אתיקה ושל משפט?

האתגרים האתיים והמשפטיים שנובעים מהתפתחות טכנולוגיית המכונית האוטונומית נבחנו במחקרים רבים ומגוונים בעולם , והודגמו בהם באמצעות מקרים שונים שעשויים להתרחש עם הטמעת הטכנולוגיה בכבישי העולם.[16] הבסיס המשותף למרבית הדיונים האתיים והמשפטיים בנושא הוא ההבנה שלעומת הנהיגה האנושית – שבה במצבי חירום הנהג האנושי מגיב בזמן אמת – ההחלטה שתקבל המכונית האוטונומית באירוע חירום נקבעת זמן-רב טרם התרחשות האירוע. יסוד השליטה מראש בתוצאות, הנעדר מנהיגה אנושית, מטיל על זה שבידיו השליטה, יהיה אשר יהיה, אחריות כבדה וחובת זהירות כלפי כל מי שעשוי להיפגע מתוצאות הכרעותיו.[17] [18]

יש שיטענו כי אין כל צורך בדיון מעמיק בדילמות הללו, משום שמכוניות אוטונומיות יפתרו אותן באמצעות פעולות של עצירת הרכב או העברת השליטה בנהיגה חזרה לנהג האנושי. אולם ברור שבלימה או העברת השליטה לנהג האנושי לא תמיד אפשריות; וכשהן כן אפשריות, הן לא בהכרח הפתרון המתאים והמספק לבעיה שהתעוררה. כך, למשל, העברת השליטה לא תהיה אפשרית כאשר נדרשת תגובה מהירה מאוד למתרחש בכביש, כאשר מחקרים מראים שלנהג אנושי יידרשו עד ארבעים שניות להשיב את תודעתו חזרה אל הכביש. אם נכיר בעובדה שישנן תאונות והתנגשויות שאינן ניתנות למניעה, הרי שבמקרים כאלו לא תהיה ברירה אלא להטמיע במכונית האוטונומית אלגוריתם שתפקידו למטב את ההתנגשות.[19] אולם – וזוהי נקודה מרכזית, שתלך ותתבהר בהמשך פרק זה – מיטוב (של התנגשות, ובכלל) מעצם הגדרתו הוא יחסי, ולכן בחירה בין חלופות שונות על ידי המכונית למיטוב ההתנגשות תהיה בהכרח תולדה של המטרה שהוטמעה בה, כאשר הגדרות שונות למטרה זו עשויות לייצר הכרעות שונות בנסיבות זהות.

  1. שני סוגים של אלגוריתמים והשלכותיהם המוסריות

לשם ההמחשה, אציג להלן דוגמאות לשני אלגוריתמים אפשריים במכוניות אוטונומיות, ואבחן כמה מן ההשלכות המוסריות שכל אחד מהם עשוי לייצר.

אלגוריתם אחד, אשר יכונה אלגוריתם הגנה עצמית, יתוכנת כך שמטרתו היחידה במקרה של תאונה היא להגן בכל מחיר על הרכב ועל היושבים בו. באלגוריתם כזה האפשרות הטובה ביותר לתגובה בעקבות תאונה תהיה התנגשות באובייקט שייצר את הנזק המזערי ביותר למכונית וליושביה, דהיינו התנגשות באובייקט הקל ביותר מבין האפשרויות הקיימות. כך, למשל, התנגשות בהולך רגל תהיה עדיפה על התנגשות באופנוע; התנגשות באופנוע תהיה עדיפה על התנגשות ברכב קל; שבתורה תהיה עדיפה על התנגשות ברכב כבד.

אלגוריתם ההגנה העצמית מייצר קושי, הן מנקודת מבט דיאונטולוגית הן מנקודת מבט תוצאתנית: גישות דיאונטולוגיות מסוימות אוסרות על גרימת נזק לאַחֵר או על נטילת חייו של אחר גם אם מטרתן היא למנוע נזק. העדפתה של התנגשות בהולך רגל, תוך גרימת נזק לגופו ולעתים אף תוך נטילת חייו, כדי למנוע פגיעה, גם הקלה ביותר, בגוף הרכב או ביושביו, עשויה להיחשב לדרך פעולה שאינה מקובלת, מנקודת מבט דיאונטולוגית. אף בהסתכלות על טיעונים תוצאתניים נראה שנתקשה למצוא תמיכה מוסרית לאלגוריתם כזה, אם נניח שהעדפת הפגיעה בהולך הרגל כדי למנוע פגיעה (ולוּ הקלה ביותר) במכונית או ביושביה, תוביל להפחתה בהצדקה המוסרית של המכונית בעיני הציבור הרחב, מה שיוביל להאטת קצב חדירתן לשוק. ההאטה בקצב חדירתן לשוק היא תוצאה בלתי רצויה, משום שהיא תמנע את היתרון של הפחתת הסיכון בדרכים שמתלווה לתפוצתן של מכוניות אוטונומיות.[20]

דוגמה שנייה, הפוכה בתכלית, תהיה אלגוריתם שנועד להגן בראש ובראשונה על הולכי רגל ועל נהגים אחרים. האלגוריתם הזה יכונה אלגוריתם אלטרואיסטי.[21] באלגוריתם כזה תתוכנת התוצאה הרצויה כך שבמקרה של תאונה תיבָּחר האפשרות להתנגש באובייקט הכבד או הבטיחותי ביותר. התנגשות כזו תעמיד אומנם את יושבי הרכב בסיכון הגבוה ביותר בזמן תאונה, אך תצמצם למינימום האפשרי את הפגיעה ביתר המעורבים שמחוץ לרכב. היתרון המובהק באלגוריתם כזה טמון בקידום הצדק החלוקתי. מי שהציג את הסיכון לציבור – הצרכן (או הבעלים) של המכונית האוטונומית – הוא שיישא במרבית הנזק במקרה של תאונה ולו מפני שהוא הנהנה העיקרי מהתועלת שהיא מסבה.[22] אולם, בהנחה שצרכנים יסרבו לרכוש מכונית שתתוכנת להקריבם, נראה כי האלגוריתם האלטרואיסטי אינו אפשרי מבחינה כלכלית-עסקית. ומכל מקום, אם תכנותן של מכוניות אוטונומיות להקרבת היושבים ברכב עלולה להביא להימנעות צרכנים מרכישת מכוניות אוטונומיות, הרי שהחברה כולה תיאלץ להמשיך לשלם את העלות הגבוהה – בחיים וברכוש – הטמונה בהמשך השימוש במכוניות הנהוגות בידי אדם, עובדה המחלישה את יתרונו של אלגוריתם זה מנקודת מבט תוצאתנית.

באופן כללי ניתן לומר שכל אלגוריתם שמייצר העדפה של התנגשות בסוג מסוים של אובייקטים, מייצר הפליה מכוונת ושיטתית כלפי אותם אובייקטים. כך, למשל, בעלי מכוניות קטנות במיוחד (במקרה של אלגוריתם הגנה עצמית) או בעלי מכוניות בטיחותיות במיוחד (במקרה של אלגוריתם אלטרואיסטי) עשויים למצוא עצמם מעורבים יותר בתאונות עם מכוניות אוטונומיות, מה שעשוי להוות תמריץ שלילי לנהגים אנושיים לרכוש מכוניות בטיחותיות, או לנסוע בהן.

  1. היבטים משפטיים

הנכונות להתבונן מחדש במסגרות המשפטיות הקיימות, ובעת הצורך לפתח מסגרות משפטיות חדשות כדי להתמודד עם סוגיות העולות מהתפתחויותיהן של טכנולוגיות חדשות,[23] מוצאת את ביטוייה בתפישה לפיה "Law must be Stable, but it can not stand still".[24] הדברים נכונים בפרט בתחום דיני הנזיקין, הנתונים להשפעתן של התפתחויות טכנולוגיות יותר מכל ענפי המשפט האחרים, [25] ובהם יש לשאוף להביע שילוב מדויק של יציבות לצד תנועה מתמדת, בהתאם לצרכי החברה המשתנים.

כך, למשל, הוליד השימוש המאסיבי במכוניות בישראל את הצורך במעבר ממשטר של רשלנות – הבוחן אָשַם – למשטר של אחריות חמורה – תפישה הבאה לידי ביטוי בחוק פיצויים לנפגעי תאונות דרכים שנחקק בשנת 1975,[26] ובבסיסו עומד העיקרון של "פיצוי לכל נפגע".[27] מטרותיו המוצהרות של החוק הן הטלת אחריות בגין כל נזק גוף שנגרם בגלל שימוש ברכב מנועי, וכן הקלת דרכם של נפגעים בכוח המעוניינים לתבוע את נזקיהם. המעבר למשטר של אחריות חמורה נועד למנוע סרבול והתארכות ההליך המשפטי המאפיין תביעות נזיקין מבוססות-אשמה.[28]

המעבר למשטר של אחריות חמורה נתפש אומנם כמהלך של הגברת אחריות, אך ניתן לטעון שהאחריות במשטר כזה פוחתת, או לכל הפחות "מורחקת". בישראל, למשל, בד בבד עם המעבר למשטר האחריות החמורה, הורחב גם היקף ביטוח החובה. המשמעות היא שניזוקים אינם מפוצים בהכרח על-ידי המזיק הישיר שלהם, אלא שיצרני הסיכון כולם תורמים ל"קופה" כללית אחת,[29] והניזוקים מקבלים את פיצויים דרכה. בשיטה זו, דינם של שני נהגים, שהציגו סיכון דומה לחברה (מעצם עלייתם לכביש), יהיה זהה, גם אם אצל האחד הסיכון התממש ואצל האחר לא. ההצדקה המוסרית למשטר אחריות כזה נעוצה בהבנה שהתממשות סיכון, במקרה זה בכביש, אינה בהכרח עניין של אחריות יותר מאשר עניין של מזל, ומשכך אין טעם להטיל על הנהג האחד נטל מוסרי ומשפטי שונה מזה שמטילים על האחר. ניתן לטעון שמשטר מסוג זה מאותת למזיקים כי הם אינם באמת אחראיים לנזק שנגרם.

משטר נזיקי מבוסס אשמה, עם היקף ביטוח חובה מצומצם יותר, מגביר את תחושת האחריות. נהגים שיימצאו רשלנים יישאו במלוא האחריות לנזק שיצרו, ויפצו באופן אישי את הניזוק.[30] חסרונה של השיטה הוא היעדרה של הבטחת "פיצוי לכל ניזוק" בהיקף דומה למשטר של אחריות חמורה, בהתחשב בכך שלא כל המזיקים יימצאו רשלנים.

כאמור, השוני המהותי בין האתגרים המוסריים והמשפטיים שמביאה עמה נהיגה אנושית לבין אלה שמביאה עמה הנהיגה האוטונומית, נעוץ במידת השליטה בתוצאות ההתנגשות. דרך פעולתו של נהג אנושי בזמן התנגשות תהיה, לרוב, תוצאה של תגובה ספונטנית, שהכוונתה מראש היא כמעט בלתי-אפשרית; בעוד שהכרעות מסוימות של המכונית האוטונומית בעת התנגשות יכולות להיות מעוצבות מראש באמצעות התוכנה שמוטמעת בה. ניתן לטעון שהתגברות יסוד השליטה מראש באופן פעולת הרכב במהלך התנגשות, מביאה עמה דרישה להתגברות דומה באחריות בעל השליטה לתוצאות אותה התנגשות. כדי לעשות כן, בהתחשב במשטר האחריות הרלוונטי, ייתכן שחלק מההצדקות למעבר למשטר של אחריות חמורה, לרבות ההבנה שלא ניתן למנוע לחלוטין תאונות דרכים או לשלוט בתוצאותיהן, לא יהיו עוד רלוונטיות.

אך גם אם יינקט משטר של רשלנות ביחס למכוניות אוטונומיות, עדיין תישאר שאלת חלוקת האחריות: האם ראוי שהאחריות תוטל על יצרנית המכוניות האוטונומיות? או שמא זו תוטל על מפעילה האנושי? ייתכן שכל משטר נזיקי ביחס למכוניות אוטונומיות יחייב שילוב כלשהו בין השתיים; שילוב שיאפשר הטלת אחריות כלשהי על כל אחד מהם, בהתחשב בגורמים מוגדרים מראש. כך, למשל, יש מי שהציע כי האחריות תוטל, כברירת מחדל, על יצרנית המכוניות, אך האחריות תעבור למפעילה האנושי בהתקיים נסיבות מסוימות. לפי תפישה זו, נהגים ברכבים אוטונומיים נחלקים לארבעה סוגים, ורק אחד מהם – הנהג המודע – יישא באחריות.[31]

אעיר במאמר מוסגר כי סוגיית האחריות המשפטית כלפי המכונית האוטונומית הלומדת היא סוגייה נפרדת וחשובה. יצרנים, מתכנתים ומפעילים עשויים לטעון, ובצדק, שמרגע יציאתה של המכונית לכבישים הפתוחים אין להם כל שליטה על התנהגות המכונית, העתידה לבצע תהליך של למידה מתוך מידע שייאסף בשעות נסיעתה (ונסיעת מכוניות דומות לה) בכבישים. בהיעדר שליטה קשה יהיה להוכיח קשר סיבתי בין התנהגותם לבין הנזק שנגרם כתוצאה מנסיעת המכונית; כך שניזוקים רבים עשויים למצוא עצמם עומדים מול שוקת שבורה. אציין, מבלי לדון בהרחבה בסוגיה ובפתרונות האפשריים לה, כי פתרון אפשרי אחד הוא גביית מס גבוה דיו מנהגי מכוניות אוטונומיות, על מנת שיתאפשר ייסודה של קרן מדינתית,[32] ממנה ישולמו נזקיהם של ניזוקים שיוותרו ללא פיצוי; ופתרון אחר, מרחיק-לכת יותר, עשוי להיות הכרה במכוניות אוטונומיות כאישיות משפטית נפרדת, על דרך שבה מכירים בתאגידים כיום, כאשר כללים מסוימים יאפשרו הרמת מסך ליצרנית או למשתמש, לפי חלוקת האחריות בפועל במקרה נתון.

  1. המחשת הדילמות באמצעות תרגיל מחשבתי

לאחר שהצגתי את היסודות התאורטיים – המוסריים והמשפטיים – הניצבים בבסיס הדיון שמעוררת כניסתה של המכונית האוטונומית לכבישים הפתוחים, אמחיש את הסוגיות האלו באמצעות מספר תרחישים דמיוניים.

מכונית אוטונומית עומדת בפני תאונה חזיתית. כדי להימנע מפגיעה היא נדרשת לסטות לאחד משני נתיבים סמוכים: באחד, היא תפגע ברוכבת אופנוע חובשת קסדה; ובאחר ברוכבת אופנוע שאינה חובשת קסדה. נניח כעת כי הן עבור היושבים במכונית הן עבור המכונית עצמה – לפגיעת הקסדה בשמשת הרכב אין השפעה בטיחותית מהותית, ואין בגורם זה כדי להטות את הכף לטובת אחת מהאפשרויות. כמו כן נניח כי לקסדה יש השפעה מכרעת על סיכוייהן של רוכבות האופנוע לשרוד את ההתנגשות.

במבט ראשון, נראה כי האפשרות הנכונה ביותר תהיה לתכנת את המכונית כך שתסטה אל עבר הנתיב שבו נמצאת רוכבת האופנוע חובשת הקסדה, שסיכויי ההישרדות שלה גבוהים משמעותית מאלה של רוכבת האופנוע נטולת הקסדה. אולם, משעשינו זאת, נמצאנו מענישים ומפלים לרעה באופן שיטתי את רוכבי האופנוע האחראיים, שבחרו לציית לחוק ולחבוש קסדה, ואף ייתכן שיש בכך כדי לייצר מערך תמריצים המעודד התנהגות בלתי זהירה בקרב רוכבי אופנוע.

דוגמה זו מערבת שיקולים דומים לאלו שהזכרתי בפסקאות קודמות ביחס לפגיעת המכונית האוטונומית ברכבים הנחשבים כבטיחותיים. גם מי שעתיד לשאת באחריות הנזיקית לתאונה יעדיף לפגוע ברוכבת חובשת הקסדה, משום שהיקף הנזק בתאונה שכזו, וכתוצאה מכך גם היקף אחריותו הנזיקית, יהיו פחותים.[33]

אולם ישנה גם אפשרות אחרת – המשך נסיעה בכיוון נסיעת המכונית והתנגשות חזיתית ברכב שנוסע לעבר המכונית האוטונומית. אפשרות זו תהיה בחירתו של האלגוריתם האלטרואיסטי. אם אניח שבמהלך ההתנגשות החזיתית, הן היושבים ברכב האוטונומי הן היושבים ברכב שמולו עתידים להינזק, ואניח גם שההתנגשות תהיה קטלנית עבורם; בהתחשב בכך, הבחירה באפשרות הנוכחית תביא לכל הפחות למותם של שני אנשים (בהנחה שבכל רכב יושב לפחות אדם אחד), בעוד שבחירה באפשרויות הקודמות תביא למותה של אחת האופנועניות בלבד. עובדה זו לבדה מהווה חיסרון תוצאתני ברור של בחירה באפשרות זו, שתביא בהכרח למספר הגבוה ביותר של הרוגים מבין האפשרויות הנתונות. יתרונה של בחירה באפשרות זו נעוץ בתפישה הדיאונטולוגית לפיה הריגה במחדל חמורה פחות מהריגה אקטיבית, ללא קשר להיקף הנזק שייגרם כתוצאה מבחירה בכל אחת מהאפשרויות השונות. נוסף על המוות הכפול כתוצאה מההתנגשות החזיתית, קיים חיסרון תוצאתני נוסף: נטייתה של המכונית להקריב את היושבים ברכב עשויה להוביל לסלידת צרכנים מרכישת מכוניות אוטונומיות, ובכך להאט את קצב הטמעתן הגבוה של המכוניות האוטונומיות בדרכים, ולמנוע את הפחתת הסיכון בדרכים שהן מאפשרות. במילים אחרות – המחיר שתגבה בחירה זו בחיי אדם גבוה יותר, לא רק במקרה הקונקרטי אלא גם מהיבט חברתי כולל.

בסקר שעסק באתיקה של רובוטים הוצגה דילמה דומה לנשאלים במסגרתה ההתנגשות מביאה בוודאות למותו של אדם אחד – היושב ברכב או ילד הולך רגל. 64% מהנשאלים השיבו כי על המכונית להציל אותם, היושבים ברכב, על חשבון חייו של הצד האחר; 48% מתוכם טענו שמדובר בהחלטה קלה. שאלה נוספת שהוצגה לנשאלים הייתה מי לדעתם צריך לקבוע כיצד תפעל המכונית בדילמה הזו. מרבית הנשאלים השיבו כי הנוסע ברכב (44%) או המחוקק (33%) צריכים להיות בעלי ההכרעה; רק 12% מהנשאלים השיבו שההחלטה צריכה להיות בידי היצרנית או מעצב המוצר.

כעת אניח שהמכונית לא מצויה במצב אוטונומי מראש. הנהג שולט ברכב אך הוא עומד להתנגש חזיתית במכונית שמגיעה מולו. המערכת האוטונומית יכולה לעקוף את הנהיגה האנושית ולהורות על סטייה לכל אחד מהכיוונים, להורות על המשך הנסיעה או להימנע מהתערבות.[34] מנקודת-מבט של אחריות משפטית קיים תמריץ ברור ליצרנית לבחור באפשרות השלישית: כל עוד הטכנולוגיה האוטונומית לא תעקוף את הנהיגה האנושית ותשיג שליטה על הרכב, היא אומנם תאפשר (במחדל) ליושבי הרכבים להינזק, אך סביר להניח שמוסרית ומשפטית לא תוטל עליה כל אחריות.[35] עם זאת, אם הטכנולוגיה תיטול את השליטה מהנהג האנושי כדי להציל את יושבי הרכבים, היא תגרום (במעשה) למותה של האופנוענית הבודדת. וכך, בנקיטת מעשה, שעשוי להיחשב כראוי למרבית הדעות, יצרנית הרכב חושפת את עצמה באופן וולונטרי לאחריות משפטית.

מסקנה זו מובילה לכאורה למסקנה שאין כל תמריץ עבור יצרנית הרכב להגדיר שבמקרה כזה המערכת האוטונומית תיטול את השליטה מידי הנהג האנושי. יתרה מכך, תמריצי היצרנית לא צפויים להשתנות גם במצב בו הסטייה לא הייתה מובילה לפגיעה באדם, אלא להרס ברכוש גרידא.[36] מנקודת מבט כלכלית, ניתן לומר שיש ליצרנית תמריץ-חסר לנקוט בפעולות יעילות להפחתת הנזק.

כדי להתגבר על בעיית התמריצים ניתן להחליט על משטר אחריות מסוג רשלנות אשר ינטרל את תמריץ-החסר של היצרנית לפעול לטובת היעילות המצרפית.[37] במשטר כזה יוגדרו בחוק הנסיבות שבקיומן תישא היצרנית במלוא האחריות לנזק שייגרם. כך, למשל, במצבים בהם ברור שהמפעיל האנושי אינו ערני למתרחש, או שהוא עתיד לפעול בצורה בלתי יעילה (למשל כאשר ידי הנהג לא אוחזות בהגה והמכונית ניצבת בפני התנגשות) – תחול חובה על היצרנית לתכנת את המערכת האוטונומית לעקוף את הנהיגה האנושית.

מטרתן של הדוגמאות שהצגתי היא להמחיש את הקשיים האתיים והמשפטיים שעשויים להיווצר, לצד היתרונות המהותיים, כתוצאה מהעברת השליטה במכוניות מבני אדם לתוכנות מחשב. מדובר אומנם בתרחישים קיצוניים ודמיוניים, אך יש בהם כדי לתרום להבנת רוחב היריעה בדיון בנוגע לסוגיות האתיות והמשפטיות הנובעות מהשימוש בו. כפי שהזכרתי קודם לכן, החלטת המכונית יכולה להיות מעוצבת מראש, במידה רבה יותר מתגובת היצר הבסיסי המאפיינת את הנהג האנושי במצבי חירום כיום. האפשרות שנפלה בחיק האנושות – להכריע מראש, ובקור רוח, כיצד לפעול במצבי חירום משתנים – מביאה עמה לדעתי, כתוצר לוואי, את האחריות להכריע באופן ראוי, שקול ומוסרי.

סיכום

התגברות השליטה בתוצאות ההתנגשות במקרה של תאונת דרכים, בהשוואה לזו הקיימת בנהיגה אנושית, מביאה עמה גם אחריות של בעל השליטה לאותן התוצאות. עובדה זו מעוררת צורך בחשיבה על האופן שבו ראוי שיעוצב האלגוריתם המחזיק בהגה.

שאלה חשובה נוספת נוגעת באמות-המידה המוסריות שינחו את יצרנית הרכבים לעצב את האלגוריתם במכונית. תמהילים ערכיים רבים ומגוונים יכולים להיות נקודת המוצא לתכנות המכונית האוטונומית, ושאלות רבות צריכות להיות מוכרעות. כך, למשל, יש לבחון אם יש ובכלל צריכה להיות העדפה מוסרית לכך שהמכונית תימנע מגרימת נזק במעשה, גם אם פירושה גרימת נזק חמור יותר במחדל; או שמא נכון יותר יהיה לקבוע שכל מכונית תגן על בעליה או על נוסעיה בכל מחיר, ותשאף למקסם תועלת מנקודת מבטם של היושבים בה בלבד; אולי נכון יהיה להעדיף כל גורם אחר, מלבד הנוסע ברכב, שהרי הנוסע ברכב הוא שהציג את הסיכון לחברה מלכתחילה, בבוחרו להשתמש במכונית האוטונומית, והוא גם הנהנה העיקרי ממנה; ומה לגבי מכוניות בבעלות ציבורית? את התועלת של מי עליהן לקדם? אולי ראוי לנקוט גישה של צדק חלוקתי ולחלק את הנזק בין כל מי שעתיד ליהנות מתועלת המכונית. ואם כן – מה צריך להיות חלקם בנטל של אלה שאינם משתמשים ברכב, שהרי הם בהכרח נהנים מהפחתת הסיכון בדרכים, שמאפשרת המכונית האוטונומית. האם על המכונית לקחת בחשבון, בשלבים מתקדמים יותר של הטכנולוגיה, נתונים על ניזוקים בכוח בסביבתה (למשל גיל, מגדר, גזע, מוצא, היסטוריה פלילית, מוניטין וכיו"ב), ובהתאם לאלו להכריע ביחס למושא פגיעתה; ואולי ייתכן שההכרעה הנכונה ביותר היא דווקא הכרעה מקרית בין האפשרויות, שתוביל לתוצאה דומה לזו שהייתה מתרחשת באותן נסיבות על-ידי נהג אנושי.

השאלות העוסקות בדרך עיצוב האלגוריתם במכונית האוטונומית, והערכים שמנחים את מעצביו בהכרעות שונות בכביש, רלוונטיים ליושבים במכונית, להולכי הרגל, לנהגים אחרים ולציבור כולו. כפי שהראיתי, הגדרת המטרה של המכונית תשפיע על בחירת מושא פגיעתה, ובחירה זו עשויה לייצר העדפה מגמתית של "טיפוסים" בכביש ולהשפיע באופן ממשי על זכותו לחיים של מי שעתיד לחיות בעידן המכונית האוטונומית, בין אם הוא משתמש בה ובין אם לאו. משכך, ראוי שהשאלות האלו יועלו כחלק משיח ציבורי רחב בנושא. רשימה זו נועדה להיות נקודת זינוק לשיח כזה.


* עורכת דין וסטודנטית לתואר שני במשפטים במרכז הבינתחומי הרצליה. תודתי נתונה לפרופ' יורם שחר ולד"ר רות זפרן; וכן לחברי מערכת כתב העת משפט ועסקים – ענת ליאור ושחר פרידמן – על הערותיהם המועילות לרשימה זו. לתגובות ולהערות: benezra.adi@gmail.com.

[1] Jeffrey K. Gurney, Sue My Car Not Me: Products Liability and Accidents Involving Autonomous Vehicles, 2013 J.L. Tech. & Pol’y 247 (להלן: Gurney, Sue My Car); Jeffrey K. Gurney, Crashing into the Unknown: An Examination of Crash Optimization Algorithms through the Two Lanes of Ethics and Law, 79 Alb. L. Rev. 183, 184 n.6 (2015–2016) (להלן: Gurney, Crashing into the Unknown).

[2] Lawrence D. Burns, Sustainable Mobility: A Vision of Our Transport Future, 497 Nature 181 (2013); Tamas Madl & Stan Franlin, Constrained Incrementalist Moral Decision Making for a Biologically Inspired Cognitive Architecture, in A Construction Manual for Robots’ Ethical Systems: Requirements, Methods, Implementations 137, 137–138 (Robert Trappl ed., 2015).

[3] Jeffrey D. Gurney, Driving into the Unknown: Examining the Crossroads of Criminal Law and Autonomous Vehicles, 5 Wake Forest J.L. & Pol'y 393, 395, 401­–402 (2015) (להלן: Gurney, Driving into the Unknown).

[4] Machine learning או Deep learning. ראו: Shai Shalev-Shwartz & Shai Ben-David, Understanding Machine Learning: From Theory to Algorithms vii–viii (2014).

[5] שם כולל לכל תכנות שאינו כולל טכנולוגיה של למידת מכונה.

[6] World Health Organization, Global Status Report on Road Safety 2015 vii (2015).

[7] Orly Ravid, Don't Sue Me, I Was Just Lawfully Texting & Drunk When My Autonomous Car Crashed Into You, 44 Sw. L. Rev. 175, 182 (2014).

[8] HAVEit, The Future of Driving 1 (2011).

[9] Daniel J. Fagnant & Kara Kockelman, Preparing a Nation for Autonomous Vehicles: Opportunities, Barriers and Policy Recommendations, 77 Transp. Research: Part A: Pol'y & Prac. 175 (2015).

[10] Gurney, Crashing into the Unknown, לעיל ה"ש 1, בעמ' 192.

[11] זאת אחת הסיבות המרכזיות לכך שמבין התומכים הנלהבים לקידום פיתוח וייצור מכוניות אוטונומיות נמנים נציגי בעלי מוגבלויות בארצות-הברית, השואפים להיות מעורבים אף בהליכי החקיקה שעתידים להסדיר את הנושא.

[12] Fagnant & Kockelman, לעיל ה"ש 9, בעמ' 167.

[13] בארצות-הברית, למשל, נהגים מבלים בממוצע 75 מיליארד שעות בכל שנה בנסיעה לעבודה; הנהג הממוצע מבלה חמישים ואחת דקות בכל יום בנסיעה לעבודה; ולמעלה מ-3.5 מיליון בני אדם נוסעים יותר מתשעים דקות כדי להגיע לעבודה. ראו Gurney, Crashing into the Unknown, לעיל ה"ש 1, בעמ' 192.

[14] שם, בעמ' 168.

[15] על משטר האחריות הראוי בתאונות בדרכים, ראו רונן פרי "מהפך או מפח? סיפורו של חוק פיצויים לנפגעי תאונות דרכים" עיוני משפט כח 147 (2004).

[16] על ההיבטים האתיים ראו: Patrick Lin, Why Ethics Matters for Autonomous Cars, in Autonomous Fahren 69, 71–72 (Markus Maurer et al. eds., 2015); Gurney, Crashing into the Unknown, לעיל ה"ש 1. על ההיבטים המשפטיים ראו Gurney, Sue My Car, לעיל ה"ש 1; Gurney, Driving into the Unknown, לעיל ה"ש 3.

[17] הטלת האחריות פותחת פתח לביקורת. ראו: Jessica S. Brodsky, Autonomous Vehicle Regulation: How an Uncertain Legal Landscape May Hit the Brakes on Self-Driving Cars, 31 Berkeley Tech. L.J. 851, 857 (2016); בעניין זה מעניינת ההשוואה לאחריות המוטלת על בעלי כלבים ביחס לנזקים שנגרמים כתוצאה מפעולות כלביהם. להרחבה ראו: Sophia Duffy & Jamie Patrick Hopkins, Sit, Stay, Drive: The Future of Autonomous Car Liability, 16 SMU Sci. & Tech. L. Rev. 101, 113 (2013).

[18] יש שיטענו כי בהתאם להגדרה כזו, המכונית האוטונומית הלומדת אינה צריכה לעורר כל צורך בחשיבה מחודשת, משום שלכאורה למעצב האלגוריתם אין כל שליטה על "התנהגות" המכונית בסופו של תהליך הלמידה, ומבחינה זו אין בכך חידוש ביחס לנהיגה האנושית. עם זאת, חשוב לזכור שיכולות הלמידה המוטמעות במכונית הלומדת, והמטרות שעל-פיהן היא תבצע את תהליך הלמידה, לרבות הגדרת הטעות לעומת הגדרת התועלת, הן יצירה אנושית – מעשה ידיו של המתכנת המקורי. מבלי להכריע בדיון החשוב הזה, אציין רק שההבדל המרכזי בין המכונית הלומדת והמכונית הדטרמיניסטית טמון בכך שיסוד השליטה מראש במכונית הלומדת הוא מובהק פחות; ובעיקר בכך שתהליך הלמידה מנתק את הקשר הסיבתי בין המעשה האנושי ובין הנזק שנגרם כתוצאה מהתנהגות המכונית. הבדל זה עשוי לייצר קושי בהטלת אחריות, משפטית ומוסרית, על היצרנית או המפעיל של המכונית הלומדת.

[19] Lin, לעיל ה"ש 16, בעמ' 71–72.

[20] Gurney, Crashing into the Unknown, לעיל ה"ש 1, בעמ' 196.

[21] Lin, לעיל ה"ש 19, בעמ' 72.

[22] על אף שניתן לטעון שחלק מהתועלת שבמכונית האוטונומית, למשל במניעת תאונות בדרכים, מתפרשת באופן שווה על החברה כולה. טענה כזו עשויה להוביל למסקנה שדווקא צדק חלוקתי מחייב חלוקה של העלות בהתאם.

[23] באופן דומה לפיתוחם של דיני הקניין הרוחני בעשורים האחרונים.

[24] ראו: Roscoe Pound, Interpretation of Legal History 1 (1923).

[25] אהרן ברק "ארבעים שנה למשפט הישראלי – דיני הנזיקין והקודיפיקציה של המשפט האזרחי" משפטים יט 631, 641 (1990).

[26] פרי, לעיל ה"ש 15; אליעזר ריבלין "אור חדש על חוק הפיצויים" ספר אור – קובץ מאמרים לכבודו של השופט תיאודור אור 75 (אהרן ברק, רון סוקול ועודד שחם עורכים, 2013).

[27] ראו דבריו של זרח ורהפטיג, יושב-ראש ועדת החוקה, חוק ומשפט, בד"כ 74 (התשל"ה) 3955, 3956: "מטרתו [של החוק] היא להבטיח פיצויים לכל נפגע באשר הוא נפגע".

[28] ע"א 133/79 בוכמן נ' אלנסארה, פ"ד לה(2) 64, 67 (1980); דבריו של ח"כ חיים צדוק בד"כ 68 (התשל"ג) 4007; ד"כ (התשל"ה) 3954, 3962; פרי, לעיל ה"ש 15, בעמ' 151.

[29] אולי באופן יחסי לגודל הסיכון שהם יוצרים אך ללא קשר להתממשותו בפועל.

[30] להרחבה ראו:David Enoch, Tort Liability and Taking Responsibility, in John Oberdiek, Philosophical Foundations of the Law of Torts, (Oxford Scholarship Online, 2014).

[31] לעומת זאת, על נהגים בעלי מוגבלויות שונות ונהגים שאינם מפקחים על הנעשה בכביש, לטענתו, אין להטיל אחריות. להרחבה ראו Gurney, Sue My Car , לעיל ה"ש 1.

[32] בדומה, למשל, ל"קרנית – קרן לפיצוי נפגעי תאונות דרכים". תאגיד ציבורי שהוקם מכוח חוק פיצויים לנפגע תאונות דרכים, ומאפשרת פיצוי עבור נזקי גוף לנפגעים שאין באפשרותם לתבוע מבטח/מזיק היכול לשאת בנזק שגרם. ראו פרק ג': קרן לפיצוי נפגעי תאונות דרכים בחוק פיצויים לנפגעי תאונות דרכים.

[33] נניח, יצרנית הרכב, במקרה של נזק שנגרם בעת שהמכונית נסעה באופן אוטונומי, כפי שממליצים מלומדים אחדים. ראו Lin, לעיל ה"ש 19, בעמ' 79.

[34] בדומה לדילמת הקרונית שהציג Gurney, Crashing into the Unknown, לעיל ה"ש 1, בעמ' 205; וכן Lin, לעיל ה"ש 19, בעמ' 78.

[35] על אף שמועלות טענות מלומדים כי רכבים אוטונומיים צריכים לשאת באחריות אזרחית כלפי תאונות שהתרחשו במצב אוטונומי, לא מצאתי מי שטוען שיצרני הרכב צריכים לשאת באחריות ביחס לתאונות שנגרמו בזמן שהנהג האנושי הוא שנהג ברכב.

[36] Gurney, Crashing into the Unknown, לעיל ה"ש 1, בעמ' 224.

[37] שם, בעמ' 237.

אודות אתר משפט ועסקים

משפט ועסקים כתב-העת של בית-הספר רדזינר למשפטים במרכז הבינתחומי הרצליה
פוסט זה פורסם בקטגוריה טוכמן בן-עזרא עדי, מהדורה מקוונת, רשימות, עם התגים , , , , , , , , , , , . אפשר להגיע ישירות לפוסט זה עם קישור ישיר.

3 תגובות על רשימה: מתאוריה לטסט: משפט, אתיקה ומכוניות אוטונומיות | עדי טוכמן בן-עזרא

  1. נהג אוטונומי הגיב:

    שיקולים נוספים יכולים להיות האם לרוכב האופנוע יש ילדים, ואם כן האם העובדה שהשאיר זרע אחריו מאפשר לתעדף את פגיעתו על פני נהג רווק. או אולי להפך?

    דיון מאוד מעניין. תודה לכותבת.

  2. דנה קנר סיידה הגיב:

    את מהממת ואני לא מבינה בזה מילה ואת חכמה

  3. אל רום הגיב:

    תודה על הפוסט המאוד מעניין חייב לציין . ברור שהנושא מורכב ובתולי מאוד , וצריך העזה לא פשוטה לכתוב בנושא דנן , ולנסות להעריך , לכמת , לשפוט , לצפות וכדומה . אבל , כמה נקודות ראויות לציון אולי :

    כותבת הפוסט הנכבדה , מניחה בצדק , שעיכוב בעשירית שניה ( בכבישים פתוחים ) עשוי להיות קריטי . אבל , צריך גם לקחת בחשבון , שעיכוב לא רק ממהירות נגזר , אלא גם מורכבות הזירה , ומורכבות הזירה העירונית , הרבה יותר מועדת לעיכוב לא פעם . צריך לעבד יותר נתונים ככלל , בזירה עירונית אורבנית צפופה , מאשר בכביש פתוח ( שילוט , הולכי רגל , מעברי חציה , זרימה של תנועה מכיוונים שונים וכדומה ) .

    ועוד מניחה כותבת הפוסט , שהתגובות האנושיות , ספונטניות , והממוחשבות מתבצעות מראש . לא מובן מאיפה הנחה זו ? גם תגובות אנושיות , מתבצעות מראש , בטח ובטח ברמה המושגית , למשל : ברקס מיד ( לפעמים כאשר לא צריך או בטעות יסודו הדבר ) , הסטה של ההגה , לפעמים ייתכן אפילו לחיצה על הגז . כל אלו , תגובות מושגיות מתוכנתות במוח האדם , ולא תמיד תואמות כלל הזירה של התאונה אפילו . בכל מקרה , טוענת הרי כותבת הפוסט , שהתגובות האנושיות ספונטניות , אבל מאידך לא מיטביות בקשר לצמצום נזק בתאונה צפויה , אבל מאידך : מעצימה המכונית האוטונומית , בקשר למיטוב נזק או צמצומו , ביחס לנהג אנושי , אז הרי , נטען פה דבר והיפוכו לכאורה .

    דווקא הפוסט , העלה לי רעיון , לגבי דילמת מיטוב או צמצום הנזק : בחירה של אלוגריתם , אשר יהא נייטרלי , ויגיב תגובה אנושית בנסיבות הענין , בקשר למיטוב וצמצום נזק . משמע : כאשר תהא דילמת פגיעה ונזק , מבין החלופות , יהא אלוגריתם שיגיב , כפי שבן אנוש , בהסתברות מירבית היה נוהג . או אז , ווקטור המזל , יחזור להיות יותר דומיננטי ( אם זה עוזר למישהו , ועשוי אכן לעזור ) .

    לבסוף , לא מובן , כיצד אוטו אוטונומי, יכול להוות אישיות משפטית נפרדת כנטען . אישיות משפטית , כשרה לתבוע ולהיתבע , יכולים להיות למעשה : או ישות משפטית טבעית , קולקטיבית טבעית , או תאגיד הרשום כחוק . האם כותבת הפוסט , מציעה קטיגוריה חדשה ? לא הצלחתי להבין !!

    תודה

להשאיר תגובה

הזינו את פרטיכם בטופס, או לחצו על אחד מהאייקונים כדי להשתמש בחשבון קיים:

הלוגו של WordPress.com

אתה מגיב באמצעות חשבון WordPress.com שלך. לצאת מהמערכת / לשנות )

תמונת Twitter

אתה מגיב באמצעות חשבון Twitter שלך. לצאת מהמערכת / לשנות )

תמונת Facebook

אתה מגיב באמצעות חשבון Facebook שלך. לצאת מהמערכת / לשנות )

תמונת גוגל פלוס

אתה מגיב באמצעות חשבון Google+ שלך. לצאת מהמערכת / לשנות )

מתחבר ל-%s