המעין

הלכה ואקטואליה

הרב יוסף שפרונג

תועלתנות ומוסר בתכנון מערכת אוטונומית*

הקדמה

תועלתנות או די-אונטולוגיה – שתי תפישות

תועלתנות או די-אונטולוגיה – הגישה ההלכתית

הקרבת היחיד לשם הצלת חיי הרבים

תכנון מוקדם בהשוואה להטלת גורל

סיכום

הקדמה

רכבים ללא נהג נחשבו במשך שנים רבות כחלום רחוק ולא מציאותי. כמה עשרות שנים אחרי, וחברות הרכב הגדולות, כמו גם כמה מענקיות הטכנולוגיה, נמצאות בשלבים מתקדמים של פיתוח מערכות לרכב אוטונומי, כאשר רכיבים מסוימים כבר נוטלים חלק בנהיגה במכוניות חדשות, ורכבים אוטונומיים או אוטונומיים-למחצה פועלים במסגרת ניסויית באופן רחב היקף. למרות חילוקי הדעות בין מומחים ובין החברות המפתחות עצמן באשר למועד המשוער של הפצה מסחרית של מערכות אוטונומיות מתקדמות שתנהלנה את עיקר הנסיעה, אין חולק כיום כי הרכבים האוטונומיים הנם השלב הבא בהתפתחות של התחבורה.

הרשות הפדרלית האמריקנית לבטיחות בדרכים (NHTSA) מגדירה חמישה שלבים של אוטונומיות, אותן יש לחלק לשתי רמות:

• אוטונומיות חלקית/מוגבלת: רמה 1 - רכב נהוג בידי אדם, כאשר קיימות מערכות אוטומטיות שייעודן הוא לסייע ולשפר את הנהיגה האנושית (כמו בלמי ABS, בקרת יציבות אלקטרונית ובקרת שיוט אדפטיבית -(ACC; רמה 2 - רכב נהוג בידי אדם, משולב במערכות אוטומטיות המסוגלות לבצע בעצמן פעולות בודדות תחת מעקב והנחייה של הנהג (כמו מנגנוני בלימה, מערכות בקרת שיוט הכוללות סיוע בהיגוי, או מערכות לחניה אוטונומית); רמה 3 - מערכת אוטומטית המסוגלת לבצע חלק מהפעולות, לעקוב אחר סביבת הנהיגה ולקבל את החלטות הפעולה השונות, כאשר במצבים מורכבים המערכת מתריעה בפני הנהג והוא נדרש להחזיר את השליטה לידיו.
• רכב אוטונומי: רמה 4 - מערכת אוטונומית שבתנאים או כבישים מסוימים כשירה לנהל את הנסיעה עצמאית. רמה 5 - מערכת אוטונומית מלאה; רכב ללא נהג.

רוב החברות מפתחות במקביל מערכות ברמות אוטונומיות נמוכות המשתלבות ברכבים נהוגים אנושית ואלו נעשות נפוצות יותר ויותר בכבישים, ומערכות אוטונומיות מלאות שברובן נמצאות בשלבי ניסוי ואינן זמינות עדיין לציבור באופן מסחרי^[1].

התנועה בדרכים הינה בימינו אחת הפעולות הבסיסיות של האדם. חלק ניכר מההחלטות שהאדם מקבל באופן יומיומי מתרחש תוך כדי הנהיגה. החוק אמנם דורש מהאדם התנהגות מסוימת ביחס לחלק מההחלטות, אבל אלו נותרות בסופו של דבר בידי האדם: האם להתחשב בהולך הרגל שמתכנן לחצות את הכביש? האם להעניק זכות קדימה? האם לעקוף מימין? ואפילו - איך בדיוק לצאת מהחניה. משמעותיות יותר הן ההחלטות שהאדם נדרש לקבל לעיתים בשאלות מוסריות - האם לעצור בשולי כביש סואן ולסייע לנפגעי תאונת דרכים? האם לבצע תמרון מסוכן לנהג כדי למנוע פגיעה בילד שנקלע לכביש? האם לסכן חיי אחרים כדי להימנע מלהיפגע? אלו החלטות שאדם מקבל בשברירי שניות. כמקבל ההחלטה נושא האדם גם באחריות להשלכות על מעשיו, במכלול היבטי אחריות - משפטיים, מוסריים או חברתיים.

המערכת האוטונומית נועדה להפקיע מידי האדם את השליטה, כך שהחלטות אלה תתקבלנה בסופו של דבר על ידי המערכת האוטונומית. האלגוריתם המפעיל את הרכב האוטונומי, ומבוסס על הנחיות המפתחים ועל למידה מבוקרת, יאבחן כל סיטואציה בדרך, ישקול את אפשרויות הפעולה, ויקבל ויוציא לפועל החלטה על פי קריטריונים שיוגדרו לו מראש. האדם יוצא מהמשחק.

מאפיינים אלה מעלים בשנים האחרונות לדיון סוגיות רבות במגוון תחומים. אחד הנושאים המרכזיים בדיון זה עוסק בשאלה, האם יתכן שהקריטריונים לתכנונו של רכב אוטונומי עשויים להיות שונים מאלו המנחים את פעילותו של נהג אנושי?

אלו שאלות רחבות ביותר, ובמסגרת מאמר זה לא נוכל להתייחס אף למקצתן. להלן נתמקד בהיבט יסודי של תכנון מערכת אוטונומית המתמודדת עם שיקולי מוסר, ונבחן את מעמדו על פי ההלכה.

כאשר נהג אנושי נוהג ברכבו, ונקלע לסיטואציה בה עליו לקבל החלטות שיש להן מטען מוסרי, עומדות לפניו שתי גישות ראשיות: על פי גישה אחת (המכונה: "תועלתנות") עליו לבחון את התוצאות של כל ברירה, ולבחור באפשרות שגורמת לתוצאה הטובה (או החסכונית בחיים) יותר. האפשרות שמביאה לתוצאה הטובה ביותר היא האפשרות בעלת הערך המוסרי הגבוה יותר מהאפשרויות האחרות. על פי הגישה השנייה ("הגישה הדי-אונטולוגית") מלבד התוצאה ישנם עוד שיקולים שעליו להביא בחשבון, הנובעים ממאפיינים שונים של הסיטואציה ושל הפעילות האפשרית. על פי גישה זו ייתכנו מקרים שבהם האדם נדרש לבחור באפשרות שגורמת לתוצאה קשה יותר מהשנייה, מאחר והאפשרות השנייה כוללת מאפיינים שיש לשלול אותם מבחינה מוסרית.

כפי שנפרט להלן, תועלתנות היא חלק בלתי נפרד מעיצובה ותכנונה של מערכת בינה מלאכותית, והרכב האוטונומי בכללה. הסוגיה העקרונית בה עוסק מאמר זה מבוססת על השאלה, באיזו מידה על אלגוריתם הרכב האוטונומי להתייחס לשיקולים מוסריים הנובעים מהבדלים בין מקרה למקרה ובין פעילות זו לאחרת, ובאיזו מידה באפשרותו להיצמד לקוד הבסיסי המנחה אותו לפעול להשגת המטרות הטובות ביותר.

לשם דוגמה: בהנחה שמתכנן הרכב האוטונומי אינו יכול להסתפק בקביעת עיקרון האומר "לעולם אל תתנגש בבני אדם באופן יזום", הוא יוכל לבסס את האלגוריתם על פי קריטריונים שעיקרון העל שלהם יהיה "בחר תמיד באפשרות השומרת על חיים רבים יותר", או: "בחר תמיד באפשרות המקדמת בטיחות ביותר". מכך ייגזר כמובן, כי על הרכב האוטונומי לעשות ככל הניתן להימנע מפגיעה בחיי אדם, וכן – כי במצב בו עליו לבחור בין חלופת החלטה שבה נפגעים שני בני אדם, לבין חלופה שבה נפגע אדם בודד, עליו לבחור באפשרות השנייה. תכנון זה מביא לידי ביטוי אך ורק שיקול של תועלת. לעומת זאת, מתכנן הרכב יכול להביא בחשבון את המאפיינים הספציפיים של הזירה, ולשקול את השיקולים המוסריים העולים מהם.

בהקשר של הברירה בין חיי היחיד לחיי הרבים מפורסמת במיוחד דילמת הקרונית (The trolley problem), הבוחנת מהו הצעד הנכון מבחינה מוסרית במקרה בו קרונית דוהרת לכיוונם של חמישה בני אדם, וצופה מן הצד יכול להתערב ולהסיט את הקרונית ממצבה הנתון למסילה אחרת עליה עומד אדם אחד הצפוי להיפגע כתוצאה מהמהלך. הדיון בדילמת הקרונית מביא לידי ביטוי מחד את הרצון לחסוך בחיי אדם, המתבטא באמצעות הסטת הקרונית לעברו של היחיד, ומאידך את החשש מפעילות לא מוסרית המגולמת בפגיעה באדם שעד עתה לא היה בטווח הסכנה.

אם יבחר המתכנן להתחשב בשיקולים מוסריים מסוג זה, יהיה עליו לפתח סט הנחיות מורכב הרבה יותר, שיוכל להביא אותם בחשבון. 

תועלתנות או די-אונטולוגיה – שתי תפישות

התשובה לשאלה "האם המטרה מקדשת את האמצעים?" או לאו, מבדילה בין שתי תפישות מרכזיות המתוות קווי חשיבה שונים באתיקה של קבלת החלטות: די-אונטולוגיה ותועלתנות. די-אונטולוגיה היא תיאוריה אתית המניחה את קיומן של חובות מוסריות בלי תלות בתוצאות, כלומר מניחה שלפעולות יש ערך חיובי או שלילי כשלעצמן, ללא תלות בתוצאותיהן, ולפיכך המטרה או הנסיבות אינן בהכרח מקדשות את האמצעים. לעומתה, הגישה התועלתנית גורסת כי ערכה של פעילות מסוימת נמדד בעיקר על פי תוצאותיה, וככל שהתועלת הצפויה בבחירת חלופה מסוימת גבוהה יותר כך החלופה הופכת כדאית יותר. שתי התיאוריות וקווי החשיבה שהן מתוות שימשו ועודן משמשות כבסיס לדיון וככלי ניתוח לתהליכי קבלת החלטות בדילמות מוסריות המתהוות בסביבות מגוונות: רפואית, עסקית ועוד. באופן טבעי, שתי גישות אלה החלו נידונות גם בהיבטים של דילמות מוסריות המתהוות כתוצאה מנהיגה אוטונומית, והפער בין התועלת של הכלל לבין הפגיעה בפרט.

תועלתנות היא חלק בלתי נפרד מעיצובה ותכנונה של מערכת בינה מלאכותית. קבוצה של חוקרים[2] סקרה הגדרות שונות לבינה המלאכותית וסיווגה אותן לארבע קטגוריות שונות: 1. מערכות שחושבות כמו בני אדם; 2. מערכות שפועלות כמו בני אדם; 3. מערכות שחושבות באופן רציונאלי; 4. מערכות שפועלות באופן רציונאלי. הם הבחינו מהותית בין שני ממדים אליהם מתייחסות ההגדרות: תהליך החשיבה וההסקה, (קטגוריות 1 ו-3). והתנהגות (קטגוריות 2 ו-4). כמו כן, הם זיהו שוני בין הגדרות המודדות הצלחה במונחים של ביצועים אנושיים (קטגוריות 1 ו-2) לבין אלו המודדות הצלחה לפי אידיאל אינטליגנציה, הידוע גם כרציונאליות.

"רציונאליות" היא מושג הנדון רבות בספרות האקדמית העוסקת בהיבטים שונים של קבלת החלטות, ומהווה מקור מחקר עיקרי בתחומי הכלכלה והפסיכולוגיה הקוגניטיבית. התנהגות תחשב כ'רציונאליות מהותית' אם הפעולות אותן מבצע מקבל ההחלטות הולמות את המטרות שהגדיר לעצמו לאור התנאים והאילוצים השונים של הסביבה, ופעולה שלא משרתת את המטרה, או סותרת אותה, תחשב כהתנהגות שאינה רציונאלית. גישה מקובלת לקבלת החלטות בתנאי אי-וודאות היא תאוריית הבחירה הרציונאלית (the theory of rational choice), לפיה מקבל ההחלטות יחשב כ 'רציונאלי' אם יבחר בחלופה שממקסמת את תועלתו הצפויה[3].

כדי לממש מערכת הנוהגת באופן רציונאלי, המערכת צריכה להיות מסוגלת לזהות ברגע נתון את חלופות ההחלטה האפשריות ולהעריך את התועלת או הנזק הצפויים מבחירה בכל אחת מהן. דרך מקובלת להעריך תועלת או נזק של חלופות בתנאי אי-ודאות היא באמצעות קביעת נוסחה מתמטית ('פונקציית עלות'), המשקללת יחד (ביחס מסוים) את ההסתברות (סיכוי) לתועלת/נזק ואת גודל התועלת/הנזק הצפויים מבחירת החלופה על תוצאותיה השונות.

כאשר אנו עוסקים בנהיגה אוטונומית, חלופות ההחלטה יכולות להכיל שילובים שונים של משתני החלטה: למשל, זווית הסטייה, האצה/בלימה וכדומה. כל שילוב שכזה של משתני ההחלטה מהווה חלופת החלטה אשר תועלתה/נזקה מוערך באמצעות פונקציית העלות, והחלופה שמביאה לתועלת הגבוהה ביותר, או לנזק הקטן ביותר – היא זו שתיבחר.

ההשלכות המוסריות הגלומות באימוץ הגישה התועלתנית בקרב מכוניות אוטונומיות ניתנות להמחשה בדילמה הבאה: מכונית אוטונומית מסיעה את ראובן בכביש צר במעלה ההר, כשלפתע, מהכיוון הנגדי, מגיח מעבר לפינה אוטובוס המסיע 28 ילדים, אשר גולש חלקית לנתיב של ראובן. המכונית מחשבת את התרחיש הממשמש ובא, ומזהה שעל פי המהירויות של שני כלי הרכב והמרחק ביניהם אין שום דרך להימנע מפגיעה של האוטובוס בראובן. מה על המכונית לעשות?

לפי הגישה התועלתנית, על המכונית לפעול באופן רציונאלי כך שתמזער את הנזק הצפוי. נניח לצורך הדיון ש'שוויָם' של חיי האדם בתרחיש זהים לכל המעורבים. למכונית שתי חלופות החלטה: 1. לבלום ולהתנגש באוטובוס ובכך לסכן את חיי כל הנוסעים, או 2. לבצע סטייה אל התהום ולחמול על חייהם של נוסעי האוטובוס.

אם סיכוי המוות של אדם, הן של יושבי האוטובוס (כולל הנהג) והן של ראובן, בבחירה בחלופה הראשונה, הוא 5%, אזי תוחלת ההרוגים (מכפלת הסיכויים למוות עם מספר המעורבים) גדולה מחיי אדם בודד. מכיוון שבחלופה השנייה הסיכון הוא לחיי ראובן בלבד, לפי הגישה התועלתנית על המכונית להקריב את עצמה ואת חיי ראובן ולהציל את יושבי האוטובוס. ההחלטה הייתה שונה אם למשל באוטובוס היו נוסעים 10 אנשים[4].

תועלתנות או די-אונטולוגיה – הגישה ההלכתית

ניתן לומר, כי בדרך כלל ההלכה תומכת בגישת "המטרה אינה מקדשת את האמצעים". המבחן להצדקתה של פעולה מסוימת או לשלילתה אינו רק שאלת התועלת המופקת ממנה, אלא גם המחיר המוסרי הכרוך בה. מטרת ההלכה אינה לגרום לתוצאה טובה יותר עבור הציבור, אלא להורות לאדם איזה מעשה שלו ראוי מעצם טיבו, ואיזה לא (לא נאמר: "לא יירצח אדם", אלא "לא תרצח!")[5]. משכך, מתמקדת ההלכה בשאלת ערכו של ה'מעשה', הכולל בתוכו את מגוון המשמעויות השייכות בו מעבר לשאלת התועלת שתופק ממנו, ועל פיהם הוא אמור לקבל את ההחלטה. יחס זה ניתן להדגמה באפשרויות רבות. כאן נציג ביטוי בולט שלו בארבע הלכות מפורסמות בתחום בו אנו עוסקים.

1. מסירת אחד מן הציבור: הדוגמה הבולטת ביותר בהקשר זה היא הלכה יסודית שמקורה בירושלמי (תרומות ח, ד), האוסרת על מסירתו של אדם אחד מן הציבור להריגה, במטרה להציל כתוצאה מכך את חייהם של יתר אנשי אותו ציבור. למרות שקיימת תועלת רבה מצעד זה, שכן במקום שיהרגו מאות בני אדם (ובכללם הוא!) ייהרג אחד בלבד, אסור לעשות כן. להלן נרחיב בעניין.
2. 'קום ועשה' ו'שב ואל תעשה' לעניין "יהרג ואל יעבור": על פי ההלכה, במצב בו על האדם להרוג את חברו כדי להציל את חייו, הדין הוא "יהרג ואל יעבור" (כמבואר בפסחים כה, א ובשולחן ערוך יורה דעה סימן קנז). בהקשר זה ידועה דעת התוספות, כי הלכה זו נאמרה רק באשר למצב בו האדם נדרש להרוג את חברו ב'קום ועשה', ולא כאשר מות חברו מתרחש על ידו ב'שב ואל תעשה' (הדוגמה בה משתמש התוספות היא שבמקרה שהאנס עומד להפיל את האדם על תינוק ובכך לגרום למותו, והאפשרות היחידה של האדם להימנע מכך היא על ידי הקרבת חייו – הוא איננו מחויב בכך). ההבחנה בין המקרים מביאה לידי ביטוי את השיקול המרכזי בדין זה, השולל מחד מהאדם את הזכות לבצע פעולה בלתי מוסרית גם במחיר חייו, אך מאפשר לו לשמור על חייו במקרה בו הוא איננו נדרש לבצע פעולה כלשהי בכדי לפגוע בחיי חברו. הבחנה זו איננה שוקלת כל שיקול של תועלת, שהרי היא שווה בשני המקרים.
3. הרוג או שיהרגו שניכם: דוגמה נוספת לכך, אמנם נתונה במחלוקת, מתייחסת למצב בו האיום בפניו ניצב האדם אינו "הרוג או תיהרג", אלא "הרוג או יהרגו שניכם". על פי גישה תועלתנית, במצב זה על האדם לפגוע בחברו שצפוי למות בכל מקרה, ובכך לפחות יציל את חייו. דעת הכסף משנה, בה מחזיקים רוב הפוסקים האחרונים, היא שאין הבדל בין המקרים, וגם במקרה האחרון על האדם להימנע מהריגת חברו על אף שהברירה השנייה היא מות שניהם. ביסוד הדברים, לשיטה זו, עומד איסור "לא תרצח", שהשיקול התועלתני איננו מספיק בכדי לדחות אותו.
4. שנים שהיו מהלכין בדרך: דוגמה בולטת רביעית לעיקרון זה, אנו מוצאים במחלוקת המפורסמת בין בן פטורא לרבי עקיבא (בבא מציעא סב, א) באשר לשנים ההולכים בדרך וביד אחד מהם קיתון מים, והמצב בו הם נמצאים הוא שאם ישתה אחד מהם חייו ינצלו והאחר ימות בצמא, ואם ישתו שניהם (או לא ישתה אף אחד מהם) – ימותו שניהם. דעת בן פטורא היא שעל בעל קיתון המים לחלוק אותו עם חברו על אף ששניהם ימותו. גם בדעת רבי עקיבא, החולק על בן פטורא וסבור כי בעל המים רשאי לשתותו ולהציל את חייו על פי דרשה מן הפסוק "וחי אחיך עמך", כתבו כמה אחרונים כי איננו חולק על העיקרון שביטא בן פטורא, ומתיר לבעל המים לחלוק אותם עם חברו (ולגרום לתוצאה קטלנית יותר מאשר אם ישתה), אלא שאיננו חייב לעשות כן. דעת בן פטורא, על כל פנים, מבטאת שלילה מוחלטת של השיקול התועלתני כשיקול יחיד: לכל אירוע ישנו השיקול המוסרי שלו, ושיקול זה עשוי להטות את הכף לטובת פעולה שתוצאותיה קשות יותר מהברירה השנייה העומדת על הפרק.

הקרבת היחיד לשם הצלת חיי הרבים

נתאר לעצמנו, לצורך הדוגמה, מצב בו האדם נוסע ברכבו, ולפתע פורץ ילד לכביש. אין לנהג די זמן ומרחק מהילד כדי לבלום את הרכב ולמנוע את הפגיעה. האפשרות היחידה העומדת בפניו שתאפשר את הצלת חייו של הילד, הנה סטייה מהירה למדרכה, ופגיעה קטלנית בהולך רגל הפוסע עליה לתומו. השיקולים הרלוונטיים במקרה כזה יעסקו בשאלה האם יתכן שלאחד מהם ישנה קדימה על חברו? האם יש משמעות לכך שמבחינת הנהג הפגיעה בילד שפרץ לכביש מתבצעת באופן פסיבי, בעוד שהפגיעה בהולך הרגל הנה תוצאה של פעילות אקטיבית שלו? יהיה צורך לברר גם את מעמדו וזכותו לחיים של פושע דרך לעומת זה שנהג כשורה (וכיצד יש להתייחס לילד בהקשר זה). מצב דומה נוסף, אך סבוך יותר, יתקיים כאשר לא ילד אחד הוא שפרץ לכביש, אלא שלושה. במקרה כזה תוצג השאלה השנייה כך: האם לכמה אנשים ישנה קדימה על פני אדם בודד? השאלה השלישית גם היא תעלה לדיון בצורה שונה: בהנחה שלרבים ישנה קדימות על היחיד – אלו פעולות מותרות לשם הצלתם תוך הקרבת חיי היחיד, ואלו לא?

באופן עקרוני הצלת אדם אחד באמצעות פגיעה באדם אחר אסורה, זאת גם כאשר ישנה קדימה לאחד המעורבים על פני רעהו, כגון שהאדם שנקלע לכביש הינו כהן וזה שבמדרכה הינו לוי[6]. מקור דין זה בירושלמי (תרומות ח, ד), שם נידונה האפשרות למסור יהודי להריגה על ידי הגויים בכדי להציל בכך את הרבים, ובאלו תנאים. וזה לשון הירושלמי:

"תני, סיעות בני אדם שהיו מהלכין בדרך, פגעו להן גוים ואמרו: תנו לנו אחד מכם ונהרוג אותו, ואם לאו הרי אנו הורגים את כולכם, אפילו כולן נהרגים לא ימסרו נפש אחת מישראל; ייחדו להן אחד, כגון שבע בן בכרי (ראו שמואל ב, כ) - ימסרו אותו ואל ייהרגו. אמר רבי שמעון בן לקיש, והוא שיהא חייב מיתה כשבע בן בכרי. ורבי יוחנן אמר, אף על פי שאינו חייב מיתה כשבע בן בכרי"[7].

מפרשי הירושלמי האריכו בבירור מחלוקת רבי יוחנן ורבי שמעון בן לקיש. להלכה כתב הרמב"ם בהלכות יסודי התורה (ה, ה):

אם אמרו להם גוים תנו לנו אחד מכם ונהרגנו ואם לאו נהרוג כולכם, יהרגו כולם ואל ימסרו להם נפש אחת מישראל, ואם יחדוהו להם ואמרו תנו לנו פלוני או נהרוג את כולכם, אם היה מחויב מיתה כשבע בן בכרי יתנו אותו להם, ואין מורין להם כן לכתחילה, ואם אינו חייב מיתה יהרגו כולן ואל ימסרו להם נפש אחת מישראל".

ישנו דיון רחב בפוסקים ביחס לפסיקת הרמב"ם על האופנים בהם מותר למסור את המבוקש[8], אך העיקרון לפיו אין למסור יהודי להריגה אפילו כדי להציל את חיי הרבים הינו מוסכם. ביחס לכך כתבו הפוסקים שאין כל משמעות לקדימויות שנשנו במסכת הוריות[9], וכל שכן ביחס להריגה בידיים שאסורה בכל מצב, הן משיקול של יחיד מול רבים, והן ביחס לכל קדימה אחרת[10].

למרות האמור, נודע בשערים חידושו המופלא של בעל חזון איש בסוגיה זו (סנהדרין סי' כה, יו"ד סי' סט)[11]:

"ויש לעיין, באחד רואה חץ הולך להרוג אנשים רבים, ויכול להטותו לצד אחר ויהרג רק אחד שבצד אחר ואלו שבצד זה יצולו, ואם לא יעשה כלום יהרגו הרבים והאחד ישאר בחיים. ואפשר דלא דמי למוסרים אחד להריגה, דהתם המסירה היא פעולה האכזרתית של הריגת נפש, ובפעולת זה ליכא הצלת אחרים בטבע של הפעולה אלא המקרה גרם עכשו הצלה לאחרים, גם הצלת האחרים קשורה במה שמוסרין להריגה נפש מישראל אבל הטיית החץ מצד זה לצד אחר היא בעיקרה פעולת הצלה, ואינה קשורה כלל בהריגת היחיד שבצד אחר, רק עכשיו במקרה נמצאת בצד אחר נפש מישראל, ואחרי שבצד זה יהרגו נפשות רבות ובזה אחד, אפשר דיש לנו להשתדל למעט אבדת ישראל בכל מאי דאפשר, והלא לולינוס ופפוס נהרגו בשביל להציל את ישראל כמש"כ רש"י תענית י"ח ב' ד"ה בלודקין, ואמרו שאין כל בריה יכולה לעמוד במחיצתן[12], מיהו הכא גרע דהורג בידים, ולא מצינו אלא דמוסרין, אבל להרוג בידים - אפשר דאין הורגין. והא דהרגו שבע בן בכרי, דמורד במלכות היה. ומיהו צריך עיון בתוספות"[13].

באופן כללי מבחין החזון איש בין טבעה של הפעולה, לבין תוצאות שלה שמתרחשות במקרה. בדין המסירה המקורי שבירושלמי, טבע הפעולה הוא הריגת נפש באופן אכזרי, והתוצאה המקרית היא הצלת אחרים. לעומת זאת, בנידון החזון איש על הטיית החץ, טבע הפעולה הוא הצלה, והפגיעה באדם הבודד היא התוצאה המקרית.

מדוע באמת כך הם פני הדברים? ניתן לבאר זאת כך: במקרה של המסירה, הריגתו של הקרבן הנה הכרחית בכדי להציל את חייהם של הכלל. רק באמצעותה ניתן להשיג תוצאה זו. לעומת זאת, במקרה של הטיית החץ, חייהם של הכלל יינצלו גם אילו לא היה עומד הקורבן היחיד בטווח ההסטה של החץ. משכך, אנו מחשיבים את הפגיעה בו כתוצאה מקרית ומשנית של טבע הפעולה, שהוא הצלת הנפשות.

אלא שאם כך, כיצד יהיה הדין במקרה הפוך, בו אנו רוצים להסיט את החץ המכוון לאדם יחיד לעבר קבוצת אנשים שלא היו בטווח הסכנה, וכעת צפויים למות? על פי ההגדרה שהניח החזון איש היה מקום בהחלט לדון כי הפעולה מוגדרת פעולת הצלה והיא מותרת, אף על פי שכעת יתרבו הנפגעים מן החץ! אולם כמובן שבמקרה כזה אין להתיר את הסטת החץ, והדבר מתבאר בלשון החזון איש עצמו, הממשיך ואומר: "ואחרי שבצד זה יהרגו נפשות רבות, ובזה אחד, אפשר דיש לנו להשתדל למעט אבדת ישראל בכל מאי דאפשר"[14].

כשלעצמו, לא ברור מה משמעותו של משפט זה. זהו על פניו שיקול של תועלת, שקיים גם במסירה של יחיד להריגה בכדי להציל את הרבים, ולמדנו שם כי אין בו כדי להתיר אותה. ונראה כי דעת החזון איש היא שישנה חשיבות להצלת הרבים הנובעת מההחלטה להסיט את החץ, אך אין די בכך בכדי להצדיקה; מאידך גיסא, השיקול הבסיסי שהעלה החזון איש, המבחין בין טבע הפעולה לבין תוצאה מקרית שלה, גם הוא איננו מספיק, ורק הצטרפות שני השיקולים גורמת להכרעה בדבר העדפת חיי הרבים על פני חיי היחיד.

אפשר להסביר זאת בשתי דרכים: דרך אחת היא ששיקול זה (=רבים ויחיד) הוא תנאי הכרחי לקיומו של השיקול הקודם: רק כאשר פעולה מסוימת שננקטת גורמת להצלת חיים רבים יותר מאשר החלופה השנייה היא יכולה להיחשב פעולת הצלה[15]. אפשרות נוספת: השיקול הבסיסי אכן הוא השיקול המבחין בין טבע הפעולה לתוצאה מקרית שלה. אלא שהחזון איש נדרש לאפשרות עקרונית נוספת: שב ואל תעשה. יתכן ולמרות ההצדקה המתירה את הסטת החץ אין להורות להעדיף פעולה זו על פני האפשרות השנייה, מאחר והאפשרות האחרת אינה נקיטת פעולה שתוצאותיה חמורות יותר, אלא הימנעות מעשייה, שב ואל תעשה. כאן מוסיף החזון איש את הטיעון המחייב את ביצוע פעולת ההסטה.

כך או כך, למדנו מדברי החזו"א שעקרונית חיי רבים עדיפים על פני חיי היחיד כל עוד אין הפגיעה באדם האחר מוגדרת מיסודה כפעולת רציחה, וזאת אף שהיא מתקיימת באופן של "קום ועשה". הדבר מאפשר לנו לדון, האם בתכנון מראש של רכב אוטונומי אין לשקול גם כן את הקדמת הרבים על פני היחיד. הסיבה לכך היא, שבשונה מהמקרים בהם עסק החזון איש, תכנון רכב אוטונומי לתגובה לאירוע מסוים באמצעות קביעת עקרונות הפעולה היסודיים שלו מתבצע בשלב מוקדם ומרוחק מהאירוע עצמו. במסגרת כזאת, תכנון מערכת הרכב להעדיף את בטיחות הרבים עשוי שלא להיחשב כהוראה לרציחה אכזרית, אלא כמבטא שיקול של הצלת חיים ושל הקדימות הקיימת במסגרתו. הרכב מתוכנן כך שנסיעתו תחסוך בחיים ככל הניתן ותבצע בשעת סכנה את הצעד המקדם בטיחות ביותר, וזהו עיקרון שההיבט העמוק שלו אינו אלא הצלה, שמירה ושיפור סיכויי החיים של משתתפי האירוע, ולא להיפך. סביר להניח כי בהיבט זה ראוי לתת עדיפות לחיי הרבים על פני חיי היחיד.

תכנון מוקדם בהשוואה להטלת גורל

כעת ננסה לדון בהצעה שעלתה בדברי הפוסקים לפיתרון אפשרי של הסוגיא בתרומות, שיתכן והיא דומה בכמה היבטים לרעיון שהעלינו להבדיל בין החלטה שמתקבלת בזמן אמת לבין החלטה המתקבלת בתכנון מוקדם, וכוללת (במקום פעולה פרטית מול אדם מסוים) יישום של עקרונות שאין חולק לגבי צדקתם העקרונית.

על פסק הרמ"א (יורה דעה קנז, א) שאין למסור אדם להריגה בכדי להציל את הרבים אלא אם כן היה מחויב מיתה כשבע בן בכרי, נכתב בספר תפארת למשה (לרבי משה מגזע צבי, ברלין תקל"ו), ש"מכל מקום שרי ליתן אחד על פי גורל שיטילו ביניהם". דבריו הובאו להלכה בפתחי תשובה (יורה דעה סימן קנז, נד)[16]. כמה פוסקים דחו את דברי התפארת למשה; עיין לדוגמה בדרכי תשובה (שם, נד). אמנם, בהגהת הברוך טעם לתפארת למשה, הוא מציין שכדבריו מצינו כבר בספר חסידים.

אך בספר חסידים ישנם מקורות סותרים בעניין. בסימן קס"ט כותב ספר חסידים:

"בני אדם שעומדים בים ועמדה עליהם רוח סערה לשבר הספינה או להיטבע בים, ושאר ספינות עוברות בשלום, בידוע שיש בספינה מי שחייב, ורשאין להפיל גורלות; על מי יפול הגורל שלושה פעמים זה אחר זה רשאים להפילו בים, ומתפללים שלא יפול על הזכאי אלא על החייב. שנאמר (שמואל א יד, מא) "ה' אלוקי ישראל הבה תמים", וכתיב (יונה א, ז) "ויפל הגורל על יונה", וכתיב (שם שם, יב) "שאוני והטילני אל הים", ולמה לא אמרו ליונה תשליך עצמך אל הים? אלא לא רצה להשליך את עצמו, ועוד - גוים היו בספינה, מוטב שישליכוהו הם... וכן צריך לומר קודם שנכנסים לים, אם יבוא רוח סערה - מי שחטא בדבר שיש בו סקילה אפילו בשגגה - שיפילו גורלות, ועל שיפול להטילו לים".

לעומת זאת, בסימן רנה כותב ספר חסידים כך:

"בני אדם שבספינה והיה רוח סערה אין רשאים להפיל גורלות שאם יפול על אחד מהם צריך להטילו בים, ואין לעשות כאשר עשו ליונה בן אמיתי, השתא אסמכתא לא קניא לענין ממון, כל שכן לענין נפשות שלא יסמכו על פי הגורל. ואשר כתוב ויאמר שאול להפילו בינו ובין יהונתן בנו וילכד יהונתן (שמואל א יד, מב), שם היה ארון ה', ומה' כל משפטו, והם ידעו באיזה עניין להטיל. אבל עתה אין לסמוך על הגורל".

אין זה ברור האם ניתן ללמוד מדברי ספר חסידים לנידון זה. ספר חסידים עוסק במצב בו ברור כי אחד הנוסעים, מחמת חטאיו, הוא האשם בסכנה האופפת את כולם[17], ואז יש לו דין "רודף" המתיר את דמו. מדקדוק דבריו נראה גם כי הגורל משמש בעת צרה שכזאת כלי לבירור רצון ה' באותה שעה, מעין נבואה, שיש להפעילו בעת שברור ליושבי הספינה כי הסכנה המרחפת על כולם מקורה בדרישה מובהקת לסלק מתוכם את החוטא, וההזדקקות לגורל אינה אלא לצרכי בירור מיהו אותו האדם. הצדקת הפעולה הזאת נעוצה בידיעה שהבירור גופו הוא דרישה המוטלת על באי הספינה. לעומת זאת, במקרה בו אנו עוסקים, הקורבן הפוטנציאלי איננו אשם בדבר, ומטרת הגורל איננה אלא כלי הכרעה חברתי שנועד להעניק מענה לבעיה המוסרית שבמסירת אחד מן הציבור להריגה בכדי להציל את הרוב.

ההשוואה אותה עושה ה'ברוך טעם' מלמדת לכאורה, כי המשמעות שהוא מייחס לגורל במקרה כזה איננה כפעולה שמטרתה הצלת רבים על ידי מסירת יחיד באופן של גורל, אלא כפעולה שעשויה לחשוף את רצון ה', מי מהציבור נדרש למסור את נפשו בכדי להציל את חברו. במצב כזה, יותר מאשר תהיה סמכות לציבור להקריב את חייו של זה שעלה בגורל, מסירות הנפש תהפוך להיות חובתו האישית. השוואה זו מלמדת, כי לדעתו רשאים אנו ללמוד מדברי ספר חסידים שרצון ה' יופיע בכל מקרה בו יוטל גורל. יש לעיין האם הנחה זו מוצדקת, מאחר שהיא מעוררת את השאלה מדוע היה צורך בשאלה באורים ותומים בכמה מקרים בנביא. במלחמת ישראל בגבעת בנימין, למשל, עם ישראל ברר את חייליו באמצעות גורל: "ועתה זה הדבר אשר נעשה לגבעה עליה בגורל ולקחנו עשרה אנשים למאה לכל שבטי ישראל" (שופטים כ, ט), ואילו בצאתו לקרב שאל באורים ותומים: "וישאלו באלקים ויאמרו בני ישראל מי יעלה לנו בתחילה כו' ויאמר ה' יהודה בתחילה" (שם, יח). וכתב רמב"ן (בראשית יט, ח):

"והנה שתי הכתות ראויות להיענש, כי בנימין מרשיע שאינו חושש ליסר הרעים ולא לגעור בהם כלל, וישראל עושין מלחמה שלא מן הדין, וגם את פי ה' לא שאלו בזה, אבל אמרו מי יעלה לנו בתחילה למלחמה על בני בנימין, כי מעצמם הסכימו למלחמה על כל פנים. וכן לא שאלו בענין הניצוח אם תתנם בידי, כי בטחו בזרוע בשר, שהיו רבים מאוד, כי עתה כמוהם עשרה פעמים ויותר, ולא שאלו אלא מי יעלה לנו בתחילה, והוא כמו גורל ביניהם, אולי היה כל שבט אומר לא אעלה אני תחילה, או אומר אני ראשון. והקב"ה השיב כפי שאלתם יהודה בתחילה, לאמור כי יהודה הוא בראש לעולם, כי ביהודה בחר ה' לנגיד, ולכך לא אמר יהודה יעלה כשאר המקומות (עיין שופטים א, ב), כי לא הרשה אותם, אבל לא מנעם, ולא אמר להם לא תעלו ולא תלחמו, מפני עונשו של בנימין. והנה הלך ה' עם שניהם בקרי והניחם למקרים".

דברי הרמב"ן מלמדים על כך שהטלת גורל איננה מועילה כאמצעי לבירור רצון הקב"ה. יתרה מזו, גם כאשר ויכוח נופל בין השבטים מי בראש, ומטעם כל שהוא הם אינם מתרצים לערוך גורל זהה שוב, נכשלת הפנייה לאורים ותומים, מאחר והיא חסרה את המשמעות הבסיסית של בקשת חוות דעת שתשקף את רצונו של הקב"ה עצמו, וכלשון הרמב"ן – "והיא כמו גורל ביניהם".

מכך נראה איפוא, כי דברי ספר חסידים מוסבים על מקרה מיוחד בו ניתן להבחין כי השאלה בדעת ה' בדרך של גורל מתבקשת ונדרשת, ורק אז ניתן לסמוך עליה ככזו. המסקנה לכאורה היא שגורל המוטל על ידי הרבים וסופו להכריז על אדם אחד ככזה המחויב למסור את נפשו בעד הרבים אינו מכשיר את הבעיה הבסיסית שהיא המרת חובתו של האחד על השני. כביכול, אילו הוסר החסם הזה אז כבר לא היה צורך בגורל, וניתן היה פשוט לבחור באופן אקראי. גורל רלוונטי ככלי לסינון שיקולים חיצוניים, אבל לא אלו הם המייצרים את הבעיה מלכתחילה. מעלתו האפשרית של גורל ככלי לבירור אמת נעלמת כשהיא נשללת בנימוק שאיננו יודעים 'באיזה עניין להטיל' (כלשון ספר חסידים), ובכך, למעט מקרה הספינה המיטרפת במאפיינים הייחודיים למקרה של 'ספר חסידים' – נעלמה מעלתו הייחודית של הגורל.

כך נראה גם מדברי החזון איש (סנהדרין סימן סט), המצטרף לחולקים על התפארת למשה, וכך הוא כותב:

"תמוה, דאם כן למה תני בתוספתא ובירושלמי "יהרגו כולם ואל ימסרו", הוה ליה למיתני "יפילו גורל וימסרו את זה שיצא בגורל"! ויונה, הגורל גרם להם לדעת בשל מי הרעה, ויונה אמר להם בעצמו להטיל אותו לים. וההיא דבני שאול על פי נבואה עשה דוד, אבל סתם בני אדם אין להם רשות להכריע על פי גורל. מיהו, אם הסכימו כולם להפיל גורל, וזה שנפל עליו הגורל מוסר עצמו - שפיר דמי, שהרי היחיד רשאי למסור עצמו כדי להציל את כולם, כמו שמצינו בהרוגי לוד, כמו שכתבנו לעיל".

מדבריו נראה כי יש להתנגד לעריכת גורל במקרים כאלו. החזון איש אינו מטעים את דבריו, אך מתוך הבחנה בין דבריו בביאור החלוקה בין מקרים בהם נערך גורל על פי נבואה לבין נידון דידן – "אבל סתם בני אדם אין להם רשות להכריע על פי גורל" – נראה שעיקר התנגדותו נובעת משיקול עקרוני, שאין ליזום עריכת גורלות (לכך ייתכנו טעמים שונים, כעין שכתבנו לעיל, ואחרים), אך מלבד שיקול זה הטלת גורל עשויה להוות פתרון ראוי במטרה לאפשר מחד את הצלת הרבים, ולמנוע מאידך את ההיבט האכזרי של מסירת הקרבן לשם כך. הד לכך נמצא בהמשך דבריו התומכים בהטלת גורל במקרה בו הסכימו כולם לכך, וגם העולה בגורל מוסר עצמו[18].

אם כנים הדברים, עלינו לנסות ולהבין כיצד פותר הגורל את האיסור על מסירת יהודי להריגה שנלמד בירושלמי בסנהדרין. ראשית, יתכן שיש ללמוד מכך שעיקר האיסור איננו בפעולת המסירה של היהודי להריגה, שיתכן ומתקיימת גם כאשר נמסר להריגה העולה בגורל, אלא בתהליך הבחירה והברירה של היחיד מתוך הכלל. שנית, גם אם נסבור כי עיקר האיסור הינו עצם פעולת המסירה, יתכן שיש לבאר את מעלת עריכת הגורל בשני אופנים המשלימים זה את זה: מחד גיסא, בניגוד למקרה בו אנו בוחרים באופן שרירותי אחד מן הציבור ומוסרים אותו להריגה, הרי שבהטלת גורל אנו מעמידים את כלל הציבור ברמת סיכון שווה לעלות בגורל ולהימסר להריגה. מאידך גיסא, ומסתבר שזאת היא הסברה העיקרית בנידון – בניגוד למסירה שרירותית שאמנם מצילה את חייהם של הרוב אך פוגעת למישרין בקורבן, הרי שבעת הטלת גורל אנו משפרים את סיכויי החיים של כל אחד ואחד מהציבור. בכך ניטלת המשמעות האכזרית של הריגת נפש שיש למסירה זאת.

ההתניה של החזון איש 'וגם העולה בגורל מוסר עצמו' מלמדת על השלילה המוחלטת של האפשרות שמבין יושבי הספינה יתארגן גוף תיאורטי (על פי הכרעת הרוב) שיכפה את תוצאות הגורל כשיקוף של דעת הרבים, כיון שזכותו של הפרט תוסיף ותעמוד לו שלא להיות תמורתם של הרבים. רק כאשר ההיתר של היחיד למסור את עצמו בצורה התנדבותית יבוא בחשבון עריכת הגורל מותרת, ובמילים אחרות - רק כאשר גורל יעוקר מתוכנו כחורץ גורלות הוא יהפוך לכלי מותר.

לדיון זה חשיבות רבה בדיון על פיתוח מערכת הרכב האוטונומי. כפי שתיארנו, אחת השאלות המרכזיות העולות לדיון היא על אודות מידת הלגיטימיות של פיתוח האלגוריתם על פי עיקרון כללי של שמירה על חייהם של בני אדם רבים ככל היותר, מבלי להתייחס במפורש ולהוציא מן הכלל מצבים בהם הצלת הרבים תתבצע על ידי פגיעה אקטיבית ביחיד שאיננו בטווח הסכנה, ובעיות נוספות דומות הנוגעות לאופן בו מתבצעת הפעולה שאנו שוקלים מצד הצלת החיים שיש בה. לעיל ביארנו, כי למרות שעל פי ההלכה אין, בדרך כלל, להצדיק פעילות בעלת מאפיינים תועלתניים כל עוד היא כרוכה בפעילות שאיננה מוסרית, יתכן כי הנחיות מוקדמות של מערכת הרכב האוטונומי לפעול (באופן כללי וביחס לכלל פעילותו) באופן השומר על חיים רבים ככל הניתן אינן עלולות להיכנס תחת ההגדרה "פעולה אכזרית של רציחה", אלא להיפך: "פעולה שבטבעה הנה פעולת הצלה".

לאור הדיון באפשרות של הטלת גורל ומסקנותיה, ניתן להוסיף לכך נדבך חשוב: בניגוד לנהג האנושי, שההחלטות אותן הוא מקבל מתייחסות לגורמים ספציפיים, כמו בני אדם או בעלי חיים מסוימים, הרי שהמתכנן מתייחס לגורם 'כלשהו' שעלול להיפגע. כל אדם הוא מועמד פוטנציאלי לשמש כגורם זה או אחר בתוך האירוע, בין אם כנהג ברכב, נוסע ברכב אוטונומי או הולך רגל תמים. בהקשר זה, אנו מוצאים דמיון מפתיע בין תכנון רכב אוטונומי לבין הטלת גורל. כמו במקרה של גורל, גם תכנון רכב אוטונומי מתייחס לכל בני האדם, שכל אחד מהם עלול למצוא את עצמו בכל אחד מצדי המתרס (היחיד או הרבים). בהתבסס על סוגיית הגורל, אשר כפי שראינו ההתנגדות לה נבעה משיקולים ייחודיים להטלת גורל ולא משלילת התמודדותה עם בעיית המסירה (או ההריגה בידיים), נוכל לטעון, כי מאחר ובשלב התכנון באופן סטטיסטי הנחייה מסוג זה מקדמת את סיכויי החיים של כל משתתף דרך (נוסע או הולך רגל), הרי שהנחייה זו עשויה להיחשב 'פעולת הצלה' ובכך להפוך ללגיטימית.

מבט נוסף על ההשוואה בין רכב אוטונומי לגורל עשוי להעלות מסקנה מעניינת. בדיון הנ"ל נידון גורל הכופה את תוצאותיו על המשתתפים, ונידון גורל עקר בו העולה בגורל מנדב את עצמו באופן עצמאי. מה יהיה הדין בגורל מוסכם, כאשר כל המשתתפים בו מתחייבים לקבל את כפיית התוצאות? זהו המקרה העיקרי הראוי לדיון, ואפשר להניח שהתפארת למשה והחזון איש יסכימו בו על תקפות הגורל. כאשר הציבור המרכיב את עורכי הגורל מקבל עליו באופן מוחלט את תוצאותיו כולל שלילת הזכות שלא להימסר כיחיד כתמורת הציבור, אז הגורל חוזר להוות כלי לגיטימי ותוצאותיו מחייבות, עד לרמה שבה סירוב של היחיד לקבל את תוצאותיו יחשיב אותו כרודף שדמו מותר. יתכן בהחלט כי השלילה של גורל ככלי נובעת ממעמדו הלא-הלכתי במהותו. בגישה זאת, השלילה של גורל היא ככלי הלכתי ולא ככלי בלתי מוסרי. מכאן נובע שליחיד זכות עמידה כלפי הכרעה שאינה בבחינת הלכה, ושהיא עצמה משקפת את כוח הרבים על היחיד, כוח שנשלל בעיקר הדין של איסור המסירה. אבל ככלי חברתי הוא כלי כשר בהחלט, כך שקבלה משותפת שלו עשויה להעמיד לתוצאותיו תוקף מחייב. גם האלגוריתם האוטונומי עשוי להיחשב ככזה - כשם שכל השתתפות שהיא בחברה אנושית כרוכה במעין ויתור מקדים על זכויות המוקנות ליחיד השרוי ביחידותו, כך לגבי השתתפות במערכת תחבורה מתוכננת היטב.

סיכום

מאמר זה מנסה לברר האם תכנון אלגוריתם הרכב האוטונומי יכול להתבצע בהתבסס על שיקולים של תועלת ושיפור סיכויי החיים של כלל משתתפי הדרך, בלי לקחת בחשבון את האופן שבו תתבצע הפעילות. על בסיס דיון בחילוקים שמצינו בהלכות מסירת יחיד להריגה לשם הצלת הרבים, וכן על סמך הדיון באפשרות להטיל גורל כדי לברור את היחיד שחייו יוקרבו לשם הצלת הרבים, יתכן שיש להראות פנים לגישה הטוענת כי תכנון רכב אוטונומי יכול להתבצע גם מנקודת מבט זו[19].