פרישת הרובוטים החמושים הראשונים בעיראק היא עוד צעד בנתיב מסוכן. בעיניים עצומות אנו פוסעים אל עולם חדש, שבו רובוטים מחליטים את מי להרוג, היכן ומתי. כבר היום דרום קוריאה וישראל משתמשות ברובוטים חמושים כשומרי גבול, וסין, סינגפור ובריטניה משתמשות ברובוטים צבאיים. אך שחקנית עיקרית היא ארצות הברית: רובוטים הם חלק מפרויקט מערכות לחימה עתידיות, שעלותו 230 מיליארד דולר, הכולל פיתוח כלים בלתי מאוישים לפעולה מהאוויר, מהים ומהיבשה. הקונגרס קבע כמטרה, שעד 2015 שליש מכלי הרכב ללוחמה קרקעית יהיו בלתי מאוישים. יותר מ-4,000 רובוטים פועלים כיום בעיראק, ויש עוד באפגניסטאן.

רוב הרובוטים המעורבים בלחימה פועלים כשלוחות של לוחמים אנושיים השולטים על נשק קטלני. ב-2002, כאשר "פרדטור" (מטוס ללא טייס, מל"ט) טס מעל מכונית של מי שנחשדו כחברי אל-קאעדה, ההחלטה לחסל אותם בטילי "הלפייר" התקבלה בידי טייסים שהיו במרחק של כ-10,000 ק"מ מהמקום. מאז מילאו מל"טים אלה ומל"טי תקיפה "ריפר" משימות רבות, שגרמו להרג אזרחים רבים. אף שפעולה באמצעות כלים עצמאיים-למחצה או נשלטים בשלט-רחוק נושאת עמה אחריות מוסרית זהה לזאת של תקיפה אווירית מסורתית.

למרות זאת, רובוטים עצמאיים לגמרי, המקבלים בעצמם החלטות של חיים ומוות, זוכים לעדיפות גבוהה בצבא ארה"ב. מועצת המחקר הלאומית ממליצה "לנצל במלוא העוצמה את היתרונות שמציעים כלי רכב אוטונומיים בלחימה". עלות ייצורם נמוכה, הם דורשים פחות אנשי צוות ובמשימות מורכבות ביצועיהם טובים יותר.

זאת טריטוריה חדשה ומסוכנת של מלחמה, שאין בה עדיין קודים אתיים ועקרונות מנחים. אני עובד בתחום של בינה מלאכותית זה עשרות שנים, והרעיון של ייצור רובוט שיקבל החלטות גם על הרג בני אדם - מבעית בעיני. נראה לי, שקובעי המדיניות מתבססים על מדע בדיוני או מיתוסים.

מסמך של חיל הים האמריקאי קובע, שהסוגיה המכרעת במערכות אוטונומיות היא יכולתן לקבוע אם המטרות חוקיות או לא. "תנו לחיילים לפגוע בחיילים" ו"תנו למכונות לפגוע במכונות", נכתב בו. אלא שרובוט אינו יכול להבדיל בין כלי נשק לבין האדם המשתמש בו, וגם לא בין נשק למה שאינו נשק. אני יכול לדמיין ילדה קטנה שתיהרג משום שתפנה את הארטיק שבידה אל רובוט כדי לחלוק אותו אתו.

בניסיון לשכך התנגדות פוליטית מממן הצבא פרויקט לציוד רובוטים במצפון, כך שיוכלו לקבל החלטות אתיות. אך מכונות אינן מסוגלות להבחין בצורה מהימנה בין אוטובוס שבו חיילי אויב לכזה שבו תלמידים, ואינן יכולות להיות אתיות. זה נראה כמו צעד שנועד להעביר אחריות לטעויות קטלניות מבני אדם לכלי נשק חסרי תודעה.

חיילים יכולים לפעול על פי הנחיות של אמנות משפטיות. על רובוטים אוטונומיים חלים רק חוקים של עימות מזוין, המתייחסים לכלי נשק סטנדרטיים. אנחנו עומדים להעביר החלטות הנוגעות להרג של בני אדם לידי מכונות, שאינן ניחנות בפיקחות מספקת אפילו כדי להיחשב "טיפשות".

לנוכח ירידת מחיר הרובוטים ועלייה בזמינות הטכנולוגיה, ייתכן שנהיה עדים בקרוב למרוץ חימוש של רובוטים שיהיה קשה לעוצרו. חיוני שניצור חקיקה בינלאומית וקוד אתי לרובוטים אוטונומיים המעורבים בלחימה - קודם שיהיה מאוחר מדי.

נואל שארקי הוא פרופסור לבינה מלאכותית ורובוטיקה באוניברסיטת שפילד