top of page

לבחון את השימוש במערכת "הבשורה", המשמשת להצעת מטרות לתקיפה צבאית

אילוסטרציה
אילוסטרציה Yuri Arcurs | Dreamstime.com ©

לפי פרסומים שונים של הצבא ותחקירים עיתונאיים, במסגרת הלחימה ברצועת עזה משתמש הצבא במערכות של בינה מלאכותית. על פי הפרסומים, מערכת אחת, שמכונה "הבשורה", מסוגלת לייצר מטרות להתקפה בקצב גבוה באמצעות אלגוריתם השואב מידע מודיעיני ממגוון רחב של מקורות, מעבד את המידע ומציע מטרות להתקפה. המטרות מאושרות על ידי גורם אנושי על בסיס המלצת המערכת. הצבא חשף מיוזמתו את השימוש בבינה מלאכותית כבר לפני שנתיים, וגם במלחמה הנוכחית עדכן את הציבור שהוא מתבסס על מערכת "הבשורה".


ב-10.12.2023 פנינו לפרקליטה הצבאית הראשית והגשנו בקשת חופש מידע בנוגע לשימוש במערכת. בפניות עמד עו"ד גיל גן-מור, מנהל היחידות לזכויות אזרחיות וחברתיות, על הקושי שבהסתמכות על מערכות בינה מלאכותית לקבלת החלטות רגישות שכרוכות בפגיעה קשה בזכויות אדם. בין היתר, מערכות בינה מלאכותית סובלות מהטיות, וה"מסקנות" שלהן מתקבלות בקופסא שחורה, בלי שלגורם האנושי בעל הסמכות יש בהכרח יכולת לעקוב אחר האופן שבו פועלת המערכת ולנמק את ההמלצות שלה.


לנוכח זאת ביקשנו לפרסם לציבור כל מידע רלוונטי אודות מערכת "הבשורה" שניתן לפרסם. מהפרקליטה הצבאית הראשית ביקשנו לבחון בדחיפות את המערכת, ואת השימוש בבינה מלאכותית לצורך קבלת החלטות על יעדי תקיפה. במיוחד ביקשנו לבחון כיצד המערכת מתיישבת עם החובות שחלות על צה"ל הן מכוח המשפט הישראלי והן מכוח המשפט הבינלאומי, ואם אין בה הטיות העלולות לגרום ל"הפללה" שגויה של מטרות להתקפה ולפגיעה קשה באזרחים בלתי מעורבים.


ב-18.2.2024 קיבלנו מענה לבקשת חופש המידע, ובו חלק מהמידע שביקשנו. בין היתר נמסר כי המערכת מספקת לחוקר את המידע שעליו היא מתבססת, באופן המאפשר לו לאסוף ולהבין בקלות את המידע שעליו נשענה. נמסר כי ביחס לכל המלצה פרטנית שמתקבלת ממערכת "הבשורה" נערכת בחינה עצמאית אנושית של החומר המודיעיני, שרק לאחריה ממליץ החוקר אם לאשר את המטרה, וכי ההחלטה נבחנת ומאושרת בנפרד על ידי גורם אחד נוסף לפחות.


ב-29.2.2024 התקבלה תשובת הפרקליטות הצבאית, ועל פיה "השימוש במערכת מתיישב באופן מלא עם החובות המשפטיות החלות על צה"ל - הן מכוח הדין הישראלי והן מכוח הדין הבין-לאומי". התשובה לא הניחה את דעתנו, וב-17.4.2024 פנינו יחד עם מכון עקבות ליועצת המשפטית לממשלה, בדרישה להקים צוות בדיקה חיצוני עצמאי שיבחן את השימוש שעושה הצבא במערכת.




Comments


Commenting has been turned off.
bottom of page