שימוש בבינה מלאכותית בהחלטות שיטור בשדה התעופה

האגודה לזכויות האזרח עתרה לבג"ץ ב-23.5.2024 בבקשה שיורה למשטרה לחדול מקבלת החלטות על עיכוב וחיפוש סמים אצל השבים מחו"ל בהסתמך על מערכת בינה מלאכותית. המערכת, שפועלת בנתב"ג בשנים האחרונות, נועדה "לנבא" מי מהשבים לישראל עשוי להיות בלדר סמים. על בסיס יצירת פרופיל סטטיסטי ממידע שמוזן למערכת, והשוואתו לנתונים אישיים של הנוסעים המגיעים לנתב"ג, המערכת מייצרת רשימת מועמדים לחיפוש. כשאלו מגיעים ארצה נשלחת התראה מהמערכת לשוטר, והאזרח מעוכב לחיפוש סמים בחפציו ועל גופו עם הגעתו.

בעתירה נטען כי המערכת טומנת בחובה סכנות של ממש לפרטיות, לכבוד האדם ולזכותו לשוויון, וכי היא מתנגשת חזיתית עם עקרונות יסוד של המשפט החוקתי, המנהלי והפלילי. היא פועלת כ"קופסה שחורה" ועלולה להגיע להחלטות שרירותיות, שאי אפשר להסביר ושאי אפשר לבחון את חוקיותן – בסתירה להלכות ביחס לאופן הפעלת שיקול הדעת בהחלטות שיטור רגישות. כמו כן קיים חשש ממשי מפני קבלת "החלטות" שמבוססות על פרופיילינג גזעי פסול והטיות נוספות, והשימוש במערכת מאיין את האפשרות האפקטיבית לביקורת שיפוטית על שאלת האפליה.

למרות הפוטנציאל העצום של המערכת לפגיעה בזכויות אדם היא הוכנסה לשימוש משטרתי בחשאיות, ללא דיון ציבורי וללא הסמכה מפורשת בחקיקה. בעתירה צוין כי באיחוד האירופי כבר מכירים בסכנות שטומנת בחובה ההסתמכות על בינה מלאכותית, ושחוק הבינה המלאכותית שחוקק שם לאחרונה אוסר לחלוטין את השימוש במערכות דומות בשטח האיחוד, או לכל הפחות מתנה את השימוש בהן בתנאים נוקשים.

בתגובה לעתירה הודיעה המדינה ב-15.8.2024 כי השימוש במערכת הופסק כבר באפריל 2022, משיקולים מבצעיים של המשטרה, וביקשה למחוק את העתירה. בית המשפט מחק את העתירה ב-17.11.2024, לאחר שהמדינה הצהירה שאין כוונה לחדש את פעילות המערכת בשדה התעופה.

בג"ץ 4271/24 האגודה לזכויות האזרח בישראל נ' משטרת ישראל

עו"ד: גיל גן-מור, אן סוצ'יו

העתירה, 23.5.2024

תגובה מקדמית מטעם המדינה, אוגוסט 2024

תגובת העותרת, ספטמבר 2024

הודעה משלימה מטעם המדינה, אוקטובר 2024

פסק הדין (מחיקת העתירה), 17.11.2024

קישורים:

תומר גנון, הפרופיילינג בנתב"ג הופסק? בג"ץ דורש הבהרות מהמשטרה והיועמ"שית, כלכליסט, 22.9.2024

תומר גנון, הפרקליטות מאשרת לבג"ץ: "הופסק השימוש במערכת הפרופיילינג בנתב"ג", כלכליסט, 15.8.2024

שמעון איפרגן, "המערכת שמזהה בלדרי סמים בנתב"ג עלולה להיות מסוכנת", מאקו, 23.5.2024

פניית האגודה לזכויות האזרח לוועדת חוקה, 18.5.2023 (לפני הגשת העתירה)