מדיניות המשטרה בשימוש בכלי בינה מלאכותית

Thawatchai Chawong | Dreamstime.com ©

בשנים האחרונות חל גידול משמעותי במגוון טכנולוגיות הבינה המלאכותית (AI) שמפעילה המשטרה. הטכנולוגיות החדשות מוכנסות לשימוש "מתחת לרדאר", ללא דיון ציבורי או חקיקה. ב-29.1.2025 פנינו אל המשטרה בבקשת חופש מידע, וביקשנו לקבל מידע מקיף על מדיניות המשטרה והשימוש המבצעי שלה במערכות בינה מלאכותית: ביקשנו לקבל נהלים, הנחיות וחוות דעת משפטיות לגבי שילוב מערכות AI בעבודת המשטרה, וכן פרטים טכניים, הערכות סיכון, מידע על מאגרי נתונים וסטטיסטיקות לגבי מספר מערכות שכבר נמצאות בשימוש או שהיו בשימוש בעבר.

ב-4.6.2025 קיבלנו את תשובת המשטרה, שנענתה לבקשתנו באופן חלקי.

המידע שנמסר:

• המשטרה העבירה לידינו את ההנחיה הארגונית שמסדירה את תהליך האישור והניהול של פרויקטי בינה מלאכותית (AI) במשטרה באמצעות "ועדת בינה מלאכותית" ייעודית בראשות רמ"ח התעצמות טכנולוגית. לפי ההנחיה, כל יחידה המבקשת לפתח או להשתמש בטכנולוגיה זו מחויבת להגיש בקשה מפורטת הכוללת שאלון הערכת סיכונים, מסמך טכנולוגי, תפיסת הפעלה וחוות דעת משפטית.

• המשטרה העבירה לידנו מסמך "עקרונות ואתיקה של פיתוח ושימוש במערכות בינה מלאכותית", שמתווה את המסגרת לשימוש בבינה מלאכותית. על פי המסמך, לצד קידום החדשנות מושם דגש על שימוש אחראי, הגנה על זכויות אדם, שלטון החוק וערכים דמוקרטיים. המסמך מפרט סיכונים מרכזיים כגון הטיות ואפליה, חוסר הסברתיות (מערכות "קופסה שחורה") ופגיעה בפרטיות, ומציג מודל לניהול סיכונים המסווג מערכות לפי רמות סיכון – מסיכון "בלתי מקובל" שאסור לשימוש ועד לסיכון מוגבל – ומחייב בקרה מתמשכת לאורך כל "מחזור החיים" של המערכת.

המידע שהמשטרה סירבה למסור:

• המשטרה סירבה למסור מידע על רוב המערכות הספציפיות (כמו זיהוי פנים וחיזוי פשיעה), בטענה שהן שייכות למערכי המודיעין והחקירות, שעליהם לא חל חוק חופש המידע. צוין כי חשיפת מידע זה עלולה לחשוף שיטות פעולה ולפגוע ביעילות האכיפה המשטרתית.

• המשטרה סירבה למסור חוות דעת משפטיות והערכות סיכון קונקרטיות למערכות מסוימות, בטענה שמדובר במידע על דיונים פנימיים והתייעצויות שאין חובה למוסרם לפי החוק.

  פניית האגודה לזכויות האזרח, 29.1.2025

• תשובת המשטרה, 4.6.2025 | ההנחיה הארגונית | מסמך עקרונות ואתיקה