(ירושלים, 10 בספטמבר 2024) – ארגון Human Rights Watch אמר היום, עם פרסומו של מסמך שאלות ותשובות בנושא, כי השימוש של הצבא הישראלי בטכנולוגיות מעקב, בינה מלאכותית (AI) וכלים דיגיטליים אחרים כדי לסייע בקביעת מטרות להתקפה ברצועת עזה עלול להחמיר את הסכנה הנשקפת לאזרחים. כלים דיגיטליים אלה מעוררים חששות מוסריים, משפטיים והומניטריים כבדים.
במעשי האיבה ברצועת עזה משתמש הצבא הישראלי בארבעה כלים דיגיטליים כדי להעריך את מספר האזרחים הנוכחים באזור מסוים לפני תקיפתו, כדי להודיע לחיילים מתי לתקוף וכדי לקבוע אם אדם הוא אזרח או לוחם ואם בניין הוא אזרחי או צבאי. ארגון Human Rights Watch מצא כי הכלים הדיגיטליים מסתמכים ככל הנראה על נתונים פגומים ועל הערכות לא מדויקות כבסיס להחלטות על פעולות צבאיות, בדרכים שעלולות לעמוד בסתירה לחובותיה של ישראל על פי המשפט ההומניטרי הבינלאומי, ובייחוד לכללים הנוגעים לעקרון ההבחנה ולנקיטת אמצעי זהירות.
לדברי זאק קמפבל, חוקר בכיר לנושא מעקב סמוי בארגון Human Rights Watch, "הצבא הישראלי נעזר בנתונים חלקיים, בחישובים פגומים ובכלים שאינם הולמים את המטרה – סיוע בקבלת החלטות של חיים ומוות ברצועת עזה – וייתכן שהדבר מגביר את הפגיעה באזרחים"; "בעיות בתכנון של כלים אלה ובשימוש בהם עלולות, במקום למזער את הפגיעה באזרחים, להוביל להרג ולפציעה של אזרחים בניגוד לחוק".
השימוש בכלים אלה כרוך במעקב מתמשך ושיטתי אחר פלסטינים תושבי רצועת עזה, בין היתר באמצעות נתונים שנאספו לפני מעשי האיבה הנוכחיים, באופן שאינו עולה בקנה אחד עם משפט זכויות האדם הבינלאומי. הכלים משתמשים בנתונים אישיים של פלסטינים כדי לבסס תחזיות בנוגע לאיומים וכדי לזהות מטרות, וכן לשם למידת מכונה.
ארגון Human Rights Watch הסתמך על הצהרות פומביות של גורמים ישראליים, על חומרים שלא דווחו בעבר ופורסמו בידי הצבא הישראלי, על דיווחים בתקשורת ועל ראיונות עם מומחים ועיתונאים, כדי לבחון את השימוש של הצבא הישראלי בארבעת הכלים במהלך מעשי האיבה ברצועת עזה מאז 7 באוקטובר 2023. מידע זה, חלקי ככל שיהיה, מספק פרטים חשובים על אופן הפעולה של הכלים הללו, על הדרך שבה הם נבנו, על הנתונים המשמשים אותם ועל האופן שבו הם יכולים לתמוך בקבלת החלטות צבאיות.
עם הארבעה נמנים כלי המתבסס על מעקב אחר טלפונים ניידים לשם ניטור הפינוי של פלסטינים מאזורים בצפון רצועת עזה, שם הורה הצבא הישראלי לאוכלוסייה כולה לעזוב ב-13 באוקטובר; כלי המייצר רשימות של בניינים או מטרות בנויות אחרות שיש להתקיף, הנקרא "הבשורה"; כלי המדרג אנשים ברצועה על פי החשדות נגדם בדבר זיקה לארגונים פלסטיניים חמושים, לשם תיוגם כמטרות צבאיות, הנקרא "לבנדר"; וכלי הנקרא "איפה אבא?", שנועד לקבוע מתי אדם שהוגדר כמטרה נמצא במיקום מסוים – על פי דיווחים בתקשורת, על פי רוב בבית משפחתו המשוער – כדי שניתן יהיה לתקוף אותו שם.
כלים אלה מוגבלים בשל בעיות הרוֹוחות גם בסוגים אחרים של כלים טכנולוגיים, אך בהקשרים צבאיים עלולות להיות להם השלכות קטלניות על אזרחים. שניים מהכלים הללו, הכלי לניטור הפינוי ו"איפה אבא?", משמשים ככל הנראה כדי לבסס החלטות בדבר קביעת מטרות, תנועת כוחות ופעולות צבאיות אחרות באמצעות נתוני מיקום של טלפונים ניידים. אף על פי שלכלים אלה יש שימושים מעשיים רבים בחיי היומיום, הם אינם מדויקים דיים כדי לבסס עליהם החלטות צבאיות, בייחוד נוכח הנזק האדיר לתשתיות התקשורת ברצועת עזה.
נראה כי שניים מהכלים הדיגיטליים, "הבשורה" ו"לבנדר", מסתמכים על תהליכים של למידת מכונה כדי לבסס החלטות בדבר בחירת מטרות באמצעות קריטריונים שפותחו על ידי אלגוריתם שהוא קרוב לוודאי מוּטה וחסר, בתהליך שאין שום אפשרות טכנית לבחון אותו. תוצרים של אלגוריתמים משקפים לא אחת את ההטיות של המתכנתים ושל החברה שאליה הם משתייכים. כלים דיגיטליים אמנם עשויים להיראות נטולי פניות, אולם הם זוכים לעיתים קרובות לאמון מופרז מצד מפעילים אנושיים, אף על פי שמידת הדיוק שלהם כמוה כמידת הדיוק של הנתונים שעליהם הם התבססו, ושבהקשרים צבאיים הם בדרך כלל חלקיים ואינם מייצגים במלואו את ההקשר שבו הכלי מופעל. הסתמכות על אלגוריתמים אלה עלולה להביא לידי הפרה של חובות שהמשפט ההומניטרי הבינלאומי מטיל בנוגע להגנה על אזרחים.
על הצבא הישראלי לוודא שכל שימוש בטכנולוגיה לשם פעילותו המבצעית עולה בקנה אחד עם המשפט ההומניטרי הבינלאומי. אין לקבל החלטות בנוגע למטרות להתקפה אך ורק על סמך המלצות של כלי המבוסס על למידת מכונה. אם כוחות ישראליים פועלים על פי המלצות או הערכות של אחד מכלים אלה ללא בדיקה מספקת או ללא מידע נוסף – כפי שדוּוח – ועקב כך הם מְבצעים התקפות הגורמות נזק אזרחי, הרי הם מפֵרים בכך את דיני המלחמה. הפרות חמורותשלדיני המלחמה, כגון התקפות חסרות הבחנה על אזרחים מתוך כוונה פלילית, הןפשעימלחמה.
בהיותה הכוח הכובש ברצועת עזה, על ישראל גם להבטיח שהשימוש שלה בכלים דיגיטליים אינו פוגע בזכויותיהם של הפלסטינים לפרטיות. בחודש מאי 2024 גילה ארגון Human Rights Watch נתונים שהצבא הישראלי פרסם בפומבי באינטרנט, ככל הנראה בשוגג, ואשר כללו מה שנראה כנתונים מבצעיים הקשורים למערכות המשמשות לניטור הפינוי ותנועת האנשים ברחבי הרצועה ולחיזוי הנזק שסביר להניח שייגרם לאזרחים מתקיפת אזורים מסוימים. הנתונים נכללו בקוד המקור של אתר האינטרנט של הצבא הישראלי המספק מידע בנוגע לפינוי, והם כללו מידע אישי ושמות משפחה של המשפחות המורחבות הגדולות ביותר בכל אזור.
ב-13 במאי שלח ארגון Human Rights Watch לצבא הישראלי מכתב ובו שאלות מפורטות, אך לא זכה עד עתה למענה.
על פי משרד הבריאות של רצועת עזה, במהלך עשרת החודשים האחרונים נהרגו ברצועה למעלה מ-40,000 בני אדם ו-94,000 נפצעו. למעלה מ-70 אחוזים מהתשתיות האזרחיות ולמעלה מ-60 אחוזים מבתי המגורים של האזרחים נהרסו או ניזוקו קשות. כמעט כל תושבי הרצועה נעקרו מבתיהם. לדברי ארגון Human Rights Watch, יש לחקור ללא משוא פנים את השימוש בכלים הדיגיטליים האלה כדי לקבוע אם ובאיזו מידה הם תרמו באופן בלתי חוקי לאובדן של חיי אזרחים ושל רכוש אזרחי, ולבחון את הצעדים הנדרשים למניעת פגיעה כזו בעתיד.
"לשימוש בטכנולוגיה לקויה עלולות להיות השלכות שליליות על זכויות האדם בכל הקשר שהוא, אבל ברצועת עזה הסיכון חמור עשרות מונים", אומר קמפבל; "אסור שהשימוש של הצבא הישראלי בכלים דיגיטליים אלה לקבלת החלטות צבאיות יוביל להתקפות בלתי חוקיות ולפגיעה חמורה באזרחים".
