למען החטופים
משטרת ישראל עצרה אתמול שתי תלמידות קטינות מהרצליה בחשד שהשתמשו בטכנולוגיית בינה מלאכותית כדי ליצור ולהפיץ תמונות עירום מזויפות של מורה ותלמידות מבית ספרן.
לפי דוברות המשטרה, החקירה החלה באופן סמוי בעקבות דיווח על הפצת תמונות עירום שנערכו באמצעים טכנולוגיים מתקדמים. על פי החשד, התלמידות לקחו תמונות שפורסמו ברשתות החברתיות של המורה ותלמידות אחרות, ערכו אותן באמצעות תוכנת בינה מלאכותית כך שייראו בעירום, והפיצו אותן בקרב תלמידים ואף ברחבי האינטרנט.
חוקרי הנוער בתחנת גלילות במרחב ירקון פעלו לאיתור החשודות תוך שימוש באמצעים טכנולוגיים מתקדמים, ואספו ראיות ועדויות מהקורבנות. עם הפיכת החקירה לגלויה, החשודות הובאו לחקירה בתחנת גלילות, שם נחקרו בחשד לביצוע עבירה של פרסום תצלום המתמקד במיניותו של אדם, בנסיבות העלולות להשפיל ולבזות, ללא הסכמתו.
במהלך חיפוש בבתיהן של החשודות, המשטרה תפסה מכשירים אלקטרוניים שלפי החשד שימשו לביצוע העבירות. בתום החקירה, שוחררו השתיים בתנאים מגבילים.
תופעה מתרחבת של "דיפ-פייק" מיני
מקרה זה בהרצליה מצטרף לשורה הולכת וגדלה של מקרים דומים בארץ ובעולם, בהם משתמשים בטכנולוגיית בינה מלאכותית ליצירת תמונות וסרטונים מזויפים בעלי אופי מיני, המכונים "דיפ-פייק" (Deepfake).
בספטמבר 2024, נער בן 15 מתל אביב נעצר בחשד שהשתמש בתוכנת בינה מלאכותית כדי לערוך תמונות של נערות קטינות ולהפיץ אותן ברשת. לפי דיווחים, הנער צילם תמונות של תלמידות בכיתה י"א והשתמש בבינה מלאכותית כדי לערוך את פניהן על גבי תמונות של נשים עירומות, ואז הפיץ את התמונות בקבוצות וואטסאפ במשך מספר חודשים. מקרים דומים דווחו גם באוסטרליה, שם נער נעצר ביוני לאחר שערך תמונות של 50 תלמידים, ותלמיד אחר גורש מבית ספרו לאחר שהשתמש בבינה מלאכותית ליצירת תמונות מיניות מפורשות של המורה שלו.
השלכות משפטיות וחברתיות
החוק בישראל מתייחס בחומרה לפרסום תצלומים בעלי אופי מיני ללא הסכמת המצולם, גם כאשר מדובר בתמונות שעברו עריכה או נוצרו באמצעות בינה מלאכותית. העבירה מוגדרת כ"פרסום תצלום המתמקד במיניותו של אדם, בנסיבות העלולות להשפיל ולבזות, ללא הסכמתו".
חשוב להדגיש את הנזק הפסיכולוגי העמוק שנגרם לקורבנות של תמונות "דיפ-פייק". מחקרים מראים כי קורבנות חווים תחושות קשות של השפלה, פגיעה, פחד, חוסר אונים וחוסר יכולת לשלוט במצב. רבים מהקורבנות סובלים מטראומה, הפרעת דחק פוסט-טראומטית, חרדה, דיכאון, תחושת אובדן שליטה, פגיעה בתחושת הערך העצמי, וקשיים בפיתוח אמון באחרים.
האתגר החינוכי והטכנולוגי
המקרה בהרצליה מדגיש את האתגרים החדשים שמציבה הטכנולוגיה המתקדמת בפני מערכת החינוך, רשויות אכיפת החוק והחברה בכללותה. ככל שטכנולוגיית הבינה המלאכותית הופכת נגישה יותר, כך גדל הפוטנציאל לשימוש לרעה בה.
באוקטובר 2024, הורשע גבר בן 27 בבריטניה ונידון ל-18 שנות מאסר בגין עבירות הקשורות לתמונות מיניות של ילדים שנוצרו באמצעות בינה מלאכותית. המקרה נחשב לתקדימי בבריטניה בכך שקשר במפורש בין תמונות מיניות שנוצרו באמצעות בינה מלאכותית לילדים אמיתיים.
מומחים מדגישים את הצורך בחינוך מקיף לבני נוער בנושא האתיקה של השימוש בטכנולוגיה, הסכנות הטמונות בשימוש לרעה בבינה מלאכותית, והשלכות החוקיות והרגשיות של הפצת תכנים מיניים ללא הסכמה.
מוקד 105 – הכתובת הלאומית לפניות וסיוע במקרי פגיעה בילדים ובני נוער ברשת
מוקד 105 הוא מרכז לאומי ייחודי, המהווה כתובת לכל פנייה, דיווח ובקשת סיוע בנוגע לפגיעות, אלימות ופשיעה נגד ילדים ובני נוער במרחב המקוון. את המוקד מאיישים שוטרים ונציגי משרדי ממשלה שונים, כולם בעלי הכשרה ייעודית לטיפול במקרים של פגיעה בקטינים ברשת. המוקד פועל 24 שעות ביממה, 7 ימים בשבוע, וזמין בטלפון 105 מכל מכשיר או באמצעות טופס מקוון בעברית ובערבית.
ניתן לפנות למוקד 105 במגוון נושאים: פגיעות פליליות ברשת (סחיטה, איומים, התחזות, הונאה), פגיעות מיניות (הפצת תמונות וסרטונים, הטרדות), בריונות, ביוש (שיימינג), נידוי, חרם, הפצת תכנים אלימים ופוגעניים, מקרי מצוקה וחירום, ואף לקבל ייעוץ ומידע על גלישה בטוחה. המוקד מעניק מענה מקצועי, דיסקרטי ומהיר – הן במישור הפלילי והן במישור החברתי-טיפולי, כולל סיוע בהסרת תכנים פוגעניים מהרשת, ליווי ותמיכה לנפגעים ולמשפחותיהם, ושיתוף פעולה עם בתי הספר והקהילה.
בכל מקרה של חשש לפגיעה, אל תהססו – פנו למוקד 105. המענה זמין, מקצועי ורגיש, ומטרתו להגן על ילדיכם ולסייע לכם בהתמודדות עם אתגרי הרשת.
הנחיות להורים בנושא בינה מלאכותית ותמונות פוגעניות
העידן הדיגיטלי החדש מציב בפני ההורים (בנוסף למערכת החינוך) אתגרים חינוכיים שלא הכירו בעבר. עם התפתחות טכנולוגיות הבינה המלאכותית והנגישות הגוברת אליהן, חשוב לצייד את ההורים בכלים להדרכת ילדיהם בשימוש אחראי ואתי בטכנולוגיות אלו:
- פתחו שיח פתוח ומתמשך: שוחחו עם ילדיכם על הסכנות והאחריות שבשימוש בכלי בינה מלאכותית. הסבירו להם שיצירת או הפצת תמונות פוגעניות באמצעות AI אינה "רק צחוק" או "רק וירטואלית" אלא מעשה בעל השלכות רגשיות, חברתיות ומשפטיות חמורות. הקשיבו באמת לשאלות ולדעות שלהם, והימנעו ממזעור חששותיהם או סקרנותם הטבעית.
- היו מודל לחיקוי: הדגימו שימוש אחראי בטכנולוגיה. ילדים לומדים על ידי התבוננות במבוגרים, ובעיקר בהוריהם. הראו להם כיצד אתם משתמשים בטכנולוגיות חדשות באופן אתי ומכבד, והדגישו את החשיבות של כבוד לפרטיות ולזכויות של אחרים.
- הכירו את הטכנולוגיה: התעדכנו בהתפתחויות הטכנולוגיות בתחום הבינה המלאכותית. הבינו את היכולות של כלי AI ליצירת תמונות, וכיצד הם עלולים לשמש לפגיעה. ידע הוא כוח – ככל שתבינו יותר את הטכנולוגיה, כך תוכלו להדריך טוב יותר את ילדיכם.
- קבעו גבולות ברורים: הגדירו כללים ברורים לגבי השימוש בטכנולוגיה בכלל ובכלי בינה מלאכותית בפרט. הסבירו אילו שימושים מותרים ואילו אסורים, והבהירו את ההשלכות של הפרת הכללים. חשוב שהגבולות יהיו עקביים ומותאמים לגיל ולבגרות של הילד.
- פתחו אינטליגנציה רגשית: עזרו לילדיכם לפתח אמפתיה והבנה של רגשות אחרים. שוחחו איתם על ההשפעה הרגשית שיכולה להיות לתמונות פוגעניות על הקורבנות. שאלו אותם "איך היית מרגיש אם מישהו היה יוצר או מפיץ תמונה כזו שלך?". עודדו אותם לחשוב על ההשלכות הרגשיות של מעשיהם.
- הסבירו את ההשלכות החוקיות: ודאו שילדיכם מבינים שיצירה והפצה של תמונות פוגעניות באמצעות בינה מלאכותית עלולות להיות עבירה על החוק. הסבירו להם שגם אם הם קטינים, מעשים כאלה עלולים להוביל לחקירה משטרתית ולהשלכות משפטיות חמורות.
- עודדו דיווח: יצרו אווירה בה ילדיכם ירגישו בנוח לדווח לכם אם הם נתקלים בתמונות פוגעניות או אם מישהו מציע להם ליצור או להפיץ תמונות כאלה. הבטיחו להם שלא תכעסו אם יפנו אליכם, ושאתם שם כדי לעזור ולהגן עליהם.
- השתמשו בכלי בקרה הורית: התקינו תוכנות בקרה הורית על המכשירים של ילדיכם, במיוחד אם הם צעירים. כלים אלה יכולים לסייע בהגבלת הגישה לאפליקציות ואתרים מסוימים, ולספק לכם מידע על הפעילות המקוונת של ילדיכם.
- למדו אותם להיות צרכנים ביקורתיים של מידע: עזרו לילדיכם לפתח חשיבה ביקורתית לגבי תוכן שהם רואים ברשת. למדו אותם לזהות תמונות מזויפות או מניפולטיביות, ולהבין שלא כל מה שהם רואים הוא אמיתי.
- שתפו פעולה עם בית הספר: התעניינו בתוכניות החינוכיות של בית הספר בנושא אוריינות דיגיטלית ואתיקה ברשת. שתפו פעולה עם המורים והיועצים החינוכיים כדי ליצור רשת תמיכה והדרכה עקבית עבור ילדיכם.
זכרו, המטרה אינה להפחיד את הילדים או למנוע מהם להשתמש בטכנולוגיה, אלא לחנך אותם לשימוש אחראי, אתי ומכבד. באמצעות שיח פתוח, הדרכה והצבת גבולות ברורים, תוכלו לעזור לילדיכם לנווט בבטחה בעולם הדיגיטלי המתפתח.
- ההנחיות וההמלצות המובאות בכתבה זו נועדו לספק מידע כללי בלבד, ואינן מהוות ייעוץ משפטי, חינוכי או טיפולי מחייב.
- יש לפעול תמיד בהתאם להנחיות משרד החינוך, להוראות החוק ולמדיניות בית הספר, ולהתייעץ עם גורמים מוסמכים (כגון יועץ חינוכי, עו"ד, או איש מקצוע מתחום בריאות הנפש) בכל מקרה של חשד לפגיעה או התמודדות עם תכנים פוגעניים ברשת.
- שימוש בכלי בינה מלאכותית במערכת החינוך כפוף להנחיות משרד החינוך, התאמת הכלים לגיל התלמידים, קבלת אישור הורים, והקפדה על עקרונות אתיים, פרטיות ובטיחות.
- המידע בכתבה מתעדכן מעת לעת בהתאם לשינויים במדיניות ובחקיקה, ויש לוודא כי אתם פועלים לפי ההנחיות
- אתר האינטרנט של מוקד 105 .gov.il/he/departments/units/105_call_center
