מומחים מתארים את השימוש בתמונות של אדם ליצירת דיפ פייק באמצעות בינה מלאכותית (AI) ללא הסכמתו כ"דה-הומניזציה".
טכנולוגיית ה-Deepfake גדלה בפופולריות בשנים האחרונות, ומעולם לא היה קל יותר ליצור אותן, עם אנשים המסוגלים לטפל בוידאו או אודיו בצורה היפר-ריאליסטית - כל מה שצריך זה כמה תמונות פנים של מישהו כדי ליצור דיפ פייק בכיכובו.
שקלה להתגרש מבעלה אחרי שחשפה שהוא יצא איתה בגלל התערבות סקסיסטית
גיבור הסרט חטוף בעזה בידי חמאס, אבל פסטיבל הסרטים מתקיים
"חוויה מאד אינטנסיבית" המשאלה האחרונה של חולת הסרטן הבתולה
יש כאלה שמשתמשים בו בתמימות ובשביל הכיף, כי הטכנולוגיה הזאת היא הבסיס לאפליקציות להחלפת פנים ולפילטרים שונים ברשתות, אבל יש לה גם כמה שימושים זדוניים, החל מסרטונים מזויפים של פוליטיקאים ועד הונאות מוחלטות, וכמובן שנשים סובלות מהתופעה באופן הרגיל שבו סבלו מאז ומתמיד - משתמשים בתמונותיהן כדי ליצור דיפ-פייק שלהם עירומות, לצורך פורנו שמשודר ללא הסכמתן.
ב-2019 העריכה חברה המתמחה בבינה מלאכותית (AI), שפורנו מהווה חלק עצום של 96 אחוז מסרטונים המזויפי הדיפ-פייק, והרוב המכריע נוצר ומשודר ללא הסכמת האדם שמככב בו, שהוא בדרך כלל אישה.
תופעת הזיופים העמוקים נצפתה לראשונה בשנת 2017 בפורומים כמו Reddit עם תמונות של מפורסמות שעברו מניפולציות, בשל זמינותן באינטרנט.
"אחד הטרנדים המטרידים ביותר שאני רואה בפורומים של אנשים שמייצרים את התוכן הזה היא שהם חושבים שזה בדיחה או שהם לא חושבים שזה רציני כי התוצאות אינן תמיד ריאליסטיות, בלי להבין שעבור הקורבנות זה ממש כואב וטראומטי", אומר הנרי אג'דר, מומחה לבינה מלאכותית גנרטיבית.
"זו הפרה קשה של זכויות. זה דה-הומניזציה. והמציאות היא שאנחנו יודעים שזה יכול להשפיע על אפשרויות ההעסקה של אדםף שלא לדבר על היחסים הבין-אישיים ועל בריאותו הנפשית", טוען נואל מרטין, פעיל וחוקר באוניברסיטת מערב אוסטרליה, שעוסק בהתעללות מבוססת תדמית - הוא מתייחס בדבריו למקרה שבו טורגטו נערות בנות 11 שהופשטו, והתמונות שותפו עם חבריהן לכיתה בתיכון באמצעות מדיה חברתית.
"זה מחריד ומזעזע לראות את עצמך בצורה שלא הסכמת לה", אמר מרטין "ולפעמים הדברים נעשים כדרך להכפיש נשים - הפעילה קייט אייזקס והעיתונאית רנה איוב היו שתיהן קורבנות של מסעות הכפשה באמצעות תמונות דיפ פייק משפילות בשל פעילותן המקצועית.
ככל שהטכנולוגיה הופכת לזמינה יותר, כל הנשים מודאגות מההשלכות החברתיות והפסיכולוגיות של
הטכנולוגיה, כי ככל שהזמן עובר גם קשה יותר לזהות שזה זיוף.
"עין בלתי מזוינת של אינדיוידואל לא תזהה זיופים טובים", אמר אג'דר, ואכן, בהודעת שירות ציבורי של ה- FBI, דווח כי הם ממשיכים "לקבל דיווחים מקורבנות, גם מבוגרים וגם ילדים קטינים, שתמונותיהם או סרטוני הווידאו שלהם שונו לתוכן פורנוגרפי באמצעות הפשטתם בדיפ-פייק".
היו אף מקרים בהם נעשה שימוש בפורנו מזויף כזה כדי לסחוט אנשים - וקשה מאד להעמיד לדין מכיוון שהמחוקק עדיין מתקשה להתעדכן בדקויות הטכנולוגיה. בנתיים מספר מדינות ארה"ב כולל קליפורניה, טקסס ווירג'יניה הפכו דיפ פייק שלא בהסכמה לעבירה פלילית. בסוף 2022, משרד המשפטים של בריטניה גם הנודיע כי שיתוף דיפ-פייק ללא הסכמתו של אדם עלולה לגרום למאסר, וגם טייוואן יישמה הצעת חוק דומה. באירופה, לעומת זאת חוק השירותים הדיגיטליים (DSA) עדיין לא מתייחס לנושא של זיופים כאלה. למרות זאת, חוק הבינה המלאכותית של האיחוד האירופי, שעל טיוטתו זה עתה הסתיים משא ומתן, אמור לספק מסגרת משפטית חזקה יותר.