- תקשורת: מידע כוזב ואיך בודקים אותו
מהו דיפפייק?
דיפפייק (זיוף עמוק) הוא סרטון, הקלטת קול או תמונה שנוצרו או שונו בבינה מלאכותית, כך שאדם אמיתי נראה אומר או עושה משהו שמעולם לא אמר או עשה. השם, מלמידה עמוקה ומזויף, בא ממשתמש ברדיט ב־2017. זיופים עמוקים יכולים להטעות, להונות ולהשפיל, והם גם מאפשרים לשקרנים לפטור הקלטות אמיתיות כמזויפות.
הסבר על הנושא
פנים, קול, זיוף
דיפפייק, או זיוף עמוק, הוא מדיה סינתטית: סרטון, הקלטה או תמונה שנוצרו או שונו בבינה מלאכותית, כך שהם מראים אדם אמיתי אומר או עושה מה שמעולם לא אמר או עשה. המילה מחברת את "למידה עמוקה", הטכניקה שמאחוריו, עם "מזויף". היא באה ממשתמש ברדיט בשם "deepfakes", שבסוף 2017 התחיל לשתף סרטונים עם פנים מוחלפות, רבים מהם פורנוגרפיים.
המקור הזה אינו הערת שוליים. באוקטובר 2019 העריך דוח של החברה ההולנדית דיפטרייס ש־96% מהזיופים העמוקים שמצאה ברשת היו פורנוגרפיים: סרטונים שמדביקים פנים של אדם אמיתי לתמונות מיניות שמעולם לא הסכים להן. הנזק הנפוץ ביותר אינו נאום מזויף שמשנה בחירות, אלא השפלה של אנשים שלא הסכימו. היום כלים דומים גם משכפלים קולות מהקלטות קצרות ויוצרים פנים של אנשים שאינם קיימים.
איך יוצרים אותם, בקצרה
החלפות הפנים הראשונות השתמשו במקודדים אוטומטיים: רשת לומדת לדחוס אלפי תמונות של פנים לתכונות העיקריות שלהן ולבנות אותן מחדש. מאמנים בונה אחד על אדם א׳ ובונה אחר על אדם ב׳, מזינים את הבעות הפנים של ב׳ לבונה של א׳, והפנים של א׳ מופיעות עם התנועות של ב׳.
טכניקה שנייה, הרשת היריבה (GAN), הוצגה ב־2014 על ידי איאן גודפלו ועמיתיו באוניברסיטת מונטריאול. שתי רשתות מתחרות: מחולל מייצר תמונות מזויפות, ומבחין מנסה להבדיל ביניהן לבין תמונות אמיתיות. כל הכרעה של המבחין מלמדת את המחולל להטעות טוב יותר. לכן הזיהוי הוא מרוץ: כל פגם שגלאי לומד לזהות, המחולל הבא לומד להימנע ממנו.
מקרים אמיתיים
ב־2019 קיבל מנהל חברת אנרגיה בריטית שיחת טלפון ממי שנשמע בדיוק כמו המנכ״ל של חברת האם, שביקש תשלום דחוף. הוא העביר 220,000 אירו לחשבון בהונגריה; הקול היה זיוף עמוק. ב־2021 פרסם אמן האפקטים הבלגי כריס אומה בטיקטוק סרטונים של כפיל של טום קרוז שפניו הוחלפו, והם זכו לעשרות מיליוני צפיות. הוא הציג אותם בגלוי כהדגמה, וזה מראה שהבעיה אינה הטכנולוגיה עצמה, אלא ההטעיה וההסכמה.
בדיקה, ורווח השקרן
מדריכים מונים סימנים: מצמוץ לא טבעי, תאורה שאינה תואמת, קצוות מטושטשים סביב הפנים ושפתיים שלא תואמות את המילים. הם עוזרים, אבל המטרה זזה, וגם הגלאים הטובים טועים הרבה: המודל המנצח בתחרות זיהוי גדולה צדק רק ב־65% מ־4,000 סרטונים. בטוח יותר לשאול על המקור: מי פרסם ראשון, האם כלי תקשורת אמין מדווח, והאם אפשר לבדוק ישירות.
חוקרי המשפט רוברט צ׳סני ודניאל סיטרון הזהירו ב־2018 מסכנה שנייה, רווח השקרן: כשכולם יודעים שיש זיופים, מי שנתפס בהקלטה אמיתית יכול לטעון שהיא דיפפייק. הטעות היא להסיק שאין במה להאמין; המסקנה הנכונה היא שהאמון צריך לעבור מהתמונה אל המקור שלה.
תרגול: זיופים עמוקים
לתלמידי כיתה י״ב שלומדים תקשורת. כל המשרדים, האנשים, השיחות והסרטונים בדף בדויים. ענו מתוך מה שמודפס כאן, ובדקו את עצמכם מול התשובות.
בחינם, בלי הרשמה. דף התשובות מודפס בעמוד השני. יצירה מחדש של דף עבודה באותו נושא דורשת חשבון חינם.
מאיפה בא המונח דיפפייק, ולמה הדף אומר שהמקור שלו אינו הערת שוליים?
השלימו את המסר החסר בתרשים, והסבירו למה שתי הרשתות משפרות זו את זו.
סקיצה של רשת יריבה (GAN), גודפלו ועמיתיו, 2014. השלימו את האירוע החסר בציר הזמן.
מטכנולוגיה במעבדה לכלי שזמין לכל אחד, תוך פחות מעשור. גלאי צודק ב־65% מהמקרים. מתוך 4,000 סרטונים, בכמה הוא צודק ובכמה טועה? מה זה אומר על הסתמכות על גלאים?
במקרה בדוי, מנהלת חשבונות מקבלת שיחה קולית מהמנהל שלה, שמבקש להעביר כסף בדחיפות לחשבון חדש. מה עליה לעשות, ולמה?
השלימו את השאלה החסרה בטבלה.
סימנים בתמונה עוזרים, אבל המקור והאימות חשובים יותר. מהו רווח השקרן, ומי נתנו לו את השם?
תלמיד אומר: "אם אפשר לזייף הכול, לא אאמין יותר לשום סרטון." כתבו תשובה קצרה.
שאלות נפוצות
איך יודעים אם סרטון הוא דיפפייק?
מחפשים סימנים כמו מצמוץ מוזר, תאורה לא תואמת, קצוות מטושטשים ושפתיים שלא תואמות את המילים, אבל לא סומכים רק עליהם. שואלים מי פרסם ראשון, האם כלי תקשורת אמינים מדווחים, והאם אפשר לבדוק ישירות מול האדם.
האם דיפפייק אסור על פי חוק?
זה תלוי במדינה ובשימוש. דיפפייק שמסומן בבירור כאמנות או כסאטירה מותר בדרך כלל; שימוש בו להונאה, להתחזות או לתמונות מיניות בלי הסכמה הוא עבירה או עוולה במקומות רבים, וחוקים חדשים ממשיכים להתווסף.
מה ההבדל בין דיפפייק לזיוף זול?
דיפפייק נוצר בבינה מלאכותית. זיוף זול הוא מדיה מטעה שנעשתה בכלים פשוטים: סרטון אמיתי שהואט, נחתך או קיבל כיתוב כוזב. שניהם מטעים; הזיוף הזול לא צריך טכנולוגיה.
מי המציא את הדיפפייק?
לא אדם אחד. המילה באה ממשתמש ברדיט ב־2017, והשיטות נשענות על מחקר בלמידה עמוקה, כולל הרשתות היריבות שהציגו איאן גודפלו ועמיתיו ב־2014.
מהו רווח השקרן?
מונח של רוברט צ׳סני ודניאל סיטרון (2018): כיוון שאנשים יודעים שיש זיופים משכנעים, מי שנתפס בהקלטה אמיתית יכול לטעון בשקר שהיא דיפפייק ולהתחמק מאחריות.

נשארה שאלה? שאלו את לסי
כל שאלה על המקצוע הזה. לסי עונה כאן, צעד אחר צעד.
אפשר לשאול למשל
כדי לשאול צריך חשבון חינם; השאלה שלכם נשמרת בזמן ההרשמה. התשובות נכתבות בבינה מלאכותית ועלולות לכלול טעויות. לסי לא נותן ייעוץ רפואי או משפטי.
ללמוד את זה עם מורה
ללמוד את הנושא בשיעור חי עם לסי
לסי, המורה מבוסס הבינה המלאכותית, מסביר את זה בקול על לוח, עם בחנים קצרים, בקצב שלכם. 60 הדקות הראשונות בחינם.