מאמרי אורח

איך הבינה המלאכותית משפיעה על המלחמה? כיצד הפייק ניוז מטשטש את המציאות? ומה כדאי לעשות כדי להפחית את הנזקים של הAI בעידן הנוכחי? עידן רינג (חוקר מדיה וחברה וסמנכ"ל קהילה וחברה באיגוד האינטרנט הישראלי) כותב לבחברת האדם על השפעות הבינה המלאכותית על החברה הישראלית בזמן מלחמה, על ההשלכות החברתיות של זה ומה בכלל אפשר לעשות.

.

בניגוד לסבבים הקודמים, על המלחמה הנוכחית בין ישראל וארה"ב לאיראן כבר אי אפשר לומר שהיא "המלחמה הדיגיטלית" או "מלחמת ה-AI" הראשונה. אחרי הפלישה הרוסית לאוקראינה, טבח ה-7 באוקטובר והמלחמה בעזה ומלחמת 12 הימים בין ישראל לאיראן בשנה שעברה, כבר ברור לחלוטין שהפצת מידע שקרי, תוכן סינתטי ומתקפות תודעה הם חלק בלתי נפרד מכל מלחמה וכולנו מאוימים. אך עליית המדרגה המשמעותית בהיקף ואיכות המידע השקרי והדימויים הסינתטיים המופצים במלחמה הנוכחית רומזים כי ייתכן ואנחנו כבר קרובים מאוד להתגשמות נבואות הזעם על מותן של האמת והעובדות בעידן הבינה המלאכותית והאיום שדיסאינפורמציה מהווה על חברות דמוקרטיות ואזרחים ברחבי העולם.

כמו במלחמה בין שני הצדדים ביוני 2025, גם הפעם כמעט במקביל לנפילת הטילים ויעפי המטוסים הופגזו הרשתות בשטף בלתי נגמר של תיעודים מלאכותיים של נפילות טילים ונזקים בתל אביב וטהרן, שמועות שקריות, דימויים מפוברקים של קרבות אוויר והפלת מטוסים וסרטוני AI "סלופ" מוגזמים של חיילים אמריקאים  בוכים או מפגינים איראנים הקוראים בשמו של נתניהו. ריבוי הזירות והאירועים בסבב הנוכחי ברחבי המזרח התיכון והמפרץ הפרסי והמעורבות של מדינות רבות בעימות המזוין ואתרי התקיפה, הפכו את המידע המופץ על האירועים לתופעה גלובלית בעלת קצב והיקף מסחרר. הצורך בקבלת מידע מיידי בזמן אמת בתוך אי הוודאות של מצב החירום הפכה את האזרחים צרכני המידע לקורבנות קלים עבור יוצרי ומפיצי המידע השקרי והדימויים המדומיינים. היכולת להבדיל בין תמונות וסרטונים מפוברקים או מוצאים מהקשר לבין תיעוד אמיתי ומהימן של הארועים בשטח נשחקה עד דק.

גרוע מכך, הפעם נראה כי גם אנשי המקצוע ובעלי התפקידים שבאופן מסורתי אמורים לתווך ולסנן עבור צרכני המידע את המידע המופץ על האירועים בשטח ולהבחין עבורנו בין אמת לבדיה, כבר לא עומדים בקצב ורמת הדיסאינפורמציה. יותר מתמיד אנחנו רואים במלחמה הנוכחית איך עיתונאים ותיקים ומקצועיים נופלים בפח הפייקים ומעלים לשידור סרטונים ותמונות שמתיימרים לייצג את המציאות אך בפועל נוצרו באמצעות כלי בינה מלאכותית, נלקחו ממשחקי מחשב או שייכים לארועים ומקומות אחרים לגמרי. 

כבר עם פתיחת המלחמה כתב חדשות 12 עמית סגל שיתף בעמוד הטלגרם שלו תמונה של גופת חמינאי בהריסות בניין שנוצרה באמצעות AI, ואילו עמיתו ניר דבורי – הציג בשידור בבטחון רב דימויים של מפציצי B2 אמריקאים מתוך משחק מחשב כאילו היו מציאותיים. כלי תקשורת אחרים כמו ערוץ 14 או i24news לא נשארו מאחור ושיתפו גם הם הדמיות דיגיטליות של קרבות אוויר ממשחקי מחשב וסרטון מג'ונרט של תמיכה עממית איראנית בראש הממשלה נתניהו.

העימות הנוכחי כנראה יגיעו לסיומו בשלב כזה או אחר, מה שיישאר איתנו וכנראה רק יחמיר הוא אותו משבר אפסטימולוגי וקריסה מוחלטת של סביבת המידע, כפי שהזהירו בשנים האחרונות נביאי הזעם הטכנו-סקפטיים של הבינה המלאכותית. ייתכן שהיא כבר כאן.

המשבר הזה הוא לא רק תוצר של קצב ההתפתחות המהיר של טכנולוגיות הבינה המלאכותית והשיפור המתמיד של התוצרים הוויזואליים שלהם. הוא גם תולדה של לוגיקה וערכים שניצבים בלב פלטפורמות ואלגוריתמים של רשתות חברתיות שהשתלטו על חיינו ועל הכלכליות שלנו בעשור האחרון ומעצבים כעת את סביבת המידע העכשווית. את המקום של אמינות, הוגנות ואותנטיות שאפיינו את סביבת המידע של עידן העיתונות, תופסים מיידיות, גולמיות, רגש וחשיפה של עידן פלטפורמות המשפיענים וכלכלת תשומת הלב. מחקרים רבים חשפו בשנים האחרונות – גם כאן בישראל – את המעבר של צרכני מידע, בעיקר צעירים, ממקורות עיתונאים לרשתות חברתיות ובעיקר למשפיענים ועמודי טלגרם ו"עדכוני חדשות בזמן אמת" בקבוצות ווצאפ. במציאות של משבר ומצב חירום מתמיד צרכני מידע מעדיפים את המזעזע, מרגש וגולמי על פני הבדוק, האמין והמבוסס.

מיפוי וניתוח שצוות איגוד האינטרנט הישראלי ביצע על כ-500 בדיקות עובדות שפורסמו ב-15 שפות במסגרת מלחמת 12 הימים בין ישראל לאיראן בשנה שעברה ("מיירטים פייקים: דיסאינפורמציה ומאמצי בדיקת עובדות במהלך מלחמת ישראל-איראן") חשף את אופיה הוויזואלי של המלחמה המודרנית ואיך הפכה למופע תקשורתי ומוצר צריכה של משתמשי הפלטפורמות ברחבי העולם. בניגוד להייפ הרב סביב התפקיד של הבינה המלאכותית המחקר גם גילה כי מרבית הסרטונים והתמונות שהיו הרוב המכריע של המידע השגוי שנבדק במסגרת המלחמה היו דווקא מחזור והפצה מחודשת של תכני מלחמה, אסונות ופיצוצים שהתרחשו במקומות, זמנים והקשרים שונים מחוץ לאותו קונפליקט בין שתי המדינות. בתוך הדרישה למידע גולמי ומהיר וקצב הפצת והצפת המידע האדיר במלחמה, צרכנים ופלטפורמות נשטפו בתוכן ויזואלי שהוצג כאקטואלי אך היה למעשה לא קשור לארועים – או מומצא לחלוטין.

בסבב הנוכחי עם איראן מתברר יותר ויותר שגם המקור והמוטיבציה ליצירה והפצה של דיסאינפורמציה ותוכן סינתטי ומג'ונרט אינו כפי שחשבנו קודם לכן. בניגוד לתפיסה המסורתית שראתה בהפצת דיסאינפורמציה ותוכן כוזב חלק בלתי נפרד ממאמץ זדוני לפגוע בתודעת אזרחי האויב במסגרת עימות פוליטי מזוין, הבולטות הרבה של תכני AI "סלופ" (המקבילה הסינתטית הקיטשית והמרושלת לספאם הדיגיטלי של עידן המייל) מרמזת כי המוטיבציות להפצת התכנים הן גם כלכליות ואלגוריתמיות, מתוך רצון לייצר חשיפה. חיילות אמריקאיות בוכות כי הן מתגעגעות לבית, פטריות אש ועשן הוליוודיות בלב טהרן או תמונת סלפי של טייסת שנטשה עם שייחים כוויתיים – הכל הולך במלחמה הדיגיטלית אם זה מביא לייקים ושיתופים.

לא בכדי הראשונה שהגיבה להצפת המידע והדימויים השקריים במלחמה הזאת היתה דווקא רשת X – הפלטפורמה המרכזית ביותר עבור הפצת התכנים השקריים הללו במלחמה הנוכחית. ברשת X של אילון מאסק התגאו בצמצום צוותי המודרציה ובדיקת התוכן והחליפו בודקי עובדות במערכת של הערות קהילה של המשתמשים. ארבעה ימים לתוך המלחמה X מיהרה להודיע שבעלי חשבונות שישתפו תוכן AI על המלחמה בלי לתייג אותו ככזה יורחקו ל-90 יום ממערכת המונטיזציה שמתגמלת אותם כספית על תוכן ויראלי ויורחקו לצמיתות אם יעשו זאת שוב. בכך היא חשפה את אחורי הקלעים של המוטיבציות והתגמולים שדוחפים יוצרי תוכן ברשתות להפיק ולשתף תכני AI מעוררי רגש, עניין ומעורבות אך נטולי אמינות – לרוב בהקשר אקטואלי "בוער" כמו המלחמה. 

המלחמה הזאת היא תצוגת תכלית מדאיגה לאופן בו הפצה אלגוריתמית של תכנים סינתיים וממוחזרים בשעת חירום יכולה להפיל בפח את צרכני המידע ואת מי שאומר לשמור עליהם גם ברמה הגלובלית, אבל את הנזקים החמורים יותר של המשבר הזה אנחנו כנראה נראה דווקא בנסיבות אחרות, אזרחיות יותר. למשל כמו במערכת הבחירות הגורלית הקרובה בישראל, בנסיונות ההשפעה הסינים או הרוסים לערער יציבות של דמוקרטיות מערביות או במשבר הבריאותי הגדול הבא. כשמידע מיידי בזמן אמת משפיע על החלטות גורליות של אנשים על יציבות מדינתם או על בריאותם האישית – ליכולת שלהם לבחון את המידע החשוד ולהטיל בו ספק ולהסכים על מציאות משותפות שמבוססות על עובדות עשויות להיותהשלכות מרחיקות לכת. כפי שקבעו גם שורה של מומחים מובילים בדו"חות של הפורום הכלכלי העולמי והאו"ם שפרסמו בשנים האחרונות והגדירו את משבר אמינות והפצת המידע כאחד האיומים המרכזיים על דמוקרטיות בעולם.

הבעיה המרכזית עם המשבר חסר התקדים הזה היא שאין לו פתרון אחד אפקטיבי וברור. על אף שהוא מונע בידי התפתחויות טכנולוגיות מרחיקות לכת, לא יהיה אפשר לתת לו מענה אפקטיבי עם כלים טכנולוגיים בלבד, גם אם יש כאלה שחושבים שצריך "להילחם בבינה מלאכותית רעה באמצעות בינה מלאכותית טובה" שתזהה את הפייק. מאחורי האלגוריתמים שמאפשרים את ההפצה שלו עומדים בני אדם שקובעים קווי מדיניות והגדרות בטיחות – ומולם מדינות ומנהיגים שיכולים להחליט שהם מפקחים עליהם, גם אם זה פוליטית לא יועיל להם. שינוי של המדיניות הזאת הוא הכרחי. אך בסופו ללא שינוי יסודי של האופן בו מחנכים אזרחים מגיל צעיר לבחון ולצרוך מידע בעידן הדיגיטלי – הבעיה לא תיפתר. 

בדומה למידע הכוזב גם הטכנולוגיה מתפתחת ומוטמעת הרבה יותר מהר מהמדיניות והחינוך לאוריינות שאמור לתת לה מענה, אבל אם חברות דמוקרטיות הן חפצות חיים אין להן ברירה אלא לפתח מודלים, התערבויות ומתודולוגיות שייתנו לאזרחים – בכל הגילאים – את הכלים והיכולת לצרוך מידע ולחשוב באופן ביקורתי וספקני, כדי להאט את קצב צריכת והפצת המידע בסביבות הדיגיטליות. לחזק ערכים של אמינות, עובדות ואמת כבסיס לשיח ציבורי וקבלת החלטות – על חשבון הוויראליות, הרגש והסיפוקים המידיים שהפכו למרכזיות כל כך בעידן הפלטפורמות של ימינו, לפני שנגיע לאפוקליפסת מידע שאין ממנה חזרה.

תמונה ראשית – מתוך הפייסבוק של אמיר סיני.

עוד בנושא: