מאמרי אורח

האם הפיתוחים החדשים בטכנולוגיות של בינה מלאכותית ואלגוריתמים הם מהפכות שישנו את החברה והתרבות שלנו? איך ניתן בכלל למדוד או להבין את מידת המהפכניות של מהפכת הנתונים? ד"ר דן קוטליאר (החוג לסוציולוגיה באוניברסיטת חיפה) טוען שעל מנת לנסות לענות על שאלות אלו, אנחנו צריכים להתמודד עם תופעת ״ההייפ״. קוטליאר מציג ניתוח סוציולוגי והיסטורי של תופעת ״ההייפ״, מתאר את מאפייניה ומציע מספר כלים מתודולוגיים כדי לנסות להבין אותה. הוא לא עושה זאת במטרה לחשוף את השקר שמאחורי ״ההייפ״, אלא כדי להבין את התופעה עצמה טוב יותר. ובכך, להשתמש בה על מנת להבין את המציאות החברתית הממשית ולא פנטזיות אוטופיסטיות שמקושרות אליה.

אומרים שאנו עומדים בפני מהפכה טכנולוגית כמותה לא ראינו שנים, שטכנולוגיות אלגוריתמיות מתקדמות נכנסות לכל תחום חברתי ומאיימות לשנותו מהיסוד. מספרים שבינה מלאכותית משנה את פני הידע, את פני המחקר, את עולם העבודה, את האופן בו אנחנו נשלטים, שולטים בעצמנו ומבינים את עצמנו. מדווחים שאלגוריתמים משנים את האופן בו אנו מבינים מושגים בסיסיים כמו חברות, אהבה או כוח ושהם מזמנים מהפכות אפיסטמיות ואונטולוגיות בשלל תחומים. אבל – האם אלגוריתמים באמת יכולים לעשות את כל זה? האם השינויים הללו אכן מתרחשים? ואם כן, באיזה אופן? ובאיזו מידה? איך ניתן לאמוד את מידת המהפכניות של מהפכת הנתונים? כדי לענות על השאלות הללו צריך להתמודד עם ההייפ.

הייפ מוגדר כתשומת לב מוגברת והתלהבות ניכרת סביב תופעה מסוימת, וקידום של אותה תופעה באופן אקסטרווגנטי. לרוב מדובר במהומה תקשורתית, תרבותית, או כלכלית; בשיח נלהב, רב עוצמה, המשקף את האינטרסים של שחקנים שונים. ככזה, זהו שיח רווי בהבטחות, גוזמאות ונבואות גרנדיוזיות. הייפ הוא גם תופעה הנובעת מהמבט הכרוני לעתיד המאפיין את זמננו (Adams, Murphy, and Clarke 2009; Beck, Giddens, and Lash 1997), ומכלכלת הקשב הצפופה של ימינו הדורשת להשמיע קול גדול כדי לזכות בתשומת לב )ובמימון( (Zoomers et al., 2016, p. 148).

במידה רבה, העניין המחקרי שלנו בטכנולוגיה בכלל ובבינה מלאכותית בפרט נובע מההייפ שמלווה אותה, ופעמים רבות, השיחים השונים המרכיבים את ההייפ מהווים את מקור הידע הראשוני, העיקרי, ולעתים הבלעדי אודות התופעה אותה אנו חוקרות וחוקרים. עם זאת, דווקא בגלל ההגזמה המגולמת בהייפ, מקור המידע הזה מהווה גם מסך עשן החוצץ בין הסוציולוג/ית לבין התופעה הטכנולוגית אותה מבקשים לחקור. לכן, בבואנו לחקור את השפעותיהן של טכנולוגיות אלגוריתמיות על החברה ולהבין את אופן השתלבותן המדויק בה, עלינו להתמודד עם ההייפ – לפזר את מסך העשן ולהבין – מה באמת קורה במפגש בין הטכנולוגיה לחברה? מה באמת מתרחש במהפכות אודותן מבשרים? ומה תפקידו של ההייפ בכל זה? בטקסט הקצר הזה אאפיין את ההייפ, אציג מספר כללי אצבע להתמודדות עמו, ולבסוף, אציע כלים מתודולוגיים שיטתיים יותר שיאפשרו לעבוד אל מול ההייפ.

ראשית, הייפ לא חייב להיות טכנולוגי. הוא יכול להיות כלכלי, תרבותי, פוליטי או אחר- אבל הייפ מתאים להייטק כמו כפפה ליד. הרי, חדשנות מטבעה פונה אל העתיד, וחדשנות טכנולוגית בת ימינו סובבת לרוב סביב שיחים המבטיחים הפרעה רדיקלית, דרמטית ומוצהרת של הסדר הקיים – disruption. בנוסף, הייפ טכנולוגי לרוב מקדים את המוצר (Bucciarelli, 1994), והוא למעשה מאפשר את פיתוחו. כלומר, כמו שהסוציולוגיה של הציפיות מראה, הייפ הוא תופעה פרפורמטיבית- הייפ יכול להניע משקיעים להשקיע בחברה, להשפיע על נכונותה של המדינה להסיט תקציבים או לעדכן חקיקה; לדחוף אנשים לצריכה ועוד. ואכן, חברות טכנולוגיה מקדישות חלק ניכר ממרצן וזמנן לשכנוע משקיעים, לקוחות וכלי תקשורת שיאמינו במוצר המתהווה שלהם, יתמכו בו ויחזקו את הלגיטימציה שלו. כלומר, הייפ הוא כלי בסיסי בארגז הכלים היזמי-הטכנולוגי של ימינו, ושיחים טכנולוגיים כיום כמעט בהכרח שואפים לעורר הייפ.

הייפ הוא גם לא תופעה חדשה. הרי, הייפ הוא סוג של בועה- שני המושגים סובבים סביב הערך הנתפס, המנופח לעתים, של נכסים, רעיונות או ארטיפקטים. הציפיות והספקולציות שמגולמות בבועות, מלוות את הקפיטליזם לפחות מאז שגעון הצבעונים בהולנד של המאה ה17 (Dholakia and Turcan 2014). אם מתייחסים לשיחים הנבואיים שמאפיינים הייפ, אפשר גם לחזור אלפי שנים אחורה ולהתייחס להייפ כאל גלגול בין-זמננו של המיתוס. גם הייפ סביב בינה מלאכותית – AI Hype – הוא לא תופעה חדשה. הרי, בינה מלאכותית לא נולדה עם ChatGPT. כמו ששי סתרן מראה בעבודתו על Eliza, הצ'טבוטית הראשונה, כבר בשנות  ה-60 היו שקידמו שיח נלהב ומוגזם אודות "בינה מלאכותית," ומאז ועד היום נהוג לדבר על גלים של עניין ב-AI, שנעים בין גאות לשפל – בין AI Hype לAI Winter.

בנוסף, הייפ לא חייב להיות חיובי. האדרת הטכנולוגיה והשינוי החברתי שהיא מזמנת יכולה להיעשות דווקא דרך הדגשת הסכנות, האיומים, והחששות שהטכנולוגיה מעוררת. לא במקרה יזמים כמו אילון מאסק או אריק שמידט מרבים לדבר על סכנות מסוג זה, תאגידי בידור כמו נטפליקס מקדישים לכך סרטים, ואקדמאיות בולטות במוסדות עלית, כמו שושנה זובוף או שרי טרקל מדגישות את הסכנות האדירות הנובעות מטכנולוגיות אלגוריתמיות חדשות. כלומר, הייפ הוא אמצעי לשימור, ייצור והגדלת כוח, ושיח שלילי המדגיש את היכולות של כלי מסוים יכול להגביר את ההייפ ובכך לשרת את אותו כוח.

אם כך, הייפ, בהגדרה, מכיל את גם את ההבטחה וגם את השקר, גם את הגוזמה וגם את הפרגמטיקה, גם את הפחד וגם את התקווה, גם את המיתולוגי וגם את הממשי. הוא נע לעתים קרובות בין שיח אוטופי לשיח דיסטופי, בין enchantment  לdisenchantment – (Binder 2022; Elish and boyd 2018). וישנם מספר סוגים של הייפ. הרי, הייפ הוא סדר שיח הסובב סביב טענות שונות לגבי יכולות טכנולוגיות עתידיות או נוכחיות. וטענות כאלה יש מכמה מינים:

• טענות  לגבי האפקט החברתי של טכנולוגיה–החל בטענות אודות שינויים כמותיים הניתנים לבדיקה – למשל, האם AI יחליף עובדים במקצועות מסוימים, ואם כן, כמה עובדים?; וכלה בטענות מורכבות, תיאורטיות יותר – למשל, אודות האופנים בהם הטכנולוגיה תשנה את האופן בו אנו מבינים חברות, כסף, את העצמי וכו'.
• סוגייה מרכזית נוספת קשורה לטענות טמפורליות, בעיקר בהקשר של תיאור אופטימי של הזמן שעתיד לחלוף בטרם יקרה שינוי טכנולוגי מסוים. לרוב זה מלווה בהנחה שהטרנד ברור (למשל, כמות המשתמשים בכלי מסוים רק תגדל), ההצלחה מובטחת, וזה רק עניין של זמן. כסוציולוגיות וסוציולוגים  אנחנו לרוב לא חוזים את העתיד, אבל הדיבור על העתיד בהווה הוא סמן של כוח, יש לו איכויות פרפורמטיביות, ולכן חשוב לשים אליו לב ולבחון אותו.
• סוג נוסף של הייפ נוגע לתפוצה של כלי מסוים– למשל, כמות האנשים המשתמשים במוצר ("כל הצעירים היום בטיקטוק"). גם פה קל יחסית להעריך את ההייפ, בוודאי שלאורך זמן.
• טענות לגבי פוטנציאל כלכלי מהוות סוג נוסף של הייפ– שבא לידי ביטוי בטענות כמו "עד 2025 נגיע לשווי של מיליארד דולר". זה סוג שנלווה לסוגים האחרים של ההייפ כמובן, מהווה תמריץ למשקיעים, ומזכיר לנו שהייפ יכול להיות גם סוג של בועה כלכלית.
• הסוג האחרון נוגע בטיב הטכנולוגיה, כלומר, אלו טענות העוסקות ביכולת הטכנולוגית לבצע דבר מה. למשל, הטענה כי אלגוריתמים יכולים להבין אנשים טוב משהם מבינים את עצמם; לאפיין אנשים בלי צורך בקטגוריות, או לחקור ללא תיאוריה (Anderson 2008). הטענה שאלגוריתמים יכולים להיות סוכני שכנוע, שהם אגנוסטיים לתוכן או שפה, שהם גורמים לרדיקליזציה, ועוד. זה כבר יותר מאתגר, וממספר סיבות.

ראשית, הטכנולוגיה עצמה מהווה קופסה שחורה – לא נגישה ולא מובנת, לעתים גם למפתחיה, וסביב חברות הטכנולוגיה יש חומות משפטיות בצורות. לרובנו גם אין יכולת טכנית לרדת לעומקו של הניתוח האלגוריתמי ולהבין האם מדובר בניתוח מפתיע ומקורי, או סתם הייפ. וגם אם נוכל להבין את הקוד נתקשה להעריך את ההשפעה שלו . דווקא בגלל האתגרים האלה, ארצה להתמקד כאן בהייפים מהסוג האחרון.

אז איך מתמודדים עם הייפים כאלה? איך אנחנו יודעים את מה שאנחנו יודעים לגבי הטכנולוגיה? ואיך אנחנו יודעים שמה שאנחנו יודעים הוא נכון? שישה כללי אצבע:

1. קודם כל, חשוב לזהות דטרמיניזם טכנולוגי ולדחות אותו. כאן אנחנו מתחברים לטענה הSTSית הקלאסית – תמיד יש מישהו בלופ. והמישהו הזה לרוב מוחלש ומוסתר. פעם אחר פעם, טכנולוגיות שמוצגות לנו כאוטונומיות ורבות כוח מתגלות ככאלה המתוחזקות על-ידי עבודה אנושית שקופה  – Ghost Work  .(Gray and Suri 2019)רק לאחרונה תחקיר חשף את העובדים הקנייתים שעבדו דרך חברת קבלן עבור ChatGPT במעבר ידני על תוכן מעורר פלצות. תמיד יש מישהו בלופ.
2. בהתאם, לטכנולוגיה אין סוכנות. זה לא אומר שהיא לא יכולה להיות אקטנטית ברשת של סוכנים (Latour 1996), אבל היא לא גורם אוטונומי. שיח שמתייחס לטכנולוגיה בתור גורם אוטונומי הוא שיח החשוד בהייפ. באותו אופן, שיח שמאניש את הטכנולוגיה צריך להדליק נורה אדומה. אלגוריתמים לא "עושים", "מחליטים" או "חושבים" בעצמם, וההחלטה שלהם לא מנותקת מהקשרים חברתיים-אנושיים רבים ושונים.
    בהקשר הזה, חשוב לשים לב שהמונח AI עצמו הוא מונח רווי הייפ. לקרוא למערכות אלגוריתמיות סטטיסטיות מערכות בעלות “בינה”, זו טענה מוגזמת – הייפית מובהקת – שמשרתת גורמים מסוימים ומסתירה גורמים אחרים.
3. להתחשב בתקדימים – כאמור, המיתוסים המופצים בנוגע ל-AI קיימים עשרות שנים, ולעתים יש להם מבנה דומה מאוד למיתוסים של היום. בנוסף , כמו שבראון ומייקל הראו, בחינה של ציפיות העבר מלמדת על ציפיות העתיד – מה שנקרא, Retrospecting Prospects  .(Brown and Michael 2003). זיהוי דפוסים מוכרים עשוי לברור את המוץ מן התבן.
4. להתחשב בתקדימים – כאמור, המיתוסים המופצים בנוגע ל-AI קיימים עשרות שנים, ולעתים יש להם מבנה דומה מאוד למיתוסים של היום. בנוסף , כמו שבראון ומייקל הראו, בחינה של ציפיות העבר מלמדת על ציפיות העתיד – מה שנקרא, Retrospecting Prospects  .(Brown and Michael 2003). זיהוי דפוסים מוכרים עשוי לברור את המוץ מן התבן.
5. לבחון טענות ספציפיות בביקורתיות – למשל, לשאול: האם מקורות המידע שמפיצים את ההייפ מפרטים לגבי השיטות? מהו סוג הדאטה עליו מבוסס הכלי הטכנולוגי המוצג? מה סוג המבחנים שהכלי עבר? מהי רמת מובהקות? האם הם מדווחים גם על כשלונות, פערים ובעיות? על עובדים בדרום הגלובלי שמעורבים בפיתוח? ככל שהדיווח דל יותר, כך ההייפ עלול להתגלות כחלול יותר. 
6. לזכור על איזה צד מרוחה החמאה –אצל מי הכוח, מי מפיץ את המידע, את מי הפצת המידע משרתת, את מי לא, מה התמריצים הכלכליים להפצה של נרטיב כזה, איזה ערכים זה מנציח, ואיך השתלבות ההייפ או דחייה שלו מייצרת ומשכפלת סדרי כוח.
7. לזכור מה התפקיד הערכי שלנו כסוציולוגיות וסוציולוגים.

כלים שיטתיים יותר כוללים:

פתיחות דיסציפלינארית – קודם כל, לקרוא ספרות אחרת. סוציולוגים מגיעים למסיבה הזו מאוחר. עמיתים ועמיתות שלנו במדעי החברה והרוח עורכים מחקר ביקורתי על אלגוריתמים כבר עשור ויותר, ולתובנות שלהן יש רלוונטיות רבה מאוד לעשיה הסוציולוגית שלנו. בדומה לכך, אנשי STS חוקרים טכנולוגיה כבר עשרות שנים ובהחלט יש מה ללמוד מהם, גם אם הם כתבו על אופניים או כורים גרעיניים.

 מיפוי שיטתי של שופרות ההייפ ושל המרוויחים ממנו – לשאול – האם מה שאני יודע על החברה שאני חוקר חורג מהקו הפרסומי של החברה או המשקיעים שלה? מי משמיע את הטענות הללו? מה הקשר שלו לחברה או למשקיעים שלה? האם ההייפ הוא ברמת המאקרו? המזו? המיקרו? ועוד.

זמן – לפעמים אין ברירה אלא לחכות ולראות מה קורה. אבל זה אומר שבהווה צריך לכתוב באחריות, לא להיסחף יותר מדי אחרי ההייפ, וכאמור, להכיר בפרפורמטיביות שלו ( Callon 2010).

אבל הפתרון העיקרי הוא פתרון אמפירי – לבחון את התופעה הטכנולוגית המדוברת באופן מחקרי, שיטתי. זה יכול להיות מחקר איכותני או כמותני או גם וגם. למשל, אומרים שיש בועות פילטר? אפשר לבדוק את זה באופן כמותי – כמו שאקסל ברונס עשה וטען שאין (Bruns 2019). אומרים שכלי AI הם אוטונומיים ומיוצרים בעיקר בסיליקון וואלי? אז חוקרות וחוקרים מצאו את העובדים בוונצואלה שמתחזקים את הטכנולוגיה הזו בשכר רעב (Posada 2022). אומרים שרשתות חברתיות משחיתות הנוער? אז יוצאים ושואלים בני נוער, כמו שדנה בויד עשתה (boyd 2007). אומרים שאלגוריתמים יחליפו עובדים? ובכן, באיזה היקף, באילו תעשיות ובאילו תפקידים?

מחקרים כאלה לא יספקו לנו תשובה חד משמעית – עדיין יהיו חוקרים שיטענו שיש בועות פילטר, למשל, אבל הם ידגישו את מורכבות המפגש בין אלגוריתמים לחברה, הרבה מעבר לחד מימדיות של ההייפ. ליכולת של הדיסציפלינה שלנו לחקור את החברה באופן אמפירי יש תפקיד מרכזי במחקר שעומד מול ההייפ.

באופן ספציפי יותר, אפשר לראיין משתמשים ולהבין איך הם חווים את הטכנולוגיה. למשל, איך הם מבינים את מידת הפרטיות שלהם, את עומק המעקב אחריהם, את הקשרים החברתיים שלהם, את המעמד שלהם, או את עצמם ברשתות החברתיות. זה מאפשר לדבר על היבטים פנומנולוגיים יותר של ההייפ, שלא בהכרח עוסקים בטיבה של הטכנולוגיה, אבל שעשויים ללמד על מידת ההשפעה של הכלים הטכנולוגיים האלה בפועל.

 אפשר לראיין את האנשים שמפתחים את הטכנולוגיה – ברגע שמדברים איתם, בועת ההייפ מתכווצת. מבינים טוב יותר איך האלגוריתם פועל, מה הוא עושה ומה הוא לא עושה, מה היקף ההשפעה שלו ועוד. זה גם, ואולי בעיקר, מאפשר לזהות את הhumans in the loop. זו גישה שחביבה עלי, ועשיתי את זה בכמה מחקרים עד היום  (למשל – Kotliar 2020; Avnoon, Kotliar, & Rivnai 2023), אבל זו לא מלאכה פשוטה: קשה לגרום למפתחים לדבר על המוצרים שלהם; קשה לגרום להם לחרוג מהשיחים ההייפיים; וקשה לפעמים להבין אם מה שהם אומרים שהכלים שלהם עושים זה באמת מה שהם עושים.

 לכן, חשוב שראיונות כאלה ילוו בהצלבת נתונים, או מה שהאנתרופולוג ניק סיבר כינהscavenger ethnography  (Seaver 2017) – אתנוגרפיה אגרנית האוספת מידע משלל מקורות שישלימו את הריאיון ויתנו מבט רחב יותר. זה כולל ראיונות עם ותצפיות על בעלי תפקידים שונים באותה חברה; מבט היסטורי על האתר של חברה בעזרת  Wayback machline, מבט מעמיק באפליקציה שלה עם ה-walkthrough method , (Light & Burgess 2018) תצפיות  בכנסים, פגישות, מפגשים רלוונטיים ועוד.

 אבל כל זה לא תמיד מספיק. לעתים, כדי להעריך את הייפ, ולהעריך את הטכנולוגיה למרות ההייפ, צריך לפנות למחקר הוליסטי יותר. למשל, במחקר של רפי גרוסגליק ושלי על בינה מלאכותית, מדע המיקרוביום ותזונה מותאמת אישית נתקלנו בהייפ משמעותי מאוד מצד המדענים, החברות, והממסד המדעי כולו – כולם דיברו על מפנה אפיסטמי ואונטולוגי דרמטי שמשנה את מושג "האדם" מן היסוד. אבל ראיונות עם משתמשים באפליקציות, שימוש בה בעצמנו, ראיונות עם מדענים, עובדי הייטק, משתמשים, אנשי קופות חולים, אנשי שיווק, מחקר של האפליקציה עצמה, מחקר של האתר שלהם ועוד, חשפו תמונה אחרת – ניואנסית ומורכבת יותר (Kotliar & Grosglik, 2023).

לבסוף, חשוב להדגיש שגם אם המטרה היא לפזר את עשן ההייפ, הרעיון הוא לא לחשוף את "השקר" שהוא ההייפ, אלא להבין אותו טוב יותר, ולהבין את הטכנולוגיה המתפתחת לאורו. בתוך כך, כאמור, חשוב גם להכיר בתפקיד הפרפורמטיבי, הגנרטיבי של ההייפ. הרי, הייפ הוא גם כר פורה וחשוב לתיאורטיזציה – הוא מאפשר לערער על אמיתות – truisms – סוציולוגיות ואחרות, הוא מאפשר להרחיב את גבולות החשיבה, ולנסח תיאוריה חדשה כמעט בזמן אמת. הייפ הוא גם משאב שמאפשר לאנשים וגם למוסדות לצבור הון מסוגים שונים, לעורר תהליכי לגיטימציה, ליצור גשרים בין מוסדיים ועוד. למשל, הייפ מסייע לחוקרות וחוקרים לזכות בגרנטים או לפרסם מאמרים; הוא עשוי לתת לתחומים אקדמיים אחדים יתרון יחסי על חשבון תחומים אחרים, ואולי להחזיר לאקדמיה חלק מהלגיטימציה שאבדה לה.

אבל גם בהקשרים כאלה חשוב להכיר גם במה שהולך לאיבוד באימוץ של טכנולוגיות כאלה, במי שמנוצל במהלך פיתוחן, ובעיקר, לוודא שאנחנו מדברות ומדברים על מציאות חברתית ממשית ולא על פנטזיות אוטופיסטיות שמשקפות את המאוויים הכלכליים והטכנולוגיים של אחרים.