ברכות

באוגוסט האחרון, ג'פרי הינטון, זוכה פרס נובל ומי שנחשב למייסד חקר "הdeep learning", הופיע על הבמה מול מובילי תעשיית הAI בכנס הטכנולוגיה AI4, ובמקום לדבר על היכולות החישוביות וה"אינטליגנציה" המתקדמת של הבינה המלאכותית, כפי שאולי היינו מצפים, הוא דיבר על כיוון אחר לגמרי: הוא טען שהמטרה בעיניו היא ללמד את הAI "אינסטינקטים אמהיים" כדי שהן ידאגו לנו וירצו בטובתנו. הדברים האלו תפסו אותי לא רק כאמא חדשה (שעדיין מנסה להבין מה זה אומר אינסטרינקטים אמהיים:) אלא גם כחוקרת ביקורתית של אלגוריתמים. מה המשמעות של מוביל טכנולוגיה עולמי הקורא לפתח אלגוריתמים עם 'אינסטינקטים אמהיים'? 

יחסי אם־ילד הם אחד המודלים התרבותיים המרכזיים שלנו לטיפול (Care) ויחסים תרפויטיים. דמות האם מזוהה עם דאגה ואמפתיה, אך גם עם סמכות שמוצגת כלגיטימית דווקא משום שהיא פועלת לכאורה להגנת וטובת הילד. לכן, כשהינטון מדמה את ה־AI  לאם, הוא אינו רק משתמש במטפורה "חמודה"; הוא מגייס מכלול שלם של משמעויות תרבותיות (רגשיות ותרפויטיות) המוענקות לטכנולוגיה. 

מה קורה אם כן כשאנחנו 'מתרגמות' את הרעיונות האלו לחזונות הטכנולוגיים שלנו? כשאנחנו משתמשות בקטגוריות רגשיות ותרפויטיות לבניית קטגוריות אלגוריתמיות? אחת האפשרויות, אותן הראיתי בעבודת הדוקטרוט שלי שעסקה בדיגיטליזציה אקדמית, היא ששליטה ומעקב אלגוריתמי ממוסגרים יותר ויותר כאקט של טיפול ודאגה לסטודנטים. 

אבל מה שמעניין אותי בפרויקט המחקר הנוכחי אינו רק ההשפעות של החזונות הסוציוטכניים האלה, אלא התהליך שבאמצעותו הם נוצרים. כיצד מושגים רגשיים ותרפויטיים כמו Care מתורגמים לעקרונות תכנון והופכים להיות חלק מהתשתית האלגוריתמית? ומי קובע אילו קטגוריות רגשיות  יוטמעו במערכות אלגוריתמיות?

כדי לענות על השאלות האלו אני בוחנת שלוש זירות מרכזיות : טכנולוגיות חינוכיות  (EdTech) , טכנולוגיות פיננסיות (FinTech) והשיח של מובילי תעשיית הAI, שבו מתעצבים החזונות והרעיונות המלווים את התפתחותן של מערכות הAI. החיבור בין שלושת הזירות האלו, מאפשר לי לבחון את הנדידה של רעיונות ושיחים רגשיים ותרפויטיים בין הקשרים מוסדיים ופרופסיונליים שונים, תוך תשומת לה לתהליכי התרגום שהם עוברים. 

בתחום הEdtech אני ממשיכה ומרחיבה את עבודת הדוקטורט שלי, אשר עסקה בתהליכי דיגיטליזציה של השכלה אקדמית בהקשרים של קפיטליזם רגשי ואקדמי. בעבודה זו התמקדתי בתהליכי הייצור והעיצוב של טכנולוגיות חינוכיות, לצד פרקטיקות ייצור הידע שהן מביאות איתן. לשם כך, ביצעתי תצפית משתתפת בהכשרה של 'מפתחי למידה דיגיטלית', לצד אתנוגרפיה של אוניברסיטה ישראלית שעברה תהליכי דיגיטליזציה. בפרויקט הפוסט דוקטורט, אני מתכוונת להרחיב את נקודות המבט שאספתי במחקר (בעיקר של מפתחות הלמידה הדיגיטלית, ושל מרצים שהיו אמונים על תרגום הקורסים למרחב הדיגיטלי), ולבחון גם את החוויות והפרשנויות של הסטודנטים המשתמשים ומקיימים משא ומתן עם הטכנולוגיות החינוכיות.

בתחום ה- Fintechאני בוחנת פלטפורמות של ייעוץ השקעות אוטומטי  (Robo-Advisors) בדגש על השקעות 'ערכיות' (חברתיות או ירוקות). פרויקט זה ממשיך את עבודת הפוסט דוקטורט שלי בהנחייתם של פרופ' זאב רוזנהק (האוניברסיטה הפתוחה) וד"ר רמי קפלן (אוניברסיטת תל אביב). כאן אני מתמקדת בניתוח הפלטפורמות הדיגיטליות, ובאופן שבו הן מבקשות מהמשתמשים להגדיר את הערכים, ההעדפות והמטרות שלהם, וכיצד אלו מתורגמים לקטגוריות וללוגיקות אלגוריתמיות שמעצבות את המלצות ההשקעה.

לבסוף, בזירה האחרונה אני מנתחת את השיח של מובילי תעשיית ה־AI  והאופן שבו הם מדמיינים את היחסים בין בני אדם לאלגוריתמים. דרך בחינת כנסים, אירועים מתוקשרים ודיוני מדיניות, אני   בוחנת כיצד מושגים כמו טיפול, דאגה ואמפתיה נכנסים לשיח על עתיד ה־ AI  וכיצד רעיונות אלו מייצרים חזונות טכנולוגיים חדשים ומספקים עקרונות לעיצוב ופיתוח של מערכות אלגוריתמיות.  זירה זו מאפשרת לי לבחון את הרעיונות והחזונות שבתוכם מתעצבות המערכות, ולחבר אותם לתהליכים שאני בוחנת בזירות האחרות. 

מבחינה תיאורטית, המחקר מבוסס על חיבור בין שלוש זרמים תיאורטיים מרכזיים: סוציולוגיה של הרגשות והספרות על "קפיטליזם רגשי"  (Emotional Capitalism), -STS (Science and Technology Studies), הספרות הביקורתית על דאטפיקציה (Datafication) וקפיטליזם של מעקב (Surveillance Capitalism). מתוך החיבור בין שלוש המסורות הללו אני מציעה את המושג "Emotionalized Algorithms" שבאמצעותו אבקש להבין כיצד אלגוריתמים ורגשות פועלים ומתעצבים זה באמצעות זה. הטענה שלי היא שרגשות אינם רק דבר שאלגוריתמים מודדים או מגיבים אליו, אלא גם עיקרון שמארגן את האופן שבו הם מדומיינים ומתוכננים. לכן, כדי להבין את הכוח של מערכות אלגוריתמיות כיום, לא מספיק לשאול מה האלגוריתמים עושים לנו, אלא גם איך אנחנו מלמדים אותם 'להרגיש', לדאוג ולטפל בנו, ואילו תפיסות של רגש, טיפול ושליטה נעשות חלק מהטכנולוגיות שמעצבות את חיינו.

לקריאה נוספת: