אנתרופולוגיה לשבת

דן קוטליאר על אופן בו אלגוריתמים מעוצבים על מנת לעצב בחירות של אנשים, ובאופן בו אלגוריתמים יוצרים ”סובייקטים בוחרים”.

מאמר של דן קוטליאר, כיום פוסט דוקטורנט באוניברסית סטנפורד ובעברית, וממש בקרוב חבר סגל בחוג לסוציולוגיה בחיפה, אשר פורסם ב-2020, בכתב העת Science, Technology, and Human Values

בחירה היא מאפיין ברור של המודרניות – המבנה החברתי המודרני מציף אותנו בבחירות, ולעתים קרובות הוא גם מצווה עלינו לבחור. כמו שגידנס כתב: במודרניות המאוחרת, people have no choice but to choose.. הבחירות שלנו גם כרוכות באופן הדוק לזהות שלנו, ולקבוצה החברתית אליה אנחנו משתייכים, ובניגוד למה שכלכלנים או פסיכולוגים יטענו, בחירה היא לא (רק) יציר מוחו וליבו הקודחים של האדם, אלא הבחירות שלנו נובעות מהמבנה החברתי, ולעתים אף מוכתבות על ידו. כלומר, הבחירות שלנו הן תוצרים חברתיים, תרבותיים, שנובעים מנורמות, מהגבלות מבניות, אבל גם מאינטראקציה מורכבת בין מגוון סוכנים – אנושיים, ולא אנושיים, חומריים ולא חומריים.

המאמר של קוטליאר ,Who Gets to Choose? On the Socio-algorithmic Construction of Choice עוסק באחד הסוכנים המרכזיים המעורבים בעיצוב בחירות של אנשים בימינו – אלגוריתמים. מערכות אלגוריתמיות מתפשטות בקצב מהיר כמעט לכל שדה חברתי: אלגוריתמים משפיעים על האופן בו אנשים בוחרים את הסדרה הבאה בה יצפו, את הספר הבא שיקראו, הדירה שיקנו, ואת בני הזוג איתם יצאו. מערכות אלגוריתמיות משמשות גם שוטרים, רופאים ואף שופטים בקבלת החלטות הנוגעות לחיי אדם ממש. כלומר, באופן גובר והולך, אלגוריתמים מנווטים, מגבילים ומעצבים את הבחירות שלנו. או במילים אחרות, אלגוריתמים הם סוכנים (או actants) – יש להם אייג'נסי – יכולת לשנות דברים בעולם. אבל כדי להבין את הסוכנות של אלגוריתמים צריך להבין את הרשת החברתית שסביבם, את מה שגילספי ואחרים כינו "האסמבלז' הסוציו-אלגוריתמי", ובכך מתמקד המאמר.

המאמר מבוסס על עבודת שדה בקרב תעשיית הדאטה אנליטיקס הישראלית, ובפרט בקרב חברות ישראליות שמייצרות את מה שקוטליאר מכנה "אלגוריתמים מעודדי בחירה" – choice inducing algorithms –  מערכות אלגוריתמיות שמעוצבות על מנת להשפיע על בחירות הגולשים.

ראשית, תוך התמקדות בחברה שמאפיינת גולשים לפי תנועות העכבר שלהם, קוטליאר מראה כי אלגוריתמים מעודדי בחירה נובעים מהאנשים שממציאים אותם וכותבים אותם, ומההקשר החברתי הספציפי בו אלגוריתמים כאלה נהגים ונכתבים. למשל, בעוד שהחברה הזו מספקת אנליטיקות אוטומטיות שאמורות לעזור לדחוק (to nudge) אנשים לעבר בחירה, קוטליאר מתאר את "ההבניה של האוטומציה" – האופן בו התובנות האינטואיטיביות של האנשים שעוזרים לעצב את האלגוריתם מתורגמות לשורה של חוקים אלגוריתמיים שרצים באופן אוטומטי, ובלופ אינסופי. קוטליאר מראה עוד כי אפקטיביות הבחירה מוערכת על-ידי מגוון מדדים, שבתורם משפיעים על האופן בו האלגוריתמים נכתבים ופועלים. כלומר אלגוריתמים הם ההתגלמות המקודדת של אנשים מסוימים, במקום מסויים, ובזמן מסויים, והם מושפעים ממגוון סוכנים – אנושיים ולא אנושיים.

אם כן, בחירות של אנשים מעוצבות על-ידי אלגוריתמים, אבל האלגוריתמים הללו מוקפים בסוכנים אחרים – האנשים שמעצבים את האלגוריתמים, המדדים שמודדים את פעולת האלגוריתמים, המעצבים שבונים את האתרים בהם רצים האלגוריתמים ועוד. הסוכנים הללו משפיעים על תוכן האלגוריתמים, ובהתאם, גם על בחירות הגולשים.

בהמשך, קוטליאר מראה כי לחברות שמשתמשות באלגוריתמים יש תפקיד מפתח בתהליך הזה. הן אלה שמחליטות מה הבחירה המתבקשת מהמשתמשים, מעצבות את הסביבה והאופן בו תערך הבחירה, ומכתיבות את "רפרטואר הבחירות" ממנו משתמשים יוכלו לבחור. כלומר, חברות שכאלה מהוות סוכנים חשובים בעלי השפעה של ממש על בחירות הגולשים.

אך זה יותר מכך, קוטליאר טוען כי המצב התעסוקתי, האישי, ואף הרגשי של עובדי החברות שמשתמשות בכלים האלגוריתמיים מביא גם הוא לשינוי באלגוריתמים, ובהתאם, לשינוי בהקשר בו מתעצבות בחירות של אנשים. למשל, בעוד שהחברות הללו מתיימרות פעמים רבות ליצור סוכן אלגוריתמי אוטונומי (המבוסס על בינה מלאכותית ולמידת מכונה), האנשים שעושים שימוש באותה מערכת דורשים להפוך את האלגוריתם לכנוע יותר, נשלט יותר, ואוטונומי פחות. ובכך, הם למעשה דורשים להשתתף באופן אישי בעיצוב בחירות הגולשים, וזאת מתוך הצרכים האישיים, התעסוקתיים ואף הרגשיים שלהם בתוך הארגון בו הם עובדים.

כלומר, אלגוריתמים מעודדי בחירה נובעים מהקשרים ארגוניים ספציפיים, וממערכות יחסים בין-ארגוניות שונות. הקשרים בין חברות היי טק ללקוחות שלהן, כמו גם קשרים בין אנשים בתוך אותן חברות, יכולים להשפיע השפעה של ממש על העיצוב והתפקוד של choice inducing algorithms, ובהתאם, על הבחירות הספציפיות שאלגוריתמים מתוכנתים לעורר.

לבסוף, קוטליאר מראה כי בעוד שאלגוריתמים מעודדי בחירה משחקים תפקיד מפתח בקבלת החלטות של אנשים, כוחם של אלגוריתמים נובע גם מהגמישות שלהם – מהיכולת שלהם לייצר כמעט כל סוג של בחירה. כמו שהמאמר מראה, אלגוריתמים לא מתוכנתים לעודד בחירה מסוימת. במקום, לקוחות שונים עושים בהם שימוש כדי לעודד בחירות במגוון שדות: אותו אלגוריתם יכול לעודד אנשים לקנות נעליים, לקנות בית, או לבחור בן\בת זוג. כלומר, במקום לעודד בחירות ספציפיות, אלגוריתמים משמשים כדי "להמיר אנשים לבוחרים" – להפוך אותם לסובייקטים בוחרים. ולכן, אלגוריתמים הם שחקני מפתח באישוש ועיצוב מחודש של הצורך המודרני הבסיסי  – לבחור.

Image by Maddy Mazur from Pixabay 

עוד על קוטליאר: