"> חושבים בשבילך: מבט ביקורתי על אלגוריתמים – בחברת האדם
הירשם לניוזלטר שלנו

חושבים בשבילך: מבט ביקורתי על אלגוריתמים

הסוציולוג פרופ' ערן פישר (האוניברסיטה הפתוחה) כותב לבחברת האדם לרגל יציאת ספרו החדש בהוצאת הקיבוץ המאוחד. בספרו, מנתח פישר את השפעתם החברתית של אלגוריתמים, שחורגת מגבולות של הגדרות טכניות. מעבר לכך, פישר טוען שאף על פי שאלגוריתמים מתקבלים על ידי רבים כעוד כלי המסייע להם בחיי היומיום ותו לא, הם למעשה מפקיעים מהאדם תהליכי קבלת ההחלטות במרחב הפוליטי.

חיינו הולכים ומתמלאים במכשירים דיגיטליים אשר לא רק מתקשרים מידע אלא גם עוקבים אחרינו, מנטרים את הנתונים שאנחנו מייצרים ומעבדים אותם באמצעות אלגוריתמים לכדי ידע עלינו. "חושבים בשבילך" מציע מבט ביקורתי על אלגוריתמים, הגורס כי לצורת ידיעה חדשה זו עשויה להיות השפעה חברתית ופוליטית מרחיקת-לכת. כיוון שאלגוריתמים שואפים לייצר ידע המשוחרר מתהליכים סובייקטיביים, כזה המתעדף שפה מתמטית על פני טבעית, פרפורמטיביות על פני רפלקסיביות, ופוזיטיביזם על פני ביקורתיות, הם גם מערערים על מקומה המרכזי של סובייקטיביות ביצירת ידע על העולם ועל העצמי.

הדעה הרווחת רואה באלגוריתמים מכשירים שמסוגלים להפוך נתוני-עתק לידע אובייקטיבי ונטול-פניות על בני אדם, כזה  שלא מצריך הנחות מוקדמות לגבי המהות האנושית. במקום להסתמך על קביעות אפריוריות – תיאולוגיות, מטפיזיות, פסיכולוגיות, או סוציולוגיות – לגבי המהות האנושית, אלגוריתמים מפענחים דפוסים מתמטיים המתגלים משפע הנתונים שמשתמשים מייצרים המלמדים אותם מה בני אדם עושים, חושבים ורוצים באמת. בניגוד לכך, הטענה המרכזית המוצגת בספר היא כי האפיסטמה האלגוריתמית מושתתת על הנחות באשר למהותם של בני אדם ובאשר לאפשרות להכיר ולדעת אותם. אלגוריתמים מציעים דרך חדשה לדעת את העולם ואת עצמנו. יתרה מכך, ידיעה באמצעות נתוני-עתק משנה את מהות הידיעה, את הדבר שאנחנו מדברים עליו כשאנחנו מדברים על "לדעת". תמורה אפיסטמית זו משנה גם את האובייקטים של הידע — תרבות, פוליטיקה, חברה – בראש ובראשונה את העצמי. במרכזה של מהפכה אפיסטמית זו היא ההבנה והפירוש של בני אדם תוך התעלמות ממרכיב מרכזי באנושיות של המאות האחרונות: סובייקטיביות; אותו מרחב פנימי ביקורתי, אשר מאפשר לנו לא רק לפעול בעולם ולדעת מה אנחנו חושבים ורוצים, אלא גם לבצע מהלך רפלקסיבי בו אנחנו חושבים על מה שאנחנו חושבים, ותוהים לגבי הרצונות שלנו באופן ביקורתי. את הסובייקטיביות קשה לנטר באמצעות נתונים ולכן היא אינה חלק מהאופן בו אלגוריתמים "רואים" בני אדם ומשקפים להם דימוי זה.

הסובייקטיביות, חרף היותה מהות מדומיינת ולא מציאות נתונה, עומדת ביסוד מרבית המוסדות המרכזיים של המודרניות. בתחום הפוליטי, הסובייקט הוא אשר בוחר את נציגיו הפועלים למען האינטרסים שלו; בשוק החופשי, הסובייקט הוא שבוחר אילו מוצרים לרכוש ועל אילו חוזים לחתום; בתחומי המדע והדעת, הסובייקט הוא זה שבכוחו לייצר ידע אובייקטיבי ולהוציא אל הפועל שיפוט אסתטי אותנטי; בתחומי החוק, הסובייקט הוא שנושא באחריות משפטית לפעולותיו; אפילו בתחום הפרטי של יחסים בינאישיים, הסובייקט הוא שבוחר עם מי להתחתן, או אם להתחתן כלל. סובייקטיביות, אם תרצו, היא מאבני הראשה של המודרניות. ואת יסודות הסובייקטיביות מערערים כעת אלגוריתמים.

בהקשר זה, האפיסטמה האלגוריתמית חותרת תחת האופי הביקורתי הטבוע בנרטיב, בפרשנות, בהתבוננות עצמית ובתקשורת הנעשית בשפה טבעית. ידע ביקורתי והבנה עצמית חיוניים להפיכת אנשים מאובייקטים לסובייקטים. במובן זה, גם אם מנועי המלצות יכולים לאפיין את טעמנו ולנבא במה נרצה לצפות, ואף לדעת מה חשבנו על הסרט שצפינו בו — ובהחלט ייתכן שהם יכולים (מאחר שאפשר לחשוב על הטעם שלנו גם במונחים אובייקטיביים), הם בכל זאת חותרים תחת הרעיון של טעם הכרוך בהיות האדם פרויקט של כינון סובייקט, כמו גם תחת המהלכים התבוניים הדרושים להבנייתו. בתנאים אלה, אפילו היכולת לעשות אינטרפלציה מתערערת, ועמה היכולת להפעיל שיקול דעת ביקורתי ולהתנגד לה.

הזיקה בין ידע לסובייקטיביות – המשתנה כעת נגד עינינו – היא היסטורית, מתווכת-מדיה ודיאלקטית. אך לא פחות מכך, היא גם, ותמיד הייתה, פרויקט פוליטי. וזאת בשני מובנים: ראשית, זיקה כזאת נקשרה בהבטחה לשחרור אנושי ולהרחבת תחום החופש שלהם. ושנית, בכך שאין היא מניחה סובייקטיביות כיישות נתונה אלא רואה בה הבניה חברתית שיש לכונן, לתחזק ולהצדיק, ואשר נמצאת תמיד תחת איום מצד תפיסות מתחרות של העצמי; סובייקטיביות אפוא היא פנטזיה הומניסטית המתערערת על ידי הידע האלגוריתמי המשנה גם את תפיסתנו באשר למָהו אדם. במפגש עם מדיה דיגיטלית אנחנו לומדים לוותר על יכולות השיפוט הביקורתי שלנו ולהשליך יהבנו על האופן שבו המדיה משקפת לנו מי אנחנו.

עמוד הספר באתר ההוצאה