אנתרופולוגיה לשבת

במאמר בגליון החדש של סוציולוגיה ישראלית בוחנים נטע אבנון, דן קוטליאר ושירה ריבנאי-בהיר את מדעני הנתונים בישראל ומחברים בין סוציולוגיה של המוסר להעדרו של מוסר מוסכם סביב אלגוריתמים. אבנון (פוסט דוקטורנטית במחלקה לסוציולוגיה ואנתרופולוגיה באוניברסיטת תל אביב), קוטליאר (חבר סגל בחוג לסוציולוגיה באוניברסיטת חיפה) וריבנאי-בהיר (דוקטורנטית במחלקה לסוציולוגיה ואנתרופולוגיה באוניברסיטת בן גוריון) משרטטים את סוגי הגיונות המוסר הקיימים כיום בקרב מדעני הנתונים ומנתחים את יחסי הגומלין בין ההגיונות המוסריים של מדעני נתונים ובין הכלים האלגוריתמיים שהם מפתחים.

בשנים האחרונות התעורר דיון ער אודות אתיקה של אלגוריתמים. חוקרים הצביעו על האופן בו מערכות אלגוריתמיות מביאות לאפליה וגזענות, לאלימות מילולית ופיזית, ואף למלחמות וג'נוסייד (כמו במיאנמר ב-2017, למשל). אחרים הצביעו על הנזקים הסביבתיים הגדולים שנגרמים מכוח המחשוב הדרוש להפעלת מערכות בינה מלאכותית, ואחרים הדגישו את העובדה שאלגוריתמים עתירי נתונים מתבססים לרוב על מעקב חודרני. במקביל, חוקרים, גופי מחקר וחברות מסחריות החלו לעסוק באתיקה של מערכות אלגוריתמיות באופן אינטנסיבי.

אולם, נכון להיום, אתיקה אלגוריתמית נבחנת דרך שלוש פריזמות מרכזיות: זו הרגולטורית – הבוחנת אילו כללים ונורמות יש להכיל כדי לכוון את הספינה הטכנולוגית אל חוף מבטחים; זו הפילוסופית – הבוחנת מהי פעולה אתית ומהו התהליך המחשבתי המאפשר לאתרה; וזו הטכנולוגית – בה מנסים לפתח כלים אלגוריתמיים שקופים יותר, מפלים פחות, שלא מבוססים על מעקב. כך למשל, פילוסופים דנים בדילמת הקרונית, תרגיל מחשבתי במסגרתו דנים באפשרות ההיפותטית בה רכב אוטונומי יאלץ לבחור את מי לדרוס מבין שתי חלופות רעות (20 מבוגרים או שני ילדים? קשישה או חבורה של פושעים?). מחוקקים מפתחים רגולציות שמטבען מתקשות לעמוד בקצב התפתחות הטכנולוגיה; וחברות הטכנולוגיה הגדולות מנסות לעצב את השיח האתי מבעוד מועד, על-ידי ניסוח קודים אתיים והפעלת לוביסטים.

במאמר ״על מה אנחנו מדברים כשאנחנו מדברים על אתיקה אלגוריתמית? המקרה של מדעני נתונים בישראל״, אנחנו מבקשים להכניס את המחשבה הסוציולוגיות לדיון הסוער אודות אתיקה אלגוריתמית, על-בסיס הסוציולוגיה של המוסר. הסוציולוגיה של המוסר רואה במוסר תוצר תרבותי, ושואלת כיצד מערכות מוסריות מתפתחות בחברה וכיצד החברה (ארגונים או יחידים) מאמצת את אותן מערכות. נקודת מבט זו פותחה על ידי לוק בולטנסקי ועמיתיו שהדגישו את השפעתו של המרחב החברתי על התפיסות המוסריות של יחידים ואת יכולת הבחירה מתוך רפרטואר קיים של הגיונות מוסריים.

לאור זאת, אנו טוענים כי אתיקה היא יותר מחקיקה, מקודים אתיים או מתרגילים פילוסופיים – היא תהליך חברתי המשוקע בקונטקסט טכנולוגי, תרבותי ופרופסיונאלי. התבוננות מסוג זה מאפשרת לזהות את הגורמים האתיים השונים הפועלים על "רצפת חדר הייצור" של האלגוריתם, ואת האופן בו אתיקה שכזו מתהווה, מפורשת, או נדחית. באופן ספציפי, מאמר זה מתמקד באנשי מקצוע המשחקים תפקיד מפתח בייצור אלגוריתמי – מדעני נתונים. אנו שואלים, כשמדעני הנתונים מדברים על אתיקה, למה הם מתכוונים?  איך הם מבינים מהי אתיקה אלגוריתמית? ומהם ה"הגיונות המוסריים" המנחים אותם בייצור האלגוריתמים?

באמצעות 60 ראיונות עומק, המאמר מתאר את משטרי המוסר הדומיננטיים של מדעני נתונים ישראלים ואת האופן שבו הם מבינים ומבנים אתיקה אלגוריתמית.

המאמר מציג שלושה הגיונות מוסר מרכזיים: אתיקה כמוסר אישי של היחיד, אתיקה כמקל בגלגלי הקדמה, ואתיקה כמוצר סחיר:

אתיקה כמוסר אישי מתייחס לאתיקה כתכונה של העצמי. היגיון זה מנוגד לקיומו של משטר מוסר קולקטיבי יותר (למשל, קוד אתי מקצועי) ולכן הוא גם מקשה על התנגדות מאורגנת להפרה של צווים מוסריים – אישיים או חברתיים, הפרה שעלולה להתרחש במהלך פיתוחה והפצתה של טכנולוגיה אלגוריתמית. ההיגיון המוסרי הזה מניח משא כבד על כתפיו של היחיד, ועל כתפיו בלבד, ולכן הסיכוי שיהפוך לפעולה של ממש מצומצם ביותר.

אתיקה כמקל בגלגלי הקדמה היא תפיסה המניחה כי אתיקה מוכתבת בהכרח על ידי התפתחות טכנולוגית. הגיון זה מדגיש כי החובה המוסרית העיקרית של מקצועות ההנדסה בכלל, ושל מדע הנתונים בפרט, היא להמשיך ולפתח טכנולוגיות חדשות למרות ההשלכות החברתיות שהפיתוח הטכנולוגי עלול להביא עימו. כלומר, האפשרות של משטר מוסר ממוסד אינה נעדרת כליל מדמיונם של מדעני הנתונים, אך משטר זה הוא בעיקרו מוסר עבודה. במסגרת היגיון זה מדעני נתונים טענו כי הגבלות אתיות על פיתוח טכנולוגי הן חזרה ל"תקופת האבן".

אתיקה כמוצר סחיר רואה באתיקה אלגוריתמית היגיון מוסרי בר מימוש, בעיקר כאשר הוא סחיר. כלומר, זו הכרה בקיומו של משטר מוסר מאורגן רק כשהוא כפוף לכללי השוק. במסגרת היגיון זה, מדעני נתונים ישראלים מתכננים הקמה של חברות סביב עקרונות אתיים, למשל חברות שהמוצר שלהן הוא שמירה על פרטיות. כאן ההגיונות המוסריים ההנדסיים לא רק שאינם מנוגדים לאלה של ההון, אלא מדעני נתונים מסגלים לעצמם את האתוס היזמי, לפיו מקימים חברות סטארט-אפ על מנת למכור אותן ברווח מקסימלי, גם אם המוצר הוא ערך חברתי.

לטענתנו, אף שמדע הנתונים הוא מקצוע חדש, ההגיונות המוסריים הללו מעוגנים בתרבות הטכנוקרטית והליברטריאנית של פרופסיית האם הוותיקה של מקצוע זה – ההנדסה – והם מוֹנעים למעשה את התמסדותו של משטר מוסר קולקטיבי ומוסכם. הממצאים הללו מאפשרים להיטיב ולהבין את ההשלכות החברתיות של אלגוריתמים, ולזהות את יחסי הגומלין בין ההגיונות המוסריים של מדעני נתונים לבין הכלים האלגוריתמיים שהם מפתחים.

מקור לגיף