אנתרופולוגיה לשבת

בשנים האחרונות החלו להופיע עוד ועוד טכנולוגיות בינה מלאכותית, ובהתאם לכך גבר גם השימוש בהן בכלל תחומי החיים – ובפרט באקדמיה. מריה גרצקי (פוסט-דוקטורנטית במחלקה לסוציולוגיה מדעי המדינה ותקשורת, האוניברסיטה הפתוחה) וגדעון דישון (חבר סגל בבית ספר לחינוך, אוניברסיטת בן גוריון בנגב) פרסמו מאמר בכתב העת Learning, Media and Technology, הבוחן את האינטראקציה המתקיימת בין החוקרים לבין הבינה המלאכותית (LLMS) ואת התפתחותו של מחבר-אלגוריתמי. מה מקומה של אינטראקציה זו במחקר? כיצד האקדמאים תופסים את ה"מחבר-האלגוריתמי"? גרצקי כותבת לבחברת האדם על המחקר והמאמר. 

בסיפור המדע הבדיוני הקצר "Galley Slave" משנת 1957, מתאר אייזק אסימוב אוניברסיטה ששוכרת רובוט חדשני המסוגל לערוך, לשכתב ולחשוב על מאמרים אקדמיים. בתגובה, פרופסור לסוציולוגיה מהאוניברסיטה תובע את החברה המייצרת את הרובוט, בטענה שעבודת הרובוט פגעה במוניטין האקדמי שלו. במהלך הסיפור מתגלה שהפרופסור האשים את הרובוט לשווא, ולמעשה הוא עצמו גרם לרובוט לייצר תוצרים גרועים ומוטים. כשנשאל מדוע שיקר, הפרופסור הסביר: 

"מאה מגעים קיימים בכל שלב ושלב בין אדם לבין יצירתו – והמגע גורם לתענוג ומעניק לאדם תגמול על העבודה שהשקיע ביצירתו… מכונות הכתיבה והדפוס מחסלות חלק מהתהליך, אבל הרובוט שלך יקח מאיתנו את הכל! הרובוט שלך משתלט על ההגות. במהרה, הוא, או רובוטים אחרים, ישתלטו על הכתיבה הראשונית, על חיפוש המקורות, על בדיקת הקטעים ועל בדיקתם מחדש, אולי אפילו גם על הסקת המסקנות. מה ישאר אז למלומד? דבר אחד בלבד – ההחלטה העקרה בדבר הפקודה הבאה שעליו לתת לרובוט.  אני רוצה להציל את הדורות הבאים של עולם המדע שלנו מגיהנום אשר כזה!" 

(אסימוב, 1957)

למעשה, הפרופ' בסיפור מסביר שפחדיו אינם נובעים מטיב התוצרים של הרובוט, אלא מהתהליך שעוברים החוקרים במפגש עמו: תהליך שבו הרובוט החדש נוטל בהדרגה יותר ויותר משימות אקדמיות – תחילה 'טכניות' כמו חיפוש מקורות ועריכה – אך עם הזמן משימות 'מהותיות' יותר ששוללות מהחוקר את היצירתיות והעונג שבכתיבה. 

הציטוט הזה של אסימוב, מהדהד באופן דיי מפתיע את השיח שמתרחש היום, כמעט 70 שנה אחרי באקדמיה, על "רובוטים" חדשים בדמות ChatGPT, קלוד ואחרים (אותם אכנה בטקסט הזה בקצרה LLMs) אשר מתחילים לקחת יותר ויותר משימות אקדמיות כמו עריכה, ניתוח טקסטים, כתיבת מאמרים ועוד. הנרטיבים שמשתקפים מהסיפור – מצד אחד התלהבות מאד גדולה ואימוץ נרחב של הרובוט ברחבי האוניברסיטה ומצד שני פחד וחשש ממנו – הם שתי תגובות נפוצות להתפתחויות טכנולוגיות חדשות לאורך ההיסטוריה.  בכל פעם שיצאה טכנולוגיה חדשה, הייתה גם פנטזיית החלפה שהבטיחה לנו ששנשתחרר מעול העבודה או לחלופין, שנמצא את עצמנו מחוסרי עבודה ומטרה. 

בהתאם, מאז ההשקה הפומבית של ChatGPT בנוב' 2022 נכתבו הררים של מחקר על LLMs באקדמיה, שהתמקדו בעיקר בתוצרים או בהיבטים הפרקטיים של המודלים ובאתגרים או בהזדמנויות שהם מציבים – האם הם מדויקים, אתיים, כיצד הם מאיימים או תורמים לנו? הבעיה עם גישת ה"הייפ" הזו (שדן קוטליאר כתב עליה גם בחברת האדם) היא שהיא נוטה להציג את ה- LLMs ככלים חיצוניים למרקם התרבותי של האקדמיה, ומתעלמת במידה רבה מהאופן שבו מודלי השפה מעצבים את הפרקטיקות והמשמעויות החברתיות ומעוצבים על ידן (Seaver, 2017).

במאמר שהתפרסם לאחרונה בLeraning Media and Technology, ניסינו (גדעון דישון ואני) להתבונן בשיח המקוטב הזה בספקנות ובביקורתיות, מתוך נקודת מבט שלא מניחה שני קצוות מנוגדים שבהם האדם בצד אחד והמכונה בצד השני, אלא מבקשת לבחון את המפגש המורכב בין החוקר ל'מכונת הכתיבה' במרחב האקדמי, ולשאול כיצד הם מעצבים זו את זה, איך מערך העבודה האקדמי משתנה, ואיך תפיסות הידע שלנו משתנות לאור שיתוף הפעולה הגובר בין בני אדם למכונות. 

כדי לענות על שאלות אלו ערכנו 25 ראיונות עומק חצי-מובנים עם חוקרים באוניברסיטאות מחקר ציבוריות בישראל, אשר מגיעים מרקע דיסציפלינרי שונה ומשלבים שונים בקריירה האקדמית. הראיונות נערכו בשנה הראשונה שלאחר השקת ChatGPT3 (נובמבר 2022 עד דצמבר 2023), והתמקדו בפרשנויות של החוקרים את הLLMs, החוויות היומיומיות שלהם באינטראקציה ושימוש במודלים, והפרקטיקות האקדמיות שהם פיתחו. 

במבט ראשון, נראה שהשאלה העומדת במרכז היא פשוטה – "מי כתב את המאמר שלי?" האדם או המכונה? הדיכוטומיה הזו הובילה פעמים רבות בספרות המחקרית לשאלה המכריעה – האם ניתן להתייחס למודל השפה כסוג של מחבר? כפי שטענתי במאמר קודם (Gretzky, 2024) ההכרעה בשאלה זו מחמיצה את המורכבות של המפגש בין החוקר ל- LLMs, מייצרת היררכיה דמיונית בין השניים ומתעלמת מהתהליכים הסוציו-טכניים שמעניינים אותנו בתור אנתרופולוגיות וסוציולוגיות של הטכנולוגיה. 

כדי להתמודד עם מורכבות זו, ביקשתי לבחון את יחסי הגומלין בין האדם למכונה בעיצוב מה שאני מכנה 'Algorittmic-Author' (מתוך Gretzky, 2024). חשוב להדגיש כאן שהמושג 'מחבר-אלגוריתמי' לא נועד לייצר אנתרופומורפיה (האנשה) של מודלי השפה, אלא הוא נשען על מושג "Author-function" של פוקו (1980). בחיבורו המפורסם "מהו מחבר", פוקו מציע לנתח את תפקידו של ה'מחבר' לא דרך ההיסטוריה והמיקום הספציפי של האדם שכתב את הטקסט, אלא קודם כל כפונקציה של השיח המסדירה ומארגנת את אופן יצירת הידע והפצתו. בהמשך לפוקו, בחנו את הופעתו של ה'מחבר-אלגוריתמי' בשיח האקדמי – כמבנה סוציו-טכני המשקף את הניסיונות של חוקרים להבין את את ה-LLMs  ואת האינטראקציה שלהם עם מודלים אלו בהקשרים אקדמיים שונים.

כדי להשלים את התמונה ולהבין את התהוותם של LLMs כטכנולוגיות מתפתחות, פנינו למסגרת התיאורטית של ההבניה החברתית של הטכנולוגיה (SCOT – Social Construction of Technology) של Pinch ו-Bijker. SCOT מציעה שטכנולוגיות אינן מתפתחות רק בשל תכונותיהן הפנימיות, אלא הן שזורות בהקשרים החברתיים שבהם הן מפותחות ומיושמות. לפי גישה זו, קבוצות חברתיות רלוונטיות שונות (למשל חוקרים מרקעים דיסציפלינריים שונים) בעלות אינטרסים פוליטיים וחברתיים שונים, מפתחות מסגרות טכנולוגיות – פרשנויות ומשמעויות שונות שהן מייחסות לטכנולוגיה, ואלה מעצבות את האופן שבו הטכנולוגיה תתפתח, לצד פרקטיקות היישום שלה בתרבות מסוימת (Pinch and Bijker, 1984). 

הניתוח של הממצאים חשף שתי מסגרות טכנולוגיות דומיננטיות המתהוות ביחס ל-LLMs באקדמיה, אותן כינינו "ספריית בבל" ו"סופרפוזיציה" בהשראת הניסוחים של המשתתפים. כל מסגרת כללה לא רק פרשנויות שונות של ה- LLMS, אלא גם פרקטיקות וישומים שונים של הטכנולוגיה. הפרשנויות והפרקטיקות השונות שמצאנו, השתנו בהתאם לקבוצה החברתית הרלוונטית של המשתתפים. כלומר, כל מסגרת טכנולוגית כללה 'תת מסגרות' שהיתה קשורה לפוזיציה החברתית, לרקע הדיסציפלינרי, ולשלב בקריירה האקדמית של המרואיינים איתם שוחחנו.

במסגרת "ספריית בבל", חוקרים ראו בLLMs מאגרי מידע אלגוריתמיים אוניברסליים המייצרים ידע באמצעות תהליכים מתמטיים-חישוביים. השם נגזר מסיפורו של בורחס על ספרייה דמיונית המכילה את כל האפשרויות של צירופי טקסט אפשריים. מה שמעניין במיוחד בתפיסה זו הוא שהיא מובילה לגישה טכנומופרית – גישה המייחסת תכונות מכונה לאדם – ונוצרה מעין "השלכה הפוכה" במסגרתה חוקרים החלו לראות גם את החשיבה האנושית כתהליך סטטיסטי, אלגוריתמי ופורמולי. כלומר, הכתיבה האקדמית עצמה החלה להיתפס כתהליכים הבאים לידי ביטוי באמצעות מבנים קבועים ונוסחאות מוגדרות שניתנות לחיקוי ולשכפול.

במסגרת "הסופרפוזיציה", לעומת זאת, חוקרים ראו ב-LLMs ישויות דינמיות ואינטראקטיביות – מעין שותפים לשיחה או יועצים. כאן, המרואיינים תפסו את המודלים כמערכת שיכולה לקיים בו-זמנית מגוון נקודות מבט ולהתאים את עצמה לפי ההקשר והדיאלוג הספציפי. תפיסה זו הובילה לגישה אנתרופומורפית – להאנשה של המודלים, כאשר החוקרים תיארו את האינטראקציה עם ה-LLMs במונחים אנושיים של שיחה, תקשורת קוליגיאלית ואף יחסים אישיים.

חוקרים שאימצו את מסגרת "ספריית בבל" נטו להשתמש ב-LLMs בעיקר להתאמה לנורמות אקדמיות פורמליות כמו עיצוב מאמרים לפי תבניות מוכרות, ניסוח תקצירים ומכתבי תגובה לסוקרים. לעומתם, חוקרים שאימצו את מסגרת ה"סופרפוזיציה" השתמשו ב-LLMs בעיקר כדי לנווט בנורמות החברתיות הסמויות של התקשורת האקדמית – מיומנויות שלרוב אינן נלמדות באופן פורמלי אלא נרכשות דרך התנסות  ממושכת.

מעניין במיוחד היה לראות כיצד קבוצות שונות באקדמיה פיתחו תת-מסגרות טכנולוגיות שונות- כך למשל, חוקרים ממקצועות ה- STEM נטו לראות  ב LLMs ככלים להתאמת הטקסט שלהם ל'תבניות אקדמיות', פרקטיקה המשקפת את האופי הסטנדרטי והמובנה יותר של הכתיבה המדעית בתחומים אלה. חוקרי מדעי החברה הבחינו בין טקסטים "פורמליים" בעיניהם (כמו מכתבי תגובה לסוקרים, תקצירים לכנסים ועוד) לבין טקסטים 'פרשניים' שתלויים יותר בהקשר ועמדה הספציפית שלהם. חוקרי מדעי הרוח, שהיו הביקורתיים ביותר ביחס שלהם ל-LLMs, הדגישו את הפער בין הטקסטים המוקפדים אך 'חסרי האישיות' שמייצרים המודלים לבין 'כתיבה אנושית אותנטית' הנדרשת בתחומם. מעבר לכך, חוקרים אלו השתמשו במסגרת ההבנה שלהם את ה-LLMs כמדד המבחין בין חוקרים 'טובים' לבין חוקרים המייצרים 'שחזור מכני'. 

דוגמא נוספת להתפתחותן של תת-מסגרות היתה קשורה לשלב של המרואיינים בקריירה האקדמית שלהם. חוקרים בתחילת דרכם, נטו יותר לראות בLLMs כסוג של 'גורו אקדמי' המנחה אותם לנווט בהצלחה בין נורמות אקדמיות פורמליות לבין נורמות אקדמיות לא פורמליות הקשורות לתקשורת קולגיאלית – כמו ניסוח מיילים ויצירת קשרים חדשים עם חוקרים בתחומם. לעומת זאת, חוקרים בכירים וותיקים יותר, השתמשו ב LLMs כמתווך של נורמות לא פורמליות ספציפיות, במקרים של שונות תרבותית או אירועים אישיים ורגשיים. 

במבט רחב יותר, מודלי השפה משנים את האופן שבו ידע ונורמות אקדמיות מועברות ונרכשות. הם הופכים מוסכמות וכללים שהיו פעם סמויים יותר, ושנלמדו בעיקר דרך התנסות ממושכת, לכללים מפורשים קונקרטיים ונגישים המשנים גם את תהליך החניכה האקדמית. בכך, LLMs משמשים לא רק ככלי כתיבה, אלא כסוכנים פעילים בעיצוב הנורמות והפרקטיקות האקדמיות היומיומיות.

המחבר-האלגוריתמי מציב בפנינו מראה המשקפת לא רק את היחסים המתהווים בין אדם למכונה, אלא גם את המתחים והסתירות הפנימיות בתוך האקדמיה עצמה. הפרשנויות השונות שמצאנו – בין "ספריית בבל" ל"סופרפוזיציה", בין טכנומורפיזם לאנתרופומורפיזם, בין כתיבה כתהליך 'מכני' לכתיבה כביטוי 'אותנטי' – אינן רק תגובות לטכנולוגיה חדשה, אלא הן חושפות מתחים ושאלות יסוד לגבי מהו הידע האקדמי והסמכות האינטלקטואלית. האם המחבר-האלגוריתמי מסמן את ראשיתו של "מרחב שלישי" בייצור ידע, שאינו אנושי לגמרי ואינו מכני לגמרי? כיצד טשטוש הגבולות בין האדם למכונה בכתיבה האקדמית עשויה לשנות את מושג המחברות? ומעבר לכל אלה – מה המשמעות של התהליכים הללו למבנים החברתיים והמוסדיים של האקדמיה, שבנויה על הערכת תרומתם האינדיבידואלית של חוקרים? ככל ש LLMs ממשיכים להתפתח ולהתעצב באינטראקציה עם חוקרים, אנו כחוקרים ניצבים בפני אתגר: עלינו לפתח מסגרות שיוכלו להכיל צורות חדשות אלה של מחברות. מושג המחבר-האלגוריתמי מציע מסגרת כזו, המתקדמת מעבר לדיונים בינאריים לקראת הבנה מורכבת יותר של יחסי אדם-מכונה. בחינה תיאורטית כזו עוזרת לנו להימנע מגורלם של המבקרים בספריית בבל של בורחס, שנידונו לשוטט לנצח בעולם שבו הידע ותהליכי יצירתו נשארים מחוץ להישג ידם.

ביבליוגרפיה

Asimov, I. 1957. “Galley Slave.” Galaxy Science Fiction, 315–348.

Foucault, M. 1980. “What Is an Author?” In Language, Counter-Memory, Practice: Selected Essays and Interviews, edited by D. Bouchard, 113–138. Ithaca, NY: Cornell University Press.

Gretzky, M. 2024. The Rise of the Algorithmic Author? A Critical Analysis of Large Language Models in Higher Education. Digital Culture & Education, 15(2), 84-97. (Link).

Pinch, T. J., and W. E. Bijker. 1984. “The Social Construction of Facts and Artefacts: Or How the Sociology of Science and the Sociology of Technology Might Benefit Each Other.” Social Studies of Science 14 (3): 399–441.

Seaver, N. 2017. “Algorithms as Culture: Some Tactics for the Ethnography of Algorithmic Systems.” Big Data and Society 4 (2). https://doi.org/10.1177/2053951717738104

לקריאה נוספת: