מאמרי אורח

כניסתן של טכנולוגיות בינה מלאכותית ואלגוריתמית מתוחכמות שיוצרות טקסטים מרהיבים (ולעיתים גם מוזרים ולא נכונים), מציפה באופן בולט את שאלת מקומו של 'המחבר' ביצירה האלגוריתמית. כיצד כניסת טכנולוגיות אלו תשפיעה על שדה החינוך? מהו מקומו של הסטודנט/חוקר כ'מחבר' כאשר הוא משתמש בטכנולוגיה כזו? ומה מקומה של הסובייקטיביות ביצירת ידע אקדמי?

מריה גרצקי, דוקטורנטית במחלקה לסוציולוגיה ואנתרופולוגיה בבן גוריון ואחת ממארגנות הכנס "טכנולוגיות חינוכיות בראי בין תחומי" שנערך באוניברסיטת בן גוריון ב28.2.23, פתחה את השולחן העגול ״דילמת הבינה: על מקומו של AI בחינוך" עם שאלות אלו. טקסט זה הוצג בתחילת המושב:

בשנת 1967, מבקר הספרות רולאן בארת מפרסם את מאמרו המפורסם "מות המחבר" בו הוא קורא לפרש טקסט לא רק דרך הניסיון להתחקות אחר "כוונת המחבר" שלו, כפי שהיה נהוג בביקורת הספרות המודרנית, אלא דרך הפרשנות של הקורא. לפי בארת, הקורא החדש של הטקסט הספרותי הוא האחראי על שחרור הפוטנציאל החתרני של הטקסט אל העולם, אליו מועברת החובה להביא אל המציאות את האופי הסרבני והאנטי-סמכותני של היצירה הספרותית.

כתגובה למסה הזו (גם אם לא מפורשת) כמה חודשים לאחר מכן מישל פוקו נושא את הרצאתו "מהו מחבר" בו הוא מבקש לבחון את היחסים בין הטקסט לפונקציית "המחבר". פוקו מבקר את ה"הצהרה החלולה שהמחבר נעלם", ומדגים כיצד קריאה כזו משמרת בחשאי את קיומו של המחבר דרך המונחים 'יצירה' ו'כתיבה'. במקום זאת, מציע פוקו "לזהות את המרחב הריק שהיעלמות המחבר השאירה אחריה" ולחקור את המשמעויות החדשות שנסיגתו של המחבר מגלה. דרך דוגמאות שונות מעולם הספרות והמדע, מראה פוקו כיצד פונקציית המחבר שופכת אור על הטקסטים הכתובים ועל פרקטיקות השיח שהם מייצרים.

שתי המסות הללו עוררו הדים רבים עם הופתעתן בסוף שנות ה-60 של המאה הקודמת, אולם נראה שהן רלוונטיות במיוחד בשנים האחרונות ובמיוחד מאז נובמבר 22', לאור התפשטותו בעולם של 'מחבר חדש'; מחבר מטושטש, 'נעלם' ומסתורי, שאף אחד מאיתנו, כולל מי שיצר אותו – לא יודע לפרש ולהסביר מדוע כתב בדיוק את מה שכתב, אילו תהליכים עבר, מאילו שיחים תרבותיים שאב את הידע שהביא לשולחננו, באיזה קונטקסט היסטורי, פוליטי, חברתי מסוים הוא פועל ואילו פרקטיקות שיח חדשות הוא מייצר.

המחבר הזה מוכר לרובנו כ-ChatGPT-3 אשר הופק בנובמבר האחרון על ידי חברת הטכנולוגיה Open-AI. זהו מודל חיזוי שפה המבוסס על כמויות עצומות של ניתוח ועיבוד מידע באינטרנט, והוא מסוגל לייצר פלט בצורת טקסט. אחיו החורגים – טכנולוגיות המבוססות על מודלים של חיזוי שפה – היו קיימים עוד קודם לכן והתפשטו במיוחד בשנים האחרונות מבלי שרובנו שמנו לב, אולם הייחוד של Chat-GPT3 הוא היכולת לקלוט הוראות, ציווים, וניואנסים לשוניים תוך כדי 'שיחה' עם בני אדם, ו'זכירת' השיחות הקודמות איתם.

ההתפשטות של המחבר החדש בעולם מהירה במיוחד: במפגשים חברתיים, בקבוצות ווטסאפ או בשיחות על קפה בעבודה; אנשים מדברים עליו ומשתפים את שיחותיהם האישיות איתו, כותבים בעזרתו שירי אהבה לבני זוגם, מכינים עבודות אקדמיות, משתעשעים בשיחות הומוריסטיות או מבקשים עצות בריאותיות. תופיעה זו נפוצה עד כדי כך שצילומי המסך שלו הפכו לוויראליים בכל פלטפורמות המדיה החברתית. בתוך שבוע צבר המחבר החדש כמיליון 'קוראים-שותפים' וכיום יש לו כ100 מיליון כאלו, ביניהם מרצות, סטודנטיות, תלמידים ומורים.  

חוקרים רבים טענו כי טכנולוגיות AI מקדמות תהליכי דמוקרטיזציה של החינוך, דרך הנגשה וגיוון של הידע, חיזוק השקיפות של התהליך החינוכי וביטול ההיררכיה, וקידום של תהליכי פרסונליזציה של הלמידה. אולם, למרות המאמצים להצגת את המחבר החדש כפתוח ושקוף המתבטאים בכינוי "”Open AI, למעשה, כמעט אף גורם בפעילות של המערך הסוציו-טכני של המחבר החדש אינו שקוף ואינו גלוי לנו ואינו מאפשר בחינה ביקורתית וסובייקטיבית. במושב הנוכחי עסקנו גם בהיבטים האנטי דמוקרטיים של הופעתו של המחבר החדש, ושל פרקטיקות השיח החדשות שהוא מייצר בשדה החינוך.

הפנייה למחבר, טוען פוקו, היא יותר מפנייה אל אינדיבידואל פרטי; יש להבחין בין האינדיבידואל הפרטי לשם "המחבר", משום שהם ממוקמים בקטבים שונים ואינם מתפקדים באופן זהה. שם המחבר אינו מצביע לעבר הדמות החיצונית שיצרה את הטקסט, אלא "נע לאורך גבולות הטקסטים, מיישר ומגדיר את קווי המתאר שלהם, ומאפיין את צורות הקיום שלהם: המחבר מתפקד כמאפיין של צורת-קיום מסוימת של שיח: העובדה שלשיח כלשהו יש שם של מחבר, שאפשר לומר 'זה נכתב בידי זה' או 'זה המחבר של זה', מצביעה על כך שהשיח הזה אינו דיבור יומיומי, זניח, דיבור שמסתלק, שצף ועובר, איננו דיבור שמתכלה מיד, אלא שהוא דיבור שזכאי למעמד מסוים בתרבות נתונה".

במקום זאת מציע פוקו לראות ב'מחבר' מושג נזיל ורב-גוני, נסתר מן הטקסט, ומתגלה דרכו בו זמנית ועדיין ממלא בו תפקיד מסווג וייחדי; כך למשל הוא מאפשר לאסוף ולקבץ יחד מספר טקסטים, מאפשר לתחום אותם (למשל, "כל כתבי פרויד"), להוציא מתוכם טקסטים (למשל, אם יוכח שהספר "אחותי ואני" לא נכתב על ידי ניטשה) לייצר מערכות יחסים בין טקסטים ("שייקספיר המוקדם" לעומת "שייקספיר המאוחר" למשל, או "יצירות בסגנון הרנסאנס האיטלקי") ועוד. בהקשר למקומו של המחבר האלגוריתמי – האם ניתן יהיה לומר שטקסטים מסוימים נכתבו על ידי המחבר החדש וטקסטים אחרים לא? וכיצד ניתן יהיה לייחס למחבר החדש רוח תקופה, הקשר תרבותי או צורת שיח מסוימת?

נראה כי התפיסה המסורתית של מחבר כאינדיבידואל יחיד ואוטונומי אשר מאותגרת אצל פוקו, מעלה שאלות יסודיות גם במקרה של המחבר החדש. שאלות אלו מופנות לא רק כלפי 'המחבר הממשי' – כלומר הקוד האלגוריתמי מול הטקסט עצמו- אלא גם (ואולי בעיקר) כלפי ההקשר החברתי, התרבותי והפוליטי בו המחבר החדש פועל, מנסח ומעצב את צורת הידיעה שלנו.

היכן עומדת ההתפתחות של 3 Chat GPT  ביחס לשינויים אלו וכיצד היא משנה את השדה החינוכי כזירה של עיצוב תהליכי סוציאליזציה וייצור ידע? מהו מקומו של הסטודנט/חוקר כ'מחבר' כאשר הוא משתמש ב-3 Chat GPT? מה מקומה של הסובייקטיביות ושל המיקום (Positionality) ביצירת ידע אקדמי?

על שאלות אלו ונוספות דנו ביום שלישי [28.2.23] באוניברסיטת בן גוריון, בשולחן העגול "דילמת הבינה: על מקומו של AI בחינוך", במסגרת הכנס "טכנולוגיות חינוכיות בראי בין תחומי", אשר עסק בהיבטים ביקורתיים ואינטרדיסציפלינריים של ייצור, שימוש ועיצוב של טכנולוגיות מתקדמות במרחב החינוכי והאקדמי. את השולחן העגול הנחתה מריה גרצקי (אוניברסיטת בן גוריון), והשתתפו בו: כרמל וייסמן (אוניברסיטת תל אביב), ערן פישר (האוניברסיטה הפתוחה), זאב אליצור (משרד החינוך), ואבי ורשבסקי (מנכ"ל Mindcet).

תודה למארגני הכנס: ד"ר חמי רמיאל, ד"ר גידי דישון ומריה גרצקי (אוניברסיטת בן גוריון). תודה נוספת לתומכים בכנס: קבוצת מחקר תרבות חברה וטכנולוגיה, המחלקה לסוציולוגיה ואנתרופולוגיה ובית הספר לחינוך (אוניברסיטת בן גוריון בנגב).