לפני שלושה שבועות רוז לוקין (Rose Luckin) פרופסור ל-Learner Centered Design ב-University College London פתחה ערוץ YouTube נחמד שבו היא מבקשת להסביר יסודות של ה-AI דרך אפיית עוגות. כמעט לא היתה לי הכרות עם לוקין, מעבר לכך שהיא היתה הכותבת הראשית של ספרון מ-2022 – AI for School Teachers – שבשפה די פשוטה סוקר סוגים שונים של AI תוך שימת דגש על השימוש בהם בסביבות לימודיות. הרעיון מאחורי ערוץ ה-YouTube החדש שלה מאד נחמד, אם כי מצפייה בחמישה הסרטונים הראשונים שעד עכשיו נמצאים בערוץ אני מתרשם שהוא מיועד לאלה שבאמת אינם יודעים דבר על AI. במילים אחרות, הוא בסיסי ביותר, ורחוק מלהעמיק.
אני מבקש להתייחס כאן לחלק מהסרטון השלישי:
Layer By Layer: What The Victoria Sandwich Teaches Us About AI and Neural Networks
בסרטון הזה לוקין מעלה, אולי לא לגמרי בכוונה, סוגיה חשובה מאד בנוגע לתנאים המיטביים שבהם ה-AI יכולה לסייע בלמידה (ראו במיוחד את הקטע בין 11:15 ל- 13:25).
לוקין מספרת על שיחה שהיא ניהלה עם ידידה, מורה להיסטוריה. אותה מורה דיווחה שעל מנת לסייע לתלמידים שלה לכתוב על הגורמים למלחמת האזרחים האנגלית (במאה ה-17) היא המליצה להם לפנות לצ'אטבוט מבוסס ChatGPT שבשימוש בית הספר שלהם ולבקש ממנו להסביר את הגורמים. התלמידים אכן עשו זאת, אבל הם לא היו מרוצים מהתשובות שהם קיבלו. התשובות היו כלליות מדי, ואילו הסטודנטים רצו מידע יותר מפורט. כדי לקבל מידע טוב יותר הם חזרו לצ'אטבוט עם בקשות כמו "ערוך אנליזה עמוקה יותר" או "תן תשובה מורכבת יותר". הפניות האלו עזרו, אבל רק באופן חלקי ומצומצם, ולא הניבו את התשובות המעמיקות להן התלמידים קיוו. על זה לוקין מעירה שהפנייה הראשונית של הסטודנטים היתה מאד כללית, והפנייה הכללית הזאת היתה הבסיס שעליו בקשות ההרחבה יכלו לפעול. במקום זה, היה על הסטודנטים מלכתחילה ליצור פנייה הרבה יותר ממוקדת. בסופו של דבר, מפני שהבקשה להרחיב פעלה על הפנייה הכללית הראשונית, התשובות נשארו ברובד הכללי. לעומת זאת, היא מסבירה:
What they needed to do was make the initial input much more detailed. If they'd put something like "analyze the economic tensions between Charles I and Parliament from 1625 to 1640, specifically considering ship money and monopolies using evidence from primary sources like the petition of rights", they would have got an A grade answer.
ההסבר הזה די הגיוני, ואף משכנע … מלבד בעיה קטנה שנראית לי מאד משמעותית: אם מלכתחילה התלמידים היו יודעים לציין את המתחים הכלכליים בין המלך והפרלמנט, או אם ידעו להעלות שאלה בנוגע למונופולים, סביר להניח שבכלל לא היו צריכים לפנות לצ'אטבוט. הרי אם הם ידעו להתמקד בסוגיות כאלה הם גם היו יודעים היכן למצוא את המידע היותר מדויק שהם ביקשו להשיג.
למה הדבר דומה? לסיפור העממי על הכנת מרק מאבן. הכפריים שבסיפור אמנם התפעלו מטעמו הנפלא של אותו מרק שהנווד הכין, לכאורה, מאבן בלבד. אבל לנו ברור שאותה אבן היתה שולית לעומת כל יתר המצרכים שנוספו למרק במהלך ההכנה. התלמידים בסיפור של לוקין לא היו מרוצים מהתבשיל שהצ'אטבוט שלהם הצליח להכין, ולפי לוקין זה היה מפני שהמרכיבים שהם הביאו לפנייה שלהם היו דלים ודי תפלים. הבאת מצרכים איכותיים יותר היתה, ללא ספק, משביחה את התבשיל. אבל אם הם היו מתחילים עם מצרכים איכותיים יותר, האבן ההתחלתית, או במקרה של התלמידים, הפנייה הכללית הראשונית, היתה מיותרת.
דווקא באותו שבוע שהסרטון של לוקין הופיע ב-YouTube, נתקלתי בסיפור משלים. לארי קובן (Larry Cuban), בבלוג שלו, פרסם כתבה שהופיעה לראשונה ב-Wired לפני שנתיים שנכתבה על ידי שני מרצים בהרווארד – דנה קארוט (Dana Karout) והומן הארוני (Houman Harouni):
קארוט והארוני מתארים ניסוי שהם ערכו עם סטודנטים בהרווארד. הם הציגו בפני הסטודנטים דילמה אתית הקשורה לעבירה על החוק של תלמיד בית ספר. הדילמה היתה שעל אף העובדה שברור שהתלמיד צריך להיענש, כל עונש שהוא יקבל יגרום לסילוקו מבית הספר וכתוצאה הוא עשוי להידרדר עוד יותר לפשע. לאור זה, הסטודנטים התבקשו לדון על העונש הרצוי. תוך כדי הדיון קארוט והארוני הציגו בפני הסטודנטים הצעות שהועלו על ידי ChatGPT. הם מסבירים שההצעות החדשות האלו לא היו טובות יותר מאשר הרעיונות שהסטודנטים העלו בכוחות עצמם – דבר שאליו גם הסטודנטים שמו לב. במילים אחרות, גם ה-AI העלתה הצעות שטנציות וחסרות מעוף. אבל קארוט והארוני כותבים שדווקא בשטנציות הזאת היה יתרון מעניין:
Yet it was after ChatGPT reflected to the students their failure of imagination that they could begin to think of options that they, or any automatic language scrawler, would not have readily reached for. They realized that the case was entirely focused on the perspective of administrators, and that their earlier discussion had had no room for action that involved teachers, students, and Jorge (התלמיד אשר בסיפור), too.
נוצר כאן מצב מעניין, ולטעמי די עצוב. לפי קארוט והארוני, דווקא העדר המעוף של ה-ChatGPT פעל כמנוף חיובי. הרי הוא לא העלה רעיונות חדשים אלא ההפך – הוא חזר על הרעיונות הלא-מעניינים של הסטודנטים. אבל עצם העובדה שהוא לא חידש שום דבר פעל כגורם מדרבן לחשיבה יצירתית יותר אצל הסטודנטים. לכאורה יש כאן תהליך חיובי, אפילו מרשים. אבל באותו הזמן הוא גם מאד מאכזב. אם להאמין למפתחים, כלי AI כמו ChatGPT נמצאים בפסגת היצירה האנושית (ומעבר לה). פיתוח הכלים האלה מצריך מיליארדי דולרים, וכל תשובה שהם מחוללים דורשת כמויות אנגריה אדירות. והנה, התכונה החיובית שקארוט והארוני מוצאים לנכון לשבח היא שחוסר היצירתיות שלהם העמיד את הסטודנטים מול העובדה שהחשיבה שלהם לא היתה מספיק מקורית.
נדמה לי שאפשר היה למצוא דרכים פשוטות, וזולות, יותר להגיע להשיג הזה. אבל אולי בכל זאת יש כאן היבט חיובי. בסיפור של המרק מאבן הכפריים המשיכו להתפעל מנפלאות האבן. אולי (ולצערי, רק אולי) הסטודנטים יכלו להתרשם שה-"קסם" איננו בכלי, אלא בהם עצמם.