קטגוריה: בינה מלאכותית

בתחילת חודש ספטמבר תומס דייוויד מור (Thomas David Moore), מורה בתיכון, פרסם כתבה ב-EdSurge שבה הוא השתמש במטפורה נחמדה בנוגע לכתיבה באמצעות כלי AI. מור כתב:

Reading an AI-generated text is like eating a jelly bean when you’ve been told to expect a grape. Not bad, but not… real.

המטפורה נחמדה מאד, והיא קולעת לאי-הנוחות שרבים חשים כלפי הטקסטים שכלי LLM מחוללים. אישית, אם הייתי בוחר במטפורה הקשורה לעולם האוכל, הייתי בוחר תיאור של סלט ללא רוטב – מצב שבו המרכיבים ההכרחיים אמנם נמצאים, אבל אין בו המשהו הנוסף שמחבר בין המרכיבים האלה כך שהתוצאה נשארת תפלה וחסרת אופי. (כצמחוני, מטפורות האוכל שלי יחסית מוגבלות.) המטפורה של מור דומה מאד לביקורות הרבות כלפי טקסטים שנוצרו באמצעות ה-AI שהופיעו לאחרונה, פרי עטם של מורים ומרצים רבים שחוששים שההשתלטות של כלי LLM על הכתיבה של סטודנטים פוגעת באיכות העבודות המוגשים להם. הביקורת הזאת מצטרפת לטענה נפוצה נוספת – שההסתמכות על כלי AI פוגעת ביכולות הכתיבה והחשיבה (וגם הלמידה) של אלה שמשתמשים בהם.

מור כותב שה-AI מהווה "איום קיומי" כלפי החינוך, ושהאיום הזה מחייב התייחסות רצינית. הוא מזכיר את המחקר של נטליה קוסמינה (Natalia Kosmyna) שאליו התייחסתי כאן לפני מספר חודשים, ואולי באופן די צפוי, ההתייחסות שלו שטחית למדי. הוא מציין, למשל, שהמחקר ההוא:

found that the use of AI tools diminishes the kind of neural connectivity associated with learning

חשוב להדגיש שהקביעה הפסקנית הזאת איננה מסקנה של המחקר המדובר, גם אם רבים היו מעדיפים מסקנה פשוטה וברורה כזאת.

לא חסרות כתבות מהסוג של מור. נדמה שמידי חודש עוד כמה מתפרסמות, כך שכבר קשה לעקוב אחרי כולן. כפי שציינתי, על פי רוב הביקורת מתחלקת לשני סוגים ראשיים – הסתמיות של התוצרים, או הפגיעה ביכולת החשיבה. התרגלנו עד כדי כך לביקורות האלו שהנטייה הטבעית היא פשוט לרפרף בטקסט לפני שמתייקים את הכתבות ה-"חדשות" תחת כותרת דוגמת "מתי כבר נגיד משהו חדש?". ואני מודה שגם רוב מה שפרסמתי כאן לאחרונה יכול בקלות להיכלל בקטגוריה הזאת. במילים אחרות, גם אם הביקורת במידה רבה מוצדקת, כבר שמענו, והשמענו, אותה מספיק.

לפעמים מופיעות ביקורות מעניינות יותר, כמו המאמר מפברואר השנה של שני מרצים אוסטרלים, רוברט ספארו (Robert Sparrow) וג'ין פלנדי (Gene Flenady):

Bullshit universities: the future of automated education

על אף השם שלכאורה רומז על ביקורת משולחת רסן, מדובר במאמר מעמיק שבוחן את ה-AI ממבט פילוסופי. בהסתמך על ההגדרה של הארי פרנקפורט (Harry Frankfurt), ספארו ופלנדי מתארים את הכתיבה באמצעות כלי LLM כ-bullshit. לפי פרנקפורט יש הבדל בין שקרים או הגזמות שגם אם הם אינם נכונים בכל זאת מעידים על כוונה לשכנע, לבין bullshit – אמירות שלחלוטין תלושות מהתייחסות לאמת (גם אם במקרה הן קולעות לאמת). הם מסבירים שטקסטים המחוללים על ידי כלי LLM נוצרים בלי קשר כלשהו לנסיון לשכנע, אלא שמדובר פשוט ברצף "הגיוני" של מילים, לפחות מבחינה תחבירית.

עוד בחודש אפריל השנה קרלו איאקונו כתב על המאמר של ספארו ופלנדי, והיטיב לתאר את ההבחנה שפרנקפורט מתאר בין השקרן לבין המבלשט:

Frankfurt, in his seminal essay "On Bullshit," drew a crucial distinction. A liar, he argued, knows the truth but intentionally misrepresents it. Lying, paradoxically, requires a certain respect for the truth – you need to know it to subvert it. The bullshitter, however, operates differently. Their defining characteristic is indifference to whether their statements are true or false. Their goal isn't accuracy but effect: to persuade, impress, fill space, or fit in. The output is "phony," whether or not it happens to align with reality is incidental.

לפי התיאור הזה ברור שהתוצרים של כלי LLM מתאימים להגדרה של פרנקפורט. הרי המטרה של הטקסט שה-LLM מחולל (אם בכלל אפשרי לקבוע שיש לו "מטרה") איננו לטעון טענה, או להציג אמת כלשהי, אלא פשוט לשכנע שהוא נראה אמיתי.

מול זה ספארו ופלנדי מעמידים את הכתיבה האנושית. הם טוענים שאם, בשעת הכתיבה, המחשבה שאנחנו מבקשים להביע באמת ברורה לנו, אנחנו יכולים לבדוק את מה שכתבנו ולוודא אם אכן הצלחנו לבטא את אותה המחשבה באופן ברור. הם אינם שוללים את האפשרות שטקסט שכלי LLM מחולל יכול, כמו הטקסט האנושי, להצליח לבטא את המחשבה שלנו. אבל יש הבדל משמעותי, הבדל ששייך לא לתוצאה, אלא לתהליך: הם מדגישים שעל פי רוב תהליך הכתיבה איננו פעולה מכנית שבה אנחנו מעבירים לנייר את המחשבה שגיבשנו לעצמנו, מחשבה שהיא מלכתחילה ברורה לנו, אלא:

writing is often itself the means by which we discover what we think…. Only by choosing the right words, and constructing the right sentence, can we work out what we mean to say—and thus what we think.

לאור זה, הם טוענים שסטודנטים שאינם מתמודדים עם כתיבה של עצמם אלא מאפשרים ל-AI לכתוב בשבילם יתקשו ללמוד לחשוב.

יש הרבה שדי משכנע במאמר של ספארו ופלנדי, אבל באופן אולי קצת פרדוקסלי, עבורי החלק המעניין והחשוב בו איננו הביקורת שלהם כלפי ה-"כתיבה" באמצעות כלי AI, אלא החלק שבו הם מתארים מספר התנגדויות אפשריות לביקורת שלהם. מול ההתנגדות הנוכחית לשימוש בכלי AI בחינוך הם מזכירים לנו שגם הספרים הם טכנולוגיה חינוכית, ושפעם היתה התנגדות גם ללמידה באמצעות ספרים. עבור ספארו ופלנדי הלמידה היא מעשה חברתי, ולאור זה הם שותפים לביקורת שהספר הוא טכנולוגיה אישית, וההסתמכות עליו יכולה לפגוע בפן החברתי של הלמידה. הם גם מודעים לכך שיש כלי AI שיכולים לאפשר "מורים פרטיים" שאולי אינם באיכות של מורה פרטי אנושי, אבל בכל זאת מאפשרים גישה לעולם הידע שעד לא מזמן היה בהישג ידם של מעטים בלבד. לאור זה ההתנגדות לשימוש ב-AI ממשיכה למנוע את הדמוקרטיזציה של הלמידה.

אולי נקודת הביקורת הקולעת ביותר של ספארו ופלנדי היא הטענה כלפי האקדמיה בצורתה הנוכחית – שהיא רחוקה מלהיות מוצלחת. הם מודים ש:

there is truth in the charge that we want to hold AI to a standard that much contemporary education often fails to meet

יש כאן ביקורת חשובה ואף חריפה, וחשוב להבין שהיא איננה מכוונת כלפי ה-AI. ללא ספק ספארו ופלנדי ביקורתיים מאד כלפי הכתיבה באמצעות כלי LLM והקשר, או העדר הקשר, של הכתיבה הזאת למשהו יעיל ושימושי מבחינה לימודית. אבל גם אם מדובר בביקורת נוקבת, הם רחוקים מלהיות הראשונים לכתוב דברים כאלה. לאור זה, בעיני מה שהם כותבים בנוגע למערכות החינוכיות הנוכחיות משמעותי יותר. הרי אם מערכת ההשכלה הגבוהה (וגם המערכת של K12) איננה יכולה לעורר את הסקרנות, את התשוקה לדעת, ואיננה יכולה לפתח את יכולת החשיבה, מה הפלא שסטודנטים מעדיפים לקצר תהליכים באמצעות ה-AI במקום לחשוב בעצמם. במציאות כזאת אולי מגיע לה שהיא תוחלף על ידי ה-AI.

לפני שלושה שבועות רוז לוקין (Rose Luckin) פרופסור ל-Learner Centered Design ב-University College London פתחה ערוץ YouTube נחמד שבו היא מבקשת להסביר יסודות של ה-AI דרך אפיית עוגות. כמעט לא היתה לי הכרות עם לוקין, מעבר לכך שהיא היתה הכותבת הראשית של ספרון מ-2022 – AI for School Teachers – שבשפה די פשוטה סוקר סוגים שונים של AI תוך שימת דגש על השימוש בהם בסביבות לימודיות. הרעיון מאחורי ערוץ ה-YouTube החדש שלה מאד נחמד, אם כי מצפייה בחמישה הסרטונים הראשונים שעד עכשיו נמצאים בערוץ אני מתרשם שהוא מיועד לאלה שבאמת אינם יודעים דבר על AI. במילים אחרות, הוא בסיסי ביותר, ורחוק מלהעמיק.

אני מבקש להתייחס כאן לחלק מהסרטון השלישי:

Layer By Layer: What The Victoria Sandwich Teaches Us About AI and Neural Networks

בסרטון הזה לוקין מעלה, אולי לא לגמרי בכוונה, סוגיה חשובה מאד בנוגע לתנאים המיטביים שבהם ה-AI יכולה לסייע בלמידה (ראו במיוחד את הקטע בין 11:15 ל- 13:25).

לוקין מספרת על שיחה שהיא ניהלה עם ידידה, מורה להיסטוריה. אותה מורה דיווחה שעל מנת לסייע לתלמידים שלה לכתוב על הגורמים למלחמת האזרחים האנגלית (במאה ה-17) היא המליצה להם לפנות לצ'אטבוט מבוסס ChatGPT שבשימוש בית הספר שלהם ולבקש ממנו להסביר את הגורמים. התלמידים אכן עשו זאת, אבל הם לא היו מרוצים מהתשובות שהם קיבלו. התשובות היו כלליות מדי, ואילו הסטודנטים רצו מידע יותר מפורט. כדי לקבל מידע טוב יותר הם חזרו לצ'אטבוט עם בקשות כמו "ערוך אנליזה עמוקה יותר" או "תן תשובה מורכבת יותר". הפניות האלו עזרו, אבל רק באופן חלקי ומצומצם, ולא הניבו את התשובות המעמיקות להן התלמידים קיוו. על זה לוקין מעירה שהפנייה הראשונית של הסטודנטים היתה מאד כללית, והפנייה הכללית הזאת היתה הבסיס שעליו בקשות ההרחבה יכלו לפעול. במקום זה, היה על הסטודנטים מלכתחילה ליצור פנייה הרבה יותר ממוקדת. בסופו של דבר, מפני שהבקשה להרחיב פעלה על הפנייה הכללית הראשונית, התשובות נשארו ברובד הכללי. לעומת זאת, היא מסבירה:

What they needed to do was make the initial input much more detailed. If they'd put something like "analyze the economic tensions between Charles I and Parliament from 1625 to 1640, specifically considering ship money and monopolies using evidence from primary sources like the petition of rights", they would have got an A grade answer.

ההסבר הזה די הגיוני, ואף משכנע … מלבד בעיה קטנה שנראית לי מאד משמעותית: אם מלכתחילה התלמידים היו יודעים לציין את המתחים הכלכליים בין המלך והפרלמנט, או אם ידעו להעלות שאלה בנוגע למונופולים, סביר להניח שבכלל לא היו צריכים לפנות לצ'אטבוט. הרי אם הם ידעו להתמקד בסוגיות כאלה הם גם היו יודעים היכן למצוא את המידע היותר מדויק שהם ביקשו להשיג.

למה הדבר דומה? לסיפור העממי על הכנת מרק מאבן. הכפריים שבסיפור אמנם התפעלו מטעמו הנפלא של אותו מרק שהנווד הכין, לכאורה, מאבן בלבד. אבל לנו ברור שאותה אבן היתה שולית לעומת כל יתר המצרכים שנוספו למרק במהלך ההכנה. התלמידים בסיפור של לוקין לא היו מרוצים מהתבשיל שהצ'אטבוט שלהם הצליח להכין, ולפי לוקין זה היה מפני שהמרכיבים שהם הביאו לפנייה שלהם היו דלים ודי תפלים. הבאת מצרכים איכותיים יותר היתה, ללא ספק, משביחה את התבשיל. אבל אם הם היו מתחילים עם מצרכים איכותיים יותר, האבן ההתחלתית, או במקרה של התלמידים, הפנייה הכללית הראשונית, היתה מיותרת.

דווקא באותו שבוע שהסרטון של לוקין הופיע ב-YouTube, נתקלתי בסיפור משלים. לארי קובן (Larry Cuban), בבלוג שלו, פרסם כתבה שהופיעה לראשונה ב-Wired לפני שנתיים שנכתבה על ידי שני מרצים בהרווארד – דנה קארוט (Dana Karout) והומן הארוני (Houman Harouni):

ChatGPT Is Unoriginal—and Exactly What Humans Need

קארוט והארוני מתארים ניסוי שהם ערכו עם סטודנטים בהרווארד. הם הציגו בפני הסטודנטים דילמה אתית הקשורה לעבירה על החוק של תלמיד בית ספר. הדילמה היתה שעל אף העובדה שברור שהתלמיד צריך להיענש, כל עונש שהוא יקבל יגרום לסילוקו מבית הספר וכתוצאה הוא עשוי להידרדר עוד יותר לפשע. לאור זה, הסטודנטים התבקשו לדון על העונש הרצוי. תוך כדי הדיון קארוט והארוני הציגו בפני הסטודנטים הצעות שהועלו על ידי ChatGPT. הם מסבירים שההצעות החדשות האלו לא היו טובות יותר מאשר הרעיונות שהסטודנטים העלו בכוחות עצמם – דבר שאליו גם הסטודנטים שמו לב. במילים אחרות, גם ה-AI העלתה הצעות שטנציות וחסרות מעוף. אבל קארוט והארוני כותבים שדווקא בשטנציות הזאת היה יתרון מעניין:

Yet it was after ChatGPT reflected to the students their failure of imagination that they could begin to think of options that they, or any automatic language scrawler, would not have readily reached for. They realized that the case was entirely focused on the perspective of administrators, and that their earlier discussion had had no room for action that involved teachers, students, and Jorge (התלמיד אשר בסיפור), too.

נוצר כאן מצב מעניין, ולטעמי די עצוב. לפי קארוט והארוני, דווקא העדר המעוף של ה-ChatGPT פעל כמנוף חיובי. הרי הוא לא העלה רעיונות חדשים אלא ההפך – הוא חזר על הרעיונות הלא-מעניינים של הסטודנטים. אבל עצם העובדה שהוא לא חידש שום דבר פעל כגורם מדרבן לחשיבה יצירתית יותר אצל הסטודנטים. לכאורה יש כאן תהליך חיובי, אפילו מרשים. אבל באותו הזמן הוא גם מאד מאכזב. אם להאמין למפתחים, כלי AI כמו ChatGPT נמצאים בפסגת היצירה האנושית (ומעבר לה). פיתוח הכלים האלה מצריך מיליארדי דולרים, וכל תשובה שהם מחוללים דורשת כמויות אנגריה אדירות. והנה, התכונה החיובית שקארוט והארוני מוצאים לנכון לשבח היא שחוסר היצירתיות שלהם העמיד את הסטודנטים מול העובדה שהחשיבה שלהם לא היתה מספיק מקורית.

נדמה לי שאפשר היה למצוא דרכים פשוטות, וזולות, יותר להגיע להשיג הזה. אבל אולי בכל זאת יש כאן היבט חיובי. בסיפור של המרק מאבן הכפריים המשיכו להתפעל מנפלאות האבן. אולי (ולצערי, רק אולי) הסטודנטים יכלו להתרשם שה-"קסם" איננו בכלי, אלא בהם עצמם.

בשנת 1971 בית משפט בארה"ב קנס את ג'ורג' הריסון בסכום של מעל חצי מיליון דולר עבור פלגיאט של שיר של להקת ה-Chiffons משנת 1963, He's So Fine. מדובר בשירו של הריסון משנת 1970, My Sweet Lord, ואכן, יש דמיון רב בין שני השירים. שירו של הריסון הוא שיר איקוני, והריסון עצמו היה, כמובן, אחד מעמודי התווך של מוסיקת הרוק/פופ. לאור זה, על אף העובדה שקשה היה להכחיש את הדמיון הרב בין השירים, לא היה נעים להצהיר על גניבה של ממש. נדמה לי שזאת הסיבה שבית המשפט טבע מטבע לשון ייחודי וקבע שמה שהריסון עשה היה subconscious plagiarism – פלגיאט של הבלתי-מודע.

נזכרתי בפרשה סביב My Sweet Lord כאשר לפני שבוע קראתי פוסט חדש ב-Substack של קרלו איוקונו (Carlo Iacono) – פוסט, אגב, שבעיני הוא בין המעניינים והמשמעותיים ביותר שקראתי לאחרונה:

The Authenticity Industrial Complex

איוקונו איננו עוסק בפלגיאט, אלא ב-AI, או ליתר דיוק, ביומרה שקיים הבדל תהומי בין הכתיבה של בני האדם לבין זאת של ה-AI. הוא בעצם טוען שהשניים אינם כל כך שונים, במיוחד כאשר מדובר במקוריות, או באותנטיות. הוא כותב:

The authenticity we're so desperate to defend never existed. Every word you write carries the DNA of every word you've read. Every image you create is a recombination of every image you've seen.

ה-Large Language Models הרווחים היום בתחום ה-AI מבוססים על כמות אדירה של טקסטים שמהם הם "לומדים" לחבר משפטים ופסקאות. במהות, המצב הזה איננו שונה מהמצב במוסיקה – כל יוצר מוסיקלי ניזון מיוצרים אחרים, או כמו שג'ון לנון כנראה פעם אמר:

Music is everybody's business. It's only the publishers who think people own it

אבל איוקונו מבקש מאיתנו לבחון את הסוגיה הזאת מהצד ההפוך – שמה שאנחנו לומדים מיכולת הכתיבה המוצלחת של ה-AI איננו שהיא כל כך מוצלחת, אלא שהכתיבה ה-"אנושית" שנהגנו לראות כייחודית היא דווקא די בנאלית. היכולת של ה-AI לחבר טקסטים קוהרנטיים מעמידה בסימן שאלה הטענה שהכתיבה האנושית כל כך ייחודית:

When machines can generate the ten thousandth article about productivity tips, maybe we can finally stop pretending that was ever worth a human mind. When AI can write the corporate newsletter, draft the grant proposal, generate the stock photo, perhaps we can admit these were always inhuman tasks that we forced humans to perform.

הגישה הזאת מאפשרת לנו להבין, למשל, שהאלבום של להקת הבינה המלאכותית Velvet Sundown איננו עדות לכך שה-AI יכולה להפיק מוסיקה איכותית, אלא ההפך: העובדה שקשה להבחין שמדובר בהפקה של AI מעידה על כך שהמוסיקה של להקות אנושיות רבות די רדודה, כך שלא קשה ל-AI להשתוות אליה.

סוגיית המקוריות של ה-AI, או העדרה, מחדדת שאלה נוספת – עד כמה חשוב לנו שהקול הוא קול אנושי? איוקונו, הרי, תהה עד כמה היצירה האנושית נחוצה באיגרת פנימית של חברה, או בהכנת הצעה לקבלת מימון. אבל למה לנו להסתפק באלה? כתבה מהשבוע ב-Technology Review (של MIT) מוסרת לנו ש:

Therapists are turning to ChatGPT. Clients are triggered.

הכתבה מדווחת על מטופל שפתאום הבחין במהלך טיפול פסיכולוגי שהתנהל באמצעות כלי וידיאו שהמטפל שלו פונה ל-ChatGPT. המטופל העיד:

Suddenly, I was watching him use ChatGPT…. He was taking what I was saying and putting it into ChatGPT, and then summarizing or cherry-picking answers.

מטופלת אחרת מספרת שבתוך התכתבות עם התרפיסטית שלה היא מצאה לא רק תשובה לפנייה שלה, אלא גם את הפרומפט שהתרפיסטית השתמשה בו כדי לקבל את התגובה שהיא מסרה למטופלת.

אבל על אף העובדה שהדוגמאות האלו בהחלט מביכות, קשה לפסול את הפנייה לכלי AI כחלק מטיפול תרפויטי. הכתבה מקשרת למחקר שהתפרסם השנה בו תרפיסטים התבקשו להעזר ב-ChatGPT כדי להכין תגובות למגוון פניות אפשריות של מטופלים. מתברר שהמשתתפים במחקר, מעל 800 איש, התקשו להבחין בין התשובות האנושיות, לבין אלה שנוצרו בעזרת ה-AI. הם אפילו קבעו שתגובות ה-AI נראו מתאימות יותר לטיפול מיטבי. בדיקות דומות אחרות, אגב, העלו תוצאות דומות.

יש דוגמאות נוספות. איאן בוגוסט (Ian Bogost), ב-The Atlantic, למשל, מצא שתוכנת AI ייחודית (מבוססת ChatGPT) היטיבה לכתוב סקירת חיים אודות אמא שלו – סקירה שהיה עליו להכין כאשר היא נפטרה. יד על הלב, על אף התחושה המוזרה בפנייה למכונה לכתוב משהו שלפחות על פניו אמור להיות די אישי, הודעות כאלה שמספרות קצת על חיי המת די שטנציות. בגלל זה לא קשה להבין שאם מוסרים ל-AI מספר נתונים אישיים ומכוונים את הטקסט לרמה המבוקשת של רגש, מדובר במלאכה שהיא די מתאימה למכונה. דווקא בדיוק למצב הזה איוקונו מתייחס כאשר הוא כותב:

The Authenticity Industrial Complex wants you to believe that using AI makes you less human. But what if the opposite is true? What if the most human thing you can do is refuse to waste your finite consciousness on tasks that don't require it? What if the most creative act is knowing when not to create?

לאור העובדה שהבלוג הזה עוסק כמעט באופן בלעדי בתקשוב בחינוך, יש טעם לשאול מה הקשר של כל זה לחינוך. אני מודה שאין לי תשובה נחרצת לשאלה הזאת. אמנם עם פרוץ ה-AI לתודעה, שאלת המקוריות של כתיבה של סטודנטים מאד מעסיקה אותנו, אבל יש הבדל גדול בין סטודנטים לבין ג'ורג' הריסון, וברוב המקרים של העתקה (או כתיבה ע"י ChatGPT) בחינוך לא מדובר בפלגיאט של תת-המודע. כמו-כן, גם אם השימוש ב-AI בכתיבת עבודות איננו מומלץ, הוא נראה הרבה פחות בעייתי מאשר השימוש בו בטיפול פסיכולוגי.

אבל אין ספק שהיום, כאשר ל-AI גישה למה שמתקרב למלוא היצירה האנושית, קשה לא להתייחס לשאלות בנוגע למקוריות וליצירתיות. הרי, כפי שקירבי פרגוסון (Kirby Ferguson) מסביר בווידיאו הקלאסי שלו מלפני 15 שנה על תהליך היצירה – Everything is a Remix – ההעתקה, והחיקוי, הם שלב ראשוני והכרחי בתהליך היצירה. בלשון מאד דומה לזאת של איוקונו הוא מכריז:

But creativity isn’t magic. It happens by applying ordinary tools of thought to existing materials, and the soil from which we grow our creations is something we scorn and misunderstand, even though it gives us so much. And that’s copying. Put simply, copying is how we learn. We can’t introduce anything new until we’re fluent in the language of our domain and we do that through emulation.

אנחנו מתקרבים למצב שבו מלוא היצירה האנושית יהיה זמין לשימוש ה-AI, כתשתית להמשך היצירה. אבל מתברר שפחות מאשר זה מביא אותנו למצב של remix לשם היצירה, זה רק מוביל למחזוּר מייגע. נכון לעכשיו, לפחות, ה-AI עדיין זקוקה לעין האנושית כדי להבחין בהבדל בין יצירה של ממש, לבין סתם GIGO.

הדוגמאות שהובאו כאן מעמידות בסימן שאלה את הייחודיות האנושית לעומת המלאכותית של ה-AI, וגם ממחישות שהכתיבה של ה-AI, בדומה לכתיבה האנושית, ניזונה מכל מה שנוצר לפניה. אולי מכל זה אנחנו מגלים עד כמה קשה להיות מקוריים, ובאותו הזמן גם מבינים שלעתים קרובות המקוריות איננה עד כדי כך נחוצה.

הפיסקה הקצרה שבהמשך הופיעה ב-Smart Briefs של ה-ISTE של סוף חודש יולי:

Several overvalued edtech companies that couldn't back up their AI hype with classroom-based efficacy have created a legacy of exaggeration that resulted in 2024's paltry $2.4 billion in venture capital — the lowest investment since 2015. AI's potential can only be realized if edtech companies have a clear understanding of what actually improves learning outcomes and use evidence-based practices to develop products.

יש כאן ביקורת די נוקבת כלפי תחום התקשוב החינוכי, אם כי מדובר בביקורת שמושמעת כבר שנים רבות, ללא קשר למידת ההשקעה של חברות הון הסיכון בתחום. אבל מעבר לכך, מקריאת הפיסקה נדמה שמה שבאמת מדאיגה את אנשי ה-ISTE איננה הערך המפוקפק של המוצרים שפותחו באמצעות הון הסיכון או האפקטיביות האמיתית של אלה, אלא הירידה המשמעותית בהשקעות. קשה להגיד שבזה יש חדש. מזה שנים ה-ISTE, שלכאורה דוגל בקידום הלמידה באמצעות טכנולוגיות חדישות, מדווחת יותר על מצב השוק מאשר על מצב הלמידה בעקבות השימוש בכלי תקשוב למיניהם. ובכל זאת, יש כאן ביקורת די גלויה ואזהרה למשקיעים: אמנם ה-AI בשדה החינוכי מהווה תחום פורה להשקעות ולרווחים, אבל היום בתי הספר אינם מוכנים לקנות כל דבר נוצץ. הם דורשים הוכחה שמה שרוכשים באמת מסייע בלמידה.

ה-Smart Brief הזה מקשר לכתבה של רוד בריסטו (Rod Bristow), לשעבר נשיא Pearson, והיום מנכ"ל של College Online – פרויקט שמתמקד במערכת של קורסים מקוונים למבוגרים בתחום של Higher Technical Qualifications שהם כנראה תחליף לתואר אקדמי. מכותרת הכתבה של בריסטו אפשר להבין שהכתבה כנראה היוותה הבסיס לפיסקה שב-Smart Brief:

Beyond Hype and Fluff: Lessons for AI from 25 Years of EdTech

בריסטו מעיד על עצמו שהוא דוגל בשילוב טכנולוגיות בחינוך (דבר שכמובן הגיוני עבור אדם שהוביל את Pearson). הוא מציין שהטכנולוגיות האלה יכולות להציע פתרונות טובים לבעיות אמיתיות. עם זאת, הוא מודה ש:

we have not seen the widespread transformation in education that technology promised to deliver

ומיד בהמשך הוא מוסיף שבגלל אי-קיום אותה הבטחה, משקיעים נכוו. (שוב, נדמה שהדאגה היא למשקיעים ולא ללומדים שהלמידה שלהם היתה אמורה להיות טובה יותר בעקבות אותן טכנולוגיות.) בריסטו מדגיש שבתקופת הקורונה ההשקעות בתקשוב החינוכי הגיעו לשיא, אבל היום המטוטלת נעה לכיוון ההפוך, וכבר לא נוהרים לרכוש כל פיתוח חדש. הוא כותב שהיום המשקיעים חייבים לשאול "האם זה עובד?". באופן קצת מביך, נדמה שהנחת יסוד אשר בצורך בשאלה הזאת עכשיו היא שעד עכשיו מיעטו לשאול אותה. ובכל זאת, בריסטו מציין שאכן יש הרבה פיתוחים שכן עובדים, כך שאם המשתקיעים יקפידו לשאול את השאלה הזאת לפני שהם יחליטו במה להשקיע, זה יהיה לטובת התחום.

בשלב הזה של הכתבה של בריסטו היה כבר הגיוני לשאול למי הוא פונה. הרי יש בדבריו אזהרה למשקיעים – שעליהם לבדוק היטב אם יש ערך לימודי של ממש בכלים שבהם הם משקטעים כי אחרת רווחיהם ייפגעו. אבל כזכור, רבים אומרים את זה כבר שנים, ועוד לפני הקורונה. וכאן נכנסת ההתייחסות ל-AI. האם ה-AI באמת משנה את התמונה? בריסטו כותב ששיפור הלמידה חייב להיות בבסיס כל טכנולוגיית למידה, במיוחד כאשר מדובר ב-AI. אבל נדמה שיותר מאשר ה-"במיוחד" הזה קשורה למשהו ייחודי ב-AI, הוא פועל כמבוא לפרסום הפרויקט הנוכחי שלו. הרי College Online עוסק בלימודי המשך של מבוגרים, ונדמה שלא בכדי הוא כותב:

There are many areas of great promise, but none more so than the enormous expansion in online access to lifelong learning for working people who are otherwise denied the education they need.

בריסטו מוסיף שבמקום שטכנולוגיות למידה יהיו סתם תוספת, אפשר לשלב אותן ממש ביסוד חוויית הלמידה, והוא מדגיש שהרחבת הנגישות של למידה לאורך החיים יכולה להוות שינוי מהותי לכלכלה ולחברה. בזה אני כמובן מסכים. הלמידה לאורך החיים היא ללא ספק מטרה מאד ראויה, לפרט וגם לחברה. אני גם משוכנע שהתקשוב יכול למלא תפקיד חשוב בלמידה הזאת. אבל דבריו של בריסטו נקראים כקלישאות ריקות. ולמתחיל בקלישאות, כנראה אומרים לו המשך: מכאן בריסטו מסביר לנו על הקשר בין ידע וכישורים. מתברר שצריכים את שניהם. הוא כותב שהיום, בעידן ה-AI, מפני שקל כל כך לרכוש או ליצור ידע דרך חיפוש ברשת או באמצעות ה-AI, נהוג לחשוב שהכישורים חשובים יותר מאשר הידע. אבל הוא מסביר שהכישורים הם ביטוי של ידע, כאשר ללא ידע או מומחיות אין משמעות לכישורים.

האם אנחנו לומדים משהו מכל זה? היה לי מעניין לגלות שבשנים האחרונות ההשקעות של הון הסיכון בכלים תקשוביים בחינוך ירדו באופן משמעותי. דווקא בעקבות הנהירה אחר כלי AI בחינוך התרשמתי שקיים מרדף אחר הדבר הגדול הבא, ושזה מביא לגידול בהשקעות. בנוסף, אני כמובן מעוּדד לקרוא שיש מי שמעמיד את הלמידה לפני הרווחים. אמנם רבים כותבים את זה, אבל לעתים קרובות מדי הגישה הזאת מוצנעת מדי. אני גם חייב להודות שקשה לי לבוא בטענות כלפי כתיבה קלישאתית. הרי לא פעם כאשר אני קורא שוב דברים שפרסמתי כאן (ולפעמים אפילו תוך כדי הכתיבה) אני מזהה לא מעט קלישאות ומילים ריקות שבסך הכל מכסות על כך שהביקורת שלי חוזרת על עצמה. אבל יש משפטים בכתבה של בריסטו ששמים אותי בכיס הקטן. לדוגמה, לקראת סיום בכתבה הוא כותב:

To simultaneously hold the benefits and the risks of AI in a firm embrace, we will need courage, imagination and clarity about the problems to be solved before we get swept up in the hype and fluff.

מילים ריקות הן די אופייניות בנוף הכתיבה על התקשוב החינוכי (עם או בלי התוספת של AI). אבל כאן הן באמת נראות תלושות מאמירה חינוכית כלשהי. בשלב מסוים במהלך קריאת הכתבה של בריסטו חשדתי שדבריו אולי נכתבו על ידי כלי AI. אבל בסופו של דבר החלטתי שה-AI היתה כותבת טוב יותר.

עוד מהימים של המאמר המפורסם של ניקולס קאר ?Is Google Making Us Stupid קיים מאבק על הנרטיב של השפעת הדיגיטליות על החשיבה שלנו. מול אלה שמצדדים בכלים דיגיטליים כמסייעים חיצוניים שמגבירים את היכולות השכליות שלנו יש אלה שטוענים שזמינות הכלים האלה מרדדת את יכולות החשיבה והיצירה הטמונות בנו. כל צד, כמובן, מגייס נתונים על מנת לחזק את דעתו, וספק אם באמת אפשר להגיע להכרעה. אלא אם אחד הצדדים יצליח להביא הוכחה מוחצת – נתונים מהמוח עצמו, למשל.

נטליה קוסמינה (Natalia Kosmyna) מ-MIT היתה החוקרת הראשית של קבוצה שביקשה להשיג הוכחה כזאת. לפני כחודש, במאגר ArXiv שמאפשר הפצה של מחקרים עוד לפני השלב של הערכת עמיתים, קוסמינה פרסמה מחקר בשם:

Your Brain on ChatGPT: Accumulation of Cognitive Debt when Using an AI Assistant for Essay Writing Task

המחקר, בעל בערך 200 עמודים, מתאר ניסוי שבו 54 סטודנטים, עם מגוון רמות של תארים אקדמיים, כולם מאוניברסיטאות יוקרתיות סביב העיר בוסטון, נבדקו בעת כתיבת חיבורים מהסוג הנדרש במבחני SAT (מבחנים לקראת הקבלה למוסדות להשכלה הגבוהה). הסטודנטים חולקו לשלוש קבוצות – קבוצה שמשתתפיה התבקשו לכתוב חיבורים ללא עזרה דיגיטלית כלשהי, קבוצה שמשתתפיה התבקשו לפנות ל-WWW במהלך כתיבת החיבורים שלהם, וקבוצה שמשתתפיה הונחו להיעזר ב-ChatGPT בלבד בכתיבתם. איכות כלל החיבורים נמדדה על ידי קוראים חיצוניים, וגם – וכאן הנקודה שגרמה לכך שהמחקר זכתה לפרסום בעיתונות הכללית – בזמן הכתיבה משתתפי כל הקבוצות חוברו למכשירי EEG. החיבור ל-EEG נעשה על מנת:

to record participants' brain activity in order to assess their cognitive engagement and cognitive load, and to gain a deeper understanding of neural activations during the essay writing task.

קאר, כזכור, דיווח על עצמו – על התחושה הסובייקטיבית שלו, בעקבות הקריאה והשוטטות ב-WWW, כלפי החשיבה ויכולת הריכוז שלו. על פי רוב כך כתבו גם אלה שבאו אחריו. אבל המחקר של קוסמינה ביקשה להתגבר על הסובייקטיביות הזאת. ומה יכול להיות יותר אובייקטיבי מאשר נתונים שבאים ישר מהמוח? המוח, הרי, איננו משקר, ולכן אם באמצעות ה-EEG אפשר למדוד פעילות מוחית נוכל באמת לדעת אם אכן השימוש בכלי LLM משפיע על יכולת החשיבה (או לפחות במקרה הספציפי הזה, על הכתיבה) שלנו.

במחקר עצמו כל המשתתפים כתבו שלושה חיבורים, כאשר עשרים דקות הוקדשו להכנת כל חיבור. הנבדקים נשארו באותה קבוצה (ללא סיוע חיצוני [brain only], פנייה ל-WWW, או שימוש ב-LLM) במהלך הכנת כל שלושה החיבורים. היה גם מפגש רביעי, שבו רק שליש מהנבדקים השתתפו. במפגש הזה הנבדקים שויכו לקבוצה שונה מזאת שהיו בה בשלבים הראשונים.

והממצאים? במחקר עצמו יש, כמובן, סיכום, ומספר לא קטן של מקורות בעיתונות הכללית גם דיווחו עליו. הסקירה ב-Time Magazine ברורה וקלה להבנה:

The researchers found that of the three groups, the ChatGPT users had the lowest brain engagement and consistently underperformed at neural, linguistic and behavioral levels.

(בכתבה ב-Time יש גם סרטון YouTube על המחקר, כולל ראיון עם קוסמינה. נדמה לי שהוא מסכם היטב, ובאופן מספק, גם את המחקר וגם את החשיבה הכללית של קוסמינה לגבי חשיבותו.)

עד כאן (ואני מודה שתמצתתי באופן די גס) קשה להגיד שיש בכל זה משהו מרעיד עולמות. כבר נכתב המון על כך שהכתיבה באמצעות כלי LLM רדודה וחסרת מקוריות. לפני כחצי שנה מיכאל גרליך (Michael Gerlich) דיווח על ממצאים דומים במחקרו AI Tools in Society: Impacts on Cognitive Offloading and the Future of Critical Thinking. ועוד בתחילת 2024 Umberto Leo´n-Domínguez פרסם סקירה מקיפה על Potential Cognitive Risks of Generative Transformer-Based AI Chatbots on Higher Order Executive Functions. ספק אם היינו זקוקים למחקר נוסף על מנת לזהות את התופעה הזאת.

קוראי הבלוג הזה בוודאי יודעים שאני חושש שהשימוש בכלי LLM בתהליך הכתיבה מעודד רדידות ופוגעת באיכות החשיבה. לאור זה היה הגיוני לחשוב שממצאי המחקר של קוסמינה ישמחו אותי. אבל עם כל הכבוד למקצועיות של החוקרים, קשה לי להתלהב ממנו. הבעיה איננה רק המספר המצומצם של משתתפים (ואופיים הדי אחיד). כמו-כן, גם קשה להסיק משהו מהתנאים המאד מלאכותיים של מטלות הכתיבה. הרי ספק אם אנחנו זקוקים למחקר על מנת להגיע למסקנה שהפעילות המוחית של אנשים שכותבים במשך עשרים דקות תהיה גדולה יותר מהפעילות המוחית של אנשים שבסך הכל קיבלו הנחייה להכין פרומפט ולאפשר ל-AI לחולל חיבור עבורם. הייתי מאד מופתע אם זה לא היה המצב.

בין היתר המחקר מצא שאלה שהשתמשו ב-LLM התקשו מאד לצטט מהחיבורים שלהם, כאשר על פי רוב אלה בקבוצה ללא הסיוע הדיגיטלי כן יכלו לעשות זאת. בן שינדל (Ben Shindel) ב-Substack שלו טוען שזה בכלל איננו מפתיע. הרי:

since you didn’t directly write most of the words in your essay, you should have more trouble directly quoting it than someone who typed the essay from scratch.

זה גם איננו מפתיע שהקוראים החיצוניים שהעריכו את החיבורים מצאו שהכתיבה של קבוצת ה-brain only היתה מעניינת יותר. הרי ידוע כבר מזמן שלשון הכתיבה של כלי LLM, גם אם עבודות שהוכנו בדרך הזאת מקבלות ציונים טובים, פחות ציורית ומגוונת מכתיבה "אישית". (אגב, רצוי להוסיף שהנבחנים קיבלו $100 על ההשתתפות במחקר. אני מתאר לעצמי את תחושת הסיפוק של אלה שבמהלך שעה בקושי התאמצו כדי להרוויח את הסכום הזה.)

אבל הבעיה המרכזית שלי עם המחקר של קוסמינה איננה, כפי שכבר ציינתי, שאין חדש בממצאים שלו, וגם לא אוכלוסיית המשתתפים החד גונית והקטנה. מפריע לי מה שנראה לי כיומרה שבעזרת ה-EEG אנחנו לומדים משהו משמעותי. כזכור, החוקרים מצאו פחות פעילות מוחית אצל הקבוצה שהשתמשה ב-LLM. הם הסבירו שהכתיבה ללא סיוע מגבירה את פעילות המוח במגוון תחומים, דבר שגורם לעומס קוגניטיבי גבוה יותר. לעומת זאת, בכתיבה עם סיוע של כלי LLM יש פחות קישוריות עצבית. הם מוסיפים שיתכן שהתחושה של המשתמש ב-LLM תהיה שהמשימה קלה יותר, אבל הפעילות המוחית גם דלה יותר. שינדל מתייחס גם לסוגיה הזאת:

your neural activity when you interact with an LLM and generate an essay will probably be different than someone writing an essay. I mean, at the very least, they involve different activities. Someone writing the essay will be doing a lot more typing, whereas someone generating an essay with an LLM will probably be mousing more, reading more text, and spending more time editing vs writing directly.

(לזה, אגב, אפשר להוסיף – לא ברור אם מי שהשתמש ב-LLM בכלל עשה משהו מעבר להכנסת פרומפט שחולל חיבור, ואחרי זה פשוט נח עד סוף עשרים הדקות.)

ולאור זה, ב-EEG הפעילות המוחית אמנם שונה עבור כל קבוצה, אבל פעילות מוחית שונה איננה בהכרח פעילות איכותית (או ירודה) יותר. בסך הכל פעולות "שכליות" שונות מתבטאות בפעילות מוחית שונה.

אני מודה שההבנה שלי על כיצד המוח פועל מוגבלת ביותר, כולל מה ה-EEG מודד או לא מודד. בזה אני מניח שאינני שונה מהרוב הגדול של האוכלוסייה. סביר להניח שההד הציבורי שהמחקר הזה יצר קשור לכך שהוא נותן חיזוק מדעי לדעה רווחת בציבור, דעה, אגב, שבמידה רבה גם אני שותף לה. אבל אם כל הרצון לאמץ את המסקנות של המחקר של קוסמינה, ולהגיד שהנה, רואים כיצד ההסתמכות על כלי LLM פוגעת ב-חשיבה/למידה/כתיבה שלנו, קשה לא להודות שהמחקר הזה איננו מוכיח דבר.

אני כמובן בעד דרבון החשיבה. בעיניי מדובר באתת המטרות המרכזיות של החינוך. ואם ה-AI מסוגלת לדרבן, מי אני שאתלונן. קרלו איוקונו (Carlo Iacono) חושב שה-AI אכן עושה זאת, ובאופן מוצלח. ב-Substack שלו מתחילת חודש יוני הוא מתאר את התחושה המטלטלת כאשר בעזרת הפנייה ל-AI אנחנו מגלים שמה שחשבנו לנכון מתגלה כמוטעה. איוקונו מתאר תחושה שבה דברים שרק לפני רגע היו לנו ברורים נעשים זרים לנו. הוא כותב שהוא נתקל במצבים כאלה כאשר הוא צופה באנשים שנעזרים בכלי AI, ובעיניו מה שהוא רואה סותר את הדעה הרווחת שהשימוש הזה מוביל לקיצורי דרך ולעצלנות:

When a user crafts what they believe is a perfectly reasonable prompt and receives an AI response that's technically correct but somehow fundamentally off, something remarkable happens. The tool's interpretation becomes a mirror, reflecting back not just what they asked, but the poverty of how they asked it.

הוא כותב שהשמעת המחאה כלפי ה-AI: "לא לזה התכוונתי" היא תחילתה של התבונה.

לפי איוקונו, העובדה שה-AI איננה "מבינה", ולכן גם איננה מבינה את כוונת הפונה, נמצאת בבסיס היתרון שיש ל-AI על המורה האנושי. לעומת המורה שבאופן אמפתי מבקש לגשר על הפערים בין שאלת הפונה לבין השאלה שהיתה ראויה יותר להישאל, ה-AI מציגה, ללא רחמים, את הבעייתיות של השאלה ההתחלתית, ובכך מכריחה את הפונה לשפר אותה. לפי איוקונו:

This is where the magic happens, though magic might be too gentle a word for what's essentially an intellectual demolition. The student, confronted with their own imprecision, must return to the drawing board.

יש משהו כובש בכתיבה של איוקונו. הוא מתאר את תהליך הלמידה כסידרה של הבהרות והזדככויות שדרכן הלומד מבהיר לעצמו את הנושא שהוא מבקש ללמוד. בתהליך הזה ה-AI פועלת כמראה שמשקפת את החשיבה של הפונה, כאשר אותה מראה מבליטה את הנחות היסוד המוטעות, את הטעויות שנמצאות בניסוחים הראשוניים, כך שבהמשך הפונה מגיע להבנה ברורה ועמוקה יותר. איוקונו מכנה את זה:

an "intellectual unravelling" – that sensation of watching your carefully constructed understanding come apart thread by thread, only to be rewoven into something stronger but fundamentally different.

התיאור הזה שונה כמעט בתכלית מהתיאורים המוכרים לנו של השטחיות ושל קיצורי הדרך בשימוש בכלי AI שאותם אנחנו מרבים לקרוא. זה איננו השימוש המזורז ב-AI כדי להפיק עבודה שאפשר להגיש למרצה במהירות ובמינימום מאמץ. התיאור של איוקונו מעורר תקווה, ונדמה לי שכל מי שקורא את התיאור המאוד יפה (והדי ארוך – הצגתי כאן רק חלק קטן) של איוקונו עשוי להגיד "כזה אני רוצה!". אבל על אף הקריאה המהנה, והרצון לראות בתיאור שלו תהליך נפוץ, מצאתי את עצמי שואל אם אולי רק יחידי סגולה יכולים להפיק את התועלת המרשימה הזאת. אויקונו הוא ספרן ותיק באוניברסיטה באוסטרליה שמשלב את ה-AI לתוך עבודתו וחייו. אני חושש שהדרך שבה הוא מתמודד עם ה-AI, משכנעת ככל שתהיה, שונה מאד מהדרך שבה סטודנטים, גם עם הם מקבלים עידוד והכוונה, ישתמשו בה. נדמה לי שחשוב גם להוסיף שעל אף העובדה שההתמודדות שאיוקונו מתאר חיובית ומרשימה, היא גם מזכירה את הפונים ל-ELIZA לפני כמעט 60 שנה, כאשר רבים מאלה ששוחחו איתה קיבלו ללא עוררין את ה-"תשובות" הסתמיות שלה כהזמנה להמשיך את ההתייעצות איתה. ורצוי לזכור שרבים מהאנשים האלה סיימו את השיחות איתה בתחושה שהיא עזרה להם להבהיר דברים לעצמם.

מאז שה-ChatGPT פרץ לתודעה שלנו זכינו לתיאורים רבים של כיצד סטודנטים משתמשים בכלי AI. הרוב המכריע של התיאורים האלה שונים מאד מהתיאור של איוקונו. לפני שבוע זכינו לעוד כתבה על הרגלי הכתיבה של סטודנטים בעידן ה-AI, הפעם של הואה הסו (Hua Hsu) ב-The New Yorker:

What Happens After A.I. Destroys College Writing?

כמעט אין דמיון בין עדויות הסטודנטים שהסו מביאה לבין התהליך שאיוקונו מתאר. בשיחות עם סטודנטים לתואר ראשון ב-New York University, סטודנט אחד סיפר שלא היה לו זמן או חשק לקרוא את המאמר שהמרצה ביקש לקרוא לקראת השיעור ולכן:

“But, obviously, I wasn’t tryin’ to read that.” He had prompted Claude for a summary, but it was too long for him to read in the ten minutes he had before class started. He told me, “I said, ‘Turn it into concise bullet points.’”

סטודנט אחר לכאורה השקיע יותר, לפחות בשלב של לקראת הפנייה ל-AI. הוא ביקר בתערוכת אמנות וצילם עבודות שהוא הגיש ל-Claude כדי לקבל מאמר שאפשר להגיש למרצה. ואז:

After skimming the essay, he felt that the A.I. hadn’t sufficiently addressed the professor’s questions, so he refined the prompt and told it to try again. In the end, Alex’s submission received the equivalent of an A-minus. He said that he had a basic grasp of the paper’s argument, but that if the professor had asked him for specifics he’d have been “so fucked.”

נדמה לי שמשני המקרים האלה ברור שמטרת הסטודנטים לא היתה להיעזר ב-AI כדי לחדד את ההבנה שלהם כלפי הנושאים שעליהם הם למדו, אלא פשוט לצאת ידי חובה בצורה אלגנטית, וכמובן גם כמה שיותר מהר ועם מינימום מאמץ.

הסו, אגב, מבינה את הסטודנטים. היא כותבת שה-AI דורשת מאיתנו לבחון מחדש את מטרת ההשכלה הגבוהה. הרי עד סיום 12 שנות לימוד אנחנו בבית הספר מפני שהמדינה מחייבת זאת ומה שאנחנו לומדים הוא בעיקר לפעול לפי הכללים. לעומת זאת, ההחלטה להמשיך להשכלה הגבוהה היא בחירה, והבחירה הזאת תמיד נעשית מתוך ההבנה שכדי לקבל תעודה עלינו למלא את הדרישות, גם כאשר אלה נראות לנו חסרות תכלית או מיותרות:

But even for the most mercenary of students, the pursuit of a grade or a diploma has come with an ancillary benefit. You’re being taught how to do something difficult, and maybe, along the way, you come to appreciate the process of learning. But the arrival of A.I. means that you can now bypass the process, and the difficulty, altogether.

היא מוסיפה שהסטודנטים של היום גדלים בתקופה שבה החברה מעריכה פעולות מהירות ולא את הדיון האיטי של החשיבה הביקורתית, ולכן הפנייה שלהם לקצר תהליכים בעזרת כלי ה-AI די מובנת.

תוך כדי הקריאה במאמרון של איוקונו הערתי לעצמי שהאינטראקציה בין הלומד לבין ה-AI שהוא מתאר דומה מאד לתהליך הלמידה שמוכר לנו ב-ZPD הוויגוצקיוני. הרי בתיאור של איוקונו ה-AI איננה מקפיצה את הפונה מעבר למה שבמצבו הנוכחי הוא מסוגל להבין. במקום זה, בכך שהיא משקפת את דברי הפונה היא מכוונת אותו באמצעות דחיפות קלות שבסופו של התהליך מובילות לשינוי משמעותי – ללמידה של ממש. מבלי להתכוון (ונדמה לי שעדיין ברור של-AI אין כוונות) היא ממלאת את התפקיד החשוב הזה.

ובכל זאת, האם אנחנו באמת זקוקים ל-AI בשביל זה? ד'ארסי נורמן (D'Arcy Norman), בבלוג שלו, מהרהר על השימוש שלו בכלי AI ועל התלות שהשימוש הזה יוצר אצלו. כמו איוקונו, הוא מוצא שהערך של הכלי נמצא בכך שהוא מחייב אותו להבהיר לעצמו מה הוא חושב ומה הוא עוד צריך ללמוד. אבל אם כך:

if the value is in the process of thinking out loud rather than in the outputs – how can we better foster this practice without coming to rely on generative AI chatbots? How do we create structures and spaces for articulation, reflection, and iterative thinking that don’t require feeding the machine?

דווקא כאשר נורמן בוחן את היחס האמביוולנטי שלו כלפי ה-AI מתברר לו עד כמה הוא מעריך את החשיבה בקול רם. אמנם ה-AI אכן מדרבנת את החשיבה הזאת, אבל התובנה הזאת:

has also reminded me how much I’d rather do that work with other people.

גם אם תהליך הבהרת החשיבה שאיוקונו מתאר באמת קוסם, לא יזיק אם נבדוק אם לא יעיל, וגם מהנה, יותר לעבור אותו בקול רם עם אנשים אחרים.

נדמה לי שלאחרונה אני חוזר על עצמי אפילו יותר מאשר הרגיל. ברור שכולם עושים את זה, ובכל זאת כאשר זה קורה יותר מדי זה נעשה מייגע. אבל הפעם יש סיבה, ואפילו טובה. בשלבי העריכה האחרונים של מאמרון אני בדרך כלל מתמקד אף ורק בעריכה. אני משתדל לשפץ ניסוחים מסורבלים, לחדד נקודות חשובות, לשפר את זרימת הרעיונות, ואם יש לי מזל, גם לתקן שגיאות. מה שאינני עושה הוא לקרוא חומרים חדשים. וכך קרה שמיד עם פרסום המאמרון האחרון עברתי על הדואר של היומיים ה-"חסרים" שהמתין לי, ומצאתי מאמרון חדש ב-Substack של ניקולאס קאר (Nicholas Carr) שטרם קראתי שהופיע טיפה לפני שהקלקתי על "פרסם". לו קראתי, בוודאי הייתי משלב משפט שמצאתי אצל קאר במאמרון שלי:

The real threat AI poses to education isn’t that it encourages cheating. It’s that it discourages learning.

עוד בשלבי העריכה של המאמרון ההוא החלטתי שכדאי לקצר ולכן רצוי לוותר על מספר דוגמאות שאספתי. אבל אם אני כבר מצטט את קאר, יש אולי טעם להאריך ולהביא כאן דברים שנשמטו, וגם להרחיב טיפה. אז – לטוב או לרע, אפשר לראות במאמרון הזה המשך של הקודם.

נדמה לי שקאר מוכר בעיקר בזכות המאמר ?Is Google Making Us Stupid שהתפרסם ב-2008 (ובהמשך הורחב לספר בשם The Shallows). הוא פרסם ספרים רבים ונחשב מבקר חריף אבל גם שקול של טכנולוגיות דיגיטליות. תוך כדי הכנת המאמרון הזה קראתי שוב את המאמר של קאר, והתרשמתי שהוא הרבה פחות חריף מאשר נוטים לחשוב. קאר כותב שהוא חושש שהוא מאבד את היכולת לקרוא טקסטים ארוכים (משום מה היה נהוג אז, ונדמה לי שעדיין היום, לציין את מלחמה ושלום של טולסטוי כדוגמה למה שכבר לא קוראים), אבל קאר גם מציין היבטים חיוביים של הנגישות של הרשת. הוא איננו כותב שהפסקנו לקרוא, אלא שהיום אנחנו קוראים אחרת. כזכור, הוא איננו שולל את האינטרנט, אם כי בעיני הוא איננו מדגיש מספיק את היתרונות הרבים של הזכרון החיצוני הזמין שהרשת מאפשרת, יתרונות שקלייב תומפסון (Clive Thompson) למשל, מתאר בספרו מבערך אותו הזמן, Smarter Than You Think. אבל מדובר בוויכוח מלפני יותר מעשור שכבר איננו מעורר עניין. יתכן שהחדירה המהירה של ה-AI לתוך חיינו מייתרת את הדיון ההיסטורי הזה.

במאמרון החדש שלו קאר מסביר שלפי המחקר ועדויות רבות, אחד משלושה דברים יכול להתרחש כאשר בני אדם נעזרים באוטומציה כדי לבצע משימה שלפני-כן הם ביצעו בעצמם:

• • • המיומנות כלפי אותה פעולה תגדל,
    • המיומנות כלפי אותה פעולה תתנוון,
    • המיומנות כלפי אותה פעולה בכלל לא תתפתח.

כלפי שלושה אלה הוא קובע:

Which scenario plays out hinges on the level of mastery a person brings to the job.

יש לא מעט דוגמאות לאמיתות הקביעה הזאת בנוגע ל-AI. מול הסטודנטים הרבים שכלל לא קוראים את מה שהם מגישים כעבודות בקורסים שלהם (בהזדמנות אני מקווה להתייחס גם לנושא הזה), יש כאלה שפונים אל הכלי כאשר הם כבר בעלי מטען ידע עשיר, ולכן מרוויחים מהשימוש בו. ליאת אייל היא דוגמה טובה. בתגובה למאמרון כאן מלפני חודש ליאת כותבת על:

הסיפוק האדיר שאני חשה כאשר יש לי מחשבה שאותה אני מגלגלת לקו רעיוני או למודל ואז מסבירה אותו לבינה המלאכותית והיא מעבדת אותו באופן מושלם … היא תחושה אדירה.

מרטין וולר, שציטטתי כאן מספר רב של פעמים, מציין משהו דומה. במאמרון בבלוג שלו מתחילת חודש מאי הוא כותב על ההתנסויות שלו עם כלי AI, ומיטיב לתאר כיצד המטען שמביאים לכלי משפיע על יעילות השימוש בו ועל איכות התוצאות:

Overall, I’d say that from an AI perspective, its performance improves the more you have distinctive material for it to work with. That is, if you’re already doing quite well then it can do quite well too. If you don’t have much, or rely on it to do too much, then the results are bland.

יש טעם להוסיף, אגב, שבהמשך וולר מתריע שככל שהכלים האלה יאומנו על התכנים שהם עצמם מייצרים התוצאות ייעשו יותר ויותר תפלים ופחותי ערך.

קאר מסביר שהיות וה-AI של היום ממלאת מגוון רחב של תפקידים, סביר להניח שנפגוש דוגמאות של כל שלוש התגובות האפשריות שהוא מתאר. אבל הוא מציין שהשימוש ב-AI לצורכי כתיבה אצל תלמידים וסטודנטים הוא מקרה מיוחד:

It puts the process of deskilling at education’s core. To automate learning is to subvert learning.

לאור ההערה הזאת, אין זה מפתיע שקאר מתייחס לאותו מחקר שטען שה-AI יכולה להזיק ללמידה שהוזכר כאן במאמרון הקודם. הרי הוא אמנם מכיר בכך שה-AI כן יכולה לסייע, אבל בשדה החינוך הדגש שלו הוא על כיצד היא מגבילה. הניסוח שלו בהחלט קורץ:

Armed with generative AI, a B student can produce A work while turning into a C student.

כצפוי, תוך כדי הכנת המאמרון הזה הופיעו חומרים מעניינים חדשים סביב שאלת השימוש בכלי AI במקצועות העתידיים של הסטודנטים של היום. דריק תומפסון (Derek Thompson) ב-The Atlantic כותב על כך ששוק העבודה של בוגרי ההשכלה הגבוהה הולך ומצטמצם. הוא מביא מספר השארות שמבקשות להסביר את התופעה, וביניהן הסברה שה-AI באמת מתחילה להשפיע על הכלכלה. הוא מצטט כלכלן מהרווארד שמסביר:

When you think from first principles about what generative AI can do, and what jobs it can replace, it’s the kind of things that young college grads have done

הוא מציג גרף מלשכת מפקד האוכלוסין של ארה"ב מחודש מרץ השנה שמראה ששוק העבודה של בוגרי ההשכלה הגבוהה הוא הגרוע ביותר מזה 40 שנה. תומפסון מסביר שהגרף מראה את מה שהיינו מצפים לראות כאשר מקומות העבודה "מעסיקים" מכונות במקום הבוגרים, ומסביר:

As law firms leaned on AI for more paralegal work, and consulting firms realized that five 22-year-olds with ChatGPT could do the work of 20 recent grads, and tech firms turned over their software programming to a handful of superstars working with AI co-pilots, the entry level of America’s white-collar economy would contract.

ואם כל זה איננו מספיק, לקראת סוף חודש אפריל ה-Wall Street Journal פרסם כתבה תחת הכותרת:

The Hottest AI Job of 2023 Is Already Obsolete

מתברר שהנדסת פרומפטים, שעד לפני זמן יחסית קצר נחשבה תפקיד מאד מבטיח (ומכניס), כבר איננה נחוצה. ההשתכללות המתמשכת של כלי ה-AI יצרה מצב שבו הכלים האלה מצליחים "להבין" את הפניות אליהם גם אם ניסוח הפנייה איננו מיטבי. רצוי לזכור שלפני כעשור טענו שבתי הספר צריכים ללמד את התלמידים לקדד, והיום, כמובן, ה-AI מסוגלת לקדד בעצמה. קשה לזכור את הפעם האחרונה שהדרישה הזאת עלתה בבתי הספר. קצב השתנות שוק העבודה כמעט זהה לקצב מתן התגובות של ה-AI.

פיטר גרין (Peter Greene) הוא איש חינוך ותיק. גרין כותב בעיקר על מאמציהם של תומכי הפרטת החינוך בארה"ב לחסל את החינוך הממלכתי שם. אבל הוא גם מבקר, לרוב ביקורת מוצדקת, היבטים שונים של התקשוב החינוכי. ציטטתי אותו כאן כבר שמונה פעמים. בחודש ינואר השנה הוא פרסם מאמרון שעורר בי אי-נוחות, וזה על אף שמצאתי מידה לא קטנה של צדק במה שהוא כתב תחת הכותרת:

AI Is For The Ignorant

אי-הנוחות נבעה מריח האליטיזם שנדף מהכותרת. הרי הרמז ברור – אלה שאינם מבינים שהבינה המלאכותית היא בסך הכל מערכת של מחשבים שפולטת "תשובות" לפניות מבלי שתהיה הבנה של ממש מאחורי אותן תשובות יראו בתשובות האלה "אמת" ולא יבדקו אותן לעומק, ולעתים קרובות יפלו בפח. (כמו עם כמעט כל התייחסות ל-AI בחינוך היום, הכוונה למערכות LLM.) הביקורת של גרין די גורפת – הוא איננו מעוניין להכיר בכך שיש תחומים שבהם ה-AI כן מצליחה להרשים, ולפעמים אף לעזור. לכן גם כאשר מסכימים עם מה שהוא כותב, חשוב להיזהר מהכללות. ואכן, כשקראתי את המאמרון הזה נזהרתי. ובכל זאת ….

גרין פותח עם התייחסות למחקר של שלושה אנשי אקדמיה (שני אמריקאים ואיטלקייה אחת) בתחומי העסקים והשיווק שמהווה בסיס לטענה אשר בכותרת המאמרון שלו:

Lower Artificial Intelligence Literacy Predicts Greater AI Receptivity

הכותבים מתארים מחקר שהם ערכו על מנת לבחון אם קיים קשר בין הבנה של מה ה-AI עושה לבין הנכונות להאמין לתשובות שמקבלים מהפניות לכלים האלה. (הקישור למעלה הוא לתקציר. המאמר במלואו, שמתאר בפרוטרוט את תהליך עריכת המחקר, נמצא כאן.) הם מסבירים שהם בדקו:

the relationship between consumers’ AI literacy (i.e., their objective knowledge about AI) and their AI receptivity (i.e., proclivity towards AI usage).

ובהמשך הם מסיקים:

Though most people forecast that consumers with greater AI literacy are more receptive to AI, we theorize and demonstrate that it is those with lower AI literacy who exhibit greater AI receptivity— a relationship we refer to as the lower literacy-higher receptivity link.

ההסבר שלהם איננו צריך להפתיע: מי שאיננו "מבין" מה ה-AI עושה (כאילו אפשר באמת "להבין") חש שמתרחש קסם. וזה להבדיל מאנשים בעלי אוריינות AI גבוהה שמבינים שאפילו אם ביצועי הכלי נראים אנושיים, אלה אינם באמת מעידים על חשיבה אנושית:

people with lower AI literacy perceive AI’s execution of such tasks as more magical and experience greater feelings of awe when thinking about AI executing such tasks.

למען האמת, ההסבר הזה די משכנע, וכאשר קראתי אותו ציפיתי שמסקנת החוקרים תהיה שמערכות החינוך חייבות לפתח אוריינות AI אצל תלמידים וסטודנטים. אבל כבר בתקציר המאמר הציפייה הזאת מתבדה. החוקרים, הרי, באים מתחומי העסקים והשיווק, ולכן לדעתם כדאי ורצוי לנצל את המצב הזה:

These findings suggest that companies may benefit from shifting their marketing efforts and product development toward consumers with lower AI literacy. In addition, efforts to demystify AI may inadvertently reduce its appeal.

אני מניח שהטענה הזאת מעוררת אי-נוחות לא רק אצלי, אלא אצל אנשי חינוך רבים אחרים. אבל עורכי המחקר אינם אנשי חינוך, ומבחינתם היא בהחלט הגיונית. בעולם השיווק מוצרי AI אינם שונים מכל מוצר אחר שמבקשים לשווק, ומה שיותר נוצץ יותר נמכר. לחוקרים, כמובן, אין שום מחויבות לחינוך. מטרתם הגדלת המכירות. מתברר שהאליטיזם שממנו חששתי איננו אצל גרין שקובל על כך שקל לרמות צרכנים/משתמשים, אלא אצל המשווקים שמבחינתם עדיף לשמור על קהל יעד בור.

גם דן כהן (Dan Cohen), דיקן הספרייה ופרופסור להיסטוריה באוניברסיטת נורת'איסטרן אשר בבוסטון, מבקש לבחון מי עשוי להרוויח מהשימוש בכלי AI בתחום החינוך. במאמרון בבלוג שלו, גם הוא מינואר השנה, כהן מדווח על מחקר (ראו – Generative AI Can Harm Learning) שבו תלמידי תיכון בקורס מתמטיקה חולקו לשתי קבוצות – לאחת אפשרו שימוש חופשי בכלי דומה ל-ChatGPT-4, ואילו לשנייה אפשרו שימוש בגרסה מצומצמת ומוגבלת יותר של ChatGPT שלא הגיש תשובות אלא העניקה רק רמזים.

כאשר שתי הקבוצות נבחנו על מה שלמדו, כל עוד חברי הקבוצה הראשונה המשיכו להשתמש בכלי היה שיפור משמעותי בציונים, אבל כאשר הם לא הורשו להשתמש בכלי היתה ירידה משמעותית בציונים. אצל חברי הקבוצה השנייה היה שיפור מתון יותר בציונים, אבל הוא נשמר לעבר זמן, גם ללא השימוש בכלי. כהן מדגיש את ההבדל בין שני השימושים האלה – מתן תשובות מהירות לעומת עידוד החשיבה באמצעות הכוונה ורמזים. עבור כהן זה מחדד שאלה מרכזית:

Are we using AI to enhance learning, or to replace some learning steps that turn out to be essential?

היום איננו מתנגדים לשימוש בחישובית, או בודק האיות אשר ב-Word. ברור לנו שבחייהם המקצועיים העתידיים התלמידים שלנו ישתמשו בכלי AI באופן חושפי. בגלל זה דווקא רצוי שהם יכירו, וישתמשו, בכלים האלה כבר עכשיו. אבל כהן מדגיש שבעולם העסקים של היום:

Employers are already realizing that a relative novice armed with AI, although perhaps competent enough to get work done, is far less valuable than an experienced practitioner who has a sturdy mental model of a domain.

נוצר מצב מעניין שבו מצד אחד העדר אוריינות AI אצל משתמשים מגבירה את היכולת לשווק להם כלים כאלה, ואילו מצד שני אוריינות "מסורתית" וכללית יותר אצל המשתמשים מגבירה את יכולתם לתפקד בעולם העבודה, כולל בעולם שבו הם ישתמשו בכלי AI. כהן מתריע על בעיה שנובעת מקיצורי דרך שיוצרים תשתיות ידע רעועות. הוא טוען שבעולם של התפתחות מזורזת בתחומים מדעיים ההסתמכות על AI מדלגת על שלבי הביניים הדרושים כדי להפוך לאנשי מדע מוצלחים. הוא כותב:

This, paradoxically, leads to a chasm in the profession in which there is no experiential on-ramp to the fast lane of the principal investigator, no training that gives you the rich base of knowledge and intuition needed to develop your field further.

זאת איננה בעיה במדעים בלבד. אפשר לזהות אותה גם אצל עורכי דין זוטרים שהעבודות הראשונות ה-"מסורתיות" שלהם נעשות היום על ידי ה-AI, או באקדמיה כאשר אין צורך בדוקטורנטים כעוזרי הוראה מפני שה-AI יכולה למלא את התפקיד שלהם הרבה יותר בזול. יתכן מאד שה-AI תמחק את רכישת המומחיות ואת מסלולי הקידום, ונגלה שאמנם ה-AI יכולה לעשות את מה שהאנשים האלה אמורים לעשות היום, אבל זה יהיה במחיר של הגבלת ההתקדמות המקצועית הדרושה כדי למלא תפקידים בכירים בתחום מחר.

נדמה לי שיש נקודת ההשקה בין דבריו של גרין לבין אלה של כהן. במקרה של גרין (או ליתר דיוק של חוקרי השיווק) הצלחת הפצת ה-AI דורשת בורות, ואילו אצל כהן הצלחת ה-AI מנציחה את הבורות (או לפחות הבינוניות).

אני מודה שזה די מוזר. אני עוסק בתקשוב החינוכי כבר יותר משלושים שנה, ועל אף האכזבות אני עדיין נאמן לתקווה ששימוש נבון בכלים דיגיטליים יכול לקדם למידה הומניסטית איכותית. והנה, בשנים האחרונות נדמה שהרוב הגדול של מה שאני כותב כאן (בבלוג שהוא כבר כמעט בן 20) מצביע על הפגמים של התחום. לפעמים נדמה שהכתיבה כאן היא היפוך של פרשת בלעם – תחילה באתי לברך אך על פי רוב אני יוצא מקלל. פעם אחר פעם אני מביע אכזבה על כך שבמקום שהכלים החדשים שחודרים לתוך הכיתה ישפיעו באופן משמעותי וחיובי על הלמידה, הם מקבעים דרכי הוראה ולמידה מיושנות. אפשר אולי להבין זאת כדוגמה משכנעת של You Always Hurt the One You Love. אבל אפילו אם הביקורת שאני מביע כאן מוצדקת, החזרה המתמדת עליה נעשית כבר מוגזמת. הרי לגיטימי לשאול אם אין לי ביקורת גם על המתנגדים לתקשוב בחינוך. והנה, על מנת לאזן טיפה את הדברים, הגיע הזמן להשמיע קצת ביקורת על המבקרים.

אינני זוכר את המסלול המדויק. היה זה בוודאי דרך קישור בתוך קישור אחר שהגעתי, בחודש שעבר, למאמרון ב-Substack של זוג שגר בקנדה – פקו ורות גסקובסקי (Peco and Ruth Gaskovski) שלקריאת כותרתו דווקא ציפיתי שאני עשוי להזדהות:

Learning, Fast and Slow: Why AI will not revolutionize education

כידוע, אינני רואה ב-AI מושיע חינוכי, והקריצה בכותרת לעבודתם של טברסקי וכהנמן עוררה את הסקרנות שלי. אבל די מהר הציפיה למשהו מעמיק התבדתה. התרשמתי שהמטפורה של מהר ולאט במסגרת של הלמידה איננה אלא תירוץ לעטוף גישות למידה מיושנות בלבוש אופנתי. הזוג גסקובסקי בעצם ביקש לנגוח בשימוש ב-AI בחינוך, ובתקשוב באופן כללי, בטענה שלמידה "אמיתית" מתרחשת תוך עשיית מאמץ. כבר מספר פעמים בעבר כתבתי שעל אף הכמיהה ללמידת האינסטנט של Neo ("אני יודע קונג פו!") של רבים ממחייבי התקשוב, התפיסה הזאת בעייתית ואפילו מגוכחת. אבל אין זה אומר, כפי שהזוג גסקובסקי שואל:

Should education even be disrupted? What if there is nothing wrong with the fact that we need human teachers, physical books, and classrooms of students who sometimes struggle with learning, but mostly, eventually, figure things out, develop their tortoise legs, and start to run like hares? Maybe we’ve hit the ceiling with how easy education can be, or ought to be?

רצוי לפרק טיפה את הפיסקה הזאת שמורכבת משלוש שאלות, ולא מעט הנחות יסוד לצידן. בנוגע לשיבוש החינוך, לפחות כפי שרבים מחברות ההיי-טק תופסים את הנושא, אני עשוי להסכים עם הזוג גסקובסקי. הרי ברוב המקרים ה-"שיבוש" איננו באמת תורם ללמידה טובה או משמעותית יותר אלא רק מהווה שינוי אדרת. זאת ועוד: ביסודו של דבר (לפחות לפי תפיסתי), השימוש בכלים דיגיטליים בכיתה איננו אמור להפוך את הלמידה לקלה יותר (או למהירה יותר). הוא צריך להציע אפשרויות לראייה אחרת, מגוונת ועשירה יותר, של כיצד תלמידים פוגשים חומרי למידה. הדיגיטליות איננה מבטלת את ההתמודדות עם חומרי למידה אלא מעשירה אותה.

אינני מכיר את הזוג הזה, אבל מעיון ב-Substack שלהם אני מתרשם שהם אנשים נחמדים שבאופן כללי חשים שטכנולוגיות חדישות פוגעות ביכולת של בני אדם לבטא את האנושיות שלהם. דעתם איננה דעתי, אבל אני יכול להבין את דאגתם. עם זאת, הביקורת שלהם כלפי ה-AI מצביעה על הכרות פשטנית ביותר עם תחום התקשוב החינוכי. המצב הזה נכון עבור רבים. לצערי הם כנראה שבויים בתפיסה מיושנת, ורומנטית, של מהי למידה.

נוצר הרשום שהזוג גסקובסקי טוען שעד לשיבושים של הדיגיטליות, תהליכי הלמידה במערכות החינוך הקיימות היו תקינים. אבל אפילו בדיקה שטחית של תוצאות במבחנים של מערכות החינוך הנוכחיות מראה שמה שנעשה עד היום איננו מוביל להישגים מרשימים במיוחד. וזה ללא התייחסות לסוגיות כמו פיתוח החשיבה הביקורתית שבהן הישגי החינוך ה-"מסורתי" עוד יותר בעייתיים.

לא בהתכוון (לפחות כך אני מתרשם) דבריהם של הזוג גסקובסקי משקפים את התפיסה המסורתית והשמרנית של הלמידה שמתבטאת היטב בשמו של אחד הספרים של מקס רפרטי (Max Rafferty), מי שבשנות השישים של המאה הקודמת היה המפקח הכללי של בתי הספר של קליפורניה – Suffer, Little Children. די בצדק רפרטי כבר מצא את דרכו לפח האשפה של ההיסטוריה החינוכית (ואני מניח שרק אלה שכמוני היו בקליפורניה באותן שנים בכלל זוכרים אותו). בעיני רפרטי המאמץ, הסבל, וגם האתגר מחוברים אלה לאלה. בלי הסבל (שנובע בין היתר מהחובה לעוסק בדברים שאינם מעניינים אותם) תלמידים אינם לומדים. נדמה לי שמעטים היום, כולל הזוג גסקובסקי, מזדהים עם גישה "חינוכית" כזאת.

אבל לא קל להשתחרר מתפיסה כזאת, ואני מתרשם שהביטול, לכאורה, של המאמץ והצורך לשקוד על ה-"חומר" הוא מה שמפריע להם בנוגע ל-AI בחינוך. אם באמצעות ה-AI אפשר "לכתוב" חיבור בעזרת הקלקה על כפתור בלבד, הם כנראה מרגישים שזה מוציא את האתגר מתהליך הלמידה; שזה מונע מהתלמידים to figure things out. גם אם יש מידה של אמת במקרה הספציפי הזה, יש כאן ראייה מצומצמת ביותר כלפי תחום התקשוב החינוכי בכללותו. גם אם השימוש הנפוץ בכלים תקשוביים היום רחוק מלהיות מיטבי, זה איננו סיבה לשלול את הכלים האלה באופן כללי. הדיגיטליות מאפשרת המחשות איכותיות, מזמינה שיתוף פורה בין לומדים, וגישה כמעט בלתי-מוגבלת למקורות מידע. כל אלה יכולים לעורר סקרנות וענין.

באופן מתמיד השימוש הנבון של התקשוב בחינוך מוצא את עצמו בין הפטיש לסדן: מצד אחד הציפיה המסורתית של בתי הספר שתלמידיהם יעמדו בדרישות המערכת ויקבלו ציונים טובים במבחנים הסטנדרטיים שהם, לטוב ובעיקר לרע, המדד של הלמידה (וזאת על אף העובדה שכמעט כולם מבינים שהקשר בין הציונים במבחנים האלה לבין למידה של ממש הוא, במקרה הטוב, רופף ביותר). ומצד שני ההיצע ההולך ומשתכלל של כלים תקשוביים שבאמצעותם, כך חברות ההיי-טק מבטיחות, יעזרו לתלמידי בתי הספר להצליח בלימודיהם, גם אם כמעט ואין עדות מחקרית שמאמתת את ההבטחות האלו. נוצר מרדף בלתי-פוסק אחר כלים חדשים שבמקרים רבים אינם מסייעים כלל ללמידה. ולתוך כל זה מצטרפת ה-AI, עם הבטחה גם לייעל ולשפר את הלמידה, ואולי מעל לכל, לעשות אותה קלה יותר.

במרדף הזה רק חברות ההיי-טק מרוויחים. הרי במקרה הטוב מפתחי הכלים האלה אדישים לחששות של המורים שהשימוש בכלים האלה מבטל את העבודה העצמית של הלומדים, ואילו במקרה הפחות טוב אותם מפתחים שמחים למכור כלים נוספים שיבדקו את מקוריות עבודות התלמידים, וכך להרוויח משני הצדדים. בין שני אלה ספק אם מתרחשת הרבה למידה של ממש.

דווקא במציאות הזאת אפשר להבין את הכמיהה של אנשים כמו הזוג גסקובסקי למציאות חינוכית מסורתית. הם הרי דוגלים בלמידה הומניסטית ואיכותית, וחושבים שהם מזהים אותה בתקופה פשוטה וברורה יותר שכבר איננה. הבעיה היא, כמובן, שהנוסטלגיה מעוורת אותם לעובדה שהלמידה של אז לא באמת תאמה את התמונה האידילית שמצטיירת בזכרונם.

לפני שבוע חברתי לחיים העבירה אלי כתבה קצרה בפייסבוק שמדווחת על נסיון של בית ספר בלונדון – כיתה שמתנהלת באופן מלא באמצעות ה-AI. לפי הדיווח:

A private school in London, David Game College, has introduced the UK’s first AI-only classroom, charging around $35,000 or £27,000 per year. In this futuristic setup, students learn core subjects like English, maths, biology, chemistry, and computer science through advanced AI systems and VR headsets, completely replacing traditional teachers.

חיפוש דרך גוגל מעלה כ-50 כתבות אודות הכיתה הזאת ב-David Game College. הכתבות האלו מבוססות (או לגמרי מעתיקות) כתבה ב-Business Insider מחודש אוגוסט 2024 (כן, מלפני תשעה חודשים) תחת הכותרת:

This high school is replacing teachers with ChatGPT and AI tools to personalize learning for some students

הכתבה מביאה את דבריו של ג'ון דלטון, אחד המנהלים של בית הספר שמסביר:

Students will benefit enormously from AI-powered adaptive learning, which allows every student to learn at their own pace rather than having to keep pace with a class, which often progresses too quickly for some students and too slowly for others.

דלטון גם פרסם כתבה באתר EdTech Innovation Hub (בספטמבר 2024) שבה הוא מרחיב על התוכנית. בכתבה הזאת מעט מאד פרטים על התוכנית עצמה והרבה יותר "הסברים" על כיצד גישת הפרסונליזציה באמצעות ה-AI יכולה לקדם את הלמידה של כל תלמיד ותלמיד. מעניין לציין שבכתבה של דלטון המילה ChatGPT, או כל סוג אחר של מודל שפה גדול (Large Language Model) איננה מופיעה. מה שכן מופיע, שש פעמים בשינויי לשון קלים, הוא AI-driven adaptive learning. דלטון עצמו מדגיש את זה. הוא כותב שהכיתה הנסיונית מחברת בין פלטפורמות טובות של למידת מכונה לבין מאגרים של חומרי הוראה איכותיים, ומוסיף:

This is augmented by our own proprietary technology and systems, which allow us to analyse and produce detailed data about each student’s performance and behaviour on the platforms.

טענה זאת של דלטון מזכירה מאד, אם כי עם קצת פחות יומרה, את דבריו של חוסה פריירה (Jose Ferreira) , מייסד חברת Knewton, משנת 2015 (ציטטתי אותו כאן ב-2019) כאשר הוא הסביר את דרך הפעולה של החברה שלו:

We think of it like a robot tutor in the sky that can semi-read your mind and figure out what your strengths and weaknesses are, down to the percentile.

יש, כמובן, טעם להוסיף שהבטחותיו של פריירה על יכולות הניבוי של הכלים שהחברה פיתחה, ובעקבות זה גם ההבטחה לקדם את הלמידה של תלמידים, נחלו כשלון חרוץ. החברה, שנוסדה ב-2008 ובמהלך השנים גייסה מעל 150 מיליון דולר, נמכרה ב-2019 במכירת חיסול של כ-17 מיליון דולר. זה היה כשלוש שנים אחרי שפריירה עזב אותה.

גם אם Knewton כבר שייך לעבר, הציפייה שהנתונים לא משקרים ודרכם אפשר יהיה לשפר ולזרז את הלמידה עוד איתנו. ההשתכללות המתמדת של כלים לאיסוף נתונים ופיענוחם ממשיכה לעורר תקוות שבדרך הזאת אפשר לקדם כל תלמיד ותלמיד. בראיון וידיאו שמופיע בכתבה על הפרויקט ב-SkyNews דלטון מציין שיש הרבה מורים טובים, כולל, כמובן, בבית הספר שלו. אבל:

if you really want to know exactly why a child is not learning I think the AI systems can pinpoint that more effectively

מזה אפשר להתרשם שלפי דלטון הלמידה היא כנראה בסך הכל תהליך של העברת מידע בדרך כלשהי וקליטתו אצל הלומד. כיתת ה-AI של בית הספר של דלטון אמורה לשכלל (ובוודאי גם לזרז) את הקליטה הזאת באמצעות התאמה אישית של החומרים שמוגשים לתלמידים וקצב הגשתם. ממה שהוא מתאר ניתן להסיק שמרכיבים רגשיים ו/או חברתיים משניים לתהליך הזה, אם כי כבר היום לא חסרים כלים שלטענת מפתחיהם מסוגלים להעריך את מידת הריכוז של הלומד ומסוגלים בדרכים שונות להחזיר אותו לערנות אם זה מתבקש.

אבל הפעם הנקודה המעניינת ביותר כאן איננה ההיסטוריה המתמשכת של הבטחות שכנראה אינן מתגשמות. מה שבמיוחד מעניין היא העובדה שאי-שם בדרך ה-ChatGPT הצליח להשתרבב לתוך הכותרת. הרי כפי שציינתי, דלטון בכלל לא הזכיר את ה-ChatGPT, ובחיפושים שערכתי לא מצאתי שבבית הספר בכלל טענו שה-AI שלהם היא של מודל שפה גדול. ובכל זאת צריכים להודות שהאזכור בכותרת מאד הגיוני. היום ההתייחסות הכמעט בלעדית ל-AI, כולל AI בחינוך, היא לכלים של מודלי שפה גדולים, כך שכמעט לא זוכרים שלא לפני יותר מדי שנים כאשר התייחסו ל-AI הכוונה היתה ללמידת מכונה (machine learning). למידת המכונה התמקדה באיסוף וניתוח של כמויות אדירות של נתונים אודות לומדים על מנת למפות את הדרכים היעילות ביותר להגיש להם חומרי למידה כדי לקדם את הלמידה שלהם (דוגמת היומרה של Knewton). ה-AI הזאת, אם היא בכלל היתה AI, הובילה את הפרסונליזציה, ההתאמה האישית. ולפי כל מה שמתואר בפרויקט של David Game College זה סוג ה-AI שבשימוש אצלם.

לזכות ה-AI בחינוך, אם של כלי LLM או של למידת המכונה היותר "מסורתית", מרבים להדגיש שבאמצעותה מתאפשרת הוראה איכותית לרבים. הרי אם בעבר רק עשירים יכלו לרכוש מורה פרטי עבור ילדיהם, כלי התקשוב של היום מאפשרים לכל אחד, ללא קשר לרמה הסוציו-אקונומית, לזכות בליווי אישי. לפי התפיסה הזאת ה-AI בעצם מאפשרת שוויון הזדמנויות לכולם. ההבטחה הזאת מאד קורצת, ואפשר לקוות שאי-שם בעתיד היא תתגשם. עם זאת, כאשר ההשתתפות בכיתה הנסיונית של David Game College עולה כ-$35,000 לשנה, קשה לחוש שהשוויון בדרך. זאת ועוד: לשנה הראשונה של הפרויקט התכנון היה ל-20 תלמידים (יחד עם מלווה אנושי "מקצועי" אחד, אגב), אבל כתבה על הפרויקט מינואר 2025 מדווחת שהכיתה נפתחה עם שבעה תלמידים בלבד. נדמה שעם כיתה של שבעה תלמידים שמשפחותיהם מסוגלים להוציא סכום גדול כל כך (שהוא כנראה $13,000 מעל המחיר ה-"ממוצע" של בית ספר פרטי באנגליה) אפשר להגיע להישגים מרשימים גם בלי כלי AI ואולי גם בלי תקשוב בכלל.

מעבר ליומרה אשר בפתיחת כיתה כל כך יקרה קשה למצוא משהו ייחודי, או אפילו מעניין במיוחד, בכיתה הנסיונית של David Game College. אבל נדמה שבאיחור של כתשעה חודשים עצם השימוש במילת הקסם AI הביא לכך שמישהו חזר להתעניין בו. ואכן, מבחינתי מה שמעניין כאן איננו הפרויקט עצמו (וספק אם הוא באמת "הראשון"), אלא עצם העובדה שמתעניינים בו.