קטגוריה: בינה מלאכותית

זה כבר היסטוריה עתיקה, אבל אצל התקשוב החינוכי הדברים כמעט תמיד חוזרים על עצמם, ולכן יש טעם להתחיל אי-שם בעבר. ב-2019 אמזון השיקה חנות לחומרי הוראה – Amazon Ignite. הרעיון היה פשוט – חנות ייחודי באמזון שבו מורים יכלו להעלות חומרי הוראה שהם בנו ולמכור אותם למורים אחרים. החומרים האלה היו צריכים לעבור בקרה בסיסית – כנראה מישהו באמזון שבדק ואישר שאכן מדובר בחומרי הוראה ראויים. אחרי הבדיקה, אם הם אכן עברו את הסינון, הם נכללו בתוך החנות ומורים אחרים יכלו למצוא, ולרכוש, אותם. אמזון, כמובן, גבתה לעצמה 30% מהמכירה, אבל עם המשכורות הזעומות של מורים קשה היה להתנגד לכך שלמורים טובים היתה דרך להגדיל קצת את הכנסותיהם.

אמזון כנראה אימצה את הרעיון של חנות לחומרי הוראה בעקבות ההצלחה של מיזם פרטי – Teachers Pay Teachers (TpT) – סביבה אינטרנטית שאפשרה למורים למכור חומרי הוראה שהם פיתחו. Teachers Pay Teachers הוקם כבר ב-2006, אבל נדמה לי שהוא נעשה ממש פופולארי רק סביב 2012. לפני שלוש שנים הוא נמכר ל-IXL Learning, חברה שמפיצה מגוון חומרי הוראה ונעשה לאגף צדדי שם. IXL Learning בעצמה מפיקה חומרי הוראה ו-TpT עוד קיימת כאגף בו, כאשר מורים עדיין יכולים למכור דרכה את חומרי ההוראה שלהם. טוענים שיש מספר מורים שהצליחו להרוויח מעל מיליון דולר דרך TpT, אבל אינני מצליח לאמת את הטענה הזאת. אמזון, מצידה, סגרה את Ignite ב-2022. היא כנראה גילתה שגם אם הפרויקט היטיבה עם כמה מורים, היא לא הגדילה את ההכנסות של אמזון, ולכן לא היתה סיבה להמשיך לקיים אותו.

אפילו בימי הזוהר של TpT היו טענות רבות כלפי איכות חומרי ההוראה שנמכרו דרכו. אני התייחסתי לנושא הזה כאן ב-2019. באותו מאמרון ציטטתי מסקירה שהוזמנה על ידי ה-Fordham Institute שביקשה להעריך את איכות חומרי ההוראה הרבים שעלו – הן ל-TpT והן לאתרי חומרי הוראה אחרים. כבר אז, כפי שדווח באותה סקירה, המסקנה היתה די עגומה:

Sadly, the reviewers concluded that the majority of these materials are not worth using: more precisely, 64 percent of them should “not be used” or are “probably not worth using.” On all three websites, a majority of materials were rated 0 or 1 on an overall 0–3 quality scale.

אין סיבה לחשוש שאמזון סגרה את Ignite בגלל האיכות הירודה של חומרי ההוראה שהועלו אליו. הרי ידוע שאמזון מוכנה למכור כל דבר כל עוד היא לוקחת את האחוז (המכובד) שלה. אבל המצב היום רק נעשה יותר גרוע. מתברר שכלי ה-AI משתלטים גם על חומרי ההוראה. נוצר מצב שבו אפשר להתגעגע לימים שבהם רק כשליש ממה שהועלה היה ראוי לשימוש. כבר לפני שנה, ב-subReddit המוקדש למורים, מורה אחד התלונן על איכות החומרים שהוא מצא ב-TpT:

Half the stuff I bought was low quality AI junk. The texts were barely comprehensible, had questions that couldn't be answered with the information provided, or had problems like incomplete word banks. … I spent more time fixing the trash I got than it would have taken to build it from scratch.

בערך עשרים מורים הגיבו לאותה הודעה ודיווחו שגם הם נתקלו במצב דומה.

יש טעם להוסיף שעוד בשנותיו הראשונות שבהן TpT עוד זכתה לפופולריות ולכותרות היתה בעיה של מקוריות: חומרים רבים שהוצעו למכירה לא היו של המורים שבנו אותם, אלא של משתמשים שהעתיקו חומרים של מורים אחרים וביקשו למכור אותם כשלהם. בקיצור, גם אם היה ערך מסוים ב-TpT, לא חסרו בעיות רציניות. בימים המוקדמים של האינטרנט החינוכי בישראל היה, אגב, פרויקט דומה ל-TpT, אם כי ללא מגמת רווח. "כלים שלובים" היה מיזם של סנונית שדרכו מורים הוזמנו להעלות חומרי הוראה משלהם ולאפשר למורים אחרים להשתמש בהם. כתבתי על זה באותו מאמרון משנת 2019. הרעיון היה מבורך, אבל מתברר שמורים בעלי חומרי הוראה איכותיים העדיפו לשמור אותם לעצמם, ואילו האיכות של מה שכן הגיע לפרויקט היתה ירודה.

לא המשכתי לעקוב אחרי TpT. ידעתי שהוא נמכר ל-IXL Learning, אבל לא ידעתי אם הוא מצליח לשמור על עצמאות, או אם מורים ממשיכים להעלות ולהוריד חומרי הוראה דרכו. גם לא ידעתי אם יש עדיין מורים שמרוויחים כסף דרכו. אבל דרך כתבה מתחילת החודש ב-Chalkbeat למדתי שהמצב רק מחמיר. בכתבה הזאת לילי אלטנבה (Lily Altaneva) מביאה דוגמאות רבות של חומרים שנמצאים למכירה דרך TpT שבאופן ברור הוכנו (אם זאת המילה) באמצעות ה-AI. הדוגמאות האלו מלאות בשגיאות צורמות. באמצע אוגוסט אלטנבה התראיינה לקטע של ABC News והקטע מציג מספר דוגמאות באמת מביכות.

המצב הזה איננו צריך להפתיע אותנו. ידוע, למשל, שנכון להיום חנות הספרים של אמזון מוצפת ב-"ספרים" שנוצרו באמצעות ה-AI. ואם אנחנו נתקלים ב-AI slop פחות או יותר בכל מקום, אין סיבה לצפות שבחינוך המצב יהיה שונה, גם אם היינו מקווים שיהיה אחרת.

קל לנו לבקר את ה-AI slop שמציף אותנו, ואת המורים שמתפתים להשתמש בו בכיתה. אבל ה-AI לבדה בוודאי איננה אשמה. פיסקה קצרה בכתבה ב-Chalkbeat מרחיבה את היריעה:

Teachers are expected to create a lot of material, sometimes on a time crunch or during the summer when they’re not paid, said Jeff Carpenter, an education professor at Elon University. That pressure to create instructional material leads them to turn to Teachers Pay Teachers or similar sites.

קל להאשים מורים ולבוא אליהם בטענות על כך שהם אינם משקיעים מספיק בהכנת חומרי הוראה טובים, ובמקום זה מוכנים, במקרה הטוב, לשלם עבור חומרים איכותיים של אחרים, ואילו במקרה הפחות טוב לשלם עבור AI slop או לפנות ל-AI בעצמם. אבל חשוב לזכור שהמורים האלה עובדים במערכות חינוך שבקושי מעריכות את עבודתם ומתגמלות אותם עוד פחות. וזה איננו משנה את הציפייה של אותן מערכות שהמורים יתייצבו בכיתה מידי יום מוכנים ללמד. במציאות הזאת קשה לבוא בטענות כלפי המורים. אמנם צחקתי וגם נחרדתי כשצפיתי באותם חומרי הוראה שמוצגים למכירה היום דרך TpT. אבל גם חשבתי – כמה חמור המצב יכול להיות כך שמורה ירגיש צורך לרכוש חומרים כאלה (ואולי לא יבחין בטעויות הכל כך גסות שבהם). הרהרתי על המציאות העגומה שבתוכה כל כך הרבה מורים עובדים והבנתי שבעיית ה-AI slop שחודר לתוך חומרי ההוראה היא אחת הבעיות היותר קטנות בחינוך של היום.

חיפוש מידע ב-WWW היום שונה באופן מהותי מבימים שבם קיבלנו את אותם "עשרה קישורים כחולים" האייקוניים שהכרנו בדף הראשון של תוצאות החיפוש בגוגל. קשה לזכור, ואני מניח שהיום יש רבים שמעולם לא הכירו, את דף התוצאות הזה מלפני דור או שניים – דף שהיווה אשנב למידע שביקשנו לאתר. נדמה שאותו page rank של גוגל באמת היטיב עם הצרכים המיידעיים שלנו כפי שהבנו אותם אז. לא סתם קיבלנו תוצאות שהזכירו את המילה שהקלדנו לתוך תיבת החיפוש (נוסח AltaVista). מפני שהתוצאות דורגו לפי כמות הדפים שקישרו לדף שהוצג, וגם לפי חשיבות ומהימנות אותם דפים, היתה לנו סיבה טובה לסמוך על התוצאות האלו. אפשר, ואולי צריך, לטעון שבאמצעות ה-page rank גוגל צמצמה את אפשרויות החיפוש וביקשה לכוון אותנו ל-"תשובה" ברורה, אבל במידה רבה היתה זאת סיוע של ממש. התוצאות הראשונות שעלו באמת היו מקורות איכותיים כך שמתוך ים המידע האין-סופי של הרשת המתפשטת היה סיכוי טוב שהגענו לתוצאות שאכן ענו על החיפוש שלנו.

מערך החיפוש של גוגל עבר שינויים רבים מאז 1998, ואותם "עשרה קישורים כחולים" כבר שייכים להיסטוריה. אבל חשוב לבחון האם השינויים בחיפוש שגוגל מקדמת היום באמת משפרים את היכולת שלנו להגיע למידע. על אף העובדה שהחיפוש דרך האינטרנט איננו קשור ישירות לחינוך, חשוב להבין שלשינויים האלה השפעה משמעותית על החינוך, או ליתר דיוק, על הלמידה.

סיבה ואידיהנת'אן (Siva Vaidhyanathan), במאמר חדש ב-Boston Review, איננו מתייחס ישירות לקשר, או להעדר הקשר, של השינויים בחיפוש בגוגל ללמידה. הוא בוחן היבטים אחרים של החיפוש של היום. אבל לטעמי הסוגיות שהוא מעלה בהחלט תקפות לשאלות הנוגעות למקום של חיפוש ואיתור מידע בתהליך הלמידה. ואידיהנת'אן מוכר במיוחד בזכות ספרו משנת 2011 The Googlization of Everything and Why We Should Worry. אכן, לפני 15 שנה הוא היה מודאג, והיום הוא מודאג עוד יותר. במאמר החדש הוא מסביר שעם כל הבעייתיות שהוא זיהה בגוגל ה-"ישנה", החיפוש של אז מילא תפקיד חשוב. הוא כותב שגוגל אמנם לכאורה הגבילה אותנו בכך שהיא קבעה עבורנו רשימה של דפים שלדעתה היו המתאימים ביותר לשאלתא שהקלדנו, אבל בכל זאת זכינו ב:

a list of doors onto the wider web. You clicked, and you left Google’s house to visit someone else’s. That mere act of departure, unglamorous as it sounds, was the thread connecting search to the older ideal of the public sphere.

אבל בשם הקידמה גוגל זנחה את החיפוש הישן, והיום אנחנו זוכים ל-AI Overview שמתיימר לאגד מקורות רבים ולהגיש לנו "תשובה" למה שאנחנו מבקשים לדעת. על השינוי הזה ואידיהנת'אן כותב:

The shift from ranking to rendering is not a matter of degree; it’s a matter of kind.

הוא מדגיש שבעבר קיבלנו מגוון אפשרויות, דעות, ופרספקטיבות שונות. הוא קובל על כך שהסינתזה שמוגשת לנו היום פוגעת באותם האתרים שמהם ה-"תשובה" שמוגשת לנו נבנית. הוא מציין שאם איננו מבקרים באותם אתרים שמהם מורכבת ה-"תשובה" אלה לא יוכלו לקיים את עצמם. בדרך הזאת גוגל מחסלת את הווב כפי שהכרנו אותו. אבל הפגיעה איננה רק במקורות, אלא בדרך שבה אנחנו מבינים את העולם. ואידיהנת'אן ממשיך ומסביר שאותו AI Overview מציע לנו הבטחה מפתה:

that the messy, effortful, contestable business of finding things out—comparing sources, noticing bias, tolerating ambiguity, occasionally being wrong and having to revise your view—can be replaced by a single, confident, algorithmically fluent paragraph.

ואכן, ואידיהנת'אן מביא נתונים שמראים שבעידן ה-AI Overview אחוז גדול של ה-"חיפושים" שנערכים דרך גוגל מסתיימים בסקירה הכללית של גוגל בראש התוצאות ואינם ממשיכים הלאה לבדוק את המקורות עצמם.

ואידיהנת'אן איננו חש נוסטלגיה כלפי החיפוש הישן. כזכור, בעיניו גם הוא היה בעייתי. אבל יש בכל זאת הבדל. הוא כותב:

Back then the worry was that Google decided what links you would see; today the worry is that Google decides what you read, in a Google-generated paragraph with no visible author and no stable citation trail—and does so at a scale, and with a fluency, that makes the underlying labor of the open web nearly invisible, even as that labor is being consumed to produce the answer.

חשוב להבין שבמתכוון או שלא במתכוון, עצם הפיכת ה-AI Overview לתוצאה הראשית של פנייה לגוגל מהווה אמירה חינוכית חשובה … ומוטעית: התשובה, ולא השאלה, הוא העיקר; התהליך משנית להגעה לייעד. זאת ועוד: עצם גיבוש אוסף התייחסויות לתוך "תשובה" לכאורה ברורה מהווה גם מסר ללומדים – שהידע קיים במנות ברורות ומגובשות. נדמה לי שסטודנט שמתרגל לקבל מידע ארוז בצורה הזאת גם "מבין" שהעבודות שהוא "כותב" באמצעות LLM נבנות באמצעות אותה התפיסה המיידעי שהוא פוגש כאשר הוא עורך חיפוש. ובמידה לא קטנה זאת תהיה "הבנה" מוצדקת.

במילים אחרות, הפנייה לכלי LLM על מנת להכין עבודה איננה רק בעיה חינוכית, אלא היבט אחד של בעיה כלל תרבותית. אנחנו יודעים שסטודנטים רבים מאד שמחים לקצר תהליכים ולאפשר לכלים האלה להכין עבודות עבורם, וזה על אף העובדה שלא מעט מורים ומרצים מנסים להקנות שימוש מושכל בכלים האלה. ואם סטודנטים בכל זאת בוחרים לפנות ישירות לכלי LLM? נדמה לי שלא יהיה זה נכון לראות בזה רק עצלנות, או סתם רצון להקדיש כמה שפחות מאמץ להכנת העבודות שהם מגישים. חשוב לנו גם להכיר בכך שהעבודות האלו משקפות את המציאות המיידעי הרווחת סביבנו. כאשר המידע שסטודנט צורך הוא מידע שעוּבד (ואפילו לעוס) באמצעות LLM, הוא לומד שאותה הגשה של מידע באופן גנרי שהוא מחולל באמצעות הקלקה על כפתור היא דרך לגיטימית, ואפילו נכונה, להתייחס למידע. אין פלא שכך הוא יעשה כאשר הוא נדרש להגיש משהו.

בקושי התייחסתי כאן להודעה של האקדמיה של ח'אן בנוגע לאכזבה הגדולה של סלמן ח'אן כלפי השימוש המאוד דל ב-Khanmigo, צ'אטבוט ה-AI של האקדמיה. מתברר שתלמידים אינם מרבים (בלשון המעטה) להשתמש בו. ההתייחסות אז היתה בסך הכל בהערת אגב כחלק ממאמרון שהתמקד בנושא אחר. יתכן שבתקופה אחרת הודעה כזאת היתה זוכה למאמרון מלא – מאמרון שבו הייתי מביע שמחה לאיד, או לפחות הערה נוסח "אמרתי לכם". אבל ההיסטוריה של התקשוב בחינוך גדושה בהצהרות על מהפכה בחינוך שתתחולל באמצעות המחשב, או הדיגיטליות, או האינטרנט. והיום כמובן גם ה-AI אמורה לחולל מהפכה כזאת. המציאות, כמובן, אחרת. ברוב המכריע של המקרים במקום שהכלים האלה מצילים את החינוך, המהפכה המובטחת דועכת בשקט עד שהיא מתמקמת כעוד הערת שוליים אי-שם בהיסטוריה של התחום – עדות לעוד מהפכה בחינוך שלא התרחשה.

חשוב להזכיר שהציפיות כלפי Khanmigo באמת היו גדולות. ב-Ted Talk מתחילת מאי, 2023 סלמן ח'אן עצמו לא חסך מילים על מה שכלי ה-AI שלו יחולל. הוא הכריז:

But I think we're at the cusp of using AI for probably the biggest positive transformation that education has ever seen. And the way we're going to do that is by giving every student on the planet an artificially intelligent but amazing personal tutor. And we're going to give every teacher on the planet an amazing, artificially intelligent teaching assistant.

והיום? אמנם ל-Khanmigo יש עדיין אתר, וכצפוי אפשר למצוא בו שבחים על הכלי, אבל כבר לפני כשלושה חודשים, בכתבה ב-Chalkbeat (שציטטתי גם כאן) למדנו על האכזבה הגדולה שח'אן הביע כלפי השימוש הדל בכלי. הוא מצוטט שם, למשל ש:

For a lot of students, it was a non-event…. They just didn’t use it much.

באותה כתבה מופיעה גם הערה של ראש תחום החינוך באקדמיה של ח'אן שמסבירה את הכשלון של הבוט בכך שה-AI:

can only respond to students based on what they ask. And it turns out, she said, "Students aren’t great at asking questions well."

אפשר להגיד שזה היה די צפוי. דוח מחודש מרץ השנה של גוף שמבקש לקדם את השימוש ב-AI בבתי הספר היושב באוניברסיטת סטנפורד– AI Hub in Education – מציין ש:

As of October 2025 the AI Hub for Education Research Repository contained over 800 academic papers relevant to AI in K-12 education. Our review found that only a small subset (20 papers) produce strong causal evidence.

מתבקש לשאול מה מופיע ביתר ה-97% של המחקרים שבדקו את התחום. אם נסיון העבר הוא מדד, סביר להניח שהתשובה היא שבמידה רבה במקרה הטוב אלה עסקו במשאלות לב, ובמקרה הפחות טוב בהודעות לעיתונות מלאות בהבטחות, אבל עם מינימום של כיסוי מחקרי.

כמובן שלא רק אני לא הופתעתי. הרי עבור מי שאפילו קצת בקיא בהיסטוריה של התקשוב בחינוך הכתובת היתה על הקיר. נדמה לי שזה יכול להסביר למה אפילו כלי מבית היוצר של ח'אן, ללא ספק דמות חשובה ומאד מוערכת בתחום הטכנולוגיות בחינוך, זכה לכיסוי יחסית מצומצם באתרים שעוסקים בתקשוב החינוכי.

סביר להניח שלפני מספר שנים הייתי מקדיש לכלי כמו Khanmigo מאמרון שלם שמבליט את הכשלון של הכלי. אבל היום? כבר התרגלנו לכך שהבטחות כאלו אינן נוטות להתגשם, וסיומן הצפוי הוא "לא בנפץ, אלא ביבבה". לפני כשלושה חודשים דן מאיר (Dan Meyer) ב-Substack שלו התייחס לכלי והדגיש עד כמה הנפילה של כלי כזה משמעותי:

Khanmigo was raised with a silver spoon in its mouth, possessing advantages completely unknown to most other edtech chatbot startups. It had some of the earliest access to OpenAI’s generative AI technology. It had the backing of a hyperscalar in Microsoft and abundant cloud computing credits. It had the endorsement of national, state, and local officials. It had the phone number of some of the wealthiest people in the world. If Khanmigo died in spite of those advantages, what hope then should the rest of the edtech industry place in chatbot tutors?

ולפני שבוע ג'ני אנדרסון (Jenny Anderson) ומייק גולדסטין (Mike Goldstein) סקרו את הכשלון של Khanmigo בכתבה ב-The Atlantic, תחת הכותרת: AI Can’t Fix the Student-Motivation Problem. רצוי לשים לב גם לכותרת המשנה של הכתבה:

It turns out bots aren’t great teachers.

אותה כתבה גם מציינת את החשיבות של הפן החברתי בתהליכי למידה. על פרויקטים כמו Khanmigo אנדרסון וגולדסטיין כותבים:

Essentially, these ed-tech experiments have driven home what educators have long intuited: Learning is a largely social and relational enterprise, and bots have yet to replicate the value of a human touch.

לאור כל זה נדמה לי שברור למה לא חשתי צורך לכתוב כאן על עוד כלי דיגיטלי שהבטיח רבות ובסופו של דבר התרסק. אבל אם כך, למה אני עושה זאת דווקא עכשיו? על זה יש תשובה.

לפני מספר ימים, ביום חמישי ה-2.07.2026, כתבה קצרה על מהפכה בחינוך באמצעות ה-AI בבתי הספר בישראל שודרה במהדורה המרכזית של חדשות ערוץ 12. (כדי להקל על הצפייה העתקתי אותה ל-YouTube, בתקווה שאינני מסתבך עם בעיית זכויות.) בתחילת הכתבה הקריינות מוסרת לנו ש:

אתם צופים עכשיו בעתיד של מערכת החינוך. כל תלמיד ותלמידה יושבים מול מחשב שלומד אותם ומכיר אותם.

בהמשך, במה שנראה כהתכחשות מוחלטת לפן החברתי של הלמידה אנחנו פוגשים את שי פירון שמצהיר:

אנחנו נמצאים במהפכה גדולה בכל תפיסת החינוך. בשנים הקרובות אנחנו נעבור ללמידה שתאופיין בלמידה אישית של כל תלמיד ותלמיד.

ברור לי שלא ערוץ 12, וגם לא משרד החינוך, עוקבים אחרי המאמרונים שאני מפרסם כאן, ואינני מצפה שכך יעשו. אבל מההתלהבות של המשרד ושל הערוץ כלפי הבוט שמוצג בכתבה אני מתרשם שהם בכלל אינם יודעים מה קרה עם Khanmigo, או עם כלים רבים אחרים שהיו אמורים לחולל מהפכה בחינוך. נדמה גם שהם אינם מודעים למחקרים הרבים שמדגישים עד כמה הלמידה היא פעולה חברתית, ועל המגבלות החינוכיות הרבות אשר בצ'אטבוטים של AI. משום מה, אינני מופתע.

הכתיבה שלי כאן עוסקת, כמעט באופן בלעדי, בנושאים הקשורים לחינוך. הפעם אני מבקש להרחיב טיפה את היריעה, אם כי אשתדל בסיום למצוא קשר, גם אם קצת קלוש, לחינוך.

עולם הספרות, או לפחות חלק ממנו, גועש לאחרונה סביב פרס שהוענק לסיפור קצר. מדובר בסיפור שזכה בפרס ה-Commonwealth, פרס יוקרתי, המוענק מידי שנה לסופר לא מוכר מחבר העמים הבריטי. מקורות רבים, ביניהם ה-New York Times, מדווחים שבדיקות שנערכו על הסיפור הזוכה (ושני סיפורים נוספים שקיבלו פרס משנה) מעלות את הסברה שהסיפור נוצר על ידי AI. הספקות לגבי "מקוריות" הסיפור הועלו על ידי מספר קוראים, ובדיקות באמצעות כלי AI, ובמיוחד Pangram, שנחשב בודק מהימן, מאשרים, לכאורה, שלא יד אנושית, אלא כלי LLM כלשהו, הוא אשר "כתב" את הסיפור. הכתבה ב-NYTimes מצטטת את המו"ל של Granta, כתב העת בו הסיפור הזוכה פורסם:

“It may be that the judges have now awarded a prize to an instance of A.I. plagiarism — we don’t yet know, and perhaps we never will know.”

השימוש במונח "פלגיאט" קצת תמוה כאן. הרי הפלגיאט הוא לקיחת טקסט של מישהו אחר והצגתו כאילו הוא שלך. אתר בנושא של AI ופלגיאט של האוניברסיטה של דרום פלורידה טוען, בעיני בצדק, שנכון יותר להתייחס לשימוש ב-AI כסופר צללים:

Since AI chatbots and other generative AI tools generate new text and images in response to prompts, using material from generative AI could be considered more like ghost writing than plagiarism.

נדמה שהיום כבר אי-אפשר להשתחרר מהחשש שמא טקסט כלשהו נוצר על ידי אלגוריתם. וכמובן שלא מדובר בטקסט בלבד. מתחום המוסיקה, לפני כשנה, אחרי יותר ממיליון האזנות דרך Spotify, נודע שהשירים של הלהקה Velvet Sundown נוצרו באמצעות ה-AI.

יש גם דוגמאות מעולם האמנות החזותית. די סמוך לפרשת הפרס של הסיפור הקצר מישהו ברשת עורר סוגיה דומה כאשר בחשבון ה-X שלו הוא העלה עותק דיגיטלי של ציור של קלוד מונה (Claude Monet), וטען שהציור הופק באמצעות ה-AI "בסגנון של מונה", וביקש מהקוראים שלו להסביר למה מה שהוא העלה נחות מהמקור:

כפי שמוסבר באתר PetaPixel מתברר שמדובר בתרמית:

Someone Shared a Real Monet Painting as AI and Asked for Critiques

כפי שכנראה היה צפוי, הפנייה זכתה לתגובות רבות שבאופן די גורף מצאו פגמים בולטים ב-"העתק" שהוצג. אני נתקלתי בפרשה הזאת רק אחרי שהתרמית נחשפה, ולכן לא הועמדתי ב-"מבחן". אבל אני די בטוח שלא הייתי מבחין בהבדלים בין המקור לבין מה שאמור היה להיות ההעתק – לא מפני שיש לי עין אמנותית חדה, אלא מפני שאני דווקא אינני מבין גדול באמנות. נדמה שהמשיבים שקטלו את ה-"העתק" ביקרו אותו יותר מתוך תחושת עלבון ש-AI מסוגלת ליצור "אמנות" מאשר מתוך הבחנה חדה.

דרך מחקר שנערך באוניברסיטת Rutgers לפני כעשור, צפיתי ב-"יצירות" שהופקו באמצעות כלי AI (שהיו די מתקדמים לזמנם, אבל פרימיטיביים במונחים של היום). כלי ה-AI אשר באותו מחקר "אומנו" על אוסף של ציורים מופשטים, ואחרי-כן הונחו ליצור ציורים בעצמם. המשתתפים במחקר התבקשו לדרג גם את היצירות של ה-AI וגם מספר ציורים מופשטים אנושיים. החוקרים סברו שהצופים האנושיים ידרגו את היצירות האנושיות כמעניינות ואיכותיות יותר מאשר אלה של ה-AI. אבל כפי שאפשר להבין מסיום הכתבה של החוקר על המחקר, הם התבדו:

It might be debatable what a higher score in each of these scales actually means. However, the fact that subjects found the images generated by the machine intentional, visually structured, communicative, and inspiring, with similar, or even higher levels, compared to actual human art, indicates that subjects see these images as art!

 בדומה למשתתפים באותו מחקר, כאשר אני קראתי את הכתבה בנושא ועיינתי בציורים השונים, גם אני התרשמתי שמדובר ביצירות אנושיות. גם אחרי שידעתי מה אנושי ומה AI, הרגשתי שבשני המקרים היה מדובר באמנות.

האוזן שלי די מוסיקלית. אולי בגלל זה היה צפוי שאזהה את האלגוריתמיות בשירים של Velvet Sundown ששמעתי. אבל גם כאשר ידעתי שמדובר במוסיקה שהופקה באופן אלגוריתמית, לא הרגשתי שהיא שונה מהמון שירים אחרים ששמעתי בעבר. אבל במקרה הזה העדר היכולת שלי להבחין באלגוריתמיות לא היה, לפחות בעיני, מפני שהמוסיקה האלגוריתמית היתה כל כך מוצלחת, אלא ההפך. לא חסרה מוסיקה "אנושית" שהיא (שוב, לפחות בעיני) סתמית וטפלה באותה מידה כמו האלגוריתמית. הרי כמעט בכל ז'אנר מוסיקלי חלק מכובד מאד מהשירים הפופולריים נשמעים כמו שירים אחרים, כך שאפשר היה לטעות ולחשוב שגם השירים האנושיים הם אלגוריתמיים. (אגב, אני מניח שעבור אנשים שאינם מתמצאים במוסיקה מערבית קלאסית, קטעים המופקים על ידי אלגוריתמים שמחוללים מוסיקה בסגנון מוצארט נשמעים ממש כמו המקור. ויש טעם להוסיף שטוענים שסטרווינסקי אמר פעם שוויוואלדי לא הלחין 400 קונצ'רטי; אלא את אותו הקונצ'רטו 400 פעמים.)

אבל משום מה הרוב הגדול של הדיון שמתפתח סביב הדוגמאות האלו מתמקד בשאלה האם עובדים עלינו, או האם לגיטימי שה-AI תפלוש לתוך תחומי היצירה שעד עכשיו נחשבו ייחודיים לבני אדם. בעיני אלה אינן השאלות החשובות. כלי ה-AI שמפיקים את היצירות שבהן אנחנו צופים ומאזינים וקוראים "למדו" מכמויות אדירות של יצירות אנושיות. זה המאגר שממנו הם שואפים "השראה", ואין פלא שהתוצרים דומים לאותם מקורות. ביסודו של דבר זה איננו שונה באופן מהותי ממה שיוצרים אנושיים – אנחנו – עושים. אנחנו מושפעים מיצירות שקדמו לנו, ובמקרה הטוב אנחנו מצליחים להשתחרר מההשפעות כדי להשיג טיפה של מקוריות. אינני בקיא בנושא, אבל אני מניח שהיום ניתן לכוון אלגוריתם כך שהוא יכיל אחוז מסוים של הפתעה, או סטייה, ובדרך הזאת אולי יצליח להפיק משהו שאיננו רק העתק אלא במידה מסוימת "חידוש", גם אם אותו חידוש איננו תוצאה של כוונה.

לפחות במאמרון הזה אינני מבקש להסיק שקהלת צדק ושאין חדש תחת השמש (פעמים רבות בעבר, בעיקר באמצעות המוסיקה, במפגשים רבים במסגרות שונות, המחשתי זאת). לעומת זאת, אני כן מבקש לשאול מה כל כך מטריד אותנו בכך שאלגוריתם של AI מסוגל לכתוב סיפור או להלחין שיר. יתכן שבין אלה שבדקו ומצאו שהסיפור הקצר שזכה בפרס נכתב (או אולי "הורכב") על ידי AI היו כאלה שגם חשבו שמדובר בסיפור מצוין, אבל לא מצאתי תגובות כאלה. כן מצאתי התבצרות בייחודיות האנושית וסירוב להכיר באפשרות שה-AI יצרה משהו איכותי. כפי שציינתי, השירים של Velvet Sundown אינם טובים יותר משירים אנושיים, אבל הם גם לא גרועים יותר מרבים מאלה.

אנחנו כנראה נידונים לחיות עם החשש פן נגלה שה-AI מסוגלת לא רק לעבוד מהר יותר ומדויק יותר מאשר בני האדם, אלא שהיא גם יכולה ליצור טוב יותר מאיתנו. תוך הכנת המאמרון הזה נזכרתי בהערה של קלווין טרילין (Calvin Trillin) סופר אמריקאי שהרבה לכתוב, לרוב בהומור, על אוכל ואכילה. באחד התורים שנלקט בספר American Fried משנת 1974 הוא תיאר את הקושי שלו עם מבקרי מסעדות. הוא כתב על מבקר שהסביר בפסקנות כיצד הקיש שהוא טעם במסעדה היה שונה מהקיש הקלאסי והמקורי. טרילין כתב שכשהוא שמע את הביקורת הזאת הוא רצה לצעוק "אבל האם אהבת אותו?". ואז הוא דיווח על עצמו:

Any chance that I might someday acquire a serious interest in how closely what I ate resembled the true article disappeared one day at a block party near our house while I was eating some homemade gazpacho and talking about how it differed from the authentic gazpacho one got in Seville. The more I talked about the difference, the faster I wolfed down the gazpacho—until I realized that one way what I was eating differed from authentic gazpacho was that it tasted better.

מעניין שבדיון הסוער סביב האותנטיות של הסיפור הקצר שזכה בפרס ה-Commonwealth כמעט לא מתייחסים לשאלה אם הוא באמת סיפור טוב. גם שתי כותבות של The Guardian לא אהבו את הסיפור. אבל במקום להאשים את ה-AI, בביקורת שלהן הן זיהו אשם אנושי. לגבי סגנון הכתיבה של הסיפור הזוכה הן ציינו:

It’s every bit of worthy filler you’ve found padding out the middle of a debut collection published straight out of a prestigious MFA (Master of Fine Arts) writing workshop. It’s every short story you’ve ever skipped past in the New Yorker to get to the film reviews and the caption competition.

אין ספק שיש כאן ביקורת חריפה, אבל רצוי לשים לב שהביקורת איננה שהסיפור נכתב באמצעות ה-AI, אלא שהוא דומה להמון כתיבה אחרת, ולא פעם גם מוערכת, שכבר קראנו פעמים רבות. בחינוך אין ציפייה גדולה שהכתיבה של סטודנטים תהיה מקורית. בדרך כלל די אם הם יצליחו להיצמד למבנה המקובל של הפיסקה הסטנדרטית של הכתיבה האקדמית – מבנה שבמידה רבה הוא אלגוריתמי. אני דווקא נוטה לחשוב שטוב שנכון לעכשיו ה-AI עדיין לא "קראה" את מלוא הכתיבה האקדמית של הסטודנטים בהשכלה הגבוהה. הרי אם וכאשר הכתיבה הזאת תיעשה למאגר שעליו מאמנים את כלי ה-AI, אפילו הכתיבה שזכתה לגינוי בכתבה של The Guardian תיחשב מלוטשת ואיכותית.

לקראת סוף חודש אפריל מספר מקורות דיווחו על מיזם מעניין של Arizona State University (ASU) – שימוש ב-AI כדי להפיק יחידות לימוד מותאמות אישית לכל מבקש (בתשלום, כמובן). כתבה ב-Chronicle of Higher Education מסבירה:

This month, the institution began piloting a new artificial-intelligence platform that, for a fee of $5 a month, purports to turn faculty lectures, slide decks, and quizzes into instant, personalized courses.

ASU מוכרת כאוניברסיטה שנמצאת בחזית השימוש בטכנולוגיות דיגיטליות. לכן זה איננו מפתיע שהיא יוזמת פרויקט כזה. חומרי הלימוד שמרכיבים את הקורסים החדשים נלקחים, ומתומצתים, מחומרי הלמידה שנמצאים בתוך ה-LMS שלה (במקרה הזה Canvas). ה-AI "בוחרת" את הקטעים שתואמים את הקורס המבוקש ואורזת אותם, מוכנים ל-"למידה". בכתבה מסבירים ש:

The platform draws on existing ASU course materials — apparently scraped from Canvas — to generate short, modular lessons tailored to a user’s stated goals.

וכפי שדובר של ASU מסביר, המיזם, המכונה Atomic, מהווה חלק מתוכנית רחבת היקף שבוחנת דרכים חדשות להשתמש בתכנים דיגיטליים קיימים אל מנת להגיע ללומדים נוספים, ולא רק לאלה שרשומים באוניברסיטה לשם קבלת תואר.

מרצה לספרות אמריקאית ב-ASU שמצוטט בכתבה מספר על הנסיון שלו עם הכלי. הוא ביקש שהכלי יחולל לו קורס קצר בתחומו, ותוך שתי דקות ה-"קורס" הופיע. אבל הוא מדווח שהוא מצא בו שגיאות לא מעטות, ושהיחידות שהוא קיבל היו חסרות נרטיב קוהרנטי. לצד סרטוני ווידיאו, מצגות ובחנים הכלי גם הכין "מבואות" שבעיניו היו זבל. אין זה מפתיע שכתבה אחרת על המיזם באתר 404 Media ניסחה כותרת די חריפה:

University Professors Disturbed to Find Their Lectures Chopped Up and Turned Into AI Slop

המרצים שרואיינו לכתבה הזאת טוענים שהשימוש בחומרים שלהם להכנת ה-"קורסים" מאד לא מצא חן בעיניהם. הם גם טענו שקטעי ההרצאות או החומרים האחרים שלהם היו ללא הקשר, מה שגרם לערך לימודי ירוד מבחינה אקדמית.

ASU עצמה כנראה ציפתה לביקורת הזאת והיתה מוכנה עם "תשובה" לתלונה בנוגע לאיכות, או להעדר האוכית, שבקורסים (אולי צריכים לכנות אותם "קורסונים") שה-AI מחוללת. כמו אם מיזמים דיגיטליים רבים, גם במקרה הזה מסבירים שמדובר בכלי חדש שנמצא בהרצה, וכמו שקורה עם רוב יישומי ה-AI, יכולות הכלים הולכות ומשתפרות מיום ליום, כך שבקרוב סביר להניח שהתוצרים כן יהיו איכותיים. יכול להיות שזה נכון. אפילו ספקן כמוני מוכן להודות שהתפוקה של כלי AI היום איכותית בהרבה מלפני שנתיים, כך שבעוד זמן קצר הסיכויים טובים שהיא תהיה עוד יותר טובה.

ויש, כמובן, סוגיה נוספת – סוגיה שאיננה קשורה לאיכות הקורסים. אפשר לכנות את הסוגיה הזאת "של מי המידע הזה?". זאת איננה סוגיה חדשה. אם בעבר מרצה של קורס פעל בסביבה יחסית מבודדת, היום, בעידן הדיגיטלי, דרך פלטפורמות ה-LMS, וגם ברשת באופן כללי, חומרי הלמידה שמרצה פיתח זמינים לכל. כמו-כן, יש שפע של חומרי למידה בשלל הפורמטים, מטקסט פשוט ועד להקלטות וידיאו של הרצאות. כמעט בלתי-אפשרי שמרצה יחסום את השימוש בחומרים האלה וישמור אותם רק לעצמו. בנוסף, במקרים רבים חומרי הוראה שפותחו במוסד להשכלה גבוהה אינם רכושם של המרצים עצמם, אלא של המוסדות שבהם הם מלמדים. ובמקרים כאלה המוסדות רשאים לעשות עם החומרים האלה לפי ראות עיניהם. לאור זה, נדמה שללא קשר לאיכות התוצר, הפקת קורסים חדשים מחומרי ההוראה/למידה של המרצים על ידי כלי AI שפותח ב-ASU לגיטימית לגמרי.

קצת הופתעתי שבינתיים לא מצאתי התייחסות לסוגיה נוספת שבעיני נראית מרכזית. כבר בתחילת המאמרון הזה ציינתי שבדברי הפרסום של ASU האוניברסיטה טוענת שהכלי החדש שלה מחולל שיעורים קצרים ומודולריים המותאמים למטרות המוצהרות של המשתמש. הנקודה הזאת מופיעה גם בכתבה ב-404 Media שמצטטת מה-FAQ אודות הכלי ש-ASU פרסמה:

Once you start your subscription, you may generate unlimited, custom built learning modules tailored specifically to your learning goals and schedule.

ללא ספק יש משהו חיובי בהתאמה הזאת, אבל מצד שני יש כאן עדות למה שגרט ביאסטה (Gert Biesta) זיהה כהפיכת המרחב החינוכי לשוּק שבו ה-"לומד" מחליט מה הוא רוצה שילמדו אותו. עוד ב-2005, במאמר Against learning, ביאסטה כתב על "שפה חדשה של למידה" וזיהה בשפה החדשה זאת בעיה גדולה:

it allows for a redescription of the process of education in terms of an economic transaction, that is, a transaction in which (i) the learner is the (potential) consumer, the one who has certain needs, in which (ii) the teacher, the educator, or the educational institution becomes the provider

נוצר מצב שבו המורה/המרצה, או המוסד, צריכים לא רק להיות קשובים לצרכי הלומד (דבר חיובי בפני עצמו) אלא צריך גם לדאוג לכך שהלומד יקבל תמורה להשקעה שלו. ביאסטה מסביר שנוצר מצב שבו הלקוח (במקרה הזה, הלומד) תמיד צודק.

ביאסטה לא טען שגישה כזאת איננה לגיטימית. הוא מצא חיוב בשינויים במערכות החינוך וההשכלה הגבוהה כך שאלה ישרתו טוב יותר את צרכי הלומדים. אבל הוא גם זיהה בעיה (בעיה שציטטתי כאן גם לפני שש שנים):

But the more fundamental question is whether the educational process itself can be understood – and should be understood – in economic terms, that is, as a situation in which the learner has certain needs and where it is the business of the educator to meet these needs. I believe, following Feinberg (2001), that this is not the case, and that it is for precisely this reason that the comparison between an economic and an educational transaction falls short.

גם בן ויליאמסון (Ben Williamson) בבלוג שלו מתייחס ל-Atomic של ASU, והוא מבחין בין שתי הגישות שיכולות לבוא לביטוי בבניית קורסים באמצעות הכלי. הוא כותב:

From the perspective of an institutional platform such as ASU Atomic, academic content is valuable from an economic rather than educational perspective.

ואכן, יש הבדל. ביסודו של דבר, החינוך הוא תהליך שבו אנחנו לומדים דברים שעד עכשיו לא ידענו, כאשר ברוב המקרים אנחנו גם איננו מודעים למה שאיננו יודעים. אנשי חינוך אינם רק מעבירים אלינו את המידע שלא ידענו. הם גם מסייעים לנו להרכיב לעצמנו עולם קוהרנטי של הבנות, למקם את המידע החדש בהקשר המתאים. כאשר ASU מאפשרת ללקוחות להזמין קורסים מותאמים לרצונות שלהם, היא איננה עוסקת בחינוך, אלא במסחר. היא נותנת ביטוי להבחנה של ביאסטה בין "המודל המסחרי" ולבין "המודל המקצועי" (בעיניו אנשי חינוך הם אכן אנשי מקצוע). ללא קשר לאיכות או להעדר האיכות של החומרים שהיא מגישה ללקוחות שלה, בכך שהתוצר של כלי ה-AI של ASU עונה על בקשת הרוכש, אבל תלוש מראייה רחבה יותר שמורה או איש אקדמיה אמור להעניק לה, נוצר מצב שבו התוצר כבר איננו "חינוכי".

לפני בדיוק שנה שברתי שתיקה של כשמונה חודשים בבלוג הזה. הרגשתי אז שעל אף העובדה שהראש (שלי וגם של קוראיי המעטים) נשאר ממוקד באופן כמעט בלעדי בענייני מלחמה אני יכול להרשות לעצמי להרהר בכתב על עניינים הקשורים לתקשוב בחינוך. לא האשמתי אף אחד בשתיקה הממושכת הזאת. איכשהו פשוט הרגשתי שהעיסוק בעניינים שלפני-כן נחשבו רגילים יהיה כניעה לנורמליות האבנורמלית של המלחמה.

מאז הצלחתי לכתוב כאן על הנושאים שמעסיקים אותי בבלוג הזה. נדמה לי שעשיתי זאת במידה לא קטנה של עקביות, בתדירות של כמעט מאמרון כל שבועיים, אם כי אינני בטוח שמה שהופיע כאן באמת היה מעניין. אבל הנה, כבר חודש אני שוב מוצא את עצמי במצב של הרהור – כיצד אפשר לכתוב על תקשוב בחינוך כאשר היום-יום שלי, ושל כולנו, הוא טילים והרס. האם רצוי לשאוף ל-"נורמליות" ולהמשיך לכתוב? או אולי הכתיבה אינה אלא שוב כניעה למציאות האבנורמלית. אולי העיסוק ב-"נורמלי" כאשר הכל מסביב כל כך רחוק מנורמלי הוא מתן לגיטימציה להמשך האבנורמליות.

מאז המאמרון האחרון כאן סימנתי לעצמי מספר הולך וגדל של נושאים שנראים לי ראויים וחשובים להתייחסות. אבל על מנת לנסות להכנס שוב לשגרה של כתיבה אני דווקא בוחר לצלול לתוך העבר הרחוק, וגם לתאר כיצד אני, שבדרך כלל אינני מוצא ערך בשימוש בכלי AI, נעזרתי בהם באיתור של מאמר שזה זמן רב ניסיתי למצוא.

אינני זוכר מה גרם לי לחפש מאמר ספציפי שאודותיו היה לי זכרון עמום מלפני שנים רבות. לא פעם אני מבקש להביא כאן דוגמאות הקשורות לדיגיטליות בחינוך שממחישות שלמרבה הצער אין חדש תחת השמש בתחום. נזכרתי שבזמנו קיבלתי מפרופ' יהושפט גבעון (שפי) אחד המאמרים הראשונים שהתריע על כך שהאינטרנט והדיגיטליות מאיימים על ההשכלה הגבוהה כפי שהכרנו אותה עד אז. זה היה בשנת 2011, ואילו נזכרתי שהמאמר עצמו היה משנות ה-90 של המאה הקודמת. (מעניין שעל אף העובדה שאני חושב שקיבלתי את המאמר משפי, אחרי שאיתרתי את המאמר ומצאתי אותו בדואר שלי, ראיתי שבהתכתבות בינינו היה זה אני ששלחתי אותו אליו. אולי קיבלתי אותו ממישהו אחר, ואינני זוכר מי.) הזכרון היה די עמום, ולא זכרתי מספיק פרטים על מנת לאתר אותו. דווקא אי-השקט של המלחמה הנוכחית, אי שקט שמנע ממני לצלול לתוך כתיבה "מעמיקה" יותר, דרבן אותי לפנות ל-ChatGPT ולבדוק אם אולי הוא יעזור לי באיתור אותו מאמר.

הפנייה שלי היתה די פשוטה:

I'm looking for an article from the early 1990s by an academic at I think an Ivy League college. He was also Israeli, but taught in the U.S. The article focused on the threat that the internet posed to higher education. Can you find that article for me?

כמעט מיד זכיתי בהמלצה טובה – Digital Diploma Mills מאת דיוויד נובל (David Noble). ChatGPT אמנם ציין שנובל לא היה ישראלי, אבל מדובר בספר שהזהיר שטכנולוגיות חדישות יפגעו בעצמאות האוניברסיטה ויהפכו אותה ללא יותר אשר קבלן שמכין פועלים לתעשייה. הספר, אגב, משנת 2001, אם כי הוא מבוסס על מאמר של נובל מסוף שנות ה-90. שמחתי על ההמלצה. הרי מדובר בספר באמת מעניין שכדאי לקרוא. אבל הוא לא היה זה שחיפשתי. כתבתי שנדמה לי ששמו הפרטי של הכותב היה Noam. ולשמחתי זה היה מספיק על מנת לקלוע למטרה:

Yes—this clicks now. I’m almost certain you’re thinking of Eli Noam
🎯 The article you likely have in mind
One strong candidate is:
“Will the Internet Be Bad for Democracy?” (1999)
(based on a 1999 lecture/paper)

אכן, חשבתי על Eli Noam, אבל המאמר שעליו ChatGPT המליץ לא היה זה שחיפשתי. ביקשתי משהו שעסק ספציפית בהשכלה הגבוהה והמאמר הזה היה כללי יותר. אבל גם אם זה לא היה המאמר שרציתי, עכשיו היה לי מספיק מידע לערוך חיפוש מושכל יותר. ChatGPT המצליץ על מאמר אחר של נועם, ודרכו הצלחתי להגיע יחסית מהר אל:

Electronics and the Dim Future of the University

זה אכן המאמר שחיפשתי, והוא מ-1996 – לפני שלושים שנה. אבל עם תודה גדולה ל-ChatGPT ותחושת הסיפוק שאיתורו העניק לי, עדיין נשאלת השאלה האם דבריו של אלי נועם מלפני שלושים שנה באמת ניבאו את מה שקרה וקורה להשכלה הגבוהה. נדמה לי שכן.

נועם ציין שטכנולוגיות חדישות מעניקות יתרונות רבים לעולם הדעת, אבל הוא הוסיף שעל אף העובדה שטכנולוגיות תקשורת חדשות יכולות לתרום למחקר, הן גם מחלישות את מוסדות הלמידה כמקורות של ידע:

Instead of prospering with the new tools, many of the traditional functions of universities will be superseded, their financial base eroded, their technology replaced and their role in intellectual inquiry reduced. This is not a cheerful scenario for higher education.

הוא הדגיש שהטכנולוגיות החדישות אינן אשמות בהתפרקות האוניברסיטה שהוא חזה. לכך יש גורמים רבים נוספים. אבל כאשר הטכנולוגיות האלו משנות את דרכי הפקת המידע והפצתו, הן מאפשרות ומזרזות את פירוקו של מבנה האוניברסיטה כפי שהכרנו אותו דורות רבים. ראוי להוסיף שכל זה הוא לפני שכלי AI הביאו לכך שכתיבת חיבור כבר איננה אמצעי אמין להערכת הלמידה.

להבדיל ממפתחי הכלים הנפוצים של היום, נועם לא התרברב שהכלים החדשים יוצרים דרכי למידה טובות יותר, ויהפכו את האוניברסיטה למיותרת. הוא רק ציין שכדי שהיא תוכל להמשיך למלא תפקיד חשוב יהיה עליה להסתגל למציאות הטכנולוגית החדשה:

The question is not whether universities are important to society, to knowledge or to their members – they are – but rather whether the economic foundation of the present system can be maintained in the face of the changed flow of information brought about by electronic communications.

הוא סיכם (שוב, ב-1996) שמתרחש שינוי מהותי בנגישות למידע, ובגלל זה גם דרכי הפעולה וגם התפקיד המסורתי של ההשכלה הגבוהה ישתנו:

In the past, people came to the information, which was stored at the university. In the future, the information will come to the people, wherever they are.

הטכנולוגיות הדיגיטליות של היום שונות מאד מאלה שעליהן נועם כתב לפני שלושים שנה. אם לא שום דבר אחר, הן מעצימות את היכולות שעליהן הוא הצביע אז. כזכור, נועם הדגיש שהטכנולוגיות אינן האשמות המרכזיות של השינויים, אלא הזרז שלהן – וברור שאלה של היום, ובעיקר ה-AI, מזרזות עוד יותר.

לקורא של היום המאמר של נועם הוא בוודאי לא יותר מאשר עדות היסטורית מעניינת. במהלך השנים רבים אחרים כתבו דברים דומים, וספק אם יש באמת חשיבות בלהיות בין הראשונים. אבל אני מודה ל-ChatGPT שסייע לי באיתור המאמר, ובכך גם העניק לי את ההצצה לתוך נבואה שכנראה לא רחוקה מלהתגשם.

לקראת סוף השנה האזרחית כתבתי כאן על מחקר שטען שהקלוּת בהגעה ל-"מידע" שכלי LLM מעניקים ללומדים, לעומת חיפוש מידע דרך כלי חיפוש כמו גוגל, גורמת ללמידה שטחית. ציינתי אז שאפילו אם ממצאי אותו מחקר לא הפתיעו, הם עוררו הרהור בנוגע לאמצעים הטכנולוגיים שבשילובם לתוך החינוך אני עוסק שנים רבות. הרי אני רואה בחיוב כלים שמקלים על תהליך הלמידה, אבל אם המחיר של אותה הקלה היא דלות הלמידה, אינני בטוח שהיא באמת כדאית.

מסיבות די מובנות, הרוב הגדול של החומרים שאליהם אני מתייחס כאן באים מתחום החינוך. עם זאת, הדיגיטליות על כל גווניה משפיעה על שלל תחומי החיים שלנו, ולא פעם סוגיות שעולות במרחב החינוכי מופיעות גם בתרבות הרחבה יותר. וכך עם שאלת ה-"סבל". השבוע נתקלתי בשלוש דוגמאות, די שונות זו מזו, שבעיני מאירות את הנושא מזוויות מעניינות ואף חשובות.

תוך זמן קצר Suno, כלי AI שמפיק שיר באמצעות פרומפט פשוט והקלקה על כפתור, הפך גם פופולארי, וגם שנוי במחלוקת. אני מודה שהקשר שלי למוסיקה פופולארית מצומצם למדי, ועל אף העובדה ששאלות של זכויות יוצרים שבהן כלי AI מסתבכים כן מעניינות אותי, אלה אינן במיוחד קשורות לחינוך. לעומת זאת, קלות ההפקה כן קשורה. כתבה על הכלי ב-The Guardian מאמצע ינואר מצטט את מנכ"ל Suno מייקי שולמן (Mikey Shulman) שבין היתר מסביר למה אותה קלות מוצאת חן אצל משתמשי הכלי:

I think the majority of people don’t enjoy the majority of the time they spend making music.

מצאתי את עצמי מגרד בראש מול המשפט הזה. יתכן ששולמן מתכוון להגיד שיש שלבים במלאכת ההפקה של שיר שיכולים להיות מייגעים, ואני מניח שזה נכון. אבל נראה לי הגיוני שיצירת שיר, או קטע מוסיקלי כלשהו, נעשה מתוך רצון. ספק אם מישהו מכריח אותנו להלחין שיר. לאור זה, מדובר במלאכה שעוסקים בה בחדווה, אפילו אם לפעמים היא קשה. אני מתקשה להבין כיצד, מעבר לפעם או פעמיים הראשונות, "יוצר" ירגיש בעלות או גאווה, שלא לדבר על הנאה, כלפי שיר שהוא בסך הכל הפיק באמצעות הקלקה על כפתור. דווקא ההנאה והסיפוק נובעים מכך שאנחנו מתאמצים ומצליחים ליצור משהו איכותי.

הדוגמה השנייה מצאתי ב-כתבה שבמקור מ-2019 אבל באופן מקרי (ולמזלי) זכה לעדכון השבוע. בכתבה מורה לכלי נגינה סוקר מחקר שבו השתתפו 75 סטודנטים. החוקרים לימדו את עיקרי המשחק פטאנק – משחק שדומה לכדורת דשא. אחרי השלב הראשון של הכרות עם המשחק ותקופה קצרה של אימון, הסטודנטים חולקו לשתי קבוצות. כל קבוצה התאמן שוב במשך 40 דקות, כאשר בהמשך קבוצה אחת התבקשה לשוחח ביניהם על אלו אסטרטגיות של זריקת הכדור היו מוצלחות, ואילו הקבוצה השנייה קיבלה שיעור/הרצאה על הדרך הנכונה לזרוק את הכדור. מהתיאור שבמחקר על שתי הגישות האלו נדמה לי שאפשר בקלות להבין שהחוקרים ביקשו לבחון:

the effectiveness of two teaching strategies in PE. One allows students to explore and come up with their own ways of throwing in petanque, while the other teaches students the standard motions.

אחרי תקופות האימון והשיחה או השיעור הסטודנטים (כמובן) נבחנו בזריקת הכדור. כותב הכתבה מסכם שההישגים של הסטודנטים שזיהו בעצמם את השגיאות שלהם בזריקת הכדור היו טובים יותר מאשר אלה שקיבלו הסברים. הוא כותב:

the students who learned by making mistakes, seemed to have more confidence in their ability to improve and get better, than those who were taught using the correct movement approach!

מי שיש לו רקע בחינוך בוודאי יזהה כאן ביטוי של הגישה החינוכית של ג'ון דיואי (John Dewey) שאפשר לכנות למידה תוך כדי עשייה (Learning by Doing). ההתנסות מאפשרת לנו להפנים את הלמידה שלנו כך שהיא הופכת לחלק מאיתנו בצורה משמעותית יותר מאשר אם רק מסבירים לנו. אבל כאן אני חייב להודות שאני כמעט מתבייש שאני צריך להסביר את זה. גם אם המערכת החינוכית איננה מיישמת את התפיסה הזאת, נדמה לי שכולם טוענים שהם דוגלים בה.

שתי הדוגמאות הראשונות כאן משקפות היבטים שונים של אותו מאמץ (או סבל) שעליו כתבתי קודם. הן אינן מרעידות עולמות, ודווקא הבנאליות שלהן היא אשר גורמת לי להביא אותן. מצד אחד כלי כמו Suno מאפשר לנו להפיק מוצר תוך זה שהוא חוסך מאיתנו את המאמץ – אותו מאמץ שהופך את התהליך למשמעותי עבורנו. במקרה של משחק הפטאנק עצם ההתמודדות עם קושי, במקום פשוט לקבל הסבר על כיצד לפעול נכון, היא אשר תורמת להצלחה.

אבל בעיני הדוגמה השלישית היא המעניינת ביותר, ולא רק בגלל המקור שלה. באופן ברור היא מזהה את המאמץ כמרכיב מרכזי בלמידה. השבוע ב-The Forward, לואיס קין (Louis Keene) דיווח על התקהלות של קהילה חרדית בניו יורק סביב האיום שכלי AI מהווים עבור הקהילה. כמו עם החשיפה לאינטרנט לפני יותר מעשור, רבני הקהילה מתנגדים היום לכלים כמו ChatGPT. בעיניהם השימוש בהם מהווה סכנה לקהילה. הם אפילו קוראים ליום צום כדי למגר את האיום. אבל ההסבר להתנגדות לכלי AI איננו השחתת הנוער בעקבות ההיחשפות לתרבות זרה וקלוקלת, אלא משהו הרבה יותר מושכל שמשקף תפיסה מאד ראויה.

קין מסביר שרבני הקהילה דוגלים בתפיסה שנובעת מפרושו של רש"י לפסוק ויקרא כ"ו:ג':

אִם־בְּחֻקֹּתַ֖י תֵּלֵ֑כוּ וְאֶת־מִצְוֺתַ֣י תִּשְׁמְר֔וּ וַֽעֲשִׂיתֶ֖ם אֹתָֽם

רש"י מפרש:

הֱווּ עֲמֵלִים בַּתּוֹרָה עַל מְנָת לִשְׁמֹר וּלְקַיֵּם, כְּמוֹ שֶׁנֶּאֱמַר "וּלְמַדְתֶּם אֹתָם וּשְׁמַרְתֶּם לַעֲשֹׂתָם" (ראו כאן)

 מכאן נגזר המונח "עמילות" – הצורך להשקיע מאמץ בהבנת הכתוב. קין מצטט אחד מרבני הקהילה שמסביר:

If at the push of a button, I can get a hold of a d’var torah for my Shabbos meal from AI, to us, that’s a problem. … No, no — I want you to open the book and read it and come up with a question and come up with an answer. That’s part of what’s holy about learning Torah. It’s not just end result. It’s the process.

לא יכולתי להגיד את זה טוב יותר.

לקראת תחילת השנה האזרחית החדשה החלטתי שהגיע זמן לקצת רפלקציה, או לפחות לסקירה קצרה על הפעילות של השנה שעברה בבלוג הזה. לרוב אינני בוחן את פעילות הכתיבה שלי כאן לפי מספר הפרסומים, אבל הייתי מאד מודע לעובדה שדווקא ב-6 באוקטובר 2023 התפרסם כאן מאמרון, ואחריו, במהלך כל 2024 ועד חודש מרץ 2025, הופיעו שני מאמרונים בלבד. אני מניח שאותה שתיקה ממושכת איננה זקוקה להסבר. בחודש מרץ הרגשתי, איכשהו, שמותר לחזור לעניינים בנאליים כמו התקשוב החינוכי, ומחודש מרץ ועד סוף 2025 התפרסמו כאן 19 מאמרונים. מספר המאמרונים שאני מפרסם כאן, כמובן, איננו מדד לאיכות, וגם לא לקריאתם, אבל לפחות עבורי היה מעניין לראות עד כמה חזרתי לכתוב.

מספר פעמים בעבר ציינתי שלרוב אינני עוקב אחר סטטיסטיקת הצפיות. עם זאת, לא יהיה זה נכון להגיד שמספר הכניסות לבלוג הזה איננו מעניין אותי. אולי נכון יותר להגיד שאני יודע שאין הרבה כניסות, ואני גם אינני מצפה להן. יש מספר קבוע של מנויים שמקבלים (או לפחות אמורים לקבל) הודעה על כל מאמרון חדש, ואני ממשיך ליידע על כך גם ב-Twitter, אם כי נדמה לי שכמו שאני כמעט נטשתי לגמרי את הכלי ההוא, כך עשו גם אלה שפעם עקבו אחרי שם. אז לאור כל זה, אני מעריך שיש כאן בין 30 – 35 קוראים די קבועים. לא הייתי מתנגד להפצה רחבה יותר, אבל אין לי ציפיות לכך. ואני מודה שכאשר מידי פעם אני מגלה שמאמרון כלשהו קיבל 80 או אפילו 90 כניסות אני מגרד בראש ומנסה לפענח מה גרם לזה. יכול להיות שהמספרים הגדולים האלה קשורים לספאמרים שנכנסים ומעלים "תגובות" עם קישורים לאתרי פורנו (שאני מיד מוחק), אבל יכול להיות שלפעמים יש מרצה בקורס כלשהו שמנחה את הסטודנטים שלו לקרוא מאמרון מסוים. אינני מתנגד, אבל אין לי דרך לבדוק.

בקיצור, ברור לי שהבלוג הזה מגיע לחוג מצומצם של אנשים – אנשים שעבורם שאלות של כיצד התקשוב יכול לסייע (ולפעמים להזיק) ללמידה חשובות. ודווקא מפני שאני מניח שרוב הקוראים האלה פחות או יותר מסכימים עם הגישה שלי יש טעם לשאול למה אני ממשיך לכתוב. הרי אם הכתוב כאן איננו מגיע לאנשים שאיתם יש לי מחלוקת בנוגע לתקשוב בחינוך, הסיכוי לשכנע אותם ולגרום להם לשנות את דעתם, שואף לאפס. אז מה כן? במידה רבה הכתיבה שלי כאן מהווה "חשיבה בקול רם", כאשר הצג משמש עבורי תיבת תהודה – תיבה שמשדרת לאחרים, אבל גם, ואולי בעיקר, לעצמי – שמאפשרת לי, המאזין הראשי, להבהיר את החשיבה שלי לעצמי. הרי כבר פעמים די רבות ציינתי שדרך הכתיבה אני מצליח (פחות או יותר) לגבש ולזכך את המחשבות שלי. אפילו כאשר בתחילת הכתיבה אני בטוח שאני יודע מה אני רוצה להגיד, כמעט תמיד מתברר שהמחשבה הראשונית היתה מבולבלת ולא מגובשת, ותוך כדי ההתמודדות מול מה שאני כותב, והעריכה המתמדת של הגרסאות, המחשבות נעשות – לפחות לעצמי – ברורות יותר.

אני מניח שלקוראים המעטים שלי כל זה איננו חדש. כבר כתבתי דברים דומים מספר פעמים. אבל דווקא בנוגע לכלי AI יתכן שיש מחלוקת ביני לבין הקוראים. יש לי ידידים שמספרים לי שהם נעזרים בכלי LLM במגוון תחומים ושהשימוש הזה חיובי ויעיל עבורם. אני מאמין להם, ושמח על הכדאיות אצלם, אבל כאשר מדובר בסביבה החינוכית אני ממשיך להיות ספקן. ואולי מיותר להוסיף שמרבית המאמרונים של השנה האחרונה התייחסו לכלי AI, ובעיקר כלי LLM.

במרחב החינוכי נדמה לי שההתייחסות לכלי LLM מתחלקת לשני מחנות – אלה שסבורים שהכלים יכולים לקדם את הלמידה, ואלה שמשוכנעים שהשימוש הכמעט בלעדי אצל סטודנטים הוא על מנת להתחמק ממאמץ לימודי רציני (או במילים אחרות, לתת לכלים האלה לכתוב עבודות עבורם). רבים כתבו, למשל, על קץ החיבור כאמצעי להערכת לומדים בעקבות יכולתם של כלי LLM לחולל עבודות סטודנטים. מדובר בסוגיה חשובה, אבל לא סוגיה שבאמת מעסיקה אותי. הרי כל דור והאמצעים שהוא מוצא כדי להמנע מלהשקיע בכתיבת עבודות. כלי AI אמנם מקלים על ההתחמקות הזאת, אבל בעיני לא מדובר בשוני מהותי ממה שהיה לפני הכלים האלה. (זאת ועוד: אם המטרה של מערכות הלמידה למיניהן היא הכשרת ה-"לומד" לקראת תעסוקה עתידית, אפשר לטעון שמי שמצליח לגייס את הכלים של היום כדי לזכות בציון טוב מבלי להשקיע מאמץ אכן "למד" משהו שחשוב מאד ללמוד.) מיקמתי את עצמי במחנה שלישית. לא התלהבתי מיכולות הכלים האלה בחינוך, אבל גם לא נחרדתי שעבודות הוכנו על ידיהם. במקום זה הבעתי את החשש שהשימוש בכלי LLM אצל סטודנטים פוגע ביכולת שלהם להתפתח כלומדים בעלי כישורי חשיבה ביקורתית.

מרבית מה שמופיע עד לשלב הזה של המאמרון הזה נכתב, בעריכה קצת אחרת, בסוף דצמבר 2025. הדברים, כמובן, לא הגיעו לפרסום. לא פרסמתי אותם מפני שהרגשתי שאני ממחזר את עצמי – שבאמצעות הנסיון לערוך סקירה רפלקטיבית דווקא הוכחתי לעצמי שכבר זמן רב אין לי מה לחדש, ולכן פרסום נוסף מיותר. חודש עבר – חודש שבמהלכו המשכתי, כמובן, לקרוא בתחום, וגם סימנתי לעצמי מספר כתבות שנראו לי ראויים להתייחסות כאן. אבל היה קשה לא לשאול את עצמי אם כבר אין לי משהו שונה להגיד. היתה זאת כתבה של איאן בוגוסט (Ian Bogost) ב-The Atlantic מלפני מספר ימים שדרבנה אותי לשבור את השתיקה, ותוך כדי כך גם אילצה אותי לבחון הנחה שעד עכשיו היתה די מבוססת אצלי.

בוגוסט כתב באופן כללי על המשבר הנוכחי בהשכלה הגבוהה בארה"ב. בכתבה הוא התייחס ל-AI בחינוך באופן אגבי בלבד. אבל כותרת המשנה של הכתבה הזכירה לי משהו שקראתי בתחילת חודש ינואר, משהו שגרם לי להרהר על היחס השלילי שלי כלפי השימוש בכלי LLM אצל סטודנטים. כותרת המשנה של הכתבה של בוגוסט היתה:

Go to a small liberal-arts college if you can.

בוגוסט הסביר שהאווירה באותם קולג'ים קטנים מאפשרת ומעודדת למידה טובה ואיכותית, ושהאווירה החיובית הזאת נעדרת ברוב מוסדות ההשכלה הגבוהה. הסכמתי איתו. אבל דווקא שלוש המילים האחרונות של המשפט הזה היו אלה שעוררו אצלי תגובה בעייתית. הרי למרבה הצער אפילו אם מדובר במצב רצוי, "if you can" איננה באמת אפשרות עבור הרוב המכריע של האנשים שפונים להשכלה הגבוהה. ולאור העובדה העצובה הזאת נשאלת השאלה – אם אינך יכול, מה כן?

פעמים רבות ציינתי שאני חסיד של הדף הלבן, אבל אם להודות באמת, צורת הכתיבה שלי כאן איננה באמת נגזרת מדף ריק. חלק גדול ממה שאני מפרסם כאן איננו תוצאה של חשיבה ישירות לתוך הדף הלבן. האמת היא שהכתיבה ניזונה מקרשי הקפיצה הרבים של הקריאה הרחבה שלי וכתגובה לאותה קריאה. אחת הכתבות שקראתי בתחילת חודש ינואר הופיע ב-Substack של ניק פוטקליצקי (Nick Potkalitsky) (שעד אז לא הכרתי) שכתב על:

In Praise of Assistance

פוטקליצקי מציין שברוב המכריע של המקרים ה-"if you can" של בוגוסט פשוט איננו קיים. הוא כותב שהלומד האוטונומי, הלומד שבונה לעצמו "שרירים קוגניטיביים" תוך פעילות עצמאית, הלומד שהוגים רבים אוהבים להרים על נס כאב-טיפוס של הלומד האולטימטיבי, כמעט ואיננו קיים. הוא מוסיף:

Students have always learned through assistance. From peers, from teachers, from resources, from the structured support of the classroom environment itself. … No one worries that these students are “cognitively offloading” onto their classmates. No one suggests that peer feedback on a draft represents cognitive dependency.

אבל הוא מדגיש שכאשר הסיוע נעשה באמצעות הבינה המלאכותית, מה שבמסגרות המסורתיות (הזמינות לאותם סטודנטים שיכולים ללמוד במוסדות יוקרתיים) נחשב לגיטימי פתאום מעורר חשד. מה שנחשבה לקוגניציה מבוזרת הופכת לחולשה אינטלקטואלית. פוטקליצקי מתאר את מה שאפשר לכנות ריבוד מעמדי – לרוב אותם סטודנטים ששוללים להם את השימוש בכלי AI הם אלה שעבורם הכלים האלה יכולים לשמש תיבת תהודה שמגיבה, בפעם הראשונה בחייהם כלומדים, לחשיבה שלהם. מדובר בלומדים שעד היום לא זכו למשוב אנושי בונה:

The students most likely to be denied AI assistance are the students who need scaffolding most. The students most likely to be granted access are the students who need it least.

וכאן עלי להודות שבמידה די גדולה פוטקליצקי חושף את מה שאני נאלץ להגדיר כגישה האליטיסטית, והמוטעית, שלי. אותו דף לבן שאני מרבה להלל (גם כאשר אני מודה שלעתים קרובות הוא איננו באמת ריק) יעיל ושימושי לי מפני שבמהלך השנים למדתי כיצד להפיק סיוע מחשבתי ממקורות רבים ומגוונים. פוטקליצקי מעמיד אותי על טעותי. הוא מתאר את הפריבילגיה שכבר מזמן עומדת לרשותי – פריבילגיה שבשם הערך של טוהר "האינטראקציה האנושית" (בלשון פוטקליצקי) הייתי מוכן לשלול מסטודנטים שעל פי רוב מכירים רק כיתות צפופות ומורים עמוסים כך שאין להם הזמן לקדם אותם ממש. אני מודה לו על כך שהוא מזכיר לי שיש רבים אחרים שעבורם הגישה לכלי LLM איננה בהכרח אמצעי להתחמקות מהתמודדות עם עולם הידע, אלא מהווה אשנב ללמידה קוגניטיבית שלא היתה זמינה להם לפני-כן.

לפני חודש, באתר The Conversation, שירי מלומד (Shiri Melumad) מרצה במחלקה לשיווק באוניברסיטה של פנסילבניה פרסמה כתבה שסקרה מחקר שהיא, עם שותף, ערכה שהשווה בין "עומק הלמידה" בעקבות מידע שהושג דרך החיפוש המסורתי של גוגל מול מידע שהושג דרך השימוש בכלי AI כמו ChatGPT. מסקנת המחקר מופיעה בכותרת הכתבה:

Learning with AI falls short compared to old-fashioned web search

לא ידעתי מה לצפות מהמחקר הזה, אם כי לא היה קשה לנחש, אפילו מקריאת הכותרת בלבד. הנחתי שמפני שהחיפוש הוא פעולה יחסית אקטיבית המחקר יגלה שהלמידה שמתרחשת דרך חיפוש מידע בגוגל מעמיקה יותר מאשר דרך כלי LLM. עבורי לפחות, קל מאד לאמץ את הקביעה של מלומד שהשימוש ב-LLM, שהיא לרוב נטולת מאמץ, יוצר תחושת "למידה" דלה ושטחית. ואכן מלומד כותבת:

However, a new paper I co-authored offers experimental evidence that this ease may come at a cost: When people rely on large language models to summarize information on a topic for them, they tend to develop shallower knowledge about it compared to learning through a standard Google search.

המחקר, שכזכור מוצא ערך בחיפוש מידע דרך גוגל, התפרסם באוקטובר, ומעניין שפגשתי אותו סמוך למאמרון הקודם כאן בו ציטטתי את ג'וסטין רייך (Justin Reich) שטען שסטודנטים רבים מדי אינם יודעים לערוך חיפוש מידע מושכל דרך גוגל. ללא קשר לביקורת של רייך, אני מעדיף את החיפוש ה-"מסורתי" על השימוש ב-AI אבל דווקא בגלל ההעדפה הזאת הרגשתי צורך לקרוא את המחקר המלא. חששתי שבדומה למחקר של נטליה קוסמינה ב-MIT שגם עליו כתבתי, אגלה שלפחות לטעמי מסקנות המחקר אינן בדיוק נתמכות על ידי המחקר עצמו. לשמחתי, התבדיתי.

מצאתי מחקר שעשה מאמצים לבחון אם באמת יש הבדל בלמידה, או באיכות הלמידה, בין החיפוש ברשת ה-"מסורתי" לבין השימוש ב-AI על מנת לקבל מידע. הוא נבנה מארבעה חלקים שונים. בחלק הראשון, שבו השתתפו מעל אלף סטודנטים, הסטודנטים חולקו לשתי קבוצות שהתבקשו להכין הנחייה לעמית בנושא של גידול גינת ירק. לשם הכנת ההנחיות קבוצה אחת חקרה את הנושא באמצעות חיפושי גוגל "רגילים", ואילו הקבוצה השנייה השתמשה ב-ChatGPT. התוצאות היו ברורות – המשתתפים שערכו חיפושים דרך גוגל לפני שהם הכינו את ההנחיות שלהם הרגישו שהם למדו יותר על הנושא, ובדיקה של מה שהמשתתפים כתבו הראתה תוכן עשיר ומגוון יותר. בחלק השני (עם כ-2000 משתתפים) המשתתפים שוב חולקו לקבוצה של חיפוש דרך גוגל וקבוצה של ChatGPT, אבל היתה כאן אחיזת עיניים מסוימת – בעצם, החוקרים הגישו את אותן התוצאות לשתי הקבוצה, כאשר רק אמצעי ההגעה למידע היה שונה. המשתתפים בקבוצת ה-ChatGPT ציינו שהם למדו פחות מאשר קבוצת הגוגל.

החלק השלישי ביקש לבודד עוד יותר את ההבדלים. 250 משתתפים חולקו לקבוצה אחת שחיפשה דרך גוגל, ולקבוצה שנייה שהשתמשה ב-AI Overview של גוגל. (בניסוי הזה המטלה לא היתה להסביר כיצד לגדל גינת ירק, אלא כיצד לחיות חיים יותר בריאים.) וגם הפעם, התוצאות היו דומות. המעורבות בהכנת ההנחיות של קבוצת החיפוש היתה גדולה יותר, וגם התוצאות היו עשירות יותר. בחלק הרביעי התוצאות של 250 המשתתפים בחלק השלישי הוגשו ל-1500 קוראים שהתבקשו לדרג את איכות המידע שהופיע בסיכומים השונים. ושוב, הסיכומים של אלה שהשתמשו בחיפוש ה-"רגיל" של גוגל נחשבו איכותיים יותר מאשר אלה של ה-AI Overview. (רצוי להדגיש כאן שניסיתי לתמצת בנאמנות מחקר די מורכב, ומומלץ לא להסתמך על הסיכום שלי, אלא לקרוא את המחקר המלא.)

מכל זה נדמה לי שיש כיסוי לקביעה של מלומד שכותבת:

learning from synthesized LLM responses led to shallower knowledge compared to gathering, interpreting and synthesizing information for oneself via standard web links.

דווקא מפני שמראש היתה לי נטייה להסכים עם תוצאות המחקר של מלומד, התוצאות האלה גרמו לי אי-נוחות מסוימת. אנחנו תמיד שמחים למצוא סימוכין לדעות שלנו, וקצת זהירות כלפי מסקנות שאנחנו מעוניינים להסיק איננה יכולה להזיק. כמו-כן, אי-הנוחות קשורה לשאלה חינוכית עתיקת יומין – האם צריכים לסבול (או לפחות להתאמץ) על מנת ללמוד משהו באופן יסודי.

מלומד מציינת שאחד העקרונות הבסיסיים ביותר של פיתוח מיומנויות הוא מעורבות פעילה במה שמבקשים ללמוד. היא כותבת שכאשר הלמידה על נושא כלשהו נעשה באמצעות חיפוש בגוגל:

we face much more “friction”: We must navigate different web links, read informational sources, and interpret and synthesize them ourselves

ואילו כאשר אנחנו פונים ל-LLM העבודה נעשית עבורנו ותהליך הלמידה היא פסיבית. הלומד איננו מעורב אישית בתהליך, והתוצאה היא למידה שטחית. מלומד משתמשת במונח disfluency (אולי "העדר שטף") ומסבירה כיצד הוא מתקשר למחקר שהיא ערכה:

learning through web search involves a particular type of disfluency: the need to engage in trial-and-error navigation among result links, discovering which are suitable for the question at hand, and then interpreting and synthesizing the different pieces of information for oneself.

היה לי מעניין, אגב, לראות שבמראי המקומות של המחקר מלומד מקשרת למאמר משנת 2013 שנחשפתי אליו, נדמה לי, ב-2015 ומאד אהבתי – The Benefits of Cognitive Disfluency מאת אדם אלטר (Adam Alter). מדובר במאמר מאד נחמד, אם כי לא במיוחד מעמיק. הטענה העיקרית של אלטר היא שעל מנת ללמוד משהו רצוי שניתקל במידה מסוימת של קושי. וכאן אי-הנוחות. אינני דוגל בכך שלשם הלמידה מורים ומרצים יאלצו את הסטודנטים שלהם לסבול. ובכל זאת יש הגיון בכך שכאשר אנחנו פוגשים קושי מסוים, או צריכים להשקיע מאמץ, הסיכוי שנפנים את הנלמד גדל.

אבל המצב הזה מעמיד אותי מול שתי דילמות – האם בכלל נכון לגייס כלים טכנולוגיים כדי להקל על לומדים, והאחרת, אם דווקא כין רצוי להקל, למה לחייב כלים מלפני עשור אבל לשלול כלים מקלים, כמו כלי LLM, של היום.

ברור שהחישובית הקלה על הסטודנט, וכך גם כלים נוספים – מבודק האיות בתמלילן ועד לגישה המהירה למידע דרך הרשת. אולי השימוש באלה היה טעות, וכמו שרבים היום טוענים, בסופו של תהליך ההקלות האלה פוגעות ביכולת הלמידה של הלומדים? מבחינתי האישית התשובה שלילית. הרי מול אותן "הקלות" יש גם יתרונות לימודיים ברורים. ה-"הקלות" האלה מאפשרות התמקדות בשטף העבודה (כאשר אין צורך להקפיד על איות, למשל), והן מזמינות הרחבה והעמקה בתחומים רבים. ספק אם היינו רוצים לוותר על אלה ובמקום זה לחייב את הלומדים להזיע יותר, אפילו אם אנחנו מבינים שיש מקרים שבהם ההזעה יכולה להוביל ללמידה טובה יותר.

אבל אם אינני שולל את הכלים התקשוביים של לפני עשור (ויותר), למה אני מתייחס בספקנות כלפי כלים חדשים שגם הם, לפחות לפי מפתחיהם, תורמים המון ללמידה. אולי טעיתי גם לגבי הכלים הישנים? רצוי לשים לב שלאחרונה יש ביקורת די חריפה כלפי כמעט כל דבר "טכנולוגי" בחינוך, שמגיעה אפילו עד לדרישה לסלק את המחשבים מהכיתות באופן גורף. (כמובן שגם העיפרון הוא טכנולוגיה, ויתכן שפעם גם התנגדו לשילובו בכיתה, אבל לא ידוע לי על ביקורת היום כלפי השימוש בעיפרון.) בגלל ההתנגדות הזאת חשוב להגן על הטכנולוגיה. אבל כאשר אנחנו עושים זאת חשוב להבחין בין מה מקדם את הלמידה ומה מעכב אותה. בנוסף למתנגדים לתקשוב יש חברות טכנולוגיות שאינן מבחינות בין מה תורם ומה פוגע ללמידה, והן מבקשות לשכנע אותנו שאי-אפשר לעצור את הקידמה. לכן חשוב להבהיר שמצעד הטכנולוגיה איננו רצף של שיפור מתמשך. הטכנולוגיות שאנחנו מאמצים משקפות את התפיסות ואת הערכים של החברה שלתוכה הן צומחות, וגם את התפיסות ואת הערכים של אלה שמפתחים אותן. החינוך רשאי, ואף צריך, לאמץ מה שיכול לקדם את הלמידה (וכמובן שאין תמימות דעים אצל אנשי חינוך בנוגע מהי באמת "למידה"). המחקר של מלומד, שמתמקד בערך החיובי של עשיית מאמץ, מאיר היבט של טכנולוגיה "ישנה" שדווקא נעדר בטכנולוגיות חדשות שמקלות, ומראה לנו שאין בושה בלא תמיד לצעוד עם ה-"קידמה".

לא כולם בחינוך עלו על רכבת ה-AI והכריזו שאחרי ה-ChatGPT מה שהיה כבר לא מה שיהיה. יש עדיין לא מעטים שרואים בכלי AI, ובמיוחד כלי LLM, לא יותר מאשר אמצעי יעיל להתחמקות מלמידה אמיתית (אם כי בכלל לא ברור מהי "למידה אמיתית"). ועל אף העובדה שעל פי רוב אינני מחשיב את עצמי כאיש מתון, דווקא בסוגיה הזאת נדמה לי שרצוי לנקוט בעמדה אי-שם באמצע – בעיקר מפני שהכלים האלה נמצאים בהשתנות, ובהתפתחות, מתמדת. בכתבה ב-Chronicle of Higher Education מחודש נובמבר, ג'וסטין רייך (Justin Reich), בפנייה לאנשי חינוך, נוקט בעמדה המהססת:

Stop Pretending You Know How to Teach AI

רייך מסביר את מה שצריך להיות מובן מאליו – טכנולוגיות ה-AI משתנות ומתקדמות בקצב מסחרר כך שמיום ליום אי-אפשר לדעת כיצד מתאים להשתמש בהם, קל וחומר מה אנחנו בכלל צריכים ללמד לגבי שימושם. רק לפני מספר חודשים רבים טענו שצריכים ללמד כיצד ליצור פרומפטים טובים (אולי בדומה להוראת יצירת שאילתא טובה בגוגל לפני דור), אבל נדמה לי שכבר די הרבה זמן לא נתקלתי בטענות כאלה. לפי רייך עדיין מוקדם לקבוע מהם הכישורים הדרושים לעידן ה-AI:

When educators rush to publish the skills of technology literacy before they actually have evidence about what those skills are, things can go very poorly.

לרייך נסיון רב בהטמעת התקשוב, והנסיון הזה בוודאי יכול להסביר למה הציפיות שלו כלפי הסיכוי להטמעה מוצלחת של טכנולוגיות חדישות אינן גדולות. בתחילת הכתבה הנוכחית, למשל, הוא מציין ש:

Our students cannot search effectively or parse what they find online: A recent study showed that only 4 percent of high-school students could recognize that a source offering “factual reports” on climate science was funded by the fossil-fuel industry. Efforts to teach skills related to these domains may be important, they may be well-intentioned, they may be urgent, but they objectively do not work very well.

אם זה המצב עם חיפוש מידע, מפחיד לחשוב כיצד "יילמדו" להשתמש בכלים כמו ChatGPT. ואכן, רייך כותב שטכנולוגיות חדשות מגיעות לבתי הספר יותר מהר מאשר אנשי חינוך מצליחים לקבוע כיצד רצוי להשתמש בהן וללמד איתן. נוצר מצב שבו "מומחים" למיניהם מפיקים רשימות והנחיות על השימוש בכלים האלה מבלי באמת להבין מה כדאי ומה לא. בצניעות מבורכת, השונה כל כך מהבטחון המופרז והפסקני של אלה שהשכם והערב מכריזים שה-AI תחולל שינויים מהותיים בחיים שלנו, רייך כותב:

Faculty should continually remind their students that we don’t yet understand good practice, so young people will probably find that what they first learned about using AI was wrong.

אבל על פי רוב הצניעות איננה זוכה לכותרות. אם רוצים כותרות עדיף לצאת בהכרזות פסקניות, גם אם אין להן כיסוי. ואם (מה, שוב?) ללמוד מההיסטוריה, רצוי לא לצפות להשפעה גדולה במיוחד על הלמידה. עוד ב-2012 ציטטתי כאן כתבה של רייך (הקישור בתוך הכתבה במאמרון ההוא כבר איננו פועל, אבל אפשר להגיע אליה כאן) שבה הוא סקר את השימוש בכלי ויקי בבתי ספר ומצא שברוב הגדול של המקרים מורים לא השתמשו בכלי בצורה האינטראקטיבית ושיתופית שאליה בוניו כיוונו. כבר אז רייך הסיק:

In general, our findings cohere with 30 years of educational technology research. There are a handful of teachers who make remarkable use of new technologies, but for the most part, when teachers adopt new technologies, they use them to extend existing practices rather than to develop innovative practices.

האם יש סיבה לחשוב שהיום, במציאות טכנולוגית שונה (מי בכלל זוכר שפעם ראו ערך לימודי בבניית כלי ויקי?), אבל עם בתי ספר שאינם שונים בהרבה מאלה של לפני 15 או 30 שנה, המצב יהיה שונה? נדמה לי שאין, אבל זה איננו רק מפני שאיננו יודעים מה בטכנולוגיות ה-AI יש ללמד, אלא גם, ואולי בעיקר, מפני שבאופן כללי איננו יודעים מה בכלל רצוי שתלמידים וסטודנטים ילמדו.

מיכאל קלוּן (Michael Clune) בכתבה מנובמבר ב-The Atlantic מצטט את הכתבה החדשה של רייך (וגם, כמו מאמרים רבים אחרים של החודשים האחרונים, מגייס את המחקר של נטליה קוסמינה ב-MIT כדי לשכנע שה-AI מזיקה ללמידה, גם אם, לפחות כפי שאני כתבתי כאן, המחקר רחוק מלשכנע). כמו רבים אחרים, קלוּן טוען שלפני שאפשר להפיק תועלת מהשימוש בכלי AI, על מערכות החינוך להכין את הסטודנטים לשימוש הזה על ידי בניית תשתית קוגניטיבית איתנה:

The first two to three years of university education should encourage students to develop their minds by wrestling with complex texts, learning how to distill and organize their insights in lucid writing, and absorbing the key ideas and methods of their chosen discipline.

והוא מוסיף, כנראה בקריצה לעולם ההיי-טק עם רמז שדווקא הגישה שלו היא זאת שדואגת לצרכים שלו, שהכישורים האלה הם הנחוצים במקומות העבודה החדשים.

אני בוודאי אינני מתנגד לכך שבוגרי מערכות החינוך – אם ב-K12 ואם בהשכלה הגבוהה – יזכו לתשתית קוגניטיבית איתנה ושהם ילמדו להתמודד עם טקסטים מורכבים. אני מניח שקשה למצוא אנשי אקדמיה שיתנגדו לדברים האלה. אבל קשה לא לתהות בנוגע להמלצות האופרטיביות של קלוּן. מוקדם יותר בכתבה שלו הוא כותב:

We don’t have good evidence that the introduction of AI early in college helps students acquire the critical- and creative-thinking skills they need to flourish in an ever more automated workplace, and we do have evidence that the use of these tools can erode those skills.

אבל קביעה כזאת מתבססת על ההנחה שהכישורים האלה, שלטענת קלוּן נשחקים, כבר קיימים אצל סטודנטים. ראוי להעמיד את ההנחה הזאת מול המאמרים הרבים של אנשי אקדמיה, מהרבה לפני פרוץ ה-AI, שטוענים שהכישורים האלה נעדרים גם אצל הסטודנטים של אתמול. במילים אחרות, גם אם אינני רוכש אהדה יתרה לשימוש בכלי AI בחינוך, במקרים רבים מדי העליהום כלפיהם, והטענות שהם הורסים את ההשכלה הגבוהה, מתעלמים מהעובדה שהמשבר שההשכלה הגבוהה נמצאת בו קיים הרבה לפני ה-AI.

בדומה לקלוּן, גם רייך סבור שסטודנטים בעלי ידע בתחומי הלימוד שלהם, להבדיל מסטודנטים שהיום מקבלים הכשרה בשימוש בכלי AI, עשויים להיות אלה שיידעו להפיק תועלת מה-AI. והוא מוסיף:

This, of course, is exactly the kind of knowledge and skills that colleges have been trying to nurture for centuries.

מעניין שרייך כותב שהמוסדות "מנסים להקנות" את הכישורים האלה. הצניעות שלו כלפי הדרך ללמד את השימוש בכלי AI ראוי לשבח (ומבוססת על נסיון חינוכי רב). אבל אם כבר במשך שנים רבות ההשכלה הגבוהה איננה מצליחה להקנות את הכישורים האלה, אולי ראוי לא רק להתייחס לדרישה להקנות את השימוש בכלי AI בספקנות, אבל גם לא להאשים את ה-AI בכשלי ההשכלה הגבוהה.