כיצד נדרבן את החשיבה?

אני כמובן בעד דרבון החשיבה. בעיניי מדובר באתת המטרות המרכזיות של החינוך. ואם ה-AI מסוגלת לדרבן, מי אני שאתלונן. קרלו איוקונו (Carlo Iacono) חושב שה-AI אכן עושה זאת, ובאופן מוצלח. ב-Substack שלו מתחילת חודש יוני הוא מתאר את התחושה המטלטלת כאשר בעזרת הפנייה ל-AI אנחנו מגלים שמה שחשבנו לנכון מתגלה כמוטעה. איוקונו מתאר תחושה שבה דברים שרק לפני רגע היו לנו ברורים נעשים זרים לנו. הוא כותב שהוא נתקל במצבים כאלה כאשר הוא צופה באנשים שנעזרים בכלי AI, ובעיניו מה שהוא רואה סותר את הדעה הרווחת שהשימוש הזה מוביל לקיצורי דרך ולעצלנות:

When a user crafts what they believe is a perfectly reasonable prompt and receives an AI response that's technically correct but somehow fundamentally off, something remarkable happens. The tool's interpretation becomes a mirror, reflecting back not just what they asked, but the poverty of how they asked it.

הוא כותב שהשמעת המחאה כלפי ה-AI: "לא לזה התכוונתי" היא תחילתה של התבונה.

לפי איוקונו, העובדה שה-AI איננה "מבינה", ולכן גם איננה מבינה את כוונת הפונה, נמצאת בבסיס היתרון שיש ל-AI על המורה האנושי. לעומת המורה שבאופן אמפתי מבקש לגשר על הפערים בין שאלת הפונה לבין השאלה שהיתה ראויה יותר להישאל, ה-AI מציגה, ללא רחמים, את הבעייתיות של השאלה ההתחלתית, ובכך מכריחה את הפונה לשפר אותה. לפי איוקונו:

This is where the magic happens, though magic might be too gentle a word for what's essentially an intellectual demolition. The student, confronted with their own imprecision, must return to the drawing board.

יש משהו כובש בכתיבה של איוקונו. הוא מתאר את תהליך הלמידה כסידרה של הבהרות והזדככויות שדרכן הלומד מבהיר לעצמו את הנושא שהוא מבקש ללמוד. בתהליך הזה ה-AI פועלת כמראה שמשקפת את החשיבה של הפונה, כאשר אותה מראה מבליטה את הנחות היסוד המוטעות, את הטעויות שנמצאות בניסוחים הראשוניים, כך שבהמשך הפונה מגיע להבנה ברורה ועמוקה יותר. איוקונו מכנה את זה:

an "intellectual unravelling" – that sensation of watching your carefully constructed understanding come apart thread by thread, only to be rewoven into something stronger but fundamentally different.

התיאור הזה שונה כמעט בתכלית מהתיאורים המוכרים לנו של השטחיות ושל קיצורי הדרך בשימוש בכלי AI שאותם אנחנו מרבים לקרוא. זה איננו השימוש המזורז ב-AI כדי להפיק עבודה שאפשר להגיש למרצה במהירות ובמינימום מאמץ. התיאור של איוקונו מעורר תקווה, ונדמה לי שכל מי שקורא את התיאור המאוד יפה (והדי ארוך – הצגתי כאן רק חלק קטן) של איוקונו עשוי להגיד "כזה אני רוצה!". אבל על אף הקריאה המהנה, והרצון לראות בתיאור שלו תהליך נפוץ, מצאתי את עצמי שואל אם אולי רק יחידי סגולה יכולים להפיק את התועלת המרשימה הזאת. אויקונו הוא ספרן ותיק באוניברסיטה באוסטרליה שמשלב את ה-AI לתוך עבודתו וחייו. אני חושש שהדרך שבה הוא מתמודד עם ה-AI, משכנעת ככל שתהיה, שונה מאד מהדרך שבה סטודנטים, גם עם הם מקבלים עידוד והכוונה, ישתמשו בה. נדמה לי שחשוב גם להוסיף שעל אף העובדה שההתמודדות שאיוקונו מתאר חיובית ומרשימה, היא גם מזכירה את הפונים ל-ELIZA לפני כמעט 60 שנה, כאשר רבים מאלה ששוחחו איתה קיבלו ללא עוררין את ה-"תשובות" הסתמיות שלה כהזמנה להמשיך את ההתייעצות איתה. ורצוי לזכור שרבים מהאנשים האלה סיימו את השיחות איתה בתחושה שהיא עזרה להם להבהיר דברים לעצמם.

מאז שה-ChatGPT פרץ לתודעה שלנו זכינו לתיאורים רבים של כיצד סטודנטים משתמשים בכלי AI. הרוב המכריע של התיאורים האלה שונים מאד מהתיאור של איוקונו. לפני שבוע זכינו לעוד כתבה על הרגלי הכתיבה של סטודנטים בעידן ה-AI, הפעם של הואה הסו (Hua Hsu) ב-The New Yorker:

What Happens After A.I. Destroys College Writing?

כמעט אין דמיון בין עדויות הסטודנטים שהסו מביאה לבין התהליך שאיוקונו מתאר. בשיחות עם סטודנטים לתואר ראשון ב-New York University, סטודנט אחד סיפר שלא היה לו זמן או חשק לקרוא את המאמר שהמרצה ביקש לקרוא לקראת השיעור ולכן:

“But, obviously, I wasn’t tryin’ to read that.” He had prompted Claude for a summary, but it was too long for him to read in the ten minutes he had before class started. He told me, “I said, ‘Turn it into concise bullet points.’”

סטודנט אחר לכאורה השקיע יותר, לפחות בשלב של לקראת הפנייה ל-AI. הוא ביקר בתערוכת אמנות וצילם עבודות שהוא הגיש ל-Claude כדי לקבל מאמר שאפשר להגיש למרצה. ואז:

After skimming the essay, he felt that the A.I. hadn’t sufficiently addressed the professor’s questions, so he refined the prompt and told it to try again. In the end, Alex’s submission received the equivalent of an A-minus. He said that he had a basic grasp of the paper’s argument, but that if the professor had asked him for specifics he’d have been “so fucked.”

נדמה לי שמשני המקרים האלה ברור שמטרת הסטודנטים לא היתה להיעזר ב-AI כדי לחדד את ההבנה שלהם כלפי הנושאים שעליהם הם למדו, אלא פשוט לצאת ידי חובה בצורה אלגנטית, וכמובן גם כמה שיותר מהר ועם מינימום מאמץ.

הסו, אגב, מבינה את הסטודנטים. היא כותבת שה-AI דורשת מאיתנו לבחון מחדש את מטרת ההשכלה הגבוהה. הרי עד סיום 12 שנות לימוד אנחנו בבית הספר מפני שהמדינה מחייבת זאת ומה שאנחנו לומדים הוא בעיקר לפעול לפי הכללים. לעומת זאת, ההחלטה להמשיך להשכלה הגבוהה היא בחירה, והבחירה הזאת תמיד נעשית מתוך ההבנה שכדי לקבל תעודה עלינו למלא את הדרישות, גם כאשר אלה נראות לנו חסרות תכלית או מיותרות:

But even for the most mercenary of students, the pursuit of a grade or a diploma has come with an ancillary benefit. You’re being taught how to do something difficult, and maybe, along the way, you come to appreciate the process of learning. But the arrival of A.I. means that you can now bypass the process, and the difficulty, altogether.

היא מוסיפה שהסטודנטים של היום גדלים בתקופה שבה החברה מעריכה פעולות מהירות ולא את הדיון האיטי של החשיבה הביקורתית, ולכן הפנייה שלהם לקצר תהליכים בעזרת כלי ה-AI די מובנת.

תוך כדי הקריאה במאמרון של איוקונו הערתי לעצמי שהאינטראקציה בין הלומד לבין ה-AI שהוא מתאר דומה מאד לתהליך הלמידה שמוכר לנו ב-ZPD הוויגוצקיוני. הרי בתיאור של איוקונו ה-AI איננה מקפיצה את הפונה מעבר למה שבמצבו הנוכחי הוא מסוגל להבין. במקום זה, בכך שהיא משקפת את דברי הפונה היא מכוונת אותו באמצעות דחיפות קלות שבסופו של התהליך מובילות לשינוי משמעותי – ללמידה של ממש. מבלי להתכוון (ונדמה לי שעדיין ברור של-AI אין כוונות) היא ממלאת את התפקיד החשוב הזה.

ובכל זאת, האם אנחנו באמת זקוקים ל-AI בשביל זה? ד'ארסי נורמן (D'Arcy Norman), בבלוג שלו, מהרהר על השימוש שלו בכלי AI ועל התלות שהשימוש הזה יוצר אצלו. כמו איוקונו, הוא מוצא שהערך של הכלי נמצא בכך שהוא מחייב אותו להבהיר לעצמו מה הוא חושב ומה הוא עוד צריך ללמוד. אבל אם כך:

if the value is in the process of thinking out loud rather than in the outputs – how can we better foster this practice without coming to rely on generative AI chatbots? How do we create structures and spaces for articulation, reflection, and iterative thinking that don’t require feeding the machine?

דווקא כאשר נורמן בוחן את היחס האמביוולנטי שלו כלפי ה-AI מתברר לו עד כמה הוא מעריך את החשיבה בקול רם. אמנם ה-AI אכן מדרבנת את החשיבה הזאת, אבל התובנה הזאת:

has also reminded me how much I’d rather do that work with other people.

גם אם תהליך הבהרת החשיבה שאיוקונו מתאר באמת קוסם, לא יזיק אם נבדוק אם לא יעיל, וגם מהנה, יותר לעבור אותו בקול רם עם אנשים אחרים.