האם הבינה המלאכותית המשוחררת תתפרע?

סטיבן קראשן הוא פרופסור אמיריטוס בבית הספר לחינוך של האוניברסיטה של דרום קליפורניה. הוא גם בלשן עם פרסומים רבים על תהליך רכישת הקריאה. דרך סטיבן דאונס הגעתי לסדרה של מאמרונים שקראשן פרסם בימים האחרונים שמתייחסים לחוברת PDF חדשה בת 60 עמודים על בינה מלאכותית בחינוך שפורסם על ידי חברת פירסון:

פירסון נחשבת החברה הגדולה ביותר בעולם בענייני חינוך. במשך שנים היא היתה בין המו”לים הגדולים ביותר של ספרי לימוד, ובשנים האחרונות היא חודרת לתחום המבחנים המקוונים. היום היא מרחיבה את העיסוק ה-“חינוכי” שלה – במידה רבה בכיוון של שילוב של מבחנים לתוך ספרי לימוד דיגיטאליים. נדמה לי שהחוברת החדשה אמורה לשקף את הכיוון הזה, ולהצביע על לאן המגמה הזאת עשויה להתפתח.

כפי שכבר אפשר היה להתרשם בעבר, אינני בין אוהבי פירסון. בגלל זה אוזני היתה קרויה לביקורת החריפה של קראשן על החוברת. אבל דווקא גם בגלל זה ראיתי לנכון לקרוא את החוברת במלואה ולהתרשם ממנה בעצמי ולא סתם לאמץ את הגישה של קראשן באופן עיוור. כזכור, מדובר בחוברת בת 60 עמודים, אם כי שליש מהם מכילים איורים או כותרות, הקדמות וביבליוגרפיה. גם בטקסט עצמו יש שוליים מאד רחבים. קל להסיק שבמידה רבה מדובר בחוברת פרסומית. זאת ועוד: מחברי החוברת מגדירים את הבינה המלאכותית בחינוך (AIEd) בצורה מאד רחבה כך שהיא כמעט חופפת לכל מה שנעשה בתקשוב בחינוך באופן כללי. בנוסף, דוגמאות רבות בחוברת יונקות מנסיונות ה-CAI מלפני דור ויותר, כך שבמידה רבה ה-AIEd נתפסת כ-CAI המסורתי שהיום משתכללת בעזרת תוספת של ניתוח נתונים. לפי מחברי החוברת, בלב ה-AIEd:

is the scientific goal to “make computationally precise and explicit forms of educational, psychological and social knowledge which are often left implicit.” In other words, in addition to being the engine behind much ‘smart’ ed tech, AIEd is also a powerful tool to open up what is sometimes called the ‘black box of learning,’ giving us deeper, and more fine-grained understandings of how learning actually happens (for example, how it is influenced by the learner’s socio-economic and physical context, or by technology.)
חשוב לשים לב שהקטע באותיות נטויות שבטקסט למעלה לקוח ממאמר של ג’ון סלף משנת 1999. במילים אחרות, ל-AI החינוכי של פירסון שורשים עמוקים בהוראה הממוחשבת המסורתית. מחברי החוברת אמנם מתייחסים להתפתחויות ולשינויים בעולם התקשוב, אבל לכל אורכה שורשי ה-CAI מורגשים. קראשן רגיש מאד לרמזים האלה, ונדמה לי שהרגישות הזאת מוצדקת.

במאמרון הראשון בסדרה קראשן מצטט מעמוד 36 של החוברת:

With ongoing AIEd analysis of a student’s learning activities, there will be no need for the stop-and-test approach that characterises many current assessments. Instead of traditional assessments that rely upon evaluating small samples of what a student has been taught, AIEd-driven assessments will be built into meaningful learning activities, perhaps a game or a collaborative project, and will assess all of the learning (and teaching) that takes place, as it happens.
הקטע הזה אמנם מזכיר משחקים ופרויקטים שיתופיים, אבל בעיני קראשן אלה רק כיסוי למעקב מתמיד. קראשן מזכיר לנו שלפי החזון של פירסון:
new competency-based programs, now in development, will replace standardized testing
הוא מציין שבתגובה לתלונות של הורים על המספר ההולך וגדל של מבחנים שמוטלים על ילדיהם בפירסון התחילו לדבר על צמצום מערך המבחנים. אבל לפי קראשן הצמצום הזה נובע משילוב המבחנים לתוך ספרי הלימוד עצמם. הוא טוען שהחזון של פירסון איננו פחות מעקב, אלא ההפך – התלמידים “יזכו” להיבחנות מתמדת:
Imagine: real time data always available from every classroom on the planet.

This will make testing fever worse than ever. We can expect daily reports about schools, school districts, states and countries announced on radio, television, newspapers, and on dedicated internet websites, just like sports news, announcing how much progress has been made in mastering modules. This will result it even more testing pressure on the schools.

בעמוד 34 של החוברת המחברים מתארים כמה מההתערבויות שה-AIEd מאפשרת (קראשן מצטט רק חלק מהפיסקה הזאת):
The increasing range of data capture devices – such as biological data, voice recognition, and eye tracking – will enable AIEd systems to provide new types of evidence for currently difficult to assess skills. For example, a practice-based learning experience that incorporates elements of problem solving or collaboration might be assessed using a combination of data sources including voice recognition (to identify who is doing and saying what in a team activity) and eye tracking (to explore which learner is focusing on which learning resources at any particular moment in time).
מצד אחד המידע שנאסף מההתערבויות האלו בוודאי יכול למפות את הידע ואת הכישורים שתלמידים רוכשים, אבל קשה לא להרגיש שהתלמיד נמצא תחת זכוכית מגדלת (במקרה הטוב) במהלך כל יום הלימודים, וגם כל הזמן שספר הלימוד נמצא בידיו. קראשן, שמלכתחילה איננו סומך על כוונות פירסון, מהרהר שיותר מאשר המעקב הזה מיועד לעזור לתלמיד, זאת בעצם דרך לפקח עליו. כמו-כן, מפני שפירסון אוספת ואוגרת עוד ועוד מידע (חשוב, בוודאי) אודותיו, והמידע הזה שימושי רק אם הוא מרוכז תחת מטריה אחת, זאת דרך להבטיח שבמהלך לימודיו כל חומרי הלימוד שלו יבואו מפירסון:
This and other intrusions are designed to make sure students are focused on just the task in front them right now, and are participating in exactly the way the Pearson wants them to participate.
אחרי קריאת החוברת כולה, וגם את כל המאמרונים של קראשן שהתייחסו אליה (יש ארבעה) שאלתי את עצמי אם החששות של קראשן מוצדקים. הרי על אף בעייתיות לא מבוטלת, נדמה לי שיותר מאשר החוברת חושפת תכניות זדוניות של פירסון, היא מציגה התייחסות די לא מעמיקה, אפילו רדודה, של החברה לשילוב “הבינה המלאכותית” לתוך החינוך. ואולי במקום חזון פשוט יש כאן חומר פרסומי שתופס טרמפ על מונח חם בחדשות כדי לגרום לנו לחשוב שהמרכול הדי משומש שמוכר לנו כבר שנים רבות הוא בעצם חדש ומהפכני.

נכון לפרסום המאמרון הזה כמעט ולא מצאתי התייחסויות אחרות לחוברת של פירסון. אינני יודע אם זה מפני שרבים טרם ראו אותו, או מפני שמי שקרא אותו לא התרשם ולא הרגיש שיש טעם להתייחס. ב-Education Week טום ונדר ארק פרסם מאמרון בו הוא כינה את החוברת “חשובה”. היה צפוי שהחוברת תמצא חן בעיני ונדר ארק. אפשר להגיד שכותרת המאמרון שלו:

היתה כמעט צפויה – ונדר ארק ידוע כאחד שמתלהב מהיוזמות הדיגיטאליות של חברות גדולות. אין בכך שום פסול, אם כי במקום שהמאמרון שלו יתייחס לחוברת וירחיב על הרעיונות שבה הוא פשוט מתקצר אותה.

באתר של NPR אנייה קמנץ כותבת על החוברת וגם מדווחת על ראיון שהיא ערכה עם אחת מכותביה. ההתייחסות של קמנץ ביקורתית, אבל להבדיל מקראשן היא איננה מוצאת כוונות נסתרות בעייתיות. קמנץ מציינת שכאשר מדובר בהקניית יכולות רגשיות סביר להניח שמורים אנושיים טובים יותר מאשר מכונות ואלגוריתמים, אבל בעיניה אין זה אומר שבחינוך תמיד יעדיפו אנשים על מכונות. היא כותבת:

to beat people out for jobs, computer systems don’t necessarily have to be better at those jobs…. Because they work, more or less, for free.
מחברי החוברת אינם מבטלים את מקומם של המורים בנעשה החינוכי. הם אפילו מדגישים ששילוב מוצלח של הבינה המלאכותית בחינוך דורש שיתוף פעולה עם מורים. ובכל זאת, מורגש שבעתיד במקרה הטוב המורים עשויים לסייע לאלגוריתמים יותר מאשר האלגוריתמים לשרתו את המורים. קמנץ בוודאי צודקת כאשר היא מציינת שכתוצאה מהצלחת ה-AIEd, אם כי לא בהכרח מהחזון שלה, ההשפעה של המורים (האנושיים) על תהליך הלמידה תצומצם. היא צודקת גם בקביעה שעם חדירת ה-AIEd אנחנו עתידים לראות ריבוד מעמדי: תלמידים ממשפחות בעלות אמצעים יזכו למורים אנושיים ואילו תלמידים עניים ישבו מול צגי מחשב והתקדמותם בלימודים תיקבע על ידי אלגוריתמים.

הביקורת של קמנץ איננה חריפה כמו זאת של קראשן. היא אמנם מזהה נקודות מדאיגות בחוברת של פירסון, אבל להבדיל מקראשן היא איננה חוששת לשלום תלמידי בתי הספר אם וכאשר הרעיונות שבחוברת ייושמו. אבל כאשר מצרפים את הביקורת של קמנץ לזאת של קראשן התמונה העתידית של הבינה המלאכותית בחינוך נראית הרבה פחות נוצצת מאשר זאת שחברת פירסון מציירת. דווקא לא צריכים להיות פרנואידיים על מנת להרגיש שסדר היום האלגוריתמי של הבינה המלאכותית בחינוך עלול להרע לתלמידי בתי הספר.

כתיבת תגובה

האימייל לא יוצג באתר. שדות החובה מסומנים *