סכנת הדעת הארוזה היטב

על אף המאמצים שלי לא להצטרף לחגיגה סביב ChatGPT וסביב AI באופן כללי, באופן די צפוי הנושא הזה נשאר, כבר זמן ממושך, נושא חם מאד בחינוך. כמות אדירה של התייחסויות מתפרסמת בעיתונות ובבלוגוספירה. כצפוי הרבה ממה שנכתב חוזר על עצמו, אבל קשה בכל זאת לא לנסות לקרוא כמה שיותר – מתוך התקווה, שלעתים קרובות מדי מתבדה, לפגוש משהו באמת מקורי ומעורר מחשבה. כמובן שלגיטימי שכל אחד יכתוב מה שהוא חושב, אבל לפעמים אני מתרשם שמספר הכותבים עולה על מספר הקוראים. כל אחד חושב שהתרומה שלו ייחודית (נו, גם אני) אבל מתקבל הרושם שהכל כבר נכתב. רק לעתים רחוקות אני נתקל בהתייחסות שנראית לי ייחודית או יוצאת דופן, או כזאת שמאירה את הנושא באור שונה מאשר הרווח. וכאשר זה קורה ראוי שאכתוב עליו.

כאשר הוא התפרסם בחודש ינואר פספסתי את המאמרון הזה של דייב קורמייה (Dave Cormier). הוא אמנם הופיע אצלי, וגם הוזכר בדברים שקראתי, אבל זה היה בסך הכל מאמרון אחד מתוך בליץ אדיר של פרסומים אחרים והוא איכשהו חמק ממני. הגעתי אליו לפני שבוע כאשר מרטין וולר (Martin Weller) הזכיר אותו במאמרון חדש שלו. רק אז הקלקתי אליו ושמתי לב שהוא בכלל איננו חדש. קורמייה הוא קנדי ששנים רבות מעורב בנושאים הקשורים לתקשוב החינוכי. הבלוג שלו כמעט תמיד מעניין, אם כי הוא מפרסם בו בתדירות יחסית נמוכה.

קורמייה איננו מתנגד ל-ChatGPT או לכלי AI דומים. הוא מציין שבעיניו ההשפעה של הכלים האלה על החינוך תהיה דומה להשפעת המחשבון על החינוך המתמטי … ואז מוסיף שארבעים שנה אחרי שהמחשבון נכנס לבתי הספר אנחנו עדיין מתווכחים על השפעתו. בהערה הזאת, עוד בתחילת המאמרון, קורמייה מצביע על כך שעל אף עשרות אלפי המילים שכבר נכתבו, עדיין מוקדם מדי לקבוע מה תהיה השפעת ה-AI.

המאמרון של קורמייה איננו עוסק ישירות בשימוש בכלי AI במערכות חינוך, אלא בהשפעתם על עולם הדעת, ובעיקר בכיצד שילובם לתוך כלי חיפוש כמו Bing ו-Google משפיע על עיצוב ההבנה שלנו. הוא מתאר את מה שאולי אפשר לכנות הבנאליות של הידע ומביע דאגה לגבי זה. הוא מתאר כיצד בתקופת הלימודים שלו הוא נהג להגיע למדף מסוים בספרייה כדי למצוא ספר מסוים, וידע ששם הוא ימצא עוד ספרים שקשורים לאותו נושא. בהמשך, השימוש במנוע חיפוש שינה את התהליך הזה, אבל עדיין היה דומה בכך שהחיפוש בגוגל אמנם לא הביא אותו למדף ספציפי בספרייה, אבל תוצאות החיפוש בכל זאת כיוונו אותו למקורות דומים שדרכם אפשר היה לבחון נושא לעומק ממגוון היבטים. מול התהליכים האלה הוא מעמיד את הפנייה ל-ChatGPT לשם חיפוש מידע ומסביר שהתוצאות של בקשת החיפוש יהיו ערבוביה של מידע שמוגש בצורה משכנעת ואפילו פסקנית, והכי חשוב, כבר ארוז. הוא כותב:

The algorithm presents me with the knowledge, already packaged.

קורמייה מדמה את המצב הזה למה שכלי ה-autotune עושה לקולות במוסיקה. ה-autotune חדר לעולם המוסיקה לפני יותר בעשרים שנה, והשימוש בו היום נפוץ ביותר. הכלי מנקה את הקול מטעויות כיוונון זעירות וכך הוא מגיש למאזין צלילים נקיים ונטולי חספוס, ובסופו של דבר נטולי ייחוד מוסיקלי. קורמייה מציין שרבים טוענים שהכלי מוציא את המרכיב האנושי מתוך תהליך יצירת המוסיקה והוא מוסיף ש:

That’s what’s going to happen to our daily knowledge use.

כמו עם autotune שמאפשר לזמרים לזייף ואחר-כך, בהקלקה על כפתור, להפוך את השירה לנקייה, נוחות השימוש בכלי AI בתהליך איתור מידע מייתרת את הצורך לצלול עמוק לתוך נושא כלשהו. הרי למה שנעמיק בחיפוש אחר מידע מדויק כאשר בהקלקה על כפתור אפשר לקבל משהו שמספיק טוב שבהחלט נראה משכנע. קורמייה שואל:

Who is going to pay you to take a week to learn about something enough so you can give an informed opinion when something that looks like an informed opinion can be generated in seconds?

חשוב להדגיש שמה שמפריע לקורמייה איננו שהמידע שמקבלים איננו נכון (אם כי גם זאת ללא ספק בעיה) אלא שהכלי הופך את ההעמקה, את הצלילה לתוך המידע כדי להבין לעומק, לדבר שאין טעם לבזבז עליו זמן. הוא מציין שעבור מומחים בתחומם הפנייה לכלי כמו ChatGPT איננה מהווה בעיה. עבורם חיפוש מידע הוא לשם העשרה מתוך בסיס ידע מוצק, ולא כדי לקבל תמונה כללית. מומחים לא יסתפקו בתוצאות חיפוש שהן ארוזות מראש (ובצורה נאה) שהכלי מגיש להם. אבל קורמייה מדגיש שבמרבית התחומים שבהם הרוב מאיתנו מבקשים לקבל מידע אנחנו טירונים (novices), ונהיה מוכנים לקבל מידע מספיק טוב, גם אם בסופו של דבר הוא שטחי, כל עוד הוא נראה לנו אמין. כמו עם ה-autotune נקבל צלילים נקיים, אבל נטולי ענין. והתוצאה בעולם הדעת, כמו בעולם המוסיקה, תהיה סתמיות משוועת.

שוב, לפי קורמייה הבעיה איננה שקל להטעות אותנו, גם אם זה אכן נכון, אלא שהסקרנות שלנו תסופק כבר ברובד נמוך ופשוט במקום שנבחר לצלול לתוך נושא כדי ללמוד אותו ממש. אפשר לטעון שזה היה המצב גם בחיפושי גוגל פשוטים כאשר על אף העובדה שמוסרים לנו שנמצאו אלפי דפים שבצורה זאת או אחרת “עונים” על השאילתה שלנו הסתפקנו באלה שבדף הראשון בלבד. אבל התוצאות האלו עדיין היו הצעות להעמקה ולא “תשובות”. עצם הגשת המידע בצורה מסודרת ולכאורה מוסמכת תגרום לנו לקבל את התוצאות כתשובה במקום כהזמנה להמשך הלמידה.

כמאזינים למוסיקה, אנחנו על פי רוב רוצים בסך הכל לשמוע מוסיקה ערבה לאוזן. ה-autotune אכן מספקת לנו את מה שאנחנו רוצים. הוא משטיח את החספוס ומגישה לנו צליל נקי. אבל מדובר בצליל נקי מדי שבסופו של דבר מלאכותי במקום אנושי. רבים מאיתנו גילינו שעל אף החספוס אנחנו מעדיפים את הצליל האותנטי יותר. אפשר לקוות שכך יהיה גם בנוגע לתוצאות החיפוש שכלים כמו ChatGPT יכולים להגיש לנו.

3 תגובות בנושא “סכנת הדעת הארוזה היטב”

    1. חמי, תודה!
      הבלוג שלך מופיע בקורא ה-RSS שלי, וקראתי את הפוסט שלך כאשר הוא התפרסם. סליחה ששכחתי אותו תוך כדי הכנת הפוסט שלי – הרבה דברים קראו בחודשיים מאז. התרשמתי במיוחד שם מהטיעון של נאריאנאן שמטרת ה-ChatGPT הינה לשכנע, ואם תוך כדי כך הוא גם מוסר מידע אמיתי, זה “רווח” צדדי.
      אינני יודע מי קורא את התגובות לבלוג הזה (הרי כידוע לבלוג עצמו חוג קוראים מאד מצומצם) אבל אם יש … אני בהחלט ממליץ לקרוא את הפוסט שלך.

  1. ההבחנה בין מומחים לאחרים יפה מאוד, ובתנאי שמומחים יכללו כל מי שמתעניין וסקרן לתחום מסויים ולאו דווקא בעלי ההשכלה ה”ראויה”.
    באופן פרדוקסלי הניתוח קצת מרגיע את החששות.
    אנחנו היום בתקופה מטורפת ורעה מבחינת הנכונות של אנשים לנהות ולאמץ שקרים ועיוותים. החלוקה הזו ל-“מעמיקים” ואחרים כבר התבצעה ואנחנו חווים את נזקיה. הצ’ט החכם לא יעביר אף אחד מצד אחד לצד השני, איזה כיף!

כתיבת תגובה

האימייל לא יוצג באתר. שדות החובה מסומנים *