בשנת 1971 בית משפט בארה"ב קנס את ג'ורג' הריסון בסכום של מעל חצי מיליון דולר עבור פלגיאט של שיר של להקת ה-Chiffons משנת 1963, He's So Fine. מדובר בשירו של הריסון משנת 1970, My Sweet Lord, ואכן, יש דמיון רב בין שני השירים. שירו של הריסון הוא שיר איקוני, והריסון עצמו היה, כמובן, אחד מעמודי התווך של מוסיקת הרוק/פופ. לאור זה, על אף העובדה שקשה היה להכחיש את הדמיון הרב בין השירים, לא היה נעים להצהיר על גניבה של ממש. נדמה לי שזאת הסיבה שבית המשפט טבע מטבע לשון ייחודי וקבע שמה שהריסון עשה היה subconscious plagiarism – פלגיאט של הבלתי-מודע.
נזכרתי בפרשה סביב My Sweet Lord כאשר לפני שבוע קראתי פוסט חדש ב-Substack של קרלו איוקונו (Carlo Iacono) – פוסט, אגב, שבעיני הוא בין המעניינים והמשמעותיים ביותר שקראתי לאחרונה:
איוקונו איננו עוסק בפלגיאט, אלא ב-AI, או ליתר דיוק, ביומרה שקיים הבדל תהומי בין הכתיבה של בני האדם לבין זאת של ה-AI. הוא בעצם טוען שהשניים אינם כל כך שונים, במיוחד כאשר מדובר במקוריות, או באותנטיות. הוא כותב:
The authenticity we're so desperate to defend never existed. Every word you write carries the DNA of every word you've read. Every image you create is a recombination of every image you've seen.
ה-Large Language Models הרווחים היום בתחום ה-AI מבוססים על כמות אדירה של טקסטים שמהם הם "לומדים" לחבר משפטים ופסקאות. במהות, המצב הזה איננו שונה מהמצב במוסיקה – כל יוצר מוסיקלי ניזון מיוצרים אחרים, או כמו שג'ון לנון כנראה פעם אמר:
Music is everybody's business. It's only the publishers who think people own it
אבל איוקונו מבקש מאיתנו לבחון את הסוגיה הזאת מהצד ההפוך – שמה שאנחנו לומדים מיכולת הכתיבה המוצלחת של ה-AI איננו שהיא כל כך מוצלחת, אלא שהכתיבה ה-"אנושית" שנהגנו לראות כייחודית היא דווקא די בנאלית. היכולת של ה-AI לחבר טקסטים קוהרנטיים מעמידה בסימן שאלה הטענה שהכתיבה האנושית כל כך ייחודית:
When machines can generate the ten thousandth article about productivity tips, maybe we can finally stop pretending that was ever worth a human mind. When AI can write the corporate newsletter, draft the grant proposal, generate the stock photo, perhaps we can admit these were always inhuman tasks that we forced humans to perform.
הגישה הזאת מאפשרת לנו להבין, למשל, שהאלבום של להקת הבינה המלאכותית Velvet Sundown איננו עדות לכך שה-AI יכולה להפיק מוסיקה איכותית, אלא ההפך: העובדה שקשה להבחין שמדובר בהפקה של AI מעידה על כך שהמוסיקה של להקות אנושיות רבות די רדודה, כך שלא קשה ל-AI להשתוות אליה.
סוגיית המקוריות של ה-AI, או העדרה, מחדדת שאלה נוספת – עד כמה חשוב לנו שהקול הוא קול אנושי? איוקונו, הרי, תהה עד כמה היצירה האנושית נחוצה באיגרת פנימית של חברה, או בהכנת הצעה לקבלת מימון. אבל למה לנו להסתפק באלה? כתבה מהשבוע ב-Technology Review (של MIT) מוסרת לנו ש:
הכתבה מדווחת על מטופל שפתאום הבחין במהלך טיפול פסיכולוגי שהתנהל באמצעות כלי וידיאו שהמטפל שלו פונה ל-ChatGPT. המטופל העיד:
Suddenly, I was watching him use ChatGPT…. He was taking what I was saying and putting it into ChatGPT, and then summarizing or cherry-picking answers.
מטופלת אחרת מספרת שבתוך התכתבות עם התרפיסטית שלה היא מצאה לא רק תשובה לפנייה שלה, אלא גם את הפרומפט שהתרפיסטית השתמשה בו כדי לקבל את התגובה שהיא מסרה למטופלת.
אבל על אף העובדה שהדוגמאות האלו בהחלט מביכות, קשה לפסול את הפנייה לכלי AI כחלק מטיפול תרפויטי. הכתבה מקשרת למחקר שהתפרסם השנה בו תרפיסטים התבקשו להעזר ב-ChatGPT כדי להכין תגובות למגוון פניות אפשריות של מטופלים. מתברר שהמשתתפים במחקר, מעל 800 איש, התקשו להבחין בין התשובות האנושיות, לבין אלה שנוצרו בעזרת ה-AI. הם אפילו קבעו שתגובות ה-AI נראו מתאימות יותר לטיפול מיטבי. בדיקות דומות אחרות, אגב, העלו תוצאות דומות.
יש דוגמאות נוספות. איאן בוגוסט (Ian Bogost), ב-The Atlantic, למשל, מצא שתוכנת AI ייחודית (מבוססת ChatGPT) היטיבה לכתוב סקירת חיים אודות אמא שלו – סקירה שהיה עליו להכין כאשר היא נפטרה. יד על הלב, על אף התחושה המוזרה בפנייה למכונה לכתוב משהו שלפחות על פניו אמור להיות די אישי, הודעות כאלה שמספרות קצת על חיי המת די שטנציות. בגלל זה לא קשה להבין שאם מוסרים ל-AI מספר נתונים אישיים ומכוונים את הטקסט לרמה המבוקשת של רגש, מדובר במלאכה שהיא די מתאימה למכונה. דווקא בדיוק למצב הזה איוקונו מתייחס כאשר הוא כותב:
The Authenticity Industrial Complex wants you to believe that using AI makes you less human. But what if the opposite is true? What if the most human thing you can do is refuse to waste your finite consciousness on tasks that don't require it? What if the most creative act is knowing when not to create?
לאור העובדה שהבלוג הזה עוסק כמעט באופן בלעדי בתקשוב בחינוך, יש טעם לשאול מה הקשר של כל זה לחינוך. אני מודה שאין לי תשובה נחרצת לשאלה הזאת. אמנם עם פרוץ ה-AI לתודעה, שאלת המקוריות של כתיבה של סטודנטים מאד מעסיקה אותנו, אבל יש הבדל גדול בין סטודנטים לבין ג'ורג' הריסון, וברוב המקרים של העתקה (או כתיבה ע"י ChatGPT) בחינוך לא מדובר בפלגיאט של תת-המודע. כמו-כן, גם אם השימוש ב-AI בכתיבת עבודות איננו מומלץ, הוא נראה הרבה פחות בעייתי מאשר השימוש בו בטיפול פסיכולוגי.
אבל אין ספק שהיום, כאשר ל-AI גישה למה שמתקרב למלוא היצירה האנושית, קשה לא להתייחס לשאלות בנוגע למקוריות וליצירתיות. הרי, כפי שקירבי פרגוסון (Kirby Ferguson) מסביר בווידיאו הקלאסי שלו מלפני 15 שנה על תהליך היצירה – Everything is a Remix – ההעתקה, והחיקוי, הם שלב ראשוני והכרחי בתהליך היצירה. בלשון מאד דומה לזאת של איוקונו הוא מכריז:
But creativity isn’t magic. It happens by applying ordinary tools of thought to existing materials, and the soil from which we grow our creations is something we scorn and misunderstand, even though it gives us so much. And that’s copying. Put simply, copying is how we learn. We can’t introduce anything new until we’re fluent in the language of our domain and we do that through emulation.
אנחנו מתקרבים למצב שבו מלוא היצירה האנושית יהיה זמין לשימוש ה-AI, כתשתית להמשך היצירה. אבל מתברר שפחות מאשר זה מביא אותנו למצב של remix לשם היצירה, זה רק מוביל למחזוּר מייגע. נכון לעכשיו, לפחות, ה-AI עדיין זקוקה לעין האנושית כדי להבחין בהבדל בין יצירה של ממש, לבין סתם GIGO.
הדוגמאות שהובאו כאן מעמידות בסימן שאלה את הייחודיות האנושית לעומת המלאכותית של ה-AI, וגם ממחישות שהכתיבה של ה-AI, בדומה לכתיבה האנושית, ניזונה מכל מה שנוצר לפניה. אולי מכל זה אנחנו מגלים עד כמה קשה להיות מקוריים, ובאותו הזמן גם מבינים שלעתים קרובות המקוריות איננה עד כדי כך נחוצה.