הכתיבה שלי כאן עוסקת, כמעט באופן בלעדי, בנושאים הקשורים לחינוך. הפעם אני מבקש להרחיב טיפה את היריעה, אם כי אשתדל בסיום למצוא קשר, גם אם קצת קלוש, לחינוך.
עולם הספרות, או לפחות חלק ממנו, גועש לאחרונה סביב פרס שהוענק לסיפור קצר. מדובר בסיפור שזכה בפרס ה-Commonwealth, פרס יוקרתי, המוענק מידי שנה לסופר לא מוכר מחבר העמים הבריטי. מקורות רבים, ביניהם ה-New York Times, מדווחים שבדיקות שנערכו על הסיפור הזוכה (ושני סיפורים נוספים שקיבלו פרס משנה) מעלות את הסברה שהסיפור נוצר על ידי AI. הספקות לגבי "מקוריות" הסיפור הועלו על ידי מספר קוראים, ובדיקות באמצעות כלי AI, ובמיוחד Pangram, שנחשב בודק מהימן, מאשרים, לכאורה, שלא יד אנושית, אלא כלי LLM כלשהו, הוא אשר "כתב" את הסיפור. הכתבה ב-NYTimes מצטטת את המו"ל של Granta, כתב העת בו הסיפור הזוכה פורסם:
“It may be that the judges have now awarded a prize to an instance of A.I. plagiarism — we don’t yet know, and perhaps we never will know.”
השימוש במונח "פלגיאט" קצת תמוה כאן. הרי הפלגיאט הוא לקיחת טקסט של מישהו אחר והצגתו כאילו הוא שלך. אתר בנושא של AI ופלגיאט של האוניברסיטה של דרום פלורידה טוען, בעיני בצדק, שנכון יותר להתייחס לשימוש ב-AI כסופר צללים:
Since AI chatbots and other generative AI tools generate new text and images in response to prompts, using material from generative AI could be considered more like ghost writing than plagiarism.
נדמה שהיום כבר אי-אפשר להשתחרר מהחשש שמא טקסט כלשהו נוצר על ידי אלגוריתם. וכמובן שלא מדובר בטקסט בלבד. מתחום המוסיקה, לפני כשנה, אחרי יותר ממיליון האזנות דרך Spotify, נודע שהשירים של הלהקה Velvet Sundown נוצרו באמצעות ה-AI.
יש גם דוגמאות מעולם האמנות החזותית. די סמוך לפרשת הפרס של הסיפור הקצר מישהו ברשת עורר סוגיה דומה כאשר בחשבון ה-X שלו הוא העלה עותק דיגיטלי של ציור של קלוד מונה (Claude Monet), וטען שהציור הופק באמצעות ה-AI "בסגנון של מונה", וביקש מהקוראים שלו להסביר למה מה שהוא העלה נחות מהמקור:
כפי שמוסבר באתר PetaPixel מתברר שמדובר בתרמית:
Someone Shared a Real Monet Painting as AI and Asked for Critiques
כפי שכנראה היה צפוי, הפנייה זכתה לתגובות רבות שבאופן די גורף מצאו פגמים בולטים ב-"העתק" שהוצג. אני נתקלתי בפרשה הזאת רק אחרי שהתרמית נחשפה, ולכן לא הועמדתי ב-"מבחן". אבל אני די בטוח שלא הייתי מבחין בהבדלים בין המקור לבין מה שאמור היה להיות ההעתק – לא מפני שיש לי עין אמנותית חדה, אלא מפני שאני דווקא אינני מבין גדול באמנות. נדמה שהמשיבים שקטלו את ה-"העתק" ביקרו אותו יותר מתוך תחושת עלבון ש-AI מסוגלת ליצור "אמנות" מאשר מתוך הבחנה חדה.
דרך מחקר שנערך באוניברסיטת Rutgers לפני כעשור, צפיתי ב-"יצירות" שהופקו באמצעות כלי AI (שהיו די מתקדמים לזמנם, אבל פרימיטיביים במונחים של היום). כלי ה-AI אשר באותו מחקר "אומנו" על אוסף של ציורים מופשטים, ואחרי-כן הונחו ליצור ציורים בעצמם. המשתתפים במחקר התבקשו לדרג גם את היצירות של ה-AI וגם מספר ציורים מופשטים אנושיים. החוקרים סברו שהצופים האנושיים ידרגו את היצירות האנושיות כמעניינות ואיכותיות יותר מאשר אלה של ה-AI. אבל כפי שאפשר להבין מסיום הכתבה של החוקר על המחקר, הם התבדו:
It might be debatable what a higher score in each of these scales actually means. However, the fact that subjects found the images generated by the machine intentional, visually structured, communicative, and inspiring, with similar, or even higher levels, compared to actual human art, indicates that subjects see these images as art!
בדומה למשתתפים באותו מחקר, כאשר אני קראתי את הכתבה בנושא ועיינתי בציורים השונים, גם אני התרשמתי שמדובר ביצירות אנושיות. גם אחרי שידעתי מה אנושי ומה AI, הרגשתי שבשני המקרים היה מדובר באמנות.
האוזן שלי די מוסיקלית. אולי בגלל זה היה צפוי שאזהה את האלגוריתמיות בשירים של Velvet Sundown ששמעתי. אבל גם כאשר ידעתי שמדובר במוסיקה שהופקה באופן אלגוריתמית, לא הרגשתי שהיא שונה מהמון שירים אחרים ששמעתי בעבר. אבל במקרה הזה העדר היכולת שלי להבחין באלגוריתמיות לא היה, לפחות בעיני, מפני שהמוסיקה האלגוריתמית היתה כל כך מוצלחת, אלא ההפך. לא חסרה מוסיקה "אנושית" שהיא (שוב, לפחות בעיני) סתמית וטפלה באותה מידה כמו האלגוריתמית. הרי כמעט בכל ז'אנר מוסיקלי חלק מכובד מאד מהשירים הפופולריים נשמעים כמו שירים אחרים, כך שאפשר היה לטעות ולחשוב שגם השירים האנושיים הם אלגוריתמיים. (אגב, אני מניח שעבור אנשים שאינם מתמצאים במוסיקה מערבית קלאסית, קטעים המופקים על ידי אלגוריתמים שמחוללים מוסיקה בסגנון מוצארט נשמעים ממש כמו המקור. ויש טעם להוסיף שטוענים שסטרווינסקי אמר פעם שוויוואלדי לא הלחין 400 קונצ'רטי; אלא את אותו הקונצ'רטו 400 פעמים.)
אבל משום מה הרוב הגדול של הדיון שמתפתח סביב הדוגמאות האלו מתמקד בשאלה האם עובדים עלינו, או האם לגיטימי שה-AI תפלוש לתוך תחומי היצירה שעד עכשיו נחשבו ייחודיים לבני אדם. בעיני אלה אינן השאלות החשובות. כלי ה-AI שמפיקים את היצירות שבהן אנחנו צופים ומאזינים וקוראים "למדו" מכמויות אדירות של יצירות אנושיות. זה המאגר שממנו הם שואפים "השראה", ואין פלא שהתוצרים דומים לאותם מקורות. ביסודו של דבר זה איננו שונה באופן מהותי ממה שיוצרים אנושיים – אנחנו – עושים. אנחנו מושפעים מיצירות שקדמו לנו, ובמקרה הטוב אנחנו מצליחים להשתחרר מההשפעות כדי להשיג טיפה של מקוריות. אינני בקיא בנושא, אבל אני מניח שהיום ניתן לכוון אלגוריתם כך שהוא יכיל אחוז מסוים של הפתעה, או סטייה, ובדרך הזאת אולי יצליח להפיק משהו שאיננו רק העתק אלא במידה מסוימת "חידוש", גם אם אותו חידוש איננו תוצאה של כוונה.
לפחות במאמרון הזה אינני מבקש להסיק שקהלת צדק ושאין חדש תחת השמש (פעמים רבות בעבר, בעיקר באמצעות המוסיקה, במפגשים רבים במסגרות שונות, המחשתי זאת). לעומת זאת, אני כן מבקש לשאול מה כל כך מטריד אותנו בכך שאלגוריתם של AI מסוגל לכתוב סיפור או להלחין שיר. יתכן שבין אלה שבדקו ומצאו שהסיפור הקצר שזכה בפרס נכתב (או אולי "הורכב") על ידי AI היו כאלה שגם חשבו שמדובר בסיפור מצוין, אבל לא מצאתי תגובות כאלה. כן מצאתי התבצרות בייחודיות האנושית וסירוב להכיר באפשרות שה-AI יצרה משהו איכותי. כפי שציינתי, השירים של Velvet Sundown אינם טובים יותר משירים אנושיים, אבל הם גם לא גרועים יותר מרבים מאלה.
אנחנו כנראה נידונים לחיות עם החשש פן נגלה שה-AI מסוגלת לא רק לעבוד מהר יותר ומדויק יותר מאשר בני האדם, אלא שהיא גם יכולה ליצור טוב יותר מאיתנו. תוך הכנת המאמרון הזה נזכרתי בהערה של קלווין טרילין (Calvin Trillin) סופר אמריקאי שהרבה לכתוב, לרוב בהומור, על אוכל ואכילה. באחד התורים שנלקט בספר American Fried משנת 1974 הוא תיאר את הקושי שלו עם מבקרי מסעדות. הוא כתב על מבקר שהסביר בפסקנות כיצד הקיש שהוא טעם במסעדה היה שונה מהקיש הקלאסי והמקורי. טרילין כתב שכשהוא שמע את הביקורת הזאת הוא רצה לצעוק "אבל האם אהבת אותו?". ואז הוא דיווח על עצמו:
Any chance that I might someday acquire a serious interest in how closely what I ate resembled the true article disappeared one day at a block party near our house while I was eating some homemade gazpacho and talking about how it differed from the authentic gazpacho one got in Seville. The more I talked about the difference, the faster I wolfed down the gazpacho—until I realized that one way what I was eating differed from authentic gazpacho was that it tasted better.
מעניין שבדיון הסוער סביב האותנטיות של הסיפור הקצר שזכה בפרס ה-Commonwealth כמעט לא מתייחסים לשאלה אם הוא באמת סיפור טוב. גם שתי כותבות של The Guardian לא אהבו את הסיפור. אבל במקום להאשים את ה-AI, בביקורת שלהן הן זיהו אשם אנושי. לגבי סגנון הכתיבה של הסיפור הזוכה הן ציינו:
It’s every bit of worthy filler you’ve found padding out the middle of a debut collection published straight out of a prestigious MFA (Master of Fine Arts) writing workshop. It’s every short story you’ve ever skipped past in the New Yorker to get to the film reviews and the caption competition.
אין ספק שיש כאן ביקורת חריפה, אבל רצוי לשים לב שהביקורת איננה שהסיפור נכתב באמצעות ה-AI, אלא שהוא דומה להמון כתיבה אחרת, ולא פעם גם מוערכת, שכבר קראנו פעמים רבות. בחינוך אין ציפייה גדולה שהכתיבה של סטודנטים תהיה מקורית. בדרך כלל די אם הם יצליחו להיצמד למבנה המקובל של הפיסקה הסטנדרטית של הכתיבה האקדמית – מבנה שבמידה רבה הוא אלגוריתמי. אני דווקא נוטה לחשוב שטוב שנכון לעכשיו ה-AI עדיין לא "קראה" את מלוא הכתיבה האקדמית של הסטודנטים בהשכלה הגבוהה. הרי אם וכאשר הכתיבה הזאת תיעשה למאגר שעליו מאמנים את כלי ה-AI, אפילו הכתיבה שזכתה לגינוי בכתבה של The Guardian תיחשב מלוטשת ואיכותית.
הי ג׳יי
אנחנו צריכים להודות שהאנושות יצרה ״הגדלה״ למח שלנו. הבינה המלאכותית עולה עלינו בהרבה דברים, ואין סיבה שהענין לא יחלחל גם לאמנות..
לא נותר לנו אלא למצוא את עצמנו בלי תחרות עם ה-ai ויהיה בסדר.. בנתיים היכן שהוא יכול לעזור הייתי רותמת אותו. זה לא אומר שלא ישאר לנו מקום להיות אנחנו עצמנו. נצחק עם חברים, נחבק ילדים, נגדל בגינה צמחים וירקות, אולי יהיה לנו זמן גם לאהוב יותר
נושא ופוסט נהדרים.
אני מזדהה איתך ג'יי.
אינסטינקטיבית מבאס אותי שאקרא סיפור של Ai. אבל למה? ולמה זה לא מפריע לי במוסיקה?.
אולי זה פשוט מערער אותנו כי נשמטת לנו היכולת לשפוט ולאמוד אנשים אחרים?. היכולת הזאת היא משהו מאוד בסיסי עבורנו אולי אפילו בחזקת משהו של הישרדות (דרווין וכו) . לא פלא שזה מערער אותנו. רק כדאי שלא נייחס את הבעטה שלנו מן העניין לנשגבות הרגשות, המוסר והחשיבה שלנו.