האב: יואבי, תזהר! אתה קרוב מדי!הקריין: אבא, לא תמיד תהיה קרוב אליו ברכב כדי להזהיר אותו. לכן אתה צריך שיהיה Mobileye במכונית.
אין לי ספק שמערכות כמו Mobileye חיוביות ואף חיוניות לבטיחות בדרכים. ראוי לברך על האפשרות לקבל התרעה על סכנה בכביש כך שאפשר להגיב ולמנוע תאונה. תאונות רבות נגרמות על ידי היסח הדעת, כך שמערכת שתפעל כזוג עיניים נוספת, ותשים לב לכביש גם כאשר הנהג איננו עושה זאת, יכולה להציל חיים. מי יכול להתנגד לדבר כזה?
בסרטונים שמופיעים באתר של Mobileye אפשר לראות כיצד המערכת אכן מונעת תאונות. אבל הסרטונים גם מראים נהג שלמרבה הצער זקוק למערכת Mobileye מפני שהוא איננו שם לב לכביש אלא לדברים אחרים. טוב שהמערכת פועלת כפי שהיא פועלת. אבל יש חשש שמערכות כאלו גם יוצרות תלות, כך שבסופו של דבר נהגים מסתמכים עליהן ואינם נשארים מספיק ערניים למתרחש בכביש.
הקריין שבפרסומת מסביר לאב שמפני שהוא איננו יכול להיות ליד בנו כל הזמן שהבן נוהג, הוא זקוק למערכת התרעה. שוב, זה הגיוני. אבל לא פחות חשוב, ואולי יותר, הבן צריך לפתח ולהפנים את הערנות שלו. הוא צריך לדעת מתי הוא קרוב מדי בלי שאבא שלו, או מערכת ההתרעה, יגידו לו. והדרך שבה הוא רוכש את הידע הזה נקראת למידה.
לא רק שאיננו יכולים להיות ליד הילדים שלנו בכל אשר הם עושים – איננו רוצים להיות לידם כל הזמן. אנחנו מצפים שהם יכולים לצאת לעצמאות, ולקבל על עצמם את האחריות הדרושה לכך. מטרה מרכזית של החינוך היא להקנות להם יכולות שמאפשרות להם להתמודד במצבים בלתי-צפויים, כולל לדעת מתי הם קרובים מדי למכונית אחרת בכביש. שוב, אין זה אומר שאמצעים טכנולוגיים שעוזרים למנוע תאונות פסולים, אבל בהסתמכות על אלה יש סכנות, ממש כמו שיש סכנות באי-השימוש בהם.
הנושא הזה איננו חדש. במאמר ב-The Atlantic משנת 2013 ניקולאס קאר כתב על הבעייתיות אשר בשימוש בטייס אוטומטי במטוסים. (המאמר הזה היווה הבסיס לספרו The Glass Cage.) בין היתר קאר כתב:
Overuse of automation erodes pilots’ expertise and dulls their reflexes, leading to what Jan Noyes, an ergonomics expert at Britain’s University of Bristol, terms “a de-skilling of the crew.” No one doubts that autopilot has contributed to improvements in flight safety over the years. It reduces pilot fatigue and provides advance warnings of problems, and it can keep a plane airborne should the crew become disabled. But the steady overall decline in plane crashes masks the recent arrival of “a spectacularly new type of accident,” says Raja Parasuraman, a psychology professor at George Mason University and a leading authority on automation. When an autopilot system fails, too many pilots, thrust abruptly into what has become a rare role, make mistakes. … An overreliance on automation, the agency warned, could put planes and passengers at risk.
Seeking convenience, speed, and efficiency, we rush to off-load work to computers without reflecting on what we might be sacrificing as a result.
The uncertainty that was once an unavoidable part or our relationship with maps has been replaced by a false sense of Wi-Fi-enabled omnipotence. Digital maps are the enemies of wonder. They suppress our urge to experiment and (usually) steer us from error—but what could be more irrepressibly human than those very things?
Automation turns us from actors into observers.