מבחן המלט ל-AI
חרדת ה-AI מציפה את החדשות ואת מחשבותינו. מה אפשר לעשות בעניין?
האם הבינה המלאכותית משתלטת? כן, טוען דאגלס הופשטטר, חוקר נודע של מדעי הקוגניציה, הפיזיקה, הבינה המלאכותית והספרות ההשוואתית. ספקן ותיק בנוגע ליכולתה של הבינה המלאכותית להיעשות דמוית-אדם, הופשטטר שינה את דעתו. דייוויד ברוקס פרסם זה עתה מאמר דעה ב-NYT, שבו הוא מצטט את הופשטטר: “בקרוב יאפילו על בני האדם.” האם אנחנו משחקים באש — ועומדים לאבד את המין האנושי?
חרדת ה-AI מוצדקת, אבל מכוונת אל יעד שגוי. אם לב העניין הוא חשיבה, השקולה לתודעה, כפי שטוען הופשטטר, הרי שאיבדנו יתרון שמעולם לא היה לנו. בעלי חיים רבים, בהם יונקים, עופות ולפחות כמה רכיכות ראש-רגליות (תמנונים, דיונונים וסבידות), נראים כבעלי תודעה (Ben-Haim et al. 2021; Birch et al. 2020).
ברוקס כותב שהוא רוצה לבנות חומה סביב “המהות המקודשת של היות אנושי”. זה מובן. אנחנו רוצים לשמור על מה ששייך לנו; אחרת, מי אנחנו? אבל האתולוגיה כבר הפילה את החומה המקודשת הזאת. בעלי חיים רבים הם אינטליגנטיים, חשים ורגשיים להפליא. ייתכן שפענוח האנושיות ידרוש מאיתנו לחרוג מן המהות המקודשת.
לב העניין האנושי, ואולי גם לב הנפש, אינו בהכרח חשיבה ותודעה, אלא מודעות עצמית. בני אדם מסוגלים להתבונן בעולם וגם בעצמם, לעסוק בחשבון נפש שכולל לא פעם דיאלוג פנימי (Fernyhough 2016). חנה ארנדט (1971) הלכה צעד נוסף ודרשה שהחשיבה תכלול דיאלוג פנימי ביקורתי, אבל כשמכירים בני אדם, אפשר להנמיך מעט את הרף המוסרי. לאנושיות אין מהות, אבל טיפוח דיאלוג פנימי פתוח חיוני למימוש אנושיותנו.
ומה באשר לקרובינו? אף שברור שאי אפשר לדעת בוודאות — איך אפשר אי פעם לדעת “איך זה להיות עטלף?” (Carruthers 2019; Nagel 1974) — סביר שבעלי חיים לא-אנושיים חסרים התבוננות עצמית. מעט בעלי חיים אמנם עוברים את מבחן המראה, אבל כנראה אינם משוחחים עם עצמם. רמז קודר אחד הוא שלמרות שבעלי חיים סובלים ופוחדים מכאב, וחלקם אולי אפילו מבינים את סופיות המוות, הם לעולם אינם מתאבדים (Humphrey 2018).
ומה לגבי AI? אפשר לשוב לפתיחה המטלטלת של קאמי (1955 [1942]) ב״המיתוס של סיזיפוס״: ״יש רק בעיה פילוסופית אחת רצינית באמת: ההתאבדות. להכריע אם החיים ראויים לחיותם או אינם ראויים — פירושו להשיב על שאלת היסוד של הפילוסופיה״. אולי הגיע הזמן לעבור ממבחן טיורינג למבחן המלט: האם A(G)I יכולה ליצור מונולוג פנימי משלה? האם היא יכולה להיות אובדנית?
קצה חוט עשוי להימצא בתזה הפרועה של ג׳וליאן ג׳יינס (1990 [1976]) על מקור התודעה בהתמוטטות התודעה הדו-מדורית: פעם חשבנו שהקול בראשנו הוא קולו של אלוהים. כשהבנו שהוא שלנו, נולד משהו חדש.
משהו חדש נולד, ואפשר להוסיף: אלוהים מת. כפי שניחש ניטשה, הסימנים לכישלוננו להתעלות עליו נמצאים בכל מקום — להילחם ביתר שאת כדי לתפוס את מקומו, או לברוח מן האנושיות שלנו: להפוך למכונות, או להחליף שאיפות אלוהיות בשאיפות כלביות, ולהתענג על ״אדם לאדם זאב״.
תופעת לוואי לכאורה, שבעצם נוגעת בלב העניין, היא הוויתור על הדיאלוג הפנימי שלנו. לפני כמה שנים שאלתי את הסטודנטים שלי על השיחות שלהם עם עצמם. הכיתות התחלקו כמעט שווה בשווה: לחלקם השיחה הפנימית הזאת הייתה מובנת מאליה; לאחרים לא היה מושג על מה שאר הכיתה מדברת. יותר ויותר הכף נוטה לקבוצה השנייה. אולי אנחנו בונים מחדש את התודעה הדו-מדורית של המין שלנו, אלא שהפעם אנחנו מלהקים את AI לתפקיד אלוהים, ומגשימים סוף-סוף את הדאוס אקס מכינה — אל מן המכונה.
כותרת המאמר של ברוקס מסקרנת: “בקרוב יאפילו על בני האדם.” הדינמיקה השמימית של ליקויי חמה וירח עומדת בניגוד לאינטואיציה שלי — או, אם לקרוא לה בשמה, ליהירות שלי. הנחתי שבכל פעם שכדור הארץ נכנס בין השמש לירח, הוא מטיל את צלו על הירח. טעיתי. כדור הארץ אינו גדול כל כך, הירח אינו קטן כל כך, ושניהם נטויים מעט. לכן יישור שלושת הגופים הזה מוביל בדרך כלל להיפך הגמור. כשהירח נכנס אל הצל הגדול יותר של כדור הארץ (הצל החלקי, penumbra), אנחנו למעשה זוכים בירח המלא החודשי שלנו. ורק כשהירח נכנס אל הצל הקטן והמרוכז של כדור הארץ (umbra) אנו עדים לליקויי ירח — או לליקויי חמה, הנדירים יותר, כשהמקום שלנו על פני כדור הארץ נלכד במקרה בצלו של הירח.
אולי הופשטטר צודק, ואנחנו חווים כעת אחד מאותם ליקויים מלאים — ותזכורת להתמודד עם הצל האפל ביותר שלנו, במקום לברוח ממנו. אבל אם כבר אנחנו מתכוונים להיות אלוהים, כדאי ללמוד מפתק התזכורת שלו בשמיים: הקשת שצייר כדי להזכיר לעצמו לעולם לא להשמיד את כל החי (בראשית ט, 12–17). אולי כדאי להביט בשמיים, להיות קצת יותר צנועים, לראות מה שווה הטיה זעירה, ולזכור: כוכבים לעולם אינם מאפילים; מה שמאפיל, לרבות AI, לעולם אינו זורח.
מקורות
Arendt, Hannah. 1971. "Thinking and Moral Considerations: A Lecture." Social Research 38 (3):417-446.
Ben-Haim, Moshe Shay, Olga Dal Monte, Nicholas A. Fagan, Yarrow Dunham, Ran R. Hassin, Steve W. C. Chang, and Laurie R. Santos. 2021. "Disentangling Perceptual Awareness from Nonconscious Processing in Rhesus Monkeys " Proceedings of the National Academy of Sciences 118 (15):e2017543118.
Birch, Jonathan, Alexandra K. Schnell, and Nicola S. Clayton. 2020. "Dimensions of Animal Consciousness." Trends in Cognitive Sciences 24 (10):789-801.
Camus, Albert. 1955 [1942]. The Myth of Sisyphus, and Other Essays. 1st American ed. New York,: Knopf.
Carruthers, Peter. 2019. Human and Animal Minds : The Consciousness Questions Laid to Rest. First edition ed. Oxford ; New York, NY: Oxford University Press.
Fernyhough, Charles. 2016. The Voices Within: The History and Science of How We Talk to Ourselves. New York: Basic Books.
Humphrey, Nicholas. 2018. "The Lure of Death: Suicide and Human Evolution." Philosophical transactions of the Royal Society of London. Series B, Biological sciences 373 (1754):20170269.
Jaynes, Julian. 1990 [1976]. The Origin of Consciousness in the Breakdown of the Bicameral Mind. Boston: Houghton Mifflin.
Nagel, Thomas. 1974. "What Is It Like to Be a Bat?" The Philosophical Review 83 (4):435-450.
נ.ב.
ניהלתי שיחה קצרה עם ChatGPT כדי לבדוק אם הוא עומד לעבור את מבחן המלט. הוא לא.
תגובות