אמ;לק – הניסוי ולקחו
- פלטפורמה דיגיטלית שמציעה סיוע נפשי לכ-2 מיליון בני נוער ערכה ניסוי לא אתי במיוחד וחלק מנותני המענה הגיבו תוך שהם משתמשים ב-ChatGPT.
- כ-4,000 פונים קיבלו מענה נפשי למצוקתם שחוּלל על ידי בינה מלאכותית, ללא ידיעתם. זמן התגובה התקצר משמעותית והפונים דיווחו על שביעות רצון גבוהה מהמענים שקיבלו.
- אך כאשר גילו שהם מתכתבים עם בוט, העסק קרס. אמפתיה מדומה הרגישה מוזרה, ריקה והפונים פרשו מהשיחה.
- אולי יהיו מצבים בהם נוכל להיעזר בבוטים, אבל במצבים הסבוכים יותר, פיזית ורגשית, תמיד נרצה את שיקול הדעת האנושי ואת החיבוק הפיזי.
בשבועות האחרונים אי אפשר לברוח מזה. בכל מקום אליו אני מגיעה, בכל כתב-עת אותו אני קוראת, מדברים על הנושא החם: AI, או בלשון הקודש בינה מלאכותית. מדי שבוע צצות להן תוכנות ואפליקציות בעלות יכולת להתמודד עם כמות עצומה של מידע בערוצים שונים, ולהפיק תוצר חדש ומרשים שהיה לוקח לבן אנוש זמן רב להגיע אליו.
מעולם לא התלהבתי מגאדג'טים ואני מודה שאני מתקשה להתמודד עם המושגים המופשטים בעולם המחשבים. אני מבינה באנשים. במחשבים? הרבה פחות. עם זאת, לאחרונה לאחר שעה ארוכה בה בהיתי מול מסך ריק ללא השראה, נשברתי וביקשתי מהאפליקציה המדוברת לכתוב עבורי ברכה לחברה אהובה החוגגת יום הולדת עגול. להפתעתי הרבה, התוצר שהתקבל היה לא פחות טוב ממה שהייתי מצליחה לייצר בעצמי.
מכיוון שכאמור איני מבינה חצי דבר במחשבים אך אני אדם סקרן שמתקשה "לא לדעת", חיפשתי להבין מהי אותה "בינה מלאכותית", מה האפשרויות שבה, מהן ההזדמנויות שהיא מעניקה ומהם הסיכונים בשימוש בה. על מנת לקבל תשובות מדויקות ממקור ראשון, ביקשתי מאותה תוכנת ChatGPT להסביר לי: "מהי בינה מלאכותית"?
אז, בתרגום חופשי, לדברי אותה אפליקציה, בינה מלאכותית היא תחום ממדעי המחשב העוסק בפיתוחן של מערכות אינטליגנטיות. מערכות אלה מתוכננות לחקות אינטליגנציה אנושית ומסוגלות לבצע מטלות שבדרך כלל דורשות אינטליגנציה אנושית כגון תפישה חזותית, זיהוי שפה, קבלת החלטות ועוד. קיימים ארבעה סוגי AI והם:
AI של מכונות מגיבות (Reactive Machines): אלה מהוות את הסוג הבסיסי ביותר של AI ומסוגלות להגיב אך ורק לסביבה בה הן מתפקדות. הן אינן מסוגלות לייצר זיכרונות או ללמוד מניסיונות עבר. דוגמא לסוג זה של AI היא 'כחול עמוק', מחשב-העל של חברת IBM שהצליח להביס בסוף שנות ה-1990 את גרי קספרוב, אלוף העולם בשחמט. כחול עמוק יודע לזהות את כלי המשחק, את מהלכיו של כל כלי ואת מכלול המהלכים האפשריים באותו הרגע, אך אין לו את היכולת ללמוד ממשחקי עבר והוא מתעלם מכל מידע מלבד זה שעומד בפניו ברגע הנוכחי.
AI של זיכרון מוגבל (Limited Memory): מערכות אלה מסוגלות ליצור זיכרונות על בסיס התנסות קודמת ולעשות שימוש במידע זה על מנת לקבל החלטות. דוגמא לכך הן מכוניות אוטומטיות ללא נהג העושות שימוש בזיכרון המוגבל על מנת לזכור מהתנסויות העבר מיקום של שלטי רחוב ושל אתרים, או תוכנות סטרימינג הזוכרות את העדפת הצופה ומציעות לו הצעות דומות לצפייה הבאה.
AI של "תיאוריית המיינד" (Theory of Mind): זהו מושג השאול מתוך עולם הפסיכולוגיה המתייחס לכך שלבני אנוש ישנן מחשבות, אמונות, רצונות, כוונות ורגשות המשפיעות על התנהגותם ועל תהליך קבלת ההחלטות. אלה אינן קבועות ועשויות להשתנות מאדם לאדם וממצב למצב. סוג זה של AI יהיה מסוגל להבין את המחשבות והרגשות של ישויות אחרות ולהגיב בצורה מדויקת ומותאמת על פי הבנות אלה. AI זה עדיין מצוי בשלבי פיתוח ראשונים אך הינו בעל פוטנציאל יישומי בתחומים רבים ביניהם הבריאות ושירות הלקוחות.
AI של "מודעות עצמית" (Self-Aware): זהו הביטוי המתקדם ביותר של AI והוא יהיה מסוגל להבין את תהליכי החשיבה והרגשות שלו עצמו. AI זה טרם פותח ועדיין מצוי במחוזות המדע הבדיוני.
המחשב כמומחה לנפש האדם
לבינה מלאכותית יש פוטנציאל גבוה לתרום לחברה, אך בעקבות ההתנסות בה ויישומיה כיום, מתחילות להתעורר שאלות ודילמות אתיות וחברתיות. אחת הסוגיות החברתיות המטרידות יותר היא החשש שככל שהבינה המלאכותית תתפתח ותשתכלל כך יגבר הסיכון שהיא תתחיל ליַתֵר חלק מהתפקידים ומן המקצועות הקיימים היום. האם מכוניות אוטומטיות תְיַתרנה נהגים, מערכות דיאגנוסטיות ורובוטים רפואיים יחליפו רופאים, מערכות משוכללות ילמדו במקום מורים?
לאחרונה פרסם העיתון 'כלכליסט' ידיעה על ניסוי לא רשמי (ולא אתי במיוחד) שביצע היזם רוב מוריס בקרב בני נוער. הוא עשה שימוש בפלטפורמה דיגיטלית שפותחה במטרה להציע סיוע נפשי לכ-2 מיליון משתמשים, רובם בני נוער. הוא ביקש מחלק מנותני המענה לנסח את תגובתם לפונים תוך שהם משתמשים ב-ChatGPT. וכך, כ-4,000 פונים קיבלו מענה נפשי למצוקתם שחוּלל על ידי AI וזאת כמובן ללא ידיעתם ובלי הסכמתם.
מוריס דווח על כך שזמן התגובה לפונים התקצר משמעותית ובמקביל הפונים דיווחו על שביעות רצון גבוהה מהמענים שקיבלו. ממצא זה מדהים כפי שהוא מפחיד, מערער ומעלה שאלות רבות. האם בעתיד הקרוב מקצועות בריאות הנפש ייעלמו ואת מקומם תחליף מכונה משוכללת? יותר מכך, מטרידה השאלה הפילוסופית-מוסרית-קיומית. האם נפש האדם, שנברא בצלם, צומצמה, פוענחה, ותתוחזק על ידי מחשב?
אז זהו, כנראה שלא. בשלב מסויים של הניסוי המדובר, גילו הפונים שהם אינם מתכתבים עם בן-אנוש אלא עם בוט. ומאותו הרגע העסק לא עבד. לדברי מוריס "אמפתיה מדומה הרגישה מוזרה, ריקה" והפונים פרשו מהשיחה. למוריס, שכאמור אינו פסיכולוג אלא מפתח מוצר, היו את ההסברים שלו לכך: הוא טוען שאנשים מעריכים את המאמץ שעושים עבורם וברגע שהבינו שלא הושקע מאמץ המענה אינו "שווה". זוהי חשיבה תועלתית של איש עסקים. אך לעניות דעתי מדובר בעיקרון עמוק ומשמעותי בהרבה.
הפסיכולוג האמריקאי הארי סטאק סאליבן (1892–1949) היה ממובילי זרם הפסיכולוגיה הבינאישית. בניגוד לחבריו האנליטיים שטענו שאדם מונע על ידי דחפים או צרכים, הוא טען שחוויית ה"עצמי" של האדם, או אישיותו, מתפתחת בתוך קֶשר ובתוך הֶקְשֶר והאמין שהאדם נולד מחווט כדי להיות בקשר. לדבריו "לא ניתן לבודד אישיות מהמורכבות של יחסים בינאישיים שבהם אדם חי ובהם הווייתו".
עוד לפני סאליבן אנו יודעים ש"לא טוב היות האדם לבדו" (בראשית ב' י"ח). אדם זקוק לאחר שיחיה לצידו, שיראה אותו, שישקף לו את עצמו, שיחזיק אותו ב"מיינד" שלו, שידאג לו ושיחבק אותו. לא משנה כמה ינסו, לזה לא יימצא תחליף ממוחשב. יתכן ותימצא דרך שבה בינה מלאכותית תוכל לספק חלק מצרכיו של האדם, לייעל חלק מתפקודיהם של בעלי המקצוע, ללא ספק AI כאן להישאר. אבל אני עדיין מאמינה שאחרי ההתלהבות הראשונית, ניזכר ונזהה את הערך המוסף שבקשר האישי, את הניצוץ האלוקי. אולי יהיו מצבים בהם נוכל להיעזר בבוטים, אבל במצבים הסבוכים יותר, פיזית ורגשית, תמיד נרצה את שיקול הדעת האנושי ואת החיבוק הפיזי. כי בכל זאת, מותר האדם מן המכונה.
איור: shutterstock
