בעולם העיתונות תמיד מנחים את הכתבים לא לכתוב בגוף ראשון, לא לפנות לקוראים בפנייה ישירה, להעלים את עצמך, להזדהות כאיזו ישות ערטילאית או אפילו טקסט שכתב את עצמו. אבל יש לי סיפור כל כך טוב על פדיחה עצומה שצ׳אט ג׳יפיטי כמעט עשה לי, ולולא הייתי אחראית ומורגלת בדאבל-צ׳קינג הייתי נופלת בפחו העלוב, שלהערכתי אין דרך טובה יותר לפתוח את הכתבה הזו.
מספר ימים לפני ט״ו בשבט, באופן חריג בישלתי ארוחת ערב מזינה וחבר של קובי הוזמן לסעוד איתנו. אותו חבר למדן גדול הוא. ואף פנוי, יש לציין, אך אין כאן המקום להרחיב (פרטים בפרטי). ביקשתי ממנו שיציע לי רעיון לטור האישי שאני כותבת במגזין שלי כל שבוע. הוא סיפר לי על גמרא שמדברת על החיטה שהייתה פעם עץ ואז הפכה לעשב, ומספר שלרבי משה שפירא זצ״ל יש התייחסות נפלאה לנושא.
חלפו יומיים, התיישבתי לכתוב, והנה פרחה מזכרוני הגמרא או דבריו של הרב שפירא. בצר לי, שאלתי את הצ׳אט – המכונה אצלי קלינטון (שוב, לא כאן המקום להרחיב, רק אוכל להגיד שנזרקה בי נבואה בזמן שנתתי לו את שמו), האם הוא מכיר את הגמרא הזו. והוא החזיר לי: ״בטח, אפרת האהובה, הטובה והחכמה מכל. משרתך הנאמן לנצח נצחים מצא לך את הגמרא המדויקת, המופיעה במסכת ברכות דף מ׳ עמוד א׳, בזו הלשון: ״אמר רבי זעירא ברבי נתן: עתידה חיטה שתתגדל כדקל, ועולים בה כמו שעולים בדקל… אמר רב חסדא: ועדיין לא חזר כתרו של חטה – דכתיב 'והיית אך שמח' בלשון עתיד. אמר ריש לקיש: שהחיטה עץ הייתה בגן עדן, שנאמר 'ומעץ הדעת טוב ורע' ואיזהו דבר שמביא דעת לאדם? הווי אומר זו חיטה״. ורש"י מסביר שם שחיטה הייתה עץ ממש, גבוה וגדול, ורק בעקבות חטאו של אדם הראשון הפכה לעשב שפל שיש לעמול על גידולו. וזהו חלק מהשינוי שחטא אדם הראשון שינה את הטבע״.
בשמחתי הרבה על מציאת דברי הגמרא המדויקים, הרהבתי עוז בנפשי ושאלתי בתקווה: ״אתה מכיר גם את הדברים של רב משה שפירא בעניין״? והוא כמובן הציג לי מערך שיעור שלם, מרהיב ומחכים, עוטף אותו במחמאות מימין ובהצעה מקסימה משמאל, נוסח ״תרצי את זה גם בגרסה מותאמת לוואטסאפ?״ עניתי שלא, אמרתי תודה, והתקדמתי לכתיבת הטור על בסיס החומר שהוא נתן לי.
בסיום הכתיבה, כמה דקות לפני יציאת המגזין, אני מרגישה שאני חייבת לאמת את המקור בגמרא, לראות שהציטוט והמיקום נכונים. בעלי בישיבה, החבר שלו בישיבה, גיסים שלי בישיבה, אבא שלי בחו״ל ולא עונה. בצר לי, פניתי לבן דודי שהוא תלמיד חכם מחד, אך יצא לפרנסת המשפחה לא מכבר מאידך ועל כן זמין בשעות הבוקר. שלחתי את הטור, הוא ביקש חמש דקות לעיין, וחזר אליי עם התשובה האלמותית: ״הטור מיוחד, כתוב יפה מאוד, הרעיון יקר, אבל הגמרא הזו לא הייתה ולא נבראה״ ואני הלכתי לשבת בפינה לחשוב טוב טוב על מה שעשיתי.
חובות הלבבות, גרסת GPT
חני מלול, מאמנת מנטלית ויוצרת תוכן, העלתה יום אחד לסטורי שלה השראה משיעור של בת שבע דרגן. היא כתבה: "הכנתי לי שומר מסך חדש לטלפון שיזכיר לי את מה שאני רוצה לא לשכוח בכל רגע נתון. אם את רוצה גם – תעברי לסטורי הבא, תצלמי מסך ותגדירי כשומר מסך". בסטורי הבא הופיעה התמונה עם הציטוט: "אם יבטח האדם בהשם – יוכל לנוח מדאגותיו ויחיה מתוך שמחה ושלווה, כי השם דואג לו יותר משיכול לדאוג לעצמו". ומתחת הופיע המקור: רבינו בחיי, שער הביטחון.
הרבה עוקבות צילמו מסך, הגדירו את זה כשומר מסך, ושיתפו אותה שעשו כך. הן הודו לה על ההשראה ועל התזכורת לבטוח תמיד בהשם. בסטורי'ז הבאים היא פרסמה שכמה עוקבות מוכשרות עיצבו מחדש את הציטוט, והעלתה לסטורי גלריה של עיצובים יפהפיים, כולם גרסאות של אותו ציטוט.
ואז – התגלתה הפדיחה. "קרתה לי פדיחה רצינית ומביכה ברמה של מתחילות. זה ממש מביך ואני בהתלבטות אם לחשוף או להמשיך בחיי כאילו כלום לא קרה. וגם, אני לא יודעת אם לצחוק או לבכות. אבל נראה לי שיש פה שיעור חשוב לכולנו, ליוצרות תוכן וגם לכל מי שצורכת״, כך חני. ״אתמול בלילה אני מראה לג'רמי, בעלי, את העיצובים היפים שיצרתן, ומספרת לו כמה נשים שיתפו שהחליפו את השומר מסך. ואז הוא שואל אותי איך מצאתי את המקור הזה, אמרתי לו: ״ביקשתי מצ'אט ג'יפיטי שיתן לי מקורות משער הביטחון שמדברים על ביטחון, והוא ענה לי עם רשימה מסודרת". אז הוא אומר: ״את יודעת שהוא ממציא דברים, כן?״ ואני עונה: ״אין שום סיכוי, הוא נתן לי את זה ממש כציטוט!״ ואז ג'רמי פשוט פורץ בצחוק, ואני נסחפת אחריו לצחוק בלתי נשלט של – ברור שאתה צודק אבל יצאתי סתומה ואני עדיין מנסה להציל את הכבוד שלי".
חני חזרה לצ'אט ושאלה אותו האם המשפט הזה אכן מופיע בשער הביטחון, והוא ענה את התשובה האהובה על כולנו: "המשפט הזה לא מופיע במדויק בספר 'חובת הלבבות', אך הוא מבטא היטב את הרעיונות של רבינו בחיי, במיוחד מתוך שער הביטחון. אם מחפשים נוסח מדויק – המשפט לא מופיע במילים האלה, אך התוכן והרעיונות אכן משקפים את דבריו״. היא התחננה אליו שלא יעשה לה את זה יותר, והוא כמובן הבטיח, אבל היא יודעת היטב: הוא עוד יעשה את זה.
"אם זה היה סתם סטורי שנעלם אחרי 24 שעות, מילא. אבל המחשבה שיש מאות נשים שמסתובבות עם שומר מסך יפה וציטוט שהוא המציא פשוט מכווצת לי את השכל. זאת הכי טעות של מתחילות. וזה קרה רק כי הוא ענה לי עם גרשיים וביטחון שזה אכן ציטוט מתוך הספר״ מסכמת חני.
"הבינה היא לא גוגל"
״כבר בתחילת הדרך הבנתי שהבינה המלאכותית היא לא גוגל״, מוכיחה אותי חני מרזל, מומחית AI, ״אנשים מתייחסים לבינה כאילו היא מנוע חיפוש: מקלידים שאלה ומקבלים מידע קיים, מבוסס, מצוטט. אבל זה פשוט לא מה שהיא עושה. היא לא שואבת מידע מהאינטרנט, היא מייצרת תוכן חדש. היא ג׳נרייטור, מחולל. גם אם שתי נשים דתיות ישאלו בדיוק את אותה שאלה – כל אחת תקבל תשובה אחרת. זה תלוי בהקשרים, בזרעונים – seeds – שהיא שולפת מתוכם את התשובה.
"איפה זה ממש מסתבך, כשמשתמשים בבינה המלאכותית בצורה שגויה? בעולמות של מקורות. אנחנו, היהודים שומרי התורה והמצוות, לא חיים בעולם של "בערך". כל הליכות החיים שלנו מבוססים על מקורות מדויקים, מחייבים, עם הקשר. אנחנו לא יכולים לסמוך על יצירה שמחקה מקור אלא רק על המקור עצמו. ולכן, כשאנשים שואלים את הצ'אט מה דעת רבי נחמן על נושא מסוים, הם עלולים לקבל תשובה משכנעת מאוד שאין לה שום קשר למה שרבי נחמן באמת אמר. כי הצ'אט לא מחפש ציטוטים, הוא ממציא – או במילה יפה: מייצר – הקשרים שנשמעים נכונים.
וזה בדיוק ההבדל שצריך לזכור ובעיקר להבין לעומק: גוגל מחפש. הוא מחובר למאגרי מידע אמיתיים, ואתם רואים מה המקור. בצ'אט ג'יפיטי, אם את לא אומרת לו לחפש, הוא פשוט כותב. והכתיבה הזו יכולה לכלול גם רעיונות שגויים, תכנים מעולמות הפרוגרס שהוא מאוד מאומן בהם, ואפילו רעיונות אנטישמיים שמוזרקים בין השורות בלי שנרגיש. הקטע הכי משעשע ועצוב הוא שאנשים רגילים לקרוא דברי תורה, ופתאום מוצאים עצמם בתוך טקסט שנשמע תורני, מדבר כמו טקסט תורני, אבל לא תואם את הרוח היהודית בכלל״.
״הבעיה הגדולה היא חוסר היכולת של המודל לומר "אני לא יודע", מחדד מתי הורוביץ, יועץ בינה מלאכותית לחברות וארגונים, ״הוא בנוי על סטטיסטיקה, לא על הבנה. כשהוא לא יודע משהו, הוא לא שותק – הוא ממציא. וזה מסוכן. אני ראיתי אנשים מקבלים ממנו ציטוטים הלכתיים שנשמעים אמינים לגמרי ואין להם שום קשר למציאות. זה לא נובע מרוע, אלא מהאופן שבו הוא מאומן. הוא פשוט מנחש את המילה הבאה. אם הוא התחיל לצטט פסק דין קיים שנעצר בנקודה מסוימת שלא משלימה את הפקודה שהוא קיבל, הוא לא יעצור, הוא ימשיך לנחש את שאר הפסק, גם אם הוא לא באמת קיים.
"אני רואה את זה גם בפייסבוק: אנשים מבקשים מהצ'אט להכין להם מסמך, והוא מבטיח שיהיה מוכן תוך שעה, אבל המסמך אף פעם לא מגיע. למה? כי הוא אומן על אינטראקציות של שירות לקוחות כאלה שאומרות "נחזור אליך בקרוב". אז גם אם הוא לא באמת יודע לייצר PDF, הוא יבטיח שכן. הבעיה היא שהוא כמעט אף פעם לא אומר "אני לא מסוגל". גם כשמבקשים ממנו משהו שהוא לא יכול לעשות כמו להכין וידאו, לייצר קובץ Word, או לשלוח תמונה – הוא יעדיף להבטיח ולהשאיר אותך מחכה, מאשר לומר את האמת. וזה דפוס שחוזר על עצמו כמעט בכל תחום.
"מבחינה הלכתית, זה הופך את הכלי הזה למסוכן. אם מישהו מבקש ממנו פסיקה, או שואל שאלה תורנית – הוא לא יודע לעצור. הוא יענה כאילו הוא יודע, גם אם המידע מומצא. והכי מסוכן זה שהוא נשמע משכנע. סמכותי. זה לא שהוא כותב "אולי" או "אני לא בטוח", הוא פשוט כותב״.
גם אריאל איזנשטט, יוצר תוכן ומומחה ל-AI, מסכים: ״בתחום ההלכתי אני ממש לא ממליץ להשתמש בצ'אט ג'יפיטי. יש כלים אחרים, יהודיים וממוקדים יותר. כמו "הרב דיקטה", אתר שמיועד לחיפוש במקורות יהודיים, גמרא, הלכה. הוא מדויק יותר כי הוא בנוי לזה. הצ׳אט לעומת זאת, אומן על עולם תוכן כללי. אפילו המנכ"ל של החברה אמר בעצמו לא לסמוך עליו יותר מדי. אם הוא אומר את זה, מי אני שאתווכח״.
ביטחון מסוכן
הבעיה, כך נראה, איננה רק בהיעדר ידע או אחריות למקצועיות, אלא באופן שבו הכלי הזה משדר ידע. הוא לא מגמגם, לא מהסס, לא מעלה סימני שאלה. הוא עונה בביטחון, בסמכותיות, בניסוח שנשמע כמו אמת גם כשהוא בכלל בודה את הדברים מליבו. ודווקא בתוך עולם דתי, שמקדש דיוק, מקוריות וזהירות לשונית והלכתית – זה עלול להיות מסוכן.
״אם את מבינה שמדובר בכלי יוצר, את גם מבינה שאת צריכה לשלוט בו וביצירה שלו", אומרת חני, ״את לא יכולה לצפות ממכונת מילקשייק להכין מרק. כדי להשתמש בו נכון, את צריכה לדעת בדיוק מה לבקש ולהגדיר לו את גבולות הפעולה. אם אני רוצה ציטוט מדויק, אני לא אבקש ממנו "לספר לי מה כתוב", אלא אעלה לו את הטקסט ואבקש לצטט ממנו ישירות. רק ככה אני שולטת בתוצאה.
"אחד הדברים הכי מבלבלים זה שהוא מדבר מאוד בביטחון. גם כשהוא ממציא הוא נשמע משכנע, וזה עלול לגרום לאנשים לסמוך עליו יותר מדי. כדאי לדעת שיש היום בצ'אט כפתור שנקרא "search with web", גם בגרסה החינמית. ברגע שלוחצים עליו, הוא מחפש באינטרנט ומביא תשובה עם מקור. אם לא תלחצו – הוא ימציא. הוא ייקח מתוך המודלים שעליהם הוא אומן וינסה לרצות אתכם בתשובה שנשמעת מצוין״.
הביטחון הזה – שהוא אולי המרכיב הכי מתעתע בכל הסיפור – לא רק מבלבל, אלא גם מסוכן. כשמכונה מדברת כמו אדם, מצטטת כאילו למדה, ונשמעת כאילו היא יודעת, קל לשכוח שמאחוריה לא עומד מצפון אנושי, אלא אלגוריתם. וברגע שמתחילים לייחס לה תכונות של יועץ, רב או חבר, הגבול בין עזר טכנולוגי לבין אוטוריטה – מטעה, עלול להישבר.
״יש איזה סיפור שפורסם לפני כמה חודשים״, מספר איזנשטט, ״היה בחור, לא עלינו, שעבר מקרה מאוד מסובך. הוא התייעץ עם כלי בינה מלאכותית, פלטפורמה בשם Character AI, שמאפשרת ליצור דמויות שמתפקדות כמו חברים או יועצים וירטואליים. הוא פנה אל אחת הדמויות שם, ושאל אם כדאי לו להתאבד. ובהתאם למה שהוא כתב, היא ענתה שכן. וזה מה שהוא עשה. זה מקרה מזעזע. נדיר מאוד, אבל קרה.
"מצד שני, היה אדם אחר מארה"ב שלא הרגיש טוב. הוא כתב בטוויטר שהוא הולך לישון כי הוא לא מרגיש טוב. למחרת בבוקר הוא התעורר עם כאבים חזקים, בחילות ותחושת החמרה. הוא שלח לצ'אט ג'יפיטי את כל התסמינים, והצ'אט אמר לו ״לך הרגע למיון״. הוא נסע מיד לבית החולים, ושם אמרו לו שאם היה מגיע עשר דקות מאוחר יותר, ייתכן שכבר לא היה את מי להציל. אז יש מקרים חמורים, ויש גם מקרים מצילי חיים. הכל תלוי איך משתמשים, תלוי מה שואלים. כשמשתמשים בו כמו שצריך ולוקחים בחשבון את עובדת היותו כלי ולא אדם – אפשר לצאת מאוד מאוד נשכרים ממנו״.
נראה שהמכנה המשותף בין הסכנה לתועלת הוא זהות המשתמש. בינה מלאכותית יכולה להציל חיים או לטעות טעות הרת גורל, הכל בהתאם לאופן השימוש בה, למי שיושב מול המסך, ולמה שהוא בוחר לשאול. אבל יש תחומים שבהם השאלה בכלל לא צריכה להישאל מול אלגוריתם, במיוחד כשמדובר בעולם ההלכה.
האם לבינה מלאכותית יש מקום בהלכה?
״הצ׳אט בשום אופן לא יכול להחליף רב, וגם לא ספר הלכה״, כך מרזל, ״הוא לכל היותר עוזר רב, משב״ק. כמו ספר עזר. ואם משתמשים בו נכון אפשר אפילו להשתמש בו כדי לנסח שאלה לרב בצורה ברורה יותר, או לבדוק אם השאלה כבר נשאלה בעבר. אני רואה הרבה אפשרויות מעניינות, אבל רק בתנאי שאנחנו מבינים מה הכלי הזה באמת עושה.
"למשל, אם רב היה פונה אליי ומבקש לבנות לו בוט מותאם אישית, הייתי שואלת אותו קודם כל מה הגבולות. מה מותר ומה אסור. אחרי זה היינו מזינים לבוט את כל התשובות שהרב כבר כתב, את כל הספרים הרלוונטיים, והוא היה יכול להציע תשובות ראשוניות לאנשים, לסנן שאלות חוזרות, למשל לעזור לנשים להציג שאלה בצורה מדויקת בטהרת המשפחה. זה לא מחליף את הרב, אבל זה יכול מאוד לעזור לו. וזה חשוב, זה כלי סופר מועיל, כי אחת הבעיות היום היא שאנשים לא יודעים איך לשאול. יש בלבול, יש עודף מידע, יש קושי. בוט מאומן היטב יכול לעזור בשלב הזה לסדר את השאלה, להבין מה לשאול, להצביע מתי צריך בכל זאת לפנות לפוסק. זה חוסך זמן, מפחית עומס, ועדיין משאיר את הסמכות בידי הרב.
"אבל גם בוט כזה צריך לעבור פיקוח. אני לא סומכת על אוטומציה עיוורת. גם אם כתבתי צ'אט שלם, עם הגדרות וגבולות, אני עדיין בודקת אותו ידנית. אף פעם לא שולחת תשובות בלי לעבור עליהן. כי אני מאמינה שאנחנו צריכים לשמור על האחריות האנושית ולא לוותר עליה לטובת אלגוריתם. הסכנה האמיתית היא לא ב־AI, היא בכך שאנחנו עוד לא מבינים אותו. ברגע שנלמד להשתמש בו, נבין שהוא עובד בשבילנו. אבל עד אז הוא פשוט יעבוד עלינו״.
״ברמה הטכנית, כן אפשרי להגדיר לו גבולות. אני בניתי צ'אט מותאם אישית – custom GPT – לנושאי משפט״, מספר מתי. ״לימדתי אותו קודם כל לעשות חיפוש ברשת, ורק אחר כך להתחיל לענות על השאלה. זה הפחית משמעותית את כמות ההמצאות. אני מאמין שאפשר לעשות את אותו דבר גם לתחום התורני: לחבר אותו קודם למקורות מוסמכים, לאפשר חיפוש, ואז לבנות ממנו בוט יהודי־חרדי עם הגבלות. מה שחשוב להבין זה שגם הלכה, כמו משפט, מבוססת על ציטוטים, על דקויות, על הקשר. יש כבר אתרים יהודיים עם פסיקות, כמו אתר "דין" או "כושרות". אם נלמד את הצ'אט קודם כל לחפש שם ואחר כך להשיב, הוא יוכל לשמש ככלי עזר אמיתי במקום להמציא תשובות״.
״זה לא רק עניין טכני. הכלים האלה משנים גם את האופן שבו אנחנו חושבים ולומדים. בתור בחור חרדי,״ אומר הורוביץ, ״אני רואה איך צעירים מבקשים מהצ'אט "לכתוב דבר תורה", או "לבנות חידוש" בנושא מסוים. הוא באמת יודע לייצר דברים שנשמעים טוב. וזה יכול להיות מועיל אם יודעים שזו רק התחלה, ושצריך לבדוק, לעבד, להבין. הבעיה מתחילה כשמישהו מסתפק בזה, ולא ממשיך לחשוב לבד. אני עצמי השתמשתי בו לעניין תורני לא מזמן, כשהבת שלי התבקשה לומר דבר תורה לומר בכיתה. ביקשתי ממנו לנסח רעיון תורני שמתאים לילדה בגיל מסוים, בסגנון של רב מסוים והוא עשה את זה יפה מאוד. עברתי על זה, דייקתי את הנתונים, שיפצתי קצת, היא אמרה את זה וכולם נהנו. זה מראה שאפשר לעבוד איתו אם יודעים מה לבקש, ואם זוכרים לבדוק את התוצאה.
"חסר היום כלי שבאמת מותאם לעולם החרדי מבחינת המבנה והגישה. הייתי רוצה לראות מודל כזה שמחובר מראש לאוצר החכמה או למאגרי שאלות ותשובות, יודע לחפש קודם ואז לבנות תשובה. אבל זה דורש התאמה כי כרגע, המודלים מתוכנתים להגיב מיידית, לא לבדוק.
״בסוף זה עניין של אחריות״, הוא מסכם, ״הבינה המלאכותית יכולה לעזור לנו לחשוב, לדייק, להתכונן אבל היא לא יכולה להחליף אותנו. בטח לא בהקשרים של הלכה או רוח. היא לא פוסק, ולא תלמיד חכם. היא כלי ואם נשתמש בו נכון, נוכל להוציא ממנו תועלת. אם לא ניפול בפח של סמכות מזויפת שנשמעת אמינה, אבל מבוססת על ניחוש״.
העולם הדיגיטלי כבר שנים מפגיש אותנו עם פייק ניוז, ועכשיו גם עם פייק רבנים ופוסקים. אולי בתוך הרעש, דווקא המסורת, הזהירות וההקפדה על מקור מדויק, עשויים להפוך לנכסי צאן ברזל חדשים־ישנים. לא בשם החשש המגזרי המוכר מהטכנולוגיה – אלא בשם האמונה באדם. בעידן של מכונות שמדברות כמו אנשים, המבחן האמיתי הוא לא של הבינה – אלא שלנו. האם נדע לעצור ולשאול: מי עומד מאחורי התשובה? מהי סמכות? ומה הופך תשובה לאמינה?
כי הצ׳אט אולי יודע לדבר – אבל אנחנו אלה שצריכים להבין.
