בחודשים האחרונים כולנו חיים בתוך מערבולת. הסכם עם איראן הוכרז, הוכחש, "הושלם" ואז "מת". יום אחד מדווחים שנחתם הסכם שלום היסטורי, ולמחרת בכיר איראני לועג שהנשיא האמריקאי כבר הכריז עשרות פעמים שההסכם קרוב. כותרת אחת טוענת שארצות הברית בגדה בישראל, ואחרת מסבירה שדווקא הצילה אותה. שמועות, הדלפות, הכחשות ופייק ניוז נראים אמינים בדיוק כמו החדשות עצמן.
חז"ל תיארו את התקופה הזאת במילים: "בעקבתא דמשיחא... והאמת תהא נעדרת" (בבלי, סוטה מ"ט). מרוב שקר משוכלל ומלוטש, כבר קשה להבחין בו במבט ראשון. את האמת מזהים רק ממרחק, בפרספקטיבה של זמן ומרחב. ודווקא מודלי הבינה המלאכותית מלמדים אותנו שיעור מעניין על טבעה של האמת.
תודעה קולקטיבית שאכלה הכול
מודל שפה גדול, שעומד בבסיס ChatGPT, קלוד ודומיהם, הוא מעין תודעה קולקטיבית. הוא ניזון מהידע האנושי הזמין: מאמרים מדעיים ואנציקלופדיות, אבל גם טוקבקים, פורומים, רשתות חברתיות וכמויות עצומות של מידע כוזב. הכול נכנס פנימה, אמת ושקר בערבוביה.
כולנו מכירים את נטיית המודלים "לחרטט", או במונח המקצועי: להזות. זה קורה בעיקר כשהמודל נשאל על נושא שאין עליו מספיק מידע, ומשלים את החסר בביטחון מלא. אבל מה קורה כשהוא קרא המון על הנושא? איך הוא מצליח, ברוב המקרים, לחלץ את האמת מתוך הררי הרעש?
התשובה טמונה בחוק המספרים הגדולים. שקרים יש רבים, אמת יש אחת. כל שקר סוטה לכיוון אחר: אחד מגזים ימינה, אחר מסלף שמאלה, ושלישי ממציא לגמרי. מבחינה סטטיסטית, השקרים מתפזרים סביב האמת ומבטלים זה את זה. האמת, לעומתם, מצטברת. כל מקור אמין מחזק אותה מאותו כיוון, פרט על גבי פרט. כשבוחנים את כל המידע יחד, האמת מתגלה כעמוד שדרה יציב, וסביבה ענן של רעש.
חז"ל ניסחו זאת הרבה לפני הסטטיסטיקאים: "קושטא קאי, שיקרא לא קאי", האמת עומדת והשקר אינו עומד(בבלי, שבת ק"ד). גם צורת האותיות רומזת לכך: אותיות אמ"ת עומדות על שתי רגליים, ואילו אותיות שק"ר על רגל אחת. השקר רץ מהר ומנצח בכותרות, אבל אינו מחזיק לאורך זמן. לכן, כשהכותרות סותרות זו את זו, לא צריך להיבהל מכל שמועה. השקרים יתנגשו וייפלו. מה שיישאר עומד הוא האמת.
אבל יש גם צד שני
האמת הסטטיסטית שהמודלים מזקקים היא הישג מרשים, אבל מחירה הוא היעדר מקוריות. טקסטים רבים שנכתבו בעזרת AI רהוטים, קוהרנטיים ונעימים לקריאה, אך חסרי רעיון ממשי. לתופעה הזאת כבר יש שם: Slop AI. האריזה מושלמת אבל ריקה.
זו אינה תקלה, אלא תכונה מובנית. מבחינת מודל AI," אמת" היא "המרכז הסטטיסטי" - מה שרוב האנשים חושבים או עשויים לחשוב, ואילו יצירתיות פועלת בכיוון ההפוך. רעיון חדש באמת הוא מחשבה שאיש עוד לא חשב. מבחינה סטטיסטית הוא נראה כמו חריגה, רעש, טעות. המודל, שכל כוחו בהתכנסות למרכז, נוטה לפספס אותו.
ברעיון חדש טמון סיכון. רוב החריגות מהמרכז הן אכן טעויות ושקרים. אבל הסיכון כולל גם הזדמנות: רעיון מקורי מביא לעולם דבר שלא היה בו קודם, מעין "יש מאין" קטן. כאן האדם, שנברא בצלם וקיבל כוח לחדש, נשאר בלתי ניתן להחלפה.
הרב קוק טוען שמידת האמת נבחנת ביכולתה של סברה להקיף כמה שיותר תופעות, גם קיצוניות ואיזוטריות. האמת הסטטיסטית, לעומת זאת, נצמדת למיינסטרים, למה שכולם כבר חושבים. ובהמשך לאותה גמרא בסוטה מוסיפים חז"ל: "בעקבתא דמשיחא, חוצפא יסגא". בעלי ה"עזות דקדושה" מוכנים להסתכן במה שייראה בטווח הקצר כשקר, כדי לחשוף אמת עמוקה יותר בטווח הארוך. הם מניעים את העולם קדימה. מודלי AI נצמדים לאמת הסטטיסטית, אך לא יבחרו מיוזמתם כיוון מקורי ומפתיע.
עמוד השדרה והניצוץ
אז מה למדנו מהמכונות על האמת? שני דברים משלימים.
ראשית, האמת מנצחת בטווח הארוך בזכות יציבותה. היא מצטברת ומתחזקת, בעוד השקרים מתפזרים ונעלמים. גם בעידן של "אמת נעדרת", מי שממתין ומביט בפרספקטיבה רחבה יראה אותה עומדת.
שנית, אמת סטטיסטית אינה שלמות. המרכז היציב זקוק לניצוץ שיפרוץ ממנו קדימה. המכונה יודעת לזקק את מה שהאנושות כבר יודעת. האדם נדרש לחדש את מה שעדיין לא נאמר. זו אולי השותפות האמיתית בין האדם למכונה בדור הזה: המודל מחזיק את עמוד השדרה, והאדם מביא את הנשמה.
הכותב הוא בעלי מכללת "Almaya עלמיא - לבינה מלאכותית והיברידית", ועוסק מזה 20 שנה בתורת הקבלה, באופן לימודי ויישומי.