בשבוע שעבר השיקה חברת אנתרופיק (המפתחת של מודלי קלוד) שני מודלים חדשים וחזקים של בינה מלאכותית בשמות: 5 Fable ו5- Mythos. ימים ספורים אחר כך הורה הממשל האמריקאי למנוע גישה אליהם מכל מי שאינו אזרח אמריקאי, כולל עובדים זרים של אנתרופיק שחיים בארצות הברית.
החברה טענה שאין לה דרך לבצע הפרדה כזאת מיד, ולכן כיבתה את המודלים לכולם. הסיבה הרשמית היתה חשש שאנשים יעקפו את ההגנות שלהם וישתמשו בהם כדי למצוא חולשות בתוכנות ובמערכות מחשב. אבל למה מודל שמדבר איתנו דרך מסך הפך פתאום לנושא של ביטחון לאומי?
הרבה מעבר לצ'אט: הטלסקופ של המחשבה האנושית
מודל בינה מלאכותית כבר אינו רק צ'אט שמנסח מכתבים או מסכם מסמכים. דמיינו אדם שקרא מיליוני ספרים, למד תכנות, רפואה, משפטים, היסטוריה ופסיכולוגיה, ויכול לחבר בין כולם בתוך שניות. המודל לא באמת קרא או הבין כמו אדם, אבל בפועל הוא מסוגל לעזור לחוקר לזהות קשר חדש, למתכנת למצוא תקלה ולארגון לתכנן מהלך מורכב. במובן הזה הוא דומה לטלסקופ של המחשבה: הטלסקופ לא רואה בעצמו, אבל הוא מאפשר לנו לראות רחוק יותר. אבל מה קורה כשאנו כבר מבססים חלק ניכר מהחיים שלנו על הטלסקופ, ומישהו מחליט פתאום לסגור את הטלסקופ?
מה שנסגר אינו רק מוצר של חברה מסחרית. נסגרת גישה ליכולת שמרחיבה את מה שאנחנו מסוגלים לדעת ולעשות. אין סיבה להניח שלמודל יש תודעה במובן האנושי, רגשות או חוויה פנימית כלשהי, אבל יש לו תודעה במובן של טווח רחב מאוד של דברים שהוא מסוגל להעלות במחשבה. כאשר אנחנו משתמשים בו, הטווח הזה מצטרף לחשיבה שלנו. לכן הסיפור אינו רק האם המכונה מודעת, אלא כיצד המכונה נעשית חלק מהמודעות האנושית. וכאן האירוע החדש מתחבר לעימות קודם, חריף לא פחות, בין אנתרופיק לממשל.
לא רק אפליקציה אלא נכס אסטרטגי
רק כמה חודשים קודם לכן דרש משרד המלחמה האמריקאי להשתמש במודלים של אנתרופיק לכל שימוש חוקי. החברה הסכימה לשימושים צבאיים רבים, אך התעקשה שלא לאפשר שימוש בנשק אוטונומי לחלוטין או במעקב המוני בתוך ארצות הברית. הממשל איים בתגובה להגדיר אותה כ"סיכון לשרשרת האספקה הביטחונית". אז הממשלה טענה שאנתרופיק סוגרת יותר מדי. עכשיו היא טוענת שהחברה פותחת יותר מדי. האם הממשל פשוט סותר את עצמו?
ובכן - לא. בשני המקרים הוא אומר את אותו הדבר: חברה פרטית לא תקבע לבדה את הגבולות של כוח כזה. פעם הוויכוח היה מה מותר לצבא לעשות עם המודל. עכשיו הוויכוח הוא מי בעולם רשאי לגשת אליו. המדינה אינה רואה עוד במודל תוכנה רגילה, כמו אפליקציה לעריכת תמונות. היא רואה בו נכס אסטרטגי, כמו לוויין, מערכת הצפנה או טכנולוגיה צבאית. אלא שכאן מדובר בנכס שמתחבר ישירות לחשיבה של
בוושינגטון שולטים על התודעה של כולנו
מיליוני בני אדם (ולמעשה - אף עשוי מחשיבה של מיליארדי בני אדם), והוא בר השפעה דרמטית על כלל האנושות. זו כבר לא יכולה להשאר אחריות של אדם פרטי או חברה. אז מי, אם כן, באמת יצר את הכוח הזה?
במובן מסוים, כולנו. המודלים אומנו על טקסטים, קוד, מחקרים ורעיונות שנכתבו בידי אנשים מכל העולם. זוהי התודעה הקולקטיבית של האנושות (שוב, במובן של טווח הרעיונות שיכולים לעלות על הדעת, ולא חוויה פנימית). אבל המערכות שמרכזות את כל הידע הזה נמצאות בידי כמה חברות אמריקאיות, וכפופות להחלטות של ממשלה אחת. האנושות אמנם סיפקה את חומרי הגלם - אבל אין לה יד על המתג. זאת אינה שאלה תיאורטית: החלטה אחת בוושינגטון כבר הצליחה לנתק בתוך ימים משתמשים, חוקרים וחברות מכל העולם מכלי שעליו התחילו לבנות את עבודתם. אז על מה באמת מתנהל כאן המאבק?
לא על השאלה האם למכונה יש נשמה. המאבק הוא על מי שולט בהרחבה החדשה של התודעה האנושית. ככל שאנחנו נעזרים במודלים כדי להבין, לזכור, לחקור ולקבל החלטות, הם נעשים פחות כמו פטיש ויותר כמו שכבה נוספת של המוח שלנו. לכן מי ששולט בגישה אליהם אינו שולט רק בטכנולוגיה. הוא מתחיל
לשלוט גם בשאלה מי יוכל לראות רחוק יותר, לחשוב רחב יותר ולפעול מהר יותר. אותה "הרחבה מוחית" שכולנו מתחברים אליה, יכולה להיות גורם מחבר בין כל התודעות הפרטיות, לאחת כללית - שנוצרה מסיכום סטטיסטי של מיליארדי תודעות פרטיות. אך בשימוש לא אחראי - אותה תודעה כללית תוכל לגרום לנזקים בקנה מידה גלובלי.
5 Fable ירד מהאוויר בגלל חשש ביטחוני. אבל הוא השאיר אחריו שאלה גדולה הרבה יותר: כשהבינה המלאכותית הופכת לחלק מהדרך שבה אנחנו מבינים את העולם, מי מחזיק במפתח לתודעה המורחבת שלנו?
הכותב הוא בעלי מכללת "Almaya (עלמיא) - לבינה מלאכותית והיברידית", ועוסק מזה 20 שנה בתורת הקבלה, באופן לימודי ויישומי.