האם הבינה המלאכותית עלולה להביא לסוף האנושות כבר בעשור הקרוב? נייט סוארס, חוקר למידת מכונה שעבד בעבר כמהנדס תוכנה בגוגל ובמיקרוסופט, מעריך שהסיכוי לכך גבוה מ-50%. בריאיון בפודקאסט עם ניקולס תומפסון, מנכ"ל מגזין "האטלנטיק", סיפר כי החשש הזה השפיע אפילו על ההתנהלות הכלכלית האישית שלו.
"לא נשאר לנו עשור, אני לא חוסך לפנסיה עכשיו"
"אני מניח שכרגע נראה שכנראה לא נשאר לנו עשור", אמר סוארס בריאיון. לדבריו, ההסתברות לכך שלא נותר לאנושות עשור היא יותר מ-50%. הוא אף חשף כי הפסיק להפקיד כספים לחיסכון הפנסיוני שלו לפני כעשור: "אני לא חוסך לפנסיה עכשיו. יש לי תוכנית חיסכון מהתקופה שעבדתי בגוגל, אבל לא הפקדתי אליה כבר משהו כמו עשור".
כיום משמש סוארס כנשיא המכון לחקר בינת מכונה, ארגון ללא מטרות רווח הפועל מברקלי ומקדם גישה שלפיה פיתוח בינה מלאכותית בעלת יכולות עלול להוביל להכחדת האנושות. את החיים בצל האיום השווה לאפשרות של השמדה גרעינית, אך הבהיר כי אינו רואה בתרחיש הזה גזירת גורל. לדבריו, הוא עושה כל שביכולתו כדי למנוע את הסכנה, ובמקביל ממשיך לנסות לחיות חיים טובים.
במהלך הריאיון הציג תומפסון עמדה ספקנית יותר, והזכיר כי גם למערכות הבינה המלאכותית המתקדמות ביותר יש כיום מגבלות רבות. סוארס השיב באמצעות השוואה להתפתחות המכוניות ולהחלפת הסוסים: "אפשר לדמיין הרבה סוסים מסתכלים על התפתחות המכונית ואומרים: 'ובכן, יש את כל הדברים האלה שהמכונית עדיין לא יכולה לעשות'". לדבריו, מערכות הבינה המלאכותית משתפרות בהתמדה ומסוגלות לבצע משימות מורכבות וארוכות יותר.
סוארס הדגיש כי החשש שלו אינו נוגע לאובדן מקומות עבודה בעקבות התפתחות הטכנולוגיה, אלא לתרחיש קיצוני בהרבה. "אני לא איש של 'אפוקליפסת משרות בגלל בינה מלאכותית'. אני איש של 'בינה מלאכותית הורגת את כל בני האדם'", אמר בהומור שחור. הפתרון שהוא מציע הוא להגביל את היקף הפיתוח ואת היכולות של המערכות המתקדמות, תוך המשך שימוש בטכנולוגיה לצרכים מועילים, כמו מחקר למציאת תרופות לסרטן. "אנחנו לא צריכים לשאוף" לבינה מלאכותית שתחקה את האינטליגנציה האנושית ותתעלה עליה, סיכם.