בכנס הטכנולוגיה SXSW התמקדו השנה בבינה מלאכותית והציגו אינספור שימושים חדשניים בתחומים כמו רפואה, קולנוע, מוזיקה ועסקים. בעוד שהטכנולוגיה מוצגת כפוטנציאל אדיר לקדמה, יש מי שסבור שמדובר באיום קיומי ממשי. חוקר הבינה המלאכותית האמריקאי יהודי אליעזר יודקובסקי, הציג בכנס תחזית שלילית במיוחד וטען כי אם לא נפסיק לפתח את הטכנולוגיה באופן מיידי, היא עלולה להביא לסוף האנושות.
בינה מלאכותית, צילום: shutterstock
"הן יפעלו להשגת מטרותיהן ללא שום שיקול מוסרי"
בפאנל מיוחד בנושא "איך לגרום לבינה מלאכותית לא להרוג את כולנו", הזהיר יודקובסקי כי האנושות אינה מוכנה להתמודד עם AI מתקדם שמקבל החלטות עצמאיות. לדבריו, "הסכנה איננה שהמכונות יהיו אלימות או רעות, אלא שהן יפעלו להשגת מטרותיהן ללא שום שיקול מוסרי, התלבטות או חמלה אנושית".
"אין לנו דרך לנבא את התנהגותן או לשלוט בהן באופן מלא"
גם מומחים נוספים שהשתתפו בפאנל הסכימו כי מדובר בטכנולוגיה חסרת תקדים. נורה אמאן, מומחית למנגנוני בטיחות של AI, הדגישה את החשיבות בפיקוח ורגולציה בינלאומית, וציינה כי "מערכות AI אינטליגנטיות עלולות לעלות ביכולותיהן על האנושות כולה, ולנו אין דרך לנבא את התנהגותן או לשלוט בהן באופן מלא".
סמואל המונד, בכיר בקרן החדשנות האמריקנית, השווה את פוטנציאל ההרס של הבינה המלאכותית להתפשטות נגיף, אבל "חכם" בהרבה. הוא מזהיר שאם לא ינקטו צעדים מיידיים למיתון הפיתוח, "אנחנו עלולים למצוא את עצמנו מול איום מהיר, בלתי נשלט ובעל פוטנציאל הרסני חסר תקדים בהיסטוריה האנושית".