סם אלטמן, מייסד חברת OpenAI, העריך באירוע שנערך בחודש ספטמבר כי ייתכן שבתוך חמש שנים תיווצר בינה מלאכותית שתעלה על האדם, דבר שמעורר חשש עמוק בקרב מומחים. בשל ההערכות המדאיגות, למעלה מ־700 מדענים, פוליטיקאים וסלבריטאים, ובהם הנסיך הארי, ריצ'רד ברנסון וסטיב באנון, חתמו על מכתב הקורא לעצור את המרוץ אחר בינה מלאכותית שתעלה על האדם.
"בינה מלאכותית חכמה מהאדם שתחליף אנשים, הוא מסוכן מאוד"
במכתב, שפורסם על ידי המכון האמריקני Future of Life, נכתב כי יש לאסור את הפיתוח של "תבונת-על" עד שניתן יהיה להבטיח שהיא בטוחה, נשלטת ונתמכת על ידי הציבור. בין החותמים גם חתן פרס נובל לפיזיקה לשנת 2024, ג'פרי הינטון, פרופ' סטיוארט ראסל מאוניברסיטת ברקלי ופרופ' יושוע בנג'יו מאוניברסיטת מונטריאול.
סם אלטמן, מייסד OPENAI צילום: Mijansk786,Shutterstock
"אסור לחברות לכוון למטרה כזו בלי חוקים ברורים שיגנו על הציבור"
נשיא המכון, מקס טגמרק, הזהיר כי "אסור לחברות לכוון למטרה כזו בלי חוקים ברורים שיגנו על הציבור". שותפו למכון, אנתוני אגירה, הוסיף: "אנשים רוצים שבינה מלאכותית תסייע למדע, לרפואה ולחיים שלנו, אך הכיוון שאליו הולכות החברות, יצירת בינה מלאכותית חכמה מהאדם שתחליף אנשים, הוא מסוכן מאוד". המכתב מזכיר יוזמה דומה שנידונה באו"ם, הקוראת למדינות העולם להסכים על כללים ברורים לשימוש בבינה מלאכותית עד סוף 2026.