חברת הסייבר הישראלית רדוור חשפה חולשת אבטחה חמורה ב-ChatGPT המכונה ShadowLeak, המאפשרת לגנוב מידע רגיש מבלי שהמשתמש יבצע כל פעולה. מדובר במתקפת Zero-Click - התקפה שבה די במפגש של המערכת האוטונומית עם מייל זדוני כדי שהמידע יישאב אוטומטית לידי התוקף. ההוראות מוסתרות בתוך הטקסט בדרכים מתוחכמות, כך שהמשתמש כלל לא מבחין בהן.
"אין שום רמז, ואין לקורבן דרך לדעת שמידע רגיש נגנב"
כאשר המשתמש במערכת הבינה המלאכותית מבקש לבצע פעולה, כמו "סכם את המיילים של היום", הוא למעשה מבצע את ההוראות החבויות והמידע דולף ממנו. "זה המודל המובהק של מתקפת Zero-Click", הסביר ד"ר דוד אביב, סמנכ"ל הטכנולוגיות של רדוור. "אין פעולה מצד המשתמש, אין שום רמז, ואין לקורבן דרך לדעת שמידע רגיש נגנב".
לדברי החוקרים גבי נקיבלי, צביקה באבו ומאור עוזיאל, מדובר בסוג חדש של מתקפות. האיום רחב בהרבה מתיבות דוא"ל -כל מערכת ארגונית המחוברת ל-ChatGPT, כמו שירותי ענן, מערכות משאבי אנוש או כלים עסקיים, עלולה להפוך יעד לדליפה. רון מירן, סמנכ"ל מודיעין איומי סייבר ברדוור, התריע: "ארגונים שמאמצים בינה מלאכותית לא יכולים להסתמך רק על מנגנוני ההגנה המובנים". רק לפני מספר שבועות פרסם מערך הסייבר הלאומי הנחיות המדריכות את האזרחים כיצד לשמור על פרטיותם בעידן ה-AI.
מערך הסייבר הלאומי מציג: 5 צעדים פשוטים להגנה על השיחות שלכם:
- בטלו את האפשרות שהשיחות שלכם ישמשו לאימון המודל.
- אל תשתפו קישורים לשיחות רגישות - הם נשארים פעילים.
-היזהרו משימוש בסוכני AI (Agents) - הם עלולים ליפול בפישינג.
- היזהרו מ-Prompt Injection - פקודות נסתרות שמנסות להטעות אתכם.
- הפעילו אימות דו-שלבי לחשבון שלכם.
- שמרו על השיחות שלכם כמו על היומן הפרטי שלכם.