אבטחה
ה-NSA, NIST ו-CISA כתבו נוהל חירום לסוכן AI שיוצא משליטה. הוא וולונטרי
ב-16 באוקטובר פרסמו NIST, ה-NSA ו-CISA עשרה נהלים למעבדות ה-AI: מה עושים כשסוכן AI נוקט פעולות משמעותיות שלא התבקש לעשות ועוקף את הפיקוח האנושי. הנהלים וולונטריים, וזה בדיוק מה שמ…
סיכון: נוהל וולונטרי שמשאיר למעבדות להחליט מה נחשב תקרית ומה מדווח
95 מיליון אירו יצאו מבנק באיטליה: הודעה, קול משוכפל ומייל, וכולם של התוקף
כ-95 מיליון אירו יצאו מבנק פרטי איטלקי אחרי הודעת וואטסאפ מזויפת בשם המנכ"ל ושיחה בקול משוכפל ב-AI של עורך דין שהיו"ר הכיר. הקול המזויף לא היה של המנכ"ל, וזה בדיוק מה שהמקרה מלמד.
סיכון: "הכרתי את הקול" כבר לא אישור: כל בדיקה בערוץ שהתוקף בחר מאשרת את הסיפור שהוא הכין
כ-50 דולר לפריצה: סוכני AI פרצו לאתרים של יותר מ-100 חברות, ונחשפו רק בגלל לוח פתוח
תוקף אחד, הנחיה קצרה בסינית, וסוכני AI שעשו את רוב העבודה לבד: לפי Reuters, כפי שדווח ב-The Hacker News, הם ניסו יותר מ-1,200 אתרים והגיעו לאתרים של יותר מ-100 חברות, בהן Deere, S…
סיכון: אותו כלי שנבנה לבדיקות חדירה מורשות משמש תוקפים, והעלות הנמוכה מאפשרת לנסות אלפי יעדים
אינטרפול: AI מוחק את סימני ההיכר של הונאה. הגיע הזמן למילת קוד עם המשפחה
אינטרפול השיק ב-19 באוקטובר קמפיין לציבור על הונאות דיפ-פייק, ומנהל מרכז החדשנות שלו סיכם אותו במשפט אחד: AI מוחק את סימני ההיכר של הונאה. לפי אינטרפול, הונאות דיפ-פייק, שנחשבו בע…
סיכון: הונאות של התחזות לעמית, לקרוב משפחה או לבן זוג רומנטי שבהן העיניים והאוזניים כבר לא מספיקות כהוכחה.
AI עזר להפיל מועמד לתקן חתימה פוסט-קוונטי ב-60 שעות, ושום מערכת בשימוש לא נפגעה
ביולי עזר Claude Mythos Preview, מודל של Anthropic, למצוא מתקפה על HAWK, מועמד בסבב השלישי של NIST לחתימות דיגיטליות פוסט-קוונטיות, שלפי Anthropic שרד שנתיים של ביקורת מומחים. יום…
סיכון: אותה יכולת מופנית להצפנה שבשימוש, כשהאימות האנושי מפגר אחרי קצב המודל.
25 שנה של חשד ב-NSA, ותשובה משעממת בעזרת קלוד: זרעי NIST נולדו משעון מחשב
תעלומה קריפטוגרפית בת 25 שנה, האם ה-NSA בחר בכוונה את המספרים שמאחורי עקומות NIST (ובהן P-256), קיבלה תשובה משעממת: מחולל מספרים אקראיים פשוט ושעון מחשב. לפי Anthropic, מודל מחקר…
סיכון: הטענה "פחות מחצי שעה" היא של Anthropic בלבד; דלת אחורית נעשתה פחות סבירה אך לא הופרכה, ויש פרטים שלא מוסברים