סמינר S³: בינה מלאכותית התקפית – הצד האפל של מערכות חכמות
סמינר מחלקתי
המכון לתוכנה, מערכות ואבטחה (S³), כחלק מהפקולטה החדשה למדעי המחשב והמידע, שמח להכריז על הסמינר הראשון שלו. אנו מזמינים אתכם להצטרף אלינו—במקום או באופן מקוון.
מרכז סמינרים: geraw@bgu.ac.il
כותרת:
בינה מלאכותית זדונית: הצד האפל של מערכות חכמות
תקציר:
ככל שהבינה המלאכותית הופכת לחזקה יותר, כך גם הטכניקות המנצלות אותה. "בינה מלאכותית זדונית" מתייחסת לשימוש—או ניצול לרעה—של מערכות למידת מכונה כדי לפגוע באבטחה, לפגוע בפרטיות ולהחליש אמון. בהרצאה זו נבחן כיצד יריבים מנצלים את ה-AI כנשק במגוון רחב של ממשקי תקיפה.
בהתבסס על עבודות עדכניות מהמעבדה שלנו שהוצגו ב-USENIX, NDSS ו-DEF CON, נסקור מתקפות מהעולם האמיתי כגון חילוץ מודלים ונתונים, דליפת פרטיות דרך ערוצי צד, ושימוש לרעה במודלים גנרטיביים ליצירת דיפפייקים—מתחפשות בזמן אמת ועד הונאות רפואיות וביומטריות. כמו כן נצלול אל האיום הגובר של אוטומציית מתקפות סייבר מונעות AI, כולל הונאות קול וצ'אט המופעלות על ידי מודלים שפתיים גדולים.
המפגש יציע תובנות טכניות על אופן פעולתן של המתקפות, ההשלכות שלהן על נוף האבטחה הרחב יותר, ומה חוקרים ואנשי מקצוע יכולים לעשות כדי להישאר צעד אחד לפני האיומים המתפתחים.
ביוגרפיה:
ד"ר ישראל מירסקי הוא עמית זוקרסמן ומרצה בכיר במכון לתוכנה, מערכות ואבטחה באוניברסיטת בן-גוריון. הוא ראש מעבדת המחקר לבינה מלאכותית זדונית ב-CBG וזוכה מענק ה-ERC-STG היוקרתי לשנת 2025. את הדוקטורט שלו קיבל מאוניברסיטת בן-גוריון בשנת 2018, ולאחר מכן היה עמית פוסט-דוקטורט במשך שנתיים במכון הטכנולוגי של ג'ורג'יה (Georgia Tech) במעבדות המחקר של פרופ' וֵונְקֶה לי.
תחומי המחקר העיקריים שלו כוללים דיפפייקים, למידה חישובית יריבה, גילוי חריגות וזיהוי חדירות. ד"ר מירסקי פרסם את עבודותיו בכנסי האבטחה המובילים: USENIX, CCS, NDSS, Euro S&P, Black Hat, DEF CON, RSA, CSF, AISec ועוד. מחקריו הוצגו גם בכלי תקשורת מוכרים רבים: הוושינגטון פוסט, פופולר סיינס, סיינטיפיק אמריקן, וויירד, וול סטריט ג'ורנל, פורבס ו-Ars Technica.
Join Zoom Meeting:
https://us02web.zoom.us/j/88589981332?pwd=8MnYj5YSIctXAu7k7yzlk2IGTbWDoO.1
Meeting ID: 885 8998 1332
Passcode: 242277
