האיום מבפנים: איך פורצים סוכנים ואיך מתגוננים
Details
לעדכונים על מפגשי AI Builders הצטרפו לקבוצת הוואטסאפ
ככל שסוכנים ומודלים מקבלים יותר אוטונומיה לפעול בתוך מערכות ארגוניות, הם הופכים גם למשטח תקיפה חדש. במפגש נבין איך האיומים האלה נראים בפועל ואיך חברות מובילות מנסות להגן על המודלים והמערכות שלהן.
ענבל פליישר תסקור את התפתחות תחום אבטחת הסוכנים בשנתיים האחרונות ותעמיק בווקטורי התקיפה הייחודיים למערכות מבוססות LLM.
במפגש נדבר על:
- Prompt Injections ושיטות Jailbreaking מתקדמות
- איומים על סביבות מרובות סוכנים ו-Multi-Agent Orchestration
- איך תוקפים עלולים לנצל אוטונומיה של סוכנים כדי לעקוף בקרות גישה או לדלות מידע רגיש
- איך חברות כמו OpenAI ו-Anthropic מתמודדות עם האיומים ומפתחות אמצעי הגנה
על המרצה:
ענבל פליישר היא Senior Data Scientist and AI Expert, עם יותר מ-10 שנות ניסיון בפיתוח מודלי Machine Learning לפרודקשן ובשנתיים האחרונות בפיתוח סוכנים מבוססי LLM.