GenAI

מחקר חולשות בעולמות ה-GenAI, חלק ב'

ב-חלק א' של סדרת פוסטים זו, עסקתי במבוא למחקר חולשות בעולמות ה-GenAI. הסברתי באופן ראשוני על צורת פעולותיהם של מודולי השפה ועל חמש מתוך עשרת אתגרי ה-OWASP Top 10 For LLMs. בחלק זה אעסוק בחמשת החולשות הנוספות לצד אתגרי אבטחה נוספים אותם אנו פוגשים בעולמות ה-GenAI. גם הפעם, עוד נעסוק קצת יותר לעומק בתיאוריה ובמושגים…

GenAI

מחקר חולשות בעולמות ה-GenAI, חלק א'

עולם ה-GenAI הפך להיות בחודשים האחרונים אחד מהנושאים החשובים ביותר בעולם מחקר החולשות. מהפכת ה-Vibe Coding וההשקות התכופות של מודלים וכלים החוסים תחת הקטגוריה של "בינה מלאכותית" אשר מצמצמים יותר ויותר את העין האנושית על פיתוחים וכלים, מצריכים התייחסות מעמיקה מבחינת Security. OWASP כבר זיהו זאת ב-2023 והשיקו את OWASP Top 10 for LLMs, פירוט…