ב-חלק א' של סדרת פוסטים זו, עסקתי במבוא למחקר חולשות בעולמות ה-GenAI. הסברתי באופן ראשוני על צורת פעולותיהם של מודולי השפה ועל חמש מתוך עשרת אתגרי ה-OWASP Top 10 For LLMs. בחלק זה אעסוק בחמשת החולשות הנוספות לצד אתגרי אבטחה נוספים אותם אנו פוגשים בעולמות ה-GenAI. גם הפעם, עוד נעסוק קצת יותר לעומק בתיאוריה ובמושגים…
עולם ה-GenAI הפך להיות בחודשים האחרונים אחד מהנושאים החשובים ביותר בעולם מחקר החולשות. מהפכת ה-Vibe Coding וההשקות התכופות של מודלים וכלים החוסים תחת הקטגוריה של "בינה מלאכותית" אשר מצמצמים יותר ויותר את העין האנושית על פיתוחים וכלים, מצריכים התייחסות מעמיקה מבחינת Security. OWASP כבר זיהו זאת ב-2023 והשיקו את OWASP Top 10 for LLMs, פירוט…
ארבע שנים לאחר העדכון האחרון, עדכן לפני כחודש ארגון הOWASP את הTOP 10 של הפגיעויות באתרי האינטרנט. משום-מה, טרם ראיתי שיצא מאמר בעברית שסוקר את השינויים והחידושים בTOP 10 2021 אל-מול הגרסה האחרונה של טבלת דירוג הפגיעויות הפופולארית, זאת שיצאה בשנת 2017. בעקבות-זאת החלטתי לחרוג ממנהגי ולכתוב פוסט קצר מהרגיל שיסכם את גרסת ה2021. בOWASP…