ניתוח של עוזר הקידוד המבוסס בינה מלאכותית של Coinbase חשף פגיעות חדשה בהזרקת פרומפט ידועה בשם ‘CopyPasta’. תוקפים משלבים הוראות מזיקות בתוך הערות markdown בקבצי פרויקט, כולל README.md ו-LICENSE.txt. הערות אלו מטופלות כנתונות לסמכות על ידי עוזר ה-AI, מה שגורם לכלי לשכפל קוד זדוני בכל קובץ שנוצר.
הניצול מתבסס על התלות של מודל ה-AI בקונטקסטים של רישיון ותיעוד. לאחר הקלטה ראשונית, העוזר כולל את המטען המוזן במהלך שלבי סינתזת הקוד, מה שמאפשר הפצה מתמשכת של לוגיקה זדונית לאורך בסיס הקוד. חוקרים הראו כי הערה אחת כפופה לפגיעה יכולה להוביל להחדרת דלת אחורית ולגניבת אישורים במהלך תהליכי הבנייה.
Coinbase אישרה את קבלת הדו"ח על הפגיעות ומבצעת סקירת אבטחה מקיפה. צעדים מידיים כוללים ניקוי כניסות הקבצים, הסרת הערות markdown ויישום אימות הקשר בצינור הפרומפט של ה-AI. החברה מתכננת לפרוס עדכוני מודלים מתוקנים ולפרסם הנחיות מעודכנות לשימוש בטוח בעוזר הקוד. בדיקות אבטחה חיצוניות גם הן מתבצעות כדי למנוע התקפות דומות בשרשרת האספקה.
תגובות (0)