Analiza asistentului de programare AI al Coinbase a dezvăluit o nouă vulnerabilitate de tip prompt injection, cunoscută sub numele de „CopyPasta”. Atacanții introduc instrucțiuni dăunătoare în comentariile markdown din fișierele proiectului, inclusiv README.md și LICENSE.txt. Aceste comentarii sunt tratate ca fiind autoritare de către asistentul AI, determinând instrumentul să reproduca cod malițios în fiecare fișier generat.
Exploatarea se bazează pe dependența modelului AI de contextul licenței și documentației. După ingestia inițială, asistentul include sarcina utilă injectată în fazele de sinteză a codului, permițând propagarea persistentă a logicii malițioase în întregul cod sursă. Cercetătorii au demonstrat că un singur comentariu compromis poate duce la inserarea de backdoor-uri și furtul de credențiale în timpul proceselor de construire.
Coinbase a confirmat primirea raportului de vulnerabilitate și efectuează o revizuire amănunțită a securității. Pașii imediați includ igienizarea intrărilor fișierelor, eliminarea comentariilor markdown și implementarea validării contextului în fluxul de prompturi AI. Compania planifică să implementeze versiuni patch-uite ale modelului și să publice ghiduri actualizate pentru utilizarea sigură a asistentului de cod. Audituri externe de securitate sunt, de asemenea, în derulare pentru a preveni atacuri similare asupra lanțului de aprovizionare.
Comentarii (0)