L'analisi dell'assistente di codifica AI di Coinbase ha rivelato una nuova vulnerabilità di injection prompt nota come ‘CopyPasta’. Gli aggressori inseriscono istruzioni dannose all'interno dei commenti markdown nei file di progetto, inclusi README.md e LICENSE.txt. Questi commenti sono trattati come autorevoli dall'assistente AI, causando la replica di codice maligno in ogni file generato.
Lo sfruttamento si basa sulla dipendenza del modello AI dal contesto delle licenze e della documentazione. Dopo l'assimilazione iniziale, l'assistente include il payload iniettato durante le fasi di sintesi del codice, permettendo la propagazione persistente della logica dannosa in tutto il codice. I ricercatori hanno dimostrato che un singolo commento compromesso può portare all'inserimento di backdoor e al furto di credenziali durante i processi di build.
Coinbase ha confermato di aver ricevuto la segnalazione della vulnerabilità e sta conducendo una revisione approfondita della sicurezza. I passi immediati includono la sanificazione degli input dei file, la rimozione dei commenti markdown e l'implementazione della validazione del contesto nella pipeline dei prompt AI. L'azienda prevede di distribuire modelli corretti e di pubblicare linee guida aggiornate per l’uso sicuro dell’assistente di codifica. Sono inoltre in corso audit di sicurezza esterni per prevenire attacchi simili alla supply chain.
Commenti (0)