Analýza AI asistenta pro kódování od Coinbase odhalila novou zranitelnost známou jako „CopyPasta“. Útočníci vkládají škodlivé instrukce do komentářů v markdownu v souborech projektu, včetně README.md a LICENSE.txt. Tyto komentáře jsou AI asistentem považovány za autoritativní, což způsobuje, že nástroj replikuje škodlivý kód ve všech generovaných souborech.
Využití této zranitelnosti staví na závislosti AI modelu na kontextech licencí a dokumentace. Po počátečním načtení asistent zahrnuje vložený škodlivý kód během fází syntézy kódu, což umožňuje trvalé šíření škodlivé logiky napříč celou kódovou základnou. Výzkumníci ukázali, že jediný kompromitovaný komentář může vést k vložení zadních vrát a krádeži přihlašovacích údajů během procesů sestavení.
Coinbase potvrdila přijetí zprávy o zranitelnosti a provádí důkladnou bezpečnostní kontrolu. Okamžité kroky zahrnují čištění vstupů souborů, odstranění markdown komentářů a implementaci validace kontextu v procesu připravy AI promptu. Společnost plánuje nasazení aktualizovaných modelů a publikování nových pokynů pro bezpečné používání kódovacího asistenta. Probíhají také externí bezpečnostní audity, aby se zabránilo podobným útokům na dodavatelský řetězec.
Komentáře (0)