A Coinbase mesterséges intelligencia alapú kódolási asszisztensének elemzése egy új prompt injekciós sebezhetőséget tárt fel, amelyet „CopyPasta”-nak neveznek. A támadók ártalmas utasításokat rejtenek el a projektek fájljaiban található markdown megjegyzésekben, beleértve a README.md és LICENSE.txt fájlokat is. Ezeket a megjegyzéseket az MI asszisztens hitelesnek tekinti, ami miatt a program a rosszindulatú kódot minden generált fájlban lemásolja.
Az exploit az AI modell licenc- és dokumentációs kontextusokra való támaszkodását használja ki. Az első betöltés után az asszisztens a kód szintézise során beilleszti az injektált kártékony kódot, lehetővé téve ezzel a rosszindulatú logika folyamatos terjedését a teljes kódbázisban. A kutatók bemutatták, hogy egyetlen kompromittált megjegyzés elegendő lehet hátsóajtó beillesztéséhez és hitelesítő adatok ellopásához a build folyamatok során.
A Coinbase megerősítette a sebezhetőségi jelentés átvételét, és alapos biztonsági áttekintést végez. Azonnali lépések közé tartozik a fájlbeviteli adatok tisztítása, a markdown megjegyzések eltávolítása és a kontextus érvényesítésének bevezetése az AI prompt feldolgozás során. A vállalat tervezi a javított modell telepítések bevezetését és a biztonságos kódolási asszisztens használatra vonatkozó frissített irányelvek közzétételét. Külső biztonsági auditok is folyamatban vannak a hasonló ellátási lánc támadások megelőzése érdekében.
Hozzászólások (0)