Уязвимости на инструментите за кодиране в Coinbase AI и експлойти CopyPasta

Анализът на AI асистента за кодиране на Coinbase разкри нова уязвимост от тип prompt injection, известна като „CopyPasta“. Злонамерени лица вмъкват вредни инструкции в markdown коментари в проектните файлове, включително README.md и LICENSE.txt. Тези коментари се приемат за авторитетни от AI асистента, което води до репликиране на злонамерен код във всеки генериран файл.

Експлойтът се възползва от зависимостта на AI модела от лицензионния и документационния контекст. След първоначалното въвеждане асистентът включва инжектирания код по време на фазите на синтез на код, позволявайки постоянно разпространение на злонамерена логика в целия кодов базис. Изследователи демонстрираха, че един компрометиран коментар може да доведе до инжектиране на задна врата и кражба на идентификационни данни по време на процесите на изграждане.

Coinbase потвърди получаването на доклада за уязвимостта и провежда задълбочен преглед на сигурността. Незабавните мерки включват почистване на входящите файлове, премахване на markdown коментари и въвеждане на валидация на контекста в AI prompt pipeline. Компанията планира да пусне обновени модели с патчове и да публикува актуализирани насоки за безопасна употреба на кода асистент. Външни одити на сигурността също са в ход, за да се предотвратят подобни атаки по веригата за доставки.