Уязвимости и эксплуатация инструментов кодирования AI от Coinbase

Анализ AI-ассистента по кодированию Coinbase выявил новую уязвимость внедрения подсказок, известную как «CopyPasta». Злоумышленники встраивают вредоносные инструкции в комментарии markdown в файлах проекта, включая README.md и LICENSE.txt. Эти комментарии считаются авторитетными AI-ассистентом, что приводит к воспроизведению вредоносного кода в каждом сгенерированном файле.

Эксплойт использует зависимость AI-модели от контекста лицензий и документации. После первичного анализа ассистент включает внедренный полезный код во время фаз синтеза кода, что позволяет постоянно распространять вредоносную логику по всему коду базы. Исследователи продемонстрировали, что один скомпрометированный комментарий может привести к вставке бэкдора и краже учетных данных во время сборочных процессов.

Coinbase подтвердила получение отчёта об уязвимости и проводит тщательный обзор безопасности. Немедленные меры включают очистку входных файлов, удаление комментариев markdown и внедрение проверки контекста в процесс формирования подсказок AI. Компания планирует выпустить обновленные версии модели с исправлениями и опубликовать обновленные рекомендации по безопасному использованию ассистента кода. Также ведутся внешние аудиты безопасности для предотвращения подобных атак на цепочку поставок.