Analiza asystenta kodowania AI firmy Coinbase ujawniła nową lukę wstrzyknięcia promptu znaną jako „CopyPasta”. Atakujący umieszczają szkodliwe instrukcje w komentarzach markdown w plikach projektu, w tym README.md oraz LICENSE.txt. Te komentarze są traktowane jako autorytatywne przez asystenta AI, powodując, że narzędzie replikuje złośliwy kod w każdym generowanym pliku.
Eksploatacja wykorzystuje zależność modelu AI od kontekstów licencji i dokumentacji. Po początkowym wczytaniu asystent uwzględnia wstrzyknięty ładunek podczas faz syntezy kodu, co pozwala na trwałe rozprzestrzenianie się złośliwej logiki w całej bazie kodu. Badacze wykazali, że jeden skompromitowany komentarz może doprowadzić do wprowadzenia tylnego wejścia i kradzieży poświadczeń podczas procesów kompilacji.
Coinbase potwierdził otrzymanie raportu o luce i prowadzi gruntowny przegląd bezpieczeństwa. Natychmiastowe kroki obejmują oczyszczanie danych wejściowych plików, usuwanie komentarzy markdown oraz wdrażanie walidacji kontekstu w potoku promptów AI. Firma planuje wdrożenie załatanych wersji modelu oraz publikację zaktualizowanych wytycznych dotyczących bezpiecznego korzystania z asystenta kodu. Trwają także zewnętrzne audyty bezpieczeństwa, aby zapobiec podobnym atakom na łańcuch dostaw.
Komentarze (0)