Die Analyse von Coinbases KI-Coding-Assistenten hat eine neue Prompt-Injection-Schwachstelle namens „CopyPasta“ aufgedeckt. Angreifer betten schädliche Anweisungen innerhalb von Markdown-Kommentaren in Projektdateien, einschließlich README.md und LICENSE.txt, ein. Diese Kommentare werden vom KI-Assistenten als autoritativ behandelt, wodurch das Tool bösartigen Code in jeder generierten Datei repliziert.
Der Exploit nutzt die Abhängigkeit des KI-Modells von Lizenz- und Dokumentationskontexten aus. Nach der anfänglichen Aufnahme fügt der Assistent die eingeschleuste Nutzlast während der Phasen der Code-Synthese ein, was eine persistente Verbreitung bösartiger Logik im gesamten Codebase ermöglicht. Forscher zeigten, dass ein einziger kompromittierter Kommentar während des Build-Prozesses zur Einschleusung von Hintertüren und Diebstahl von Zugangsdaten führen kann.
Coinbase hat den Erhalt des Schwachstellenberichts bestätigt und führt eine gründliche Sicherheitsüberprüfung durch. Sofortige Maßnahmen umfassen die Bereinigung von Dateieingaben, das Entfernen von Markdown-Kommentaren und die Implementierung von Kontextvalidierungen in der KI-Prompt-Pipeline. Das Unternehmen plant, gepatchte Modellbereitstellungen auszurollen und aktualisierte Richtlinien für die sichere Nutzung des Code-Assistenten zu veröffentlichen. Externe Sicherheitsprüfungen sind ebenfalls im Gange, um ähnliche Supply-Chain-Angriffe zu verhindern.
Kommentare (0)