Völliger Blödsinn": Hacker haben aktuelle KI-Sicherheitstests kritisiert

Auf der DEF CON, der weltgrößten Hacker-Konferenz, erklärten führende Cybersicherheitsforscher, dass die derzeitigen Methoden zum Schutz von Systemen mit künstlicher Intelligenz (KI) grundlegende Mängel aufweisen und einer kompletten Überarbeitung bedürfen.

Was bekannt ist

Der erste "Hackers' Almanac" -Bericht der Konferenz, der in Zusammenarbeit mit der Cyber Policy Initiative der University of Chicago erstellt wurde, stellt die Wirksamkeit der "Red Team"-Methode in Frage, bei der Sicherheitsexperten KI-Systeme auf Schwachstellen untersuchen. Sven Cattell, Leiter des KI-Dorfes DEF CON, sagte, dass dieser Ansatz keinen angemessenen Schutz vor neuen Bedrohungen bieten kann, da die Dokumentation der KI-Modelle fragmentiert ist und die in der Dokumentation enthaltenen Bewertungen unzureichend sind.

Auf der Konferenz testeten etwa 500 Teilnehmer KI-Modelle, und selbst Neulinge waren erfolgreich beim Auffinden von Schwachstellen. Die Forscher forderten die Einführung von Strukturen ähnlich dem Common Vulnerabilities and Exposures (CVE)-Rahmen, der seit 1999 in der traditionellen Cybersicherheit verwendet wird, um zu standardisieren, wie KI-Schwachstellen dokumentiert und behoben werden.

Quelle: DEF CON