Anthropic sagt, Claude werde für Cyberangriffe und Überwachung eingesetzt

Russisch- und chinesischsprachige Akteure nutzten Anthropics Claude zur Automatisierung von Cyberangriffen, teilte das Unternehmen in einem am Donnerstag veröffentlichten Bericht mit.

Der russischsprachige Akteur „JackPoterz“ nutzte angepasste, KI-gestützte Arbeitsabläufe, um große Teile der Angriffskette zu automatisieren, und nahm mehr als 20 Organisationen ins Visier, darunter Regierungsministerien und Nachrichtendienste. Der Akteur zielte außerdem auf Botschaften und diplomatische Vertretungen in der Ukraine und Europa.

Chinesischsprachige Akteure nutzten Claude zudem als technische Entwicklungs- und Orchestrierungsebene für die Erforschung von Schwachstellen. Ein Arbeitsablauf brachte innerhalb eines Monats mehr als ein Dutzend mögliche Zero-Day-Funde in der Firmware von Netzwerkgeräten hervor.

Anthropic erklärte, KI verändere die wirtschaftlichen Rahmenbedingungen von Cyberangriffen, da einzelne Akteure dadurch in der Lage seien, Einbrüche innerhalb von zwei bis drei Stunden abzuschließen und Dutzende Opfer parallel zu bearbeiten.

Unabhängig davon nutzte ein vermutlich in Bamako ansässiger unabhängiger Berater, der mit Malis staatlichem Nachrichtendienst zusammenarbeitete, Claude als zentrale technische Arbeitskraft, um ein landesweites System zur Inlandsüberwachung aufzubauen, das etwa 25 Millionen SIM-Karten bei allen drei nationalen Mobilfunkbetreibern des Landes überwacht.

Die eingesetzte Plattform lief vor Ort mit lokalen Modellen, während Claude Unterstützung bei Softwaredesign und Entwicklung leistete. Sie war darauf ausgelegt, ohne richterliche Anordnung Informationsdossiers zu Telefonnummern zu erstellen.

Verwandt: KI hat keine „Hackpocalypse“ in DeFi ausgelöst, sagt ein Partner von Dragonfly