Anthropic warnt: „KI-Würmer“ könnten sich wie ein Virus autonom über Geräte verbreiten

Das Unternehmen für Künstliche Intelligenz (KI) Anthropic warnte, dass sich selbst replizierende autonome KI-Systeme möglicherweise schon bald ohne menschliches Eingreifen über Nutzergeräte verbreiten könnten – ähnlich wie Computerviren. 

Bösartige „KI-Würmer“ könnten laut einem am Montag von den Anthropic-Forschern William Zhou und Daniel Freeman für Anthropic’s Frontier Red Team veröffentlichten Bericht damit beginnen, alltägliche Geräte wie Android-Fernseher, smarte Haushaltsgeräte, Kameras und andere mit dem Internet verbundene Geräte mit grundlegender Rechenleistung und schwacher Sicherheit autonom anzugreifen.

Kleine KI-Modelle könnten laut den Autoren nur noch „Monate davon entfernt sein, leistungsfähig genug zu sein, um sich auf kommerziellen Geräten des Internets der Dinge (IoT) selbst zu replizieren“. Dies wäre eine schwerwiegende Bedrohung, da es „keinen zentralen Punkt zum Abschalten“ gäbe. 

Die Warnung folgt auf erneute Bedenken hinsichtlich der wachsenden mathematischen Fähigkeiten von KI-Modellen, die möglicherweise irgendwann die kryptografischen Signaturen knacken könnten, die in Krypto-Wallets verwendet werden, wodurch etwa ein Drittel des Bitcoin-Bestands gefährdet wäre. 

Fast ein Drittel des weltweiten Bitcoin-Bestands – 6,26 Millionen BTC – befindet sich derzeit in Adressen, deren Sicherheit von KI-Modellen oder Quantencomputern gebrochen werden könnte. Allerdings sind 4,33 Millionen BTC aufgrund der Wiederverwendung von Adressen gefährdet. Würde man diese BTC in neue Wallets verschieben, wäre die Gefährdung beendet, schrieb Glassnode-Mitgründer Rafael Schultze-Kraft in einem am Donnerstag veröffentlichten Beitrag auf X post. 

Einen Tag zuvor warnte der Ethereum-Forscher Justin Drake, dass rasante Fortschritte bei der KI den Elliptic-Curve-Digital-Signature-Algorithmus (ECDSA), der Kryptowährungs-Wallets absichert, früher als erwartet knacken könnten, und forderte Nutzer dazu auf, zu neuen Wallets zu wechseln.

Haseeb Qureshi, Managing Partner bei Dragonfly, bezeichnete die Warnung als „kryptografischen Doomerismus“ und erklärte, der Transfer von Token auf neue Adressen sei keine echte Lösung gegen diese Bedrohung.

Verwandt: KI hat keine „Hackpocalypse“ bei DeFi ausgelöst, sagt Dragonfly-Partner