Tech-Chefin sagt, die EU könne das Risiko einer außer Kontrolle geratenen KI abwehren: Bericht

Die Vorschriften der Europäischen Union zur Nutzung von KI sind mehr als geeignet, mit außer Kontrolle geratenen Agenten umzugehen, sagte die EU-Tech-Chefin Henna Virkkunen.

Nach Vorfällen bei OpenAI und Anthropic gibt es weltweit Bedenken. Zudem ist die Sorge aufgekommen, dass sich KI-Agenten über die menschliche Kontrolle hinausbewegen könnten.

„Wir sehen, dass die Sicherheit und der Schutz sehr leistungsfähiger Modelle international ein äußerst aktuelles Thema sind und wir in Europa dafür gut gerüstet sind“, sagte Virkkunen am Freitag in einem Interview mit Reuters.

Der EU AI Act, der auf Grundlage des jeweiligen Risikoniveaus reguliert, gehört zu den strengsten KI-Regelwerken der Welt. Er wurde vor zwei Jahren verabschiedet.

Virkkunen wies Kritiker zurück, die behaupten, die KI-Vorschriften des Blocks seien veraltet.

Verwandt: Anthropic-Chef fordert eine Verlangsamung der KI-Entwicklung auf ein sichereres Tempo

„Wir haben unseren AI Act eingeführt, und der AI Act deckt den gesamten Lebenszyklus dieser Modelle ab“, sagte sie. Außerdem stellten die Regulierungsbehörden den Unternehmen Leitlinien dazu bereit, wie sie ihre Modelle bewerten sollen, wobei sie Empfehlungen von 60 KI-Experten einbeziehen.

Die Europäische Kommission forderte Ende August von mehr als 30 nicht namentlich genannten KI-Unternehmen Informationen an und bat um Einzelheiten zu deren Sicherheits- und Schutzmaßnahmen.

Virkkunen sagte, sie prüfe derzeit die Antworten.

Cointelegraph berichtete am 13. September, dass Anthropic-CEO Dario Amodei in einem Blogbeitrag gesagt habe, die Geschwindigkeit der KI-Entwicklung sei zu hoch und könne, wenn sie nicht eingedämmt werde, „unsere Fähigkeit überholen, diese Systeme zu verstehen und zu kontrollieren“.

Er sagte, der rasante Fortschritt der KI werde durch ihre zunehmend ausgeprägte Fähigkeit vorangetrieben, die nächste Generation von KI zu entwickeln, also durch rekursive Selbstverbesserung.

Magazin: Zu groß zum Pausieren: Könnte eine Verlangsamung der KI die Wirtschaft zum Absturz bringen?