Anthropic ernennt Accenture zum eingebetteten Evaluator, um den Vorschlag zur Verlangsamung der KI-Entwicklung zu unterstützen

Anthropic erklärte, Accenture als ersten eingebetteten Evaluator ausgewählt zu haben, um dazu beizutragen, das Tempo der KI-Entwicklung zu verlangsamen, wie es CEO Dario Amodei in der vergangenen Woche vorgeschlagen hatte.

Amodei veröffentlichte am 12. September einen dreistufigen Vorschlag, um die Entwicklung von KI zu verlangsamen und Schutzmaßnahmen zu ermöglichen. Anlass waren Warnungen vor potenziell katastrophalen Schäden infolge der raschen, unkontrollierten Entwicklung.

OpenAI-CEO Sam Altman und SpaceX-CEO Elon Musk reagierten positiv auf Amodeis Vorschlag, Nvidia-CEO Jensen Huang hingegen nicht. Er argumentierte, eine solche Regulierung sei nicht notwendig.

Dennoch schrieb Amodei in seinem Vorschlag: „KI hat sich drastisch schneller weiterentwickelt, vor allem weil KI zunehmend in der Lage ist, die nächste Generation von KI zu entwickeln. Diese Dynamik wird als rekursive Selbstverbesserung bezeichnet“, und: „Wenn sie unkontrolliert bleibt, könnte sie unsere Fähigkeit überholen, diese Systeme zu verstehen und zu kontrollieren.“

Verwandt: Anthropic-Chef fordert Verlangsamung der KI-Entwicklung auf ein sichereres Tempo

Der erste Schritt in Amodeis Vorschlag besteht darin, unabhängige Evaluatoren mit einem mit Angestellten vergleichbaren Zugang einzusetzen; dazu hatte sich Anthropic laut Amodei bereits einseitig verpflichtet.

Anthropic kündigte am Freitag einen Schritt zur Erfüllung dieser Verpflichtung an: Das Unternehmen arbeitet mit Accenture und dessen KI-Sparte Faculty zusammen, um „Modelle zu evaluieren und einem Red Teaming zu unterziehen, Alignment-Bewertungen durchzuführen und Schutzmaßnahmen der Modelle zu testen“.

Wie dies genau geschehen soll, werde noch ausgearbeitet, teilte das Unternehmen mit, da eingebettete Evaluierung ein neues Konzept sei.

Anthropic und Accenture erwarten der Ankündigung zufolge, in den kommenden fünf Jahren jeweils mindestens 1 Milliarde US-Dollar in das Projekt zu investieren.

Anthropic finanziert die Arbeit angesichts der Dringlichkeit direkt

Anthropic wies darauf hin, dass es derzeit auch kein bestehendes System zur Finanzierung unabhängiger Evaluierungen gebe. Die langfristige Finanzierung sollte daher aus gebündelten oder staatlichen Quellen kommen; angesichts der Dringlichkeit der Arbeit werde Anthropic Accentures Arbeit jedoch direkt finanzieren.

Die Partnerschaft ist nicht exklusiv, und Anthropic erwartet, in den kommenden Wochen weitere Evaluatoren bekannt zu geben, mit denen das Unternehmen ebenfalls zusammenarbeiten wird.

Accenture zufolge ist dessen Faculty auf das Testen und Evaluieren von Modellen für einige der weltweit führenden KI-Labore sowie auf den Aufbau komplexer KI-Systeme spezialisiert, die von Grund auf sicher und ethisch konzipiert sind. Das Unternehmen erklärte dies am Freitag.

„Die eingebettete Evaluierung ist ein aufkommender Bereich, und wir freuen uns auf die Zusammenarbeit mit Anthropic, um die Entwicklung eingebetteter Evaluatoren zu beschleunigen. Wir sehen darin einen wichtigen Bestandteil der Sicherheitslandschaft der Zukunft“, sagte Julie Sweet, Vorsitzende und CEO von Accenture. 

Magazin: Warum fordern die größten KI-Unternehmen plötzlich eine Verlangsamung?