Anthropic fordert globale Pause bei KI-Sicherheit, während OpenAI staatlich geführte Regeln verlangt

Anthropic will, dass sich die großen Akteure der künstlichen Intelligenz (KI) auf ein gemeinsames System verständigen, das die Arbeit an den leistungsfähigsten KI-Werkzeugen verlangsamen oder stoppen könnte, wenn die Gefahren zu groß werden. Das Unternehmen erklärte, das Tempo des Fortschritts könne es erschweren, die menschliche Kontrolle aufrechtzuerhalten.

Der Hersteller des Chatbots Claude schrieb in einem Blogbeitrag am Donnerstag, da Frontier-KI bei der Erledigung von Aufgaben deutlich schneller werde, „wäre es gut für die Welt, die Möglichkeit zu haben, die weitere Entwicklung zu verlangsamen oder vorübergehend zu pausieren“.

Anthropic erklärte, sein internes Forschungsinstitut wolle die Frage mit externen Partnern untersuchen und „Maßnahmen ergreifen“, um praktische Vorkehrungen für eine glaubwürdige Verlangsamung oder einen Stopp zu schaffen, führte jedoch nicht aus, welche Schritte das wären.

OpenAI, einer der wichtigsten Wettbewerber von Anthropic, legte in einem am Mittwoch veröffentlichten Bericht eine andere Position dar. Darin hieß es, „demokratische Regierungen, nicht private Unternehmen, die allein handeln, müssen letztlich die Regeln, Schutzmaßnahmen und Rechenschaftsmechanismen festlegen“.

„Unsere Auffassung ist, dass Entscheidungen über das Tempo der KI-Innovation nicht einem einzelnen Labor, Unternehmen oder einer Interessengruppe überlassen werden sollten“, sagte OpenAI.

In seinem Beitrag erklärte Anthropic, KI-Systeme verbesserten sich rasch, auch bei ihrer Fähigkeit, Softwarearbeiten wie das Programmieren ohne direkte menschliche Steuerung zu erledigen. Sollten die derzeitigen Trends anhalten und genügend Rechenressourcen verfügbar sein, könne ein KI-Modell eines Tages seinen eigenen Nachfolger entwerfen und bauen, ein Prozess, der als „rekursive Selbstverbesserung“ bekannt ist.

Anthropic sagte, KI, die beim Aufbau ihrer nächsten Generation helfen könne, würde einen großen Fortschritt markieren und Durchbrüche in Wissenschaft, Medizin und anderen Bereichen unterstützen können. Das Unternehmen warnte jedoch, dies „könnte auch die Risiken erhöhen, dass Menschen die Kontrolle über KI-Systeme verlieren“.

Diese Sorge wird seit Jahren von einigen Stimmen im Technologiesektor geäußert. Anthropics Appell folgt auf eine weitere Warnung in dieser Woche von Forschern der University of Toronto, die zeigten, wie KI-Werkzeuge genutzt werden könnten, um eine neue Art von KI-„Wurm“ zu erstellen, der seine Hacking-Methode verändert, während er sich über Geräte bewegt und ein großes Computernetzwerk kapert.

„Ich halte es für wirklich wichtig, dass die Menschen verstehen, dass nicht nur die größten, leistungsfähigsten Sprachmodelle Sicherheitsbedenken aufwerfen“, sagte der leitende Forscher Nicolas Papernot in einem Interview.

Der Blogbeitrag von Anthropic wurde von Unternehmensmitgründer Jack Clark und Marina Favaro verfasst, die das Forschungsinstitut des Unternehmens leitet. Sie sagten, jede Pause würde „gesellschaftlichen Strukturen und Alignment-Forschung“ mehr Zeit geben, mit der KI-Entwicklung Schritt zu halten. In der Branche bezeichnet Alignment Bemühungen, sicherzustellen, dass KI-Systeme im Einklang mit menschlichen Werten und Zielen handeln.

Nach der von Anthropic beschriebenen Art von Vereinbarung könnten führende KI-Labore überprüfen, ob internationale Wettbewerber ihre Projekte tatsächlich verlangsamt oder gestoppt haben, „und dass ein böswilliger Akteur nicht den Deckmantel einer koordinierten Verlangsamung nutzen könnte, um heimlich davonzuziehen“.

Anthropic argumentierte, ein weltweites Koordinierungssystem sei notwendig, weil ohne ein solches System jedes Unternehmen, das nachlasse, den „am wenigsten vorsichtigen“ Betreibern ermöglichen könnte, Boden gutzumachen, was den Druck auf Firmen und Regierungen erhöhen würde, die vor schwierigen Entscheidungen zur KI-Sicherheit stehen.

Der Beitrag erscheint zu einem Zeitpunkt, an dem Anthropic und der ChatGPT-Entwickler OpenAI darum wetteifern, Aktien an der Börse zu platzieren; ein IPO könnte Anthropics Bewertung auf nahe 1 Billion US-Dollar bringen.

Vor der Veröffentlichung seines Berichts informierte Papernot kanadische Cybersicherheitsbehörden. Der Bericht erklärt, dass das Forschungsteam den Wurm in einem Labor mit einem „Open-Source“-KI-Werkzeug entwickelte, auf das Softwareentwickler zu geringen Kosten zugreifen und das sie verändern können.

„In der Vergangenheit konzentrierten sich Cyberangreifer auf Ziele mit sehr hohem Wert“, sagte er. „Bankensysteme, Krankenhäuser, Stromnetze, Wasseraufbereitungssysteme, Schulen.“

Papernot sagte, er stimme zu, dass Unternehmen, Regierungsstellen und Universitätsforscher bei Abwehrmaßnahmen enger zusammenarbeiten sollten, da KI-gestützte Hacking-Werkzeuge es deutlich billiger und schneller machten, Schwachstellen in Computersystemen zu finden.

„Der alte Laptop, den Sie im Keller haben und den Sie nicht regelmäßig überprüfen, wirkt nicht wie ein besonders wertvolles Ziel, aber er kann als Startrampe genutzt werden, um diese höherwertigen Ziele anzugreifen“, sagte er. „Alles, was mit dem Internet verbunden ist, ist jetzt gefährdet, weil die Kosten für solche Cyberangriffe so niedrig geworden sind.“