OpenAI-CEO Sam Altman soll vergangene Woche bei einem Vortrag vor Mitarbeitenden über drei mögliche „Endzustände“ für eine sichere Entwicklung der KI gesprochen haben.
Die drei Szenarien sind eine internationale Aufsichtsbehörde, der Zusammenschluss führender Labore und der Alleingang eines einzelnen Labors. Altman soll die Phase, in der innerhalb eines Jahres ein Kurs gewählt werden müsse, „pacing 2.0“ genannt und gesagt haben, dass die Selbstverbesserung von KI Tempolimits oder Stopppunkte brauche.
Der Tag, an dem Prüfungen vor der Veröffentlichung nicht mehr ausreichen
OpenAIs derzeitige Sicherheitsmaßnahmen sehen vor, ein Modell zu veröffentlichen, sobald es Sicherheitstests bestanden hat, und auf etwaige Bedenken hinzuweisen. Altman soll dieses Vorgehen „pacing 1.0“ nennen. Auf ein Auto übertragen wäre das so, als würde man ein fertiges Fahrzeug vor der Auslieferung prüfen und es bei unauffälligem Ergebnis auf die Straße lassen.
Wenn KI jedoch beginnt, sich selbst zu verbessern, ändert sich die Lage. Dann geht es nicht mehr nur darum, ein geprüftes Fahrzeug auf die Straße zu bringen, sondern auch darum, mit welcher Geschwindigkeit sich das Auto selbst weiterentwickelt. Die als nächste Stufe beschriebene „pacing 2.0“ dreht sich genau um diesen Punkt.
Drei Szenarien zeichnen völlig unterschiedliche Formen der Steuerung
Die drei Vorschläge unterscheiden sich deutlich darin, wer die Kontrolle über die KI-Entwicklung haben soll. Hier ein Überblick über die Unterschiede.
Der erste Vorschlag sieht eine globale Aufsichtsbehörde nach dem Vorbild der Internationalen Atomenergie-Organisation (IAEA) vor. Altman soll diesen Ansatz unterstützen; OpenAI drängt seit 2023 auf die Notwendigkeit eines solchen Rahmens.
Der zweite Vorschlag wird nach DeepMind-Mitgründer Demis Hassabis „Demis Plan“ genannt. Dabei würden führende Labore zusammengelegt und im Auftrag der teilnehmenden Länder forschen. Das Modell wird mit der europäischen Organisation für Teilchenphysik CERN verglichen.
Das dritte Szenario trägt den Namen des KI-Forschers Eliezer Yudkowsky. Ein einzelnes Labor würde mithilfe selbstverbessernder KI die Führung übernehmen und der Konkurrenz so weit davonziehen, dass deren GPUs „schmelzen“. Altman soll dieses Szenario als „schrecklich“ bezeichnet haben.
Was sich beim Vergleich der drei Vorschläge zeigt
Die Aufsichtsbehörde steht für den Ansatz, „Regeln von außen festzulegen“, der Zusammenschluss von Laboren dafür, „Forschungsressourcen an einem Ort zu bündeln“, und der Alleingang eines Labors dafür, „dem Sieger des Wettbewerbs die Entscheidung zu überlassen“. Alle drei zielen auf eine sichere Zukunft, unterscheiden sich aber darin, wo die Macht liegen soll.
Mich persönlich beunruhigt, dass das dritte Szenario am ehesten Realität werden könnte. Wenn der Wettbewerb weiterläuft, ohne dass etwas beschlossen wird, könnte genau das der natürliche Ausgang sein. Vielleicht ist das auch der Grund, warum Altman bei diesem Szenario die deutlichsten Worte wählte.
Die entscheidende Frage ist, wer das Tempolimit festlegt
Altman soll gesagt haben, dass innerhalb eines Jahres über den einzuschlagenden Kurs entschieden werden müsse und dazu „Tempolimits“ oder Stopppunkte für selbstverbessernde KI gehören sollten. Es ist, als wollte man einem Auto, das bisher nur ein Gaspedal hat, nachträglich noch einen Bauplan für die Bremsen hinzufügen.
Die Frage ist, wer diese Bremse betätigt. Erhält eine Aufsichtsbehörde die entsprechende Befugnis, oder werden die Labore zusammengelegt? Keine der Optionen funktioniert, wenn nicht alle wichtigen Akteure mit am Tisch sitzen. Die Vorstellung, dass sich alle Labore wie in einem Superheldenfilm unter einem Dach versammeln, ist reizvoll. Doch wie bei bisherigen internationalen Abkommen dürfte es sich als größte Hürde erweisen, überhaupt alle Beteiligten an einen Tisch zu bekommen.
Eine ähnliche Richtung wie bei Äußerungen eines Konkurrenten
Etwa zur gleichen Zeit sprach Jack Clark von Anthropic dem Bericht zufolge die Idee an, der Intelligenz eine Obergrenze zu setzen. Er sagte, für Maßnahmen zur Sicherheit blieben „nur wenige Jahre“. Damit äußern Führungskräfte zweier miteinander konkurrierender Unternehmen ähnliche Sorgen.
Wenn Konkurrenten beginnen, über dieselbe Herausforderung zu sprechen, kann die Diskussion von der Ebene der Grundsatzfragen zur Umsetzung übergehen. OpenAI hat bislang jedoch keines der Szenarien offiziell übernommen; alle befinden sich noch im Konzeptstadium. Ob die Ein-Jahres-Frist zum Taktgeber für die branchenweite Debatte wird, bleibt abzuwarten.
コメント