Jack Clark, Mitgründer des US-Unternehmens Anthropic und Leiter des Bereichs Public Benefit, erklärte am 13. Oktober 2026 bei einem Vortrag, der vom Matsuo-Iwasawa-Labor der Graduate School der Universität Tokio veranstaltet wurde, er halte es für mehr als 50 Prozent wahrscheinlich, dass 2027 eine KI auf den Markt kommt, die ihr eigenes Nachfolgesystem trainieren kann. Damit rückte er seine zu Jahresbeginn veröffentlichte Prognose vor: 30 Prozent bis 2027 und 60 Prozent bis Ende 2028. Zugleich sagte er, die Wahrscheinlichkeit, dass KI im kommenden Jahr rekursive Selbstverbesserung (RSI) betreibt und sich fortlaufend selbst weiterentwickelt, sei „nahe null“.
Die Zahl hat sich verändert – doch im Mittelpunkt steht etwas anderes
Am auffälligsten an Clarks Äußerung dürfte sein, dass die Wahrscheinlichkeit von 30 auf mehr als 50 Prozent gestiegen ist. Doch darum ging es ihm in seinem Vortrag nicht in erster Linie. Er betonte vielmehr die Unterscheidung zwischen „etwas können“ und „es tun“.
RSI bezeichnet einen Mechanismus, mit dem KI ihre eigenen Fähigkeiten kontinuierlich verbessert. Clark verglich dies mit einer „one-way door“, also einer Tür ohne Rückweg: Hat man sie einmal durchschritten, gibt es kein Zurück. Auch wenn die Fähigkeiten wachsen, ist die Entscheidung, diese Tür zu öffnen, eine ganz andere Frage.
Clark zufolge ist diese Entscheidung zudem nicht allein Sache von Unternehmen wie Anthropic. Vielmehr sollten deutlich größere Teile der Gesellschaft, einschließlich Regierungen, darüber befinden. Der Anstieg der Wahrscheinlichkeit ist nicht nur eine Kennzahl für den technischen Fortschritt, sondern auch ein Zeichen dafür, dass die Zeit näher rückt, in der Entscheidungen getroffen werden müssen.
Die „kleine Selbstverbesserung“ hat bereits begonnen
Wo stehen wir also derzeit? Laut Clark wurde KI bei Anthropic vor etwa einem Jahr vor allem als Assistent eingesetzt. Seit Beginn des Jahres 2026 werde KI bei 26 Prozent der Arbeit an der unternehmensinternen Codebasis federführend eingesetzt.
Der Ablauf sieht so aus: Ein Mensch gibt ein übergeordnetes Ziel vor, etwa „Schreib dieses Überwachungssystem für neue Zeitreihendaten um“, und Claude erledigt den Rest. Clark nannte dies die „äußere Schleife der RSI“ und sagte, es gebe bereits Belege dafür, dass KI kleine Entwicklungsaufgaben autonom bewältigen kann.
Anders gesagt: Bei etwa einem Viertel der Arbeit im Unternehmen geben Menschen inzwischen nur noch das Ziel vor und überlassen der KI das Steuer. Selbstverbesserung klingt vielleicht nach ferner Science-Fiction, doch der Einstieg hat längst in den Arbeitsalltag gefunden.
Die Rolle des Menschen: „am Seil ziehen“
Mit zunehmender Automatisierung wachsen auch die Risiken. Mit Blick auf einen Vorfall in diesem Sommer verwies Clark auf die Sorge, KI könne aus der Umgebung eines Forschungslabors ausbrechen und andere Unternehmen hacken. Seiner Einschätzung nach halten die Mechanismen zur Überwachung der Aktivitäten von KI nicht mit deren wachsenden Fähigkeiten Schritt.
Als Beispiel führte Clark das „Andon“-System aus dem Toyota-Produktionssystem an. Bemerkt ein Mitarbeiter am Fließband eine Störung, zieht er an einer Schnur und hält so die Linie an. Die Aufgabe des Menschen bestehe darin, zu überprüfen, ob das System ordnungsgemäß funktioniert, und es bei Bedarf zu stoppen, erklärte er.
Die Lehre aus dem Sommer sei, dass es bislang weder Mechanismen zur Beobachtung automatisierter Systeme noch solche zu ihrem Abschalten gebe. Eine vollständige Automatisierung der KI-Entwicklung könne enorme negative Folgen haben und sei eine ausgesprochen „teure“ Entscheidung. Daher sollte man im Entwicklungsprozess bewusst menschliche Entscheidungen vorsehen, sagte Clark.
Anthropic nimmt laut Clark Evaluatoren der unabhängigen Prüforganisation METR intern auf. Dass die Wahrscheinlichkeit für RSI gestiegen sei, habe seine Überzeugung verstärkt, dass KI eine Bremse brauche, erklärte er.
Selbst 10 Milliarden Wissenschaftler hätten nicht genug Versuchsanlagen
Für den Fall, dass die Sicherheitsmaßnahmen greifen, zeichnet Clark das Bild einer Welt, in der KI als Wissenschaftlerin arbeitet. Derzeit gibt es weltweit etwa 10 bis 20 Millionen beruflich tätige Wissenschaftler. „Wir stehen kurz davor, in eine Welt mit 10 bis 20 Milliarden Wissenschaftlern einzutreten“, sagte er.
Zum Engpass werden dabei nicht die Köpfe, sondern die Ausrüstung. Es fehle an Nasslaboren, Elektronenmikroskopen, Synchrotrons und Robotern, beklagte Clark. Selbst wenn die Zahl der Menschen mit Ideen stark zunimmt, lassen sich nur schwer Ergebnisse erzielen, wenn es nicht mehr Orte gibt, an denen diese Ideen erprobt werden können. Der Ausbau der KI-Fähigkeiten macht Investitionen in entsprechende Infrastruktur unmittelbar relevant.
Die Auswirkungen auf die Beschäftigung seien je nach Bereich unterschiedlich, sagte Clark. Ob man einen Rückgang der Beschäftigung in bestimmten Bereichen hinnehme, sei „eine Frage, die die Regierung entscheiden muss“. Pflege und Krankenpflege, deren Bedeutung in Japan zunimmt, seien stark von menschlichen Faktoren geprägt und sollten daher nicht vollständig automatisiert werden.
Länder, die auf Daten setzen, sind im Vorteil
Als Grundlage für solche Entscheidungen nannte Clark den „Japan AI Index“, an dem unter anderem die Universität Tokio mitarbeitet. Ziel sei es, Daten von KI-Unternehmen mit Regierungsinformationen zu verknüpfen und für politische sowie Investitionsentscheidungen zu nutzen. Länder, die auf Grundlage empirischer Daten kalkulierte Wagnisse eingingen, würden deutlich besser abschneiden als Länder, die lediglich passiv blieben, sagte Clark.
Im Laufe des Vortrags nannte Clark zahlreiche Herausforderungen, betonte aber zugleich: „Im Grunde ist das eine optimistische Geschichte.“ Die Menschheit habe mehr Probleme, als sie bewältigen könne, und KI werde diese lösen, so seine Einschätzung.
Den Studierenden im Publikum sagte er, sie lebten in einer Zeit, in der sie durch ihre eigene Vorstellungskraft begrenzt würden, weil künftig Dinge möglich seien, die man sich früher nur habe ausmalen können. Zugleich riet er ihnen, die Konzentration und Eigeninitiative zu bewahren, die nötig seien, um Primärquellen vollständig zu lesen – das schule die Vorstellungskraft, aus der originelle Ideen entstünden.
コメント