In 30 Sekunden
- OpenAI setzt KI bereits intensiv in der eigenen Forschung ein; Agentenlaufzeit ist aber kein Maß für den Anteil an Entdeckungen.
- Rekursive Selbstverbesserung entsteht, wenn bessere Modelle auch die Entwicklung ihrer Nachfolger verbessern.
- Eine Singularität wäre eine mögliche weitreichende Folge – ihr Eintreten und ihr Zeitpunkt sind damit nicht bewiesen.
Die spannendste KI-Anwendung könnte gerade dort entstehen, wo kaum jemand sie direkt sieht: in den Laboren, die die nächste KI-Generation entwickeln. Was passiert, wenn bessere Modelle auch bessere Werkzeuge für ihre eigene Weiterentwicklung werden? Dann könnte sich mit jeder Generation nicht nur das Produkt verbessern, sondern auch die Maschine, die den Fortschritt hervorbringt.
OpenAI-Chefwissenschaftler Jakub Pachocki beschreibt in seinem Essay „An Alien Mind“ vom 6. September genau diese Richtung: KI soll zunehmend ihre eigene Entwicklung vorantreiben. OpenAI orientiere seine Forschung auf rekursive Selbstverbesserung. Das ist eine bemerkenswerte Standortbestimmung – und ein guter Anlass, die Idee hinter dem großen Wort genauer anzusehen.
Die Agenten laufen bereits länger als die Menschen arbeiten
OpenAI meldet für Mitte August 3,1 Agenten-Arbeitstage je menschlichem Arbeitstag in seiner Forschungsorganisation, gerechnet mit acht Stunden pro Tag. Die automatisierte Laufzeit übersteigt damit die menschliche Arbeitszeit deutlich. Der Bericht beschreibt inzwischen auch Systeme, die klar umrissene, mehrtägige Forschungsaufgaben unter menschlicher Anleitung bearbeiten können.
Das belegt noch nicht, dass KI den Großteil des wissenschaftlichen Fortschritts erbringt. Laufzeit zählt auch erfolglose Versuche und parallele Arbeit. OpenAI zufolge entscheiden weiterhin Menschen über Forschungsprioritäten und die Verwertung von Ergebnissen. Bei mehr als der Hälfte der erfolgreichen Aufgaben mit einer geschätzten menschlichen Bearbeitungszeit von vier bis acht Stunden war mindestens ein Eingriff nötig.
Trotzdem ist die Verschiebung beachtlich: Der Rechner ist in diesem Bild zugleich Arbeitsgerät und ausführender Mitarbeiter. Die entscheidende Frage lautet deshalb nicht nur, wie viele Stunden die Agenten sammeln, sondern welche Schritte einer Entdeckung sich durch sie tatsächlich beschleunigen lassen.
So könnte der Kreislauf im Alltag eines Labors aussehen
Ein vereinfachtes Gedankenbeispiel: Eine Forscherin vermutet, dass ein Modell mit einer anderen Auswahl von Trainingsbeispielen zuverlässiger rechnen lernt. Früher müsste ihr Team dafür Daten aufbereiten, Versuchsprogramme schreiben, Fehler suchen und Auswertungen erstellen. Nun könnte sie diese Arbeiten mehreren Agenten übertragen.
Ein Agent baut die Datenpipeline. Ein zweiter schreibt die Vergleichstests. Ein dritter untersucht, warum ein Versuch abgebrochen ist. Die Forscherin sieht sich die Resultate an und bemerkt, dass der vermeintliche Fortschritt nur bei einem Aufgabentyp auftritt. Sie lässt die Testreihe erweitern. Erst wenn der Effekt auch dort hält, wird daraus ein Kandidat für das nächste Training.
Dieses Beispiel ist keine dokumentierte OpenAI-Fallstudie. Es zeigt, warum Automatisierung auch dann großen Wert haben kann, wenn die Forschungsfrage und das entscheidende Urteil noch von Menschen kommen: Mehr Ideen werden praktisch überprüfbar. Ein Ansatz, der wegen des Aufwands bislang in der Schublade geblieben wäre, bekommt eine Chance.
Spannend wird der nächste Durchlauf. Verbessert das Ergebnis tatsächlich ein künftiges Modell, könnte dieses wiederum hilfreichere Experimente entwerfen oder Fehler schneller erkennen. Der mögliche Rückkopplungseffekt liegt zwischen den Generationen. Es muss dafür kein einzelner Chatbot während eines Gesprächs seine eigenen Modellgewichte umschreiben.
Ein konkreter Vorläufer: Gemini hilft beim Gemini-Training
Dass KI Verbesserungen an ihrer eigenen technischen Grundlage beitragen kann, zeigt bereits ein Beispiel von Google DeepMind. Das Unternehmen berichtete im Mai 2025, sein Gemini-gestützter Agent AlphaEvolve habe einen Rechenbaustein der Gemini-Architektur um 23 Prozent beschleunigt. Für das gesamte Training entsprach das laut Google einer Zeitersparnis von einem Prozent.
AlphaEvolve kombiniert Modellvorschläge mit automatischen Prüfungen und einer Auswahl vielversprechender Programme für weitere Durchläufe. Hier gibt es also einen konkreten, überprüfbaren Gegenstand: effizienterer Rechencode. Ein Prozent weniger Trainingszeit klingt unspektakulärer als eine „Intelligenzexplosion“, macht aber verständlich, wie KI zur Verbesserung der Systeme beitragen kann, auf denen sie selbst beruht.
Auch dieses Herstellerbeispiel beweist keine grenzenlose Selbstverbesserung. Es macht den Mechanismus greifbar: Ein Modell hilft, einen Teil seiner Produktionsbedingungen zu verbessern. Welche weiteren Fähigkeiten daraus entstehen, muss anschließend erst gemessen werden.
Vom Forschungshelfer zur Selbstverbesserung
| Stufe | Was sie bedeutet | Was noch nachzuweisen wäre |
|---|---|---|
| KI unterstützt Forschung | Einzelne Aufgaben werden automatisiert | Wie viel belastbarer Erkenntnisgewinn daraus entsteht |
| KI verbessert die Entwicklungswerkzeuge | Besserer Code oder effizienteres Training | Wie stark die nächste Modellgeneration davon profitiert |
| Rekursive Selbstverbesserung | Bessere KI verbessert auch den nächsten Entwicklungsdurchlauf | Eine wiederholt wirksame Rückkopplung |
| Singularität | Szenario eines tiefgreifend beschleunigten technologischen Wandels | Ob, wie schnell und unter welchen Bedingungen es eintritt |
Rekursive Selbstverbesserung ist mehr als automatisches Programmieren
„Rekursiv“ bedeutet hier, dass ein Ergebnis wieder in den Prozess einfließt, der es hervorgebracht hat. Für KI wäre der entscheidende Schritt: Ein besseres System hilft dabei, ein noch besseres System zu entwickeln – das danach auch die Entwicklungsarbeit verbessert.
Dafür müssen mehrere Übergänge funktionieren. Ein guter Vorschlag muss einen Test bestehen. Ein erfolgreicher Einzeltest muss unter anderen Bedingungen halten. Die Verbesserung muss sich in ein neues Modell übertragen lassen. Und dieses Modell muss anschließend gerade bei der Forschungsarbeit nützlicher sein. Bricht die Kette an einer Stelle, entsteht noch kein sich selbst verstärkender Fortschritt.
Deshalb sind zusätzliche Codezeilen oder tausend gleichzeitig laufende Agenten allein kein Maß für rekursive Selbstverbesserung. Ein sinnvolles Prüfzeichen wäre etwa: Braucht die nächste Generation weniger menschliche Hilfe, um einen vergleichbar schwierigen, unabhängig überprüften Forschungsfortschritt zu erzielen? Oder ermöglicht sie einen Fortschritt, den das Vorgängersystem nicht geschafft hat?
Die Chance ist enorm. Forschungskapazität ließe sich dann zumindest teilweise durch zusätzliche Rechenleistung erweitern. Wie weit das trägt, hängt allerdings auch davon ab, ob die zusätzlichen Versuche neue Erkenntnisse liefern oder nur mehr Varianten desselben Irrwegs produzieren.
Und wann wird daraus eine Singularität?
Die Idee einer technologischen Singularität geht noch weiter: Übermenschliche Intelligenz könnte den technischen Wandel so stark beschleunigen, dass sich die weitere Entwicklung aus unserer heutigen Perspektive kaum noch verlässlich vorhersagen lässt. Die Forschungsliteratur zur „Intelligenzexplosion“ diskutiert Selbstverbesserung als möglichen Weg dorthin. Das ist ein Szenario, kein beobachteter Zustand und kein belastbarer Termin im Kalender.
Der Unterschied ist wichtig. Rekursive Verbesserung beschreibt einen Mechanismus. Eine Singularität wäre eine sehr weitreichende mögliche Folge. Auch eine funktionierende Rückkopplung kann langsam verlaufen, an Grenzen stoßen oder immer teurere Fortschritte liefern.
Man kann sich das wie eine Werkstatt vorstellen, die bessere Werkzeuge herstellt und diese beim Bau der nächsten Werkzeuge verwendet. Dadurch wird sie leistungsfähiger. Ob sich die Leistung verdoppelt, nur geringfügig steigt oder irgendwann stagniert, verrät die Existenz dieses Kreislaufs noch nicht.
Warum Pachocki zugleich aufs Tempo schaut
Pachocki verbindet seine Erwartung mit einer Warnung: Zuverlässige Kontrolle müsse mit den Fähigkeiten wachsen. Er unterscheidet das Erfüllen eines Auftrags von der Fähigkeit, menschliche Werte auch in ungewohnten Situationen zu beachten. Außerdem sieht er Grenzen der Überwachung von Denkschritten. Er plädiert für bessere Schutzverfahren und nötigenfalls ein koordiniertes Verlangsamen der Entwicklung.
Für die Einordnung ist das kein Widerspruch, den man einfach auflösen könnte. Je mehr Forschungsarbeit ein System übernimmt, desto wichtiger wird die Frage, wer seine Ergebnisse beurteilen kann. Ein besonders schneller Experimentator hilft wenig, wenn er überzeugende Belege für die falsche These produziert. Umgekehrt könnte bessere KI auch bessere Prüfverfahren ermöglichen. Entscheidend wäre, dass deren Wirksamkeit nachgewiesen wird.
Für Menschen und Unternehmen steckt die große Veränderung deshalb schon vor jeder Singularität in einer praktischen Möglichkeit: Die Werkzeuge von morgen könnten zunehmend mit den Werkzeugen von heute entwickelt werden. Wenn dieser Kreislauf trägt, verändert KI nicht nur einzelne Arbeitsabläufe. Sie verändert auch das Tempo, mit dem neue Möglichkeiten überhaupt entstehen. Genau das macht „An Alien Mind“ zu mehr als einem weiteren Sicherheitstext.
Quellen und Einordnung
Die Angaben zum heutigen OpenAI-Forschungsbetrieb stammen aus „Research acceleration: The view inside OpenAI“. Pachockis Essay beschreibt seine Einschätzung und die Ausrichtung des Labors. Das AlphaEvolve-Beispiel stammt von Google DeepMind. Diese Unternehmensangaben sind keine unabhängige Gesamtevaluation. Die Einordnung der Intelligenzexplosion stützt sich ergänzend auf die theoretische Arbeit „Intelligence Explosion: Evidence and Import“. Gedankenbeispiel und Schlussfolgerungen sind als redaktionelle Erklärung zu lesen.