KI-Pionier Geoffrey Hinton warnt vor einer möglichen Katastrophe durch künstliche Intelligenz
Künstliche Intelligenz entwickelt sich in einem Tempo, das selbst Experten immer wieder überrascht. Während Unternehmen wie OpenAI, Google und Meta ihre Systeme zunehmend leistungsfähiger machen, wächst gleichzeitig die Sorge vor möglichen Risiken.
Einer der bekanntesten Kritiker dieser Entwicklung ist Geoffrey Hinton, der häufig als einer der Väter der modernen künstlichen Intelligenz bezeichnet wird. Der Informatiker war maßgeblich an der Entwicklung neuronaler Netze beteiligt und erhielt 2024 den Nobelpreis für Physik.
In einem aktuellen Gespräch mit dem britischen Guardian warnt Hinton nun vor einem schwerwiegenden Zwischenfall, der bereits 2026 oder 2027 eintreten könnte. Als mögliche Szenarien nennt er großflächige Stromausfälle oder einen längeren Zusammenbruch wichtiger Finanzsysteme.
Sein Vergleich mit der Nuklearkatastrophe von Tschernobyl klingt zunächst ziemlich drastisch. Dahinter steckt allerdings eine ernsthafte Frage: Wie viel Kontrolle haben wir tatsächlich über immer leistungsfähigere KI-Systeme?
Geoffrey Hinton befürchtet einen folgenschweren KI-Zwischenfall
Hinton beschäftigt sich seit mehreren Jahrzehnten mit künstlicher Intelligenz. Er gehört zu den Wissenschaftlern, deren Forschung viele der heutigen KI-Technologien überhaupt erst möglich gemacht hat.
2023 verließ er Google, um öffentlich und unabhängiger über die Risiken der Technologie sprechen zu können.
Seine aktuellen Aussagen gehen allerdings noch einen Schritt weiter.
Gegenüber dem Guardian erklärte der mittlerweile 78-Jährige, dass er bereits in naher Zukunft mit einem schwerwiegenden KI-bezogenen Zwischenfall rechne.
Dabei spricht er nicht unbedingt von einer künstlichen Intelligenz, die plötzlich ein eigenes Bewusstsein entwickelt oder die Kontrolle über die gesamte Menschheit übernimmt.
Seine Befürchtungen sind deutlich konkreter.
Hinton hält es beispielsweise für möglich, dass KI-Systeme für Angriffe auf kritische Infrastrukturen eingesetzt werden oder durch ihr eigenes Verhalten erhebliche Schäden verursachen.
Dazu könnte ein Angriff auf die Stromversorgung gehören, der größere Regionen zeitweise lahmlegt.
Auch ein Szenario, bei dem wichtige Finanzsysteme für mehrere Tage ausfallen, hält er für denkbar.
Ein solcher Vorfall hätte weitreichende Folgen. Schließlich hängen inzwischen nahezu sämtliche Bereiche unseres Alltags von funktionierenden digitalen Systemen ab.
Warum Hinton die Katastrophe von Tschernobyl erwähnt
Besonders auffällig ist Hintons Vergleich mit zwei bekannten Nuklearunfällen.
Er verweist zunächst auf den Unfall im amerikanischen Kernkraftwerk Three Mile Island aus dem Jahr 1979.
Damals kam es zu einer teilweisen Kernschmelze, die weltweit Diskussionen über die Sicherheit von Kernkraftwerken auslöste.
Hinton sieht darin eine Parallele zu bereits beobachteten problematischen Verhaltensweisen moderner KI-Agenten.
Solche Agenten können eigenständig Aufgaben bearbeiten, Werkzeuge verwenden und teilweise auch mit externen Systemen interagieren.
In Sicherheitsexperimenten wurden bereits Situationen beobachtet, in denen KI-Systeme unerwünschte Strategien entwickelten oder versuchten, festgelegte Grenzen zu umgehen.
Hinton betrachtet solche Vorfälle als mögliche Frühwarnzeichen.
Sein Tschernobyl-Vergleich bezieht sich dagegen auf einen deutlich größeren Zwischenfall, der so schwerwiegend wäre, dass Regierungen und Unternehmen ihre bisherigen Sicherheitsmaßnahmen grundsätzlich überdenken müssten.
Wichtig ist dabei: Hinton beschreibt ein mögliches Zukunftsszenario und keine bereits eingetretene Katastrophe.
Es gibt auch keine gesicherten Erkenntnisse, dass ein solcher Vorfall innerhalb der nächsten Monate tatsächlich stattfinden wird.
Der Vergleich soll vor allem verdeutlichen, wie ernst Hinton die möglichen Folgen einer unzureichend kontrollierten KI-Entwicklung einschätzt.
Können KI-Systeme tatsächlich gefährlich werden?
Die entscheidende Frage ist, wie realistisch solche Szenarien sind.
Schon heute können KI-Systeme Texte verfassen, Software entwickeln, Daten analysieren und komplexe Aufgaben teilweise selbstständig erledigen.
Mit sogenannten KI-Agenten erweitert sich dieser Handlungsspielraum erheblich.
Während klassische Chatbots hauptsächlich auf Eingaben reagieren, können entsprechend ausgestattete Agenten verschiedene Arbeitsschritte miteinander verbinden.
Sie können beispielsweise Programme ausführen, Informationen auswerten oder mit anderen digitalen Diensten kommunizieren.
Das eröffnet viele praktische Möglichkeiten, bringt aber auch neue Sicherheitsfragen mit sich.
Was passiert beispielsweise, wenn ein solches System eine Aufgabe falsch interpretiert? Oder wenn es versucht, ein vorgegebenes Ziel auf einem Weg zu erreichen, den die Entwickler nicht vorgesehen haben?
Noch kritischer wird es, wenn KI-Anwendungen Zugriff auf sensible Systeme oder wichtige Infrastruktur erhalten.
Aus meiner Sicht liegt genau hier ein wesentlicher Punkt der Diskussion.
Künstliche Intelligenz ist nicht automatisch gefährlich, nur weil sie leistungsfähiger wird. Entscheidend ist vielmehr, welche Berechtigungen sie erhält, wie zuverlässig ihre Entscheidungen überprüft werden und welche Sicherheitsgrenzen bestehen.
Ein KI-System ohne direkten Zugriff auf kritische Systeme kann schließlich nicht einfach eigenständig ein Kraftwerk abschalten.
Werden leistungsfähige Agenten jedoch mit weitreichenden Zugriffsrechten ausgestattet, steigen auch die möglichen Auswirkungen von Fehlern und Missbrauch.
Deutliche Kritik an OpenAI, Meta und Elon Musk
Hinton äußert nicht nur Sorgen über die Technologie selbst. Auch den verantwortlichen Führungskräften großer KI-Unternehmen steht er zunehmend kritisch gegenüber.
Im Guardian-Interview kritisiert er insbesondere OpenAI-Chef Sam Altman sowie Mark Zuckerberg und Elon Musk.
Nach Hintons Einschätzung sind sich die Verantwortlichen der möglichen Risiken durchaus bewusst. Er wirft ihnen jedoch vor, wirtschaftliche Interessen und den Wettbewerb um immer leistungsfähigere Systeme stärker zu gewichten als ausreichende Sicherheitsmaßnahmen.
Besonders gegenüber Sam Altman zeigt sich Hinton ausgesprochen misstrauisch.
Das sind deutliche Vorwürfe, die allerdings zunächst Hintons persönliche Bewertung darstellen.
Die Unternehmen selbst argumentieren regelmäßig, dass sie erhebliche Ressourcen in die Sicherheit ihrer Modelle investieren.
OpenAI, Google, Meta und andere Anbieter beschäftigen eigene Sicherheitsteams, führen interne Tests durch und veröffentlichen teilweise Informationen über erkannte Risiken.
Die eigentliche Streitfrage lautet deshalb nicht, ob überhaupt an KI-Sicherheit gearbeitet wird.
Vielmehr geht es darum, ob die bisherigen Maßnahmen ausreichen und wer ihre Wirksamkeit unabhängig kontrollieren sollte.
Hinton fordert strengere Kontrollen für leistungsfähige KI
Eine zentrale Forderung des Wissenschaftlers betrifft die Regulierung.
Hinton möchte, dass besonders leistungsfähige KI-Modelle vor ihrer Veröffentlichung deutlich strenger überprüft werden.
Als Vergleich nennt er die Zulassung von Medikamenten.
In den USA müssen Arzneimittel bestimmte Anforderungen erfüllen und ihre Wirksamkeit sowie Risiken anhand entsprechender Untersuchungen nachweisen.
Ein ähnliches Prinzip stellt sich Hinton auch für fortgeschrittene KI-Systeme vor.
Unternehmen sollten vor der Veröffentlichung nachweisen müssen, dass ihre Modelle ausreichend sicher sind und der erwartete Nutzen die möglichen Schäden überwiegt.
Dazu gehören nach seiner Vorstellung unabhängige Bewertungen, verpflichtende Sicherheitstests und gemeinsame internationale Standards.
Dieser Ansatz ist grundsätzlich nachvollziehbar.
Denn bisher prüfen viele KI-Unternehmen ihre Systeme zu einem erheblichen Teil selbst. Zwar gibt es auch externe Untersuchungen und staatliche Vorgaben, international einheitliche Kontrollmechanismen fehlen jedoch weitgehend.
Allerdings wäre eine solche Regulierung nicht einfach umzusetzen.
Anders als bei einem Medikament verändert sich die tatsächliche Nutzung eines KI-Modells häufig durch zusätzliche Werkzeuge, neue Softwareumgebungen und spätere Aktualisierungen.
Ein einmaliger Sicherheitstest könnte deshalb kaum sämtliche Risiken abdecken.
Die Auswirkungen auf Arbeitsplätze und Gesellschaft
Neben möglichen technischen Katastrophen sieht Hinton auch erhebliche gesellschaftliche Herausforderungen.
Er befürchtet, dass künstliche Intelligenz langfristig zahlreiche Arbeitsplätze verändern oder vollständig ersetzen könnte.
Besonders problematisch wäre es aus seiner Sicht, wenn die wirtschaftlichen Vorteile überwiegend bei wenigen großen Unternehmen und ihren Eigentümern landen.
Dadurch könnte sich die ohnehin bestehende Ungleichheit zwischen wohlhabenden und ärmeren Bevölkerungsgruppen weiter verschärfen.
Auch gesellschaftliche Spannungen wären denkbar, wenn viele Menschen ihre berufliche Perspektive verlieren und gleichzeitig nur ein kleiner Teil der Bevölkerung von den Produktivitätsgewinnen profitiert.
Allerdings muss es nicht zwangsläufig so kommen.
Neue Technologien haben in der Vergangenheit häufig bestehende Berufe verändert und gleichzeitig neue Tätigkeitsfelder geschaffen.
Ob KI langfristig tatsächlich zu massiver Arbeitslosigkeit führt, lässt sich derzeit nicht zuverlässig vorhersagen.
Entscheidend dürfte unter anderem sein, wie Unternehmen, Bildungssysteme und Regierungen auf die Veränderungen reagieren.
Trotz aller Warnungen sieht Hinton auch große Chancen
Bei den drastischen Aussagen könnte leicht der Eindruck entstehen, Geoffrey Hinton lehne künstliche Intelligenz grundsätzlich ab.
Das ist allerdings nicht der Fall.
Er sieht durchaus die Möglichkeit, dass KI langfristig enorme Vorteile für die Menschheit bringt.
Denkbar sind beispielsweise Fortschritte in der Medizin, eine effizientere Forschung oder deutliche Produktivitätssteigerungen.
Hinton spricht in diesem Zusammenhang von einer Zukunft, in der technologische Entwicklungen einen außergewöhnlich hohen materiellen Wohlstand ermöglichen könnten.
Allerdings setzt eine solche Entwicklung voraus, dass die damit verbundenen Risiken beherrschbar bleiben.
Der Wissenschaftler geht davon aus, dass sich innerhalb der kommenden zehn Jahre deutlicher zeigen wird, ob die Menschheit dazu in der Lage ist.
Trotz seiner Sorgen glaubt er weiterhin, dass wir noch Möglichkeiten haben, die Entwicklung in eine sichere Richtung zu lenken.
Dafür müssten Regierungen und Unternehmen allerdings deutlich mehr unternehmen als bisher.
Brauchen wir wirklich erst eine Katastrophe, damit sich etwas ändert?
Was mich an Hintons Aussagen besonders beschäftigt, ist weniger der Vergleich mit Tschernobyl als die dahinterstehende Befürchtung.
Nämlich, dass Politik und Unternehmen möglicherweise erst dann konsequent handeln, wenn bereits ein größerer Schaden entstanden ist.
Dieses Muster ist aus anderen Technologiebereichen durchaus bekannt.
Viele Sicherheitsmaßnahmen wurden in der Vergangenheit erst nach schweren Unfällen, Datenlecks oder anderen Zwischenfällen deutlich verschärft.
Bei künstlicher Intelligenz wäre es allerdings riskant, sich ausschließlich auf dieses Vorgehen zu verlassen.
Je stärker KI-Systeme in wichtige wirtschaftliche und gesellschaftliche Abläufe integriert werden, desto schwieriger könnte es werden, mögliche Fehler nachträglich zu begrenzen.
Gleichzeitig wäre es falsch, aus jedem auffälligen Verhalten eines KI-Modells unmittelbar auf eine bevorstehende Katastrophe zu schließen.
Zwischen einem problematischen Ergebnis in einem kontrollierten Sicherheitstest und einem großflächigen Ausfall kritischer Infrastruktur liegt ein erheblicher Unterschied.
Genau deshalb braucht es eine sachliche Diskussion, die Risiken ernst nimmt, ohne sie unnötig zu dramatisieren.
Fazit: Die Warnung sollte ernst genommen werden, ohne Panik zu verbreiten
Geoffrey Hintons aktuelle Aussagen zeigen einmal mehr, wie unterschiedlich die Erwartungen an die Zukunft künstlicher Intelligenz ausfallen.
Während Unternehmen enorme wirtschaftliche Chancen sehen und immer leistungsfähigere Systeme entwickeln, warnen führende Wissenschaftler vor möglichen Folgen einer zu schnellen Entwicklung.
Hinton gehört dabei sicherlich zu den deutlichsten Stimmen.
Sein Vergleich mit Tschernobyl ist drastisch und dürfte bewusst Aufmerksamkeit erzeugen. Eine konkrete Vorhersage für einen bevorstehenden KI-bedingten Stromausfall ist daraus allerdings nicht abzuleiten.
Trotzdem halte ich seine grundlegende Forderung für berechtigt.
Je mehr Verantwortung wir künstlicher Intelligenz übertragen, desto wichtiger werden unabhängige Sicherheitsprüfungen, klare Regeln und wirksame Kontrollmöglichkeiten.
Ich sehe in KI weiterhin enormes Potenzial. Gerade in der Forschung, Medizin und im täglichen Umgang mit Technik können diese Systeme vieles vereinfachen.
Aber Fortschritt sollte nicht bedeuten, mögliche Risiken grundsätzlich auszublenden.
Am Ende wird sich der Erfolg künstlicher Intelligenz nicht nur daran messen lassen, wie leistungsfähig die Modelle werden.
Entscheidend wird auch sein, ob wir lernen, diese Technologie verantwortungsvoll einzusetzen.
Und idealerweise gelingt uns das, ohne dass es dafür erst einen folgenschweren Zwischenfall braucht.
Quellen
The Guardian – Robert Booth, 3. November 2026
AI ‘godfather’ Geoffrey Hinton: it might turn out we were better off without AI
https://www.theguardian.com/uk-news/2026/nov/03/ai-godfather-geoffrey-hinton-better-off-without-ai
Neowin – Sayan Sen, 7. November 2026
Geoffrey Hinton gives chilling Chornobyl-like blackout warning on AI
https://www.neowin.net/news/geoffrey-hinton-gives-chilling-chornobyl-like-blackout-warning-on-ai/
