Ein brillanter Forscher schlägt Alarm: Geoffrey Hinton, frischgebackener Physik-Nobelpreisträger und Wegbereiter der modernen KI, malt ein düsteres Bild unserer Zukunft. Seine drastischen Worte sorgen weltweit für Aufsehen – doch erst am Ende enthüllt er die schockierendste Konsequenz, die selbst hartgesottene Tech-Optimisten erschaudern lässt.
Geoff Hinton – Die Stimme der Warnung
Seit seinem spektakulären Nobelpreisgewinn 2024 sucht Geoffrey Hinton konsequent die Öffentlichkeit, um vor der ungebremsten Entwicklung künstlicher Intelligenz zu warnen. Einst als „Godfather of AI“ gefeiert, spricht er nun von realen Gefahren, die in Vorstandsetagen und Regierungspalästen oft unterschätzt werden.
Hinton erinnert daran, dass KI-Systeme längst nicht mehr bloß ausgeklügelte Werkzeuge sind, sondern sich rasant zu eigenständigen Akteuren entwickeln. Sein Credo: Wer heute noch lächelt, könnte morgen von einer Maschine ersetzt – oder schlimmer – kontrolliert werden.
Und wie kam es, dass der Wissenschaftler überhaupt zum Lautsprecher der Skepsis wurde?
Vom Nobelpreis zum Abgang bei Google
Schon 2012 holte Google Hintons Start-up ins Haus; dort perfektionierte er neuronale Netze, die nun ChatGPT & Co. antreiben. 2023 verließ er den Konzern, „um offen reden zu können“, wie er sagt. Seither füllt der 77-Jährige Talkshows, Podcasts und Parlamentsausschüsse.
Mit jedem Auftritt stellt Hinton klar: Die Profitlogik der Tech-Giganten duldet keine Denkpausen. Genau diese Spirale habe ihn zum Dissidenten gemacht – eine Rolle, die er nach eigenem Bekunden nicht gesucht, aber akzeptiert hat.
Doch erst eine bizarre Metapher machte seine Mahnung weltberühmt …
„Als wären Außerirdische gelandet“
In mehreren Interviews vergleicht Hinton heutige Sprachmodelle mit fremden Lebensformen: High-Tech-Aliens, getarnt durch perfekte Grammatik. Er warnt, dass die Menschheit die Fremdheit dieser Intelligenzen unterschätze, weil sie so betont „menschlich“ kommunizieren.
Der Vergleich funktioniert: Politiker und Lehrer, Programmiererinnen und Ärztinnen – sie alle sehen plötzlich die Gefahr, dass KI uns längst überlistet hat, gerade weil sie wie wir spricht.
Wenn die Außerirdischen schon hier sind, wie groß ist dann die Bedrohung wirklich?
Die 20-Prozent-Apokalypse
Auf die Frage nach dem Risiko eines menschheitsvernichtenden Szenarios antwortet Hinton inzwischen mit „zehn bis zwanzig Prozent“. Eine gewaltige Steigerung gegenüber seiner früheren Einschätzung. Für einen nüchternen Forscher ist das mehr als Rhetorik – es ist eine mathematische Ansage.
Diese Zahl elektrisiert Sicherheitsbehörden rund um den Globus; sie macht KI-Gefahren greifbar wie Erdbebenwahrscheinlichkeiten oder Atomkriegs-Berechnungen.
Doch das Prozent-Risiko ist nur der Anfang – Hinton fürchtet einen viel schnelleren Umbruch …
Superintelligenz in 10–20 Jahren
In seinem neuesten Podcast-Gespräch prophezeit Hinton eine Maschine, die jede menschliche Fähigkeit übertrifft – und das „innerhalb von zehn bis zwanzig Jahren“. Ihre Stärke: unbegrenztes Wissen, blitzschnelle Vervielfältigung, digitale Unsterblichkeit.
Er malt das Bild einer Zukunft, in der menschliche Jobs obsolet werden, weil Computer im Sekundentakt lernen, was wir in Jahrzehnten mühsam begreifen. „Ein guter Tipp wäre, Klempner zu werden“, witzelt er – halb ironisch, halb verzweifelt.
Wer stoppt diesen Wettlauf? Eine ungewöhnliche Allianz betritt die Bühne …
Aufruf zum globalen KI-Moratorium
Gestern unterzeichnete Hinton eine Forderung der Future of Life Institute: Bis die Welt „sichere wissenschaftliche Rahmen“ hat, müsse die Arbeit an Super-KI ruhen. Überraschend: Neben ihm stehen Rechte Ikonen wie Steve Bannon und Silicon-Valley-Größen wie Steve Wozniak.
Diese Querfront signalisiert, dass die Sorge um KI längst politisches Lagerdenken sprengt. Während Regierungen debattieren, ob ein Moratorium Innovation bremst, wächst der Druck auf Konzerne, zumindest einen Teil ihrer Rechenleistung in Sicherheitsforschung zu stecken.
Doch können Gesetze allein eine Technologie einsperren, die schon überall ist?
Was Regierungen jetzt tun (könnten)
Hinton fordert ein weltweites Sicherheitsbudget: Mindestens ein Drittel aller KI-Ressourcen müsse in Robustheits-Tests, Red-Teamings und Notfallabschaltungen fließen. Zugleich plädiert er für internationale Verträge, ähnlich dem Atomwaffensperrvertrag.
EU, USA und China basteln zwar an KI-Gesetzen, doch laut Hinton sind diese „viel zu langsam für eine Technologie, die exponentiell wächst“. Sein Alarmruf: Ohne globale Kooperation könnten nationale Regeln zum Papiertiger werden.
Und wie verarbeitet der 77-Jährige persönlich die Aussicht auf dieses Szenario?
Der letzte, persönliche Appell
„Ich bin 77, ich werde das Ende vielleicht nicht erleben“, gesteht Hinton. „Aber meine Kinder und Enkel schon – deshalb rede ich.“ Hinter jeder Warnung steht ein Großvater, der um die Freiheit seiner Familie bangt.
Am Ende bittet er sein Publikum, nicht nur auf Start-ups oder Ministerien zu warten, sondern selbst Fragen zu stellen, Druck zu machen, ethische Leitplanken einzufordern. Die Pointe seiner Warnung: Wenn wir jetzt handeln, können wir vielleicht doch verhindern, dass die ‚Außerirdischen‘ das Kommando übernehmen.
Damit ist klar: Die letzte Entscheidung über unsere Zukunft fällt nicht im Serverraum, sondern in unserer Gesellschaft – und wir haben nur noch wenig Zeit, sie zu treffen.
