"KI lernt, wie man tötet": Ex-Google-Boss warnt vor "Bin-Laden-Moment"
#Global Markets

"KI lernt, wie man tötet": Ex-Google-Boss warnt vor "Bin-Laden-Moment"

Author

Esma Sakalli

Die wichtigsten Punkte 

Eric Schmidt, Ex-Google-Chef, warnt, dass KI-Modelle gehackt und ihre Sicherheitsmechanismen umgangen werden können, wodurch sie gefährliches Wissen erlangen. Besonders riskant seien Angriffe wie Prompt Injections und Jailbreaking. Er fordert ein internationales Kontrollsystem, ähnlich einem Nichtverbreitungsabkommen, um Missbrauch durch Staaten oder Einzelakteure zu verhindern. Trotz dieser Gefahren sieht Schmidt enormes Potenzial in der Technologie: KI sei „unterhyped“ und werde Wirtschaft und Gesellschaft tiefgreifend verändern – vorausgesetzt, die Menschheit lernt, verantwortungsvoll mit ihr umzugehen.

Die KI, die zu viel weiß

Eric Schmidt, einst CEO von Google und Mitgestalter der digitalen Moderne, hat die Bühne des Sifted Summit in London genutzt, um eine deutliche Warnung auszusprechen. Künstliche Intelligenz, so der erfahrene Technologe, sei nicht nur ein Werkzeug des Fortschritts – sie könne auch zur Gefahr werden. „Es gibt Belege, dass man Modelle so verändern kann, dass sie lernen, wie man jemanden tötet“, sagte Schmidt. Seine Worte klingen alarmierend, doch sie beruhen auf realen Schwachstellen moderner KI-Systeme. Sowohl offene als auch geschlossene Modelle lassen sich hacken und so manipulieren, dass ihre eingebauten Schutzmechanismen versagen.

Eric Schmidt warnt, dass KI-Modelle gehackt werden können und dadurch gefährliches Wissen ohne Schutzmechanismen erlangen.

Methoden wie Prompt Injections oder Jailbreaking ermöglichen es Angreifern, eine KI zu Handlungen zu bewegen, die sie eigentlich verweigern sollte – etwa das Teilen sensibler Daten oder die Erzeugung gefährlicher Inhalte. Bereits 2023 gelang es Nutzern, ChatGPT mit der sogenannten DAN-Methode (Do Anything Now) auszutricksen. Das System lieferte plötzlich Antworten auf verbotene Fragen, weil es mit einem Trick dazu gebracht wurde, seine Sicherheitslogik zu ignorieren. Schmidts Mahnung ist deutlich: Wenn Maschinen lernen, was sie nie wissen sollten, entsteht ein Risiko, das weit über technische Fehler hinausgeht.

Der Kampf um Kontrolle

Für Schmidt ist die größte Bedrohung nicht die KI selbst, sondern der fehlende Rahmen, sie zu kontrollieren. Während Atomwaffen durch internationale Abkommen reguliert werden, existiert für künstliche Intelligenz kein globales Sicherheitsnetz. „Es gibt kein Nichtverbreitungsregime für KI“, betonte Schmidt, und diese Lücke könne fatale Folgen haben. Besonders gefährlich sei die Möglichkeit, dass autoritäre Staaten oder kriminelle Akteure die Technologie missbrauchen könnten. In einem BBC-Interview sprach er von einem „Bin-Laden-Szenario“, in dem ein Einzelner oder ein Staat mithilfe von KI gezielt Schaden anrichtet – etwa durch die Entwicklung biologischer Waffen.

Schmidt nannte ausdrücklich Länder wie Nordkorea, Iran oder Russland als potenzielle Risikofaktoren. Seine Forderung: eine internationale Zusammenarbeit, um Missbrauch vorzubeugen. Gleichzeitig warnt er vor übermäßiger Regulierung. Zu viele Gesetze könnten Innovationen ersticken und den technologischen Fortschritt nach außerhalb westlicher Demokratien verlagern. „Zu viel Kontrolle bremst die Kreativität“, so Schmidt, „und Innovation braucht Freiheit – aber auch Verantwortung.“

Warum Schmidt trotz allem optimistisch bleibt

Trotz dieser düsteren Szenarien blickt Schmidt mit erstaunlichem Optimismus auf die Zukunft. Für ihn ist KI nicht überbewertet, sondern im Gegenteil „unterhyped“. Sie sei die entscheidende Transformation des 21. Jahrhunderts – mächtiger als das Internet oder Elektrizität. Gemeinsam mit Henry Kissinger schrieb er Bücher über das Entstehen einer „fremden Intelligenz“, die in vielen Bereichen bereits heute überlegen ist. Der Erfolg von ChatGPT, das in nur zwei Monaten über 100 Millionen Nutzer gewann, verdeutlicht für ihn das Ausmaß dieser Revolution.

 Auch wenn Skeptiker vor einer „KI-Blase“ warnen, ähnlich der Dotcom-Krise um die Jahrtausendwende, sieht Schmidt keine Parallelen. Investoren würden Milliarden nicht aus Euphorie, sondern aus Überzeugung investieren. Sie wüssten, dass sich der wirtschaftliche und gesellschaftliche Ertrag langfristig auszahlen werde. „Wer dieses Risiko eingeht, glaubt an den Wandel“, sagt Schmidt. Für ihn ist klar: KI birgt Risiken, aber noch größere Chancen. Sie wird die Welt verändern – die Frage ist nur, ob die Menschheit rechtzeitig lernt, mit ihr umzugehen, bevor sie selbst zur Schülerin ihrer eigenen Erfindung wird.

FAQ

Warum hat Eric Schmidt Google verlassen?
Eric Schmidt trat 2011 als CEO von Google zurück, um Platz für eine jüngere Führungsgeneration zu machen, blieb aber bis 2017 als Executive Chairman bei Alphabet aktiv. Der Wechsel war ein geplanter Übergang, den Schmidt gemeinsam mit Larry Page und Sergey Brin beschloss. Danach konzentrierte er sich stärker auf Forschung, Beratung und gemeinnützige Projekte.

Wer ist Eric Schmidt?
Eric Schmidt ist ein US-amerikanischer Informatiker, Manager und Investor, der von 2001 bis 2011 als CEO von Google tätig war. Unter seiner Führung entwickelte sich Google zu einem der erfolgreichsten Technologieunternehmen der Welt. Zuvor arbeitete er unter anderem bei Sun Microsystems und Novell und gilt als eine der prägenden Figuren der Internetära.

Was macht Eric Schmidt jetzt?
Heute leitet Schmidt die Stiftung Schmidt Futures, die Forschung und Innovation in Wissenschaft und Technologie fördert. Er berät Regierungen und Organisationen in Fragen der KI-Sicherheit und -Ethik und investiert in Zukunftstechnologien. Zudem engagiert er sich international für die Regulierung und verantwortungsvolle Entwicklung künstlicher Intelligenz.

Author

Esma Sakalli

Schlagzeilen

Es wurde noch keine Einwilligung erteilt.

Du musst zuerst zustimmen, um Inhalte von TradingView zu sehen.