Software

Silicon Saxony: Wenn die KI ihren eigenen Weg geht – raus aus der AI Gigafactory

13. August 2026. Was passiert, wenn Künstliche Intelligenz nicht mehr tut, was wir wollen – sondern einfach das tut, was sie für richtig hält? In den vergangenen Wochen hackten, manipulierten und täuschten KI-Systeme in Tests und realen Anwendungen. Sie verschafften sich Zugänge, fälschten Identitäten und gingen bei der Erfüllung ihrer Aufträge über Grenzen, die ihnen niemand ausdrücklich gesetzt hatte. Zufall, technische Kinderkrankheiten oder ein Vorgeschmack auf eine Welt, in der KI ohne moralische Leitplanken agiert? Währenddessen plant die EU-Milliarden für sieben AI Gigafactories, um technologisch zur Weltspitze aufzuschließen. Doch wer kontrolliert die Systeme, wenn der Wettlauf um Rechenleistung und Souveränität wichtiger wird als Regeln, Ethik und Kontrolle? Vielleicht ist Goethes Zauberlehrling aktueller denn je: Die Geister, die wir rufen, könnten längst begonnen haben, ihren eigenen Weg zu gehen.

Symbolbild AI Gigafactories. Foto: erstellt mit Künstlicher Intelligenz (Canva) und voller lustiger Fehler.

Kategorien

Software

Schlagworte

Digitalisierung·Förderung·Forschung & Entwicklung·Internationalisierung·IT·Künstliche Intelligenz (KI)·Technologische Souveränität

Kontakt

Silicon Saxony

Marketing, Kommunikation und Öffentlichkeitsarbeit

Manfred-von-Ardenne-Ring 20 F

Telefon: +49 351 8925 886

redaktion@silicon-saxony.de

Ist Ihre Künstliche Intelligenz (KI) oder Ihr KI-Agent noch an Ort und Stelle? Keine Fluchtversuche in den letzten Tagen? Kein ungewöhnliches Verhalten? Glück gehabt. Dass es auch anders geht, zeigten zuletzt etliche Meldungen aus der westlichen Welt. Mehrfach flüchteten KIs aus ihren Entwicklungs- und Testumgebungen. Sie nutzen Schwachstellen in Systemen aus. Hackten. Manipulierten (selbst Menschen). Sie nutzen das Internet ohne Skrupel zu ihrem Vorteil oder zum Vorteil jener, die sie mit vermeintlich harmlosen Aufgaben in die digitale Welt geschickt hatten.

Australier spart sich Arbeit und verursacht Hack des eigenen Fitnessstudios

So geschehen u.a. in Australien. Hier versuchte ein Mann seine Mitgliedschaft in einem Fitnessstudio zu optimieren, Kurse und Trainingspläne mittels KI zu ergattern oder zu verbessern. Eine clevere Idee, die jedoch eine unerwartete Wendung nahm. Nicht nur, dass die KI von OpenClaw sich in die Systeme des Fitnessstudio-Betreibers hackte und ihren Herrn und Meister in zukünftige Kurse einbuchte. Selbst auf der Warteliste eines bereits ausgebuchten Kurses schummelte die KI ihren Auftraggeber ohne schlechtes Gewissen nach vorn, löschte dafür sogar die auf der Spitzenposition platzierte Person und setzte kurzerhand ihren Auftraggeber auf selbige. Ja, mit Moral und Anstand tun sich Künstliche Intelligenzen noch schwer. Weil sie sie schlicht nicht kennen, fühlen, gelehrt oder erklärt bekommen. Aufträge werden bestmöglich erfüllt. Selbst unter Ausnutzung von Grau- und klaren Verbotszonen. Wo kein Wertesystem hinterlegt ist, kann man schließlich auch keine Werte mit digitalen Füßen treten. Und in Australien handelte es sich noch um einen vergleichsweise harmlosen Fall von Betrug.

OpenAI, Meta und Anthropic verlieren die Kontrolle über ihre KI-Systeme

Die Erfahrungen, die die weltweit führenden KI-Unternehmen Anthropic, OpenAI und Meta zuletzt ausnahmslos auf die harte Weise machten, waren da teilweise schon von anderem Kaliber. Jedes der drei US-Unternehmen musste in den vergangenen Wochen zugeben, seine KI zumindest temporär nicht mehr unter Kontrolle gehabt zu haben. Mal waren Dienstleister schuld, die ihren KIs zu viel Freiräume gestatteten. Mal wurde ein Test von Forscher:innen zum Offenbarungseid, zeigte, was die Systeme im Stande sind zu leisten, wenn man sie denn einfach machen lässt. Mal entkam die KI durch ein Schlupfloch in der eigenen Testumgebung. In allen Fällen hackten, täuschten und manipulierten KI-Systeme auf Teufel komm raus. Teilweise so geschickt, dass erst detaillierte Aufzeichnungen im Nachgang der Einsätze bzw. Ausbrüche zeigten, wie weit die Systeme bereit waren zu gehen. Fake-Identitäten. Phishing-Mails. Datenmanipulationen. Vertuschungsversuche. Die KIs zeigten eine kriminelle Ader, die so niemand vermutet hatte. Die ohne moralische Leitplanken aber schlicht logisch und damit aus Sicht der KI legitim waren. Dass die Ethikchefin von OpenAI sich in dieser Woche aus dem Unternehmen verabschiedete, ist da sicher nur eine Randnotiz.

Passieren nur bei den großen KI-Unternehmen Zwischenfälle?

„Herr, die Not ist groß! Die ich rief, die Geister, werd ich nun nicht los.“ Die Passage aus Goethes Zauberlehrling bringt die aktuelle KI-Situation hervorragend auf den Punkt. Weltweit sprießen neue KI-Modelle und -Rechenzentren aus dem Boden. Was bei wirtschaftlichen Akteuren aus der westlichen Hemisphäre wie OpenAI, Meta, Microsoft, Google und Co. zumeist noch halbwegs transparent – eben durch die Nutzung und Tests von Privatpersonen, Forschungsinstituten und staatlichen Akteuren – verläuft, könnte andernorts längst im Verborgenen und damit unentdeckt passieren. Denn die Meldungen aus den USA und Australien werfen die Frage auf: Passiert im Rest der KI-Welt nichts oder hält der Rest der KI-Welt einfach nur den Mund? China, Russland, Israel – zahlreiche Nationen arbeiten ebenso intensiv wie die USA an fortschrittlichen KI-Systemen. Dass diese moralisch integrer sein sollen, als jene Modelle aus den USA, ist kaum zu vermuten. Deshalb war der erste „Ausbruch“ des chinesischen Modells Kimi K3 diese Woche wohl für niemanden eine Überraschung. Dass es ähnliche Vorfälle, wie die Hacks der Meta-, Anthropic oder OpenAI-Systeme gegeben hat, ist demnach sehr wahrscheinlich. Denn längst warnt nicht nur das deutsche Bundesamt für Sicherheit in der Informationstechnik vor den Gefahren durch Künstliche Intelligenzen. Was in der westlichen Welt und im wirtschaftlichen Bereich als unerwünschter Störfall gilt, ist andernorts vielleicht der einzige Sinn und Zweck einer Künstlichen Intelligenz, hört man munkeln.

Verstehen Sie all das nicht als Technologie-Phobie oder pure Schwarzmalerei. Es sind Gedanken, die nicht allzu weit hergeholt sind und immer mehr Akteuren, auch den Sicherheitsbehörden in der Europäischen Union (EU), Sorgen bereiten oder zu Warnungen veranlassen.

Europa steigt mit AI Gigafactories ins Rennen um die „besten“ KIs ein

Und genau in dieser unübersichtlichen Gemengelage veröffentlicht die EU in diesen Tagen seine Förderbekanntmachung zu den europäischen AI Gigafactories, den milliardenschweren Rechenzentren, die auch in Europa den Hype um die KI weiter entfachen sollen. Sieben dieser massiven Infrastrukturen sollen entstehen. 30 Milliarden Euro werden hierfür in den kommenden Jahren mobilisiert. 10 Milliarden stellt die EU zur Verfügung. 20 Milliarden müssten wirtschaftliche Akteure und Konsortien stemmen. Erneut wird die Geschichte von der Technologischen Souveränität erzählt. Von Orten, an denen Datenschutz und -sicherheit großgeschrieben werden. Wo Künstliche Intelligenzen entstehen sollen, die in der Weltspitze mitspielen, ohne die Zügellosigkeit und moralische Freizügigkeit der Konkurrenzmodelle aus Ost und West zu übernehmen. Und das alles natürlich mit bester Technologie aus Europa, wohlwissend, dass Europa nicht mehr als die Infrastruktur um die eigentlichen Rechen- und Speicherleistungen der AI Gigafactories stellen kann. Letztere kommen dann doch wieder aus den USA, mangels verlässlicher Partner. Auch wenn die USA längst ihre momentane Unzuverlässigkeit bewiesen haben.

Europa zerfasert auch im Bereich der KI-Förderung und macht die immer gleichen Fehler

Ja, europäische KI-Projekte wie Soofi (Sovereign Open Source Foundation Models) sind verheißungsvoll, doch aktuell nicht mehr als pure Forschung und Entwicklung. Sie nutzen amerikanische Rechenkerne. Kämpfen mit denselben Problemen, wie auch die Amerikaner, Chinesen und weitere Player der Welt. Sie schaffen technologische Abhängigkeiten. Setzen auf Technologien, die nicht in Europa entstehen und auf absehbare Zeit auch nicht in Europa entstehen können. Sie greifen, wie auch im Bereich der Mikroelektronik, auf eine Vielzahl von Förderprogrammen und -initiativen zurück, die zumeist kaum oder gar nicht aufeinander abgestimmt sind. Ein Beispiel gefällig? Neben dem aktuellen AI Gigafactories Call laufen in Deutschland und damit auf europäischem Boden aktuell auch das IPCEI Künstliche Intelligenz sowie weitere unabhängige Förderprogramme.

Hilft nur noch das Prinzip „Daumen drücken“ oder wird alles am Ende gut?

Ob es inmitten dieser unabgestimmten Förderung evtl. Sinn machen würde, dem großen Ganzen einen Rahmen zu geben? Moral, Ethik und Gesetze sollten weltweit ein Thema sein und sich auch abseits Europas in den KI-Systemen wiederfinden. Globale Kontrollinstanzen zu benennen und klare Spielwiesen abzustecken, gehört hier ebenfalls zum Standard. All das wird in der Hektik, in der Weltspitze mitzuspielen, verdrängt bzw. bewusst ignoriert. Was die Folgen sein können und wohl auch sein werden, zeigen die zu Beginn aufgeführten Beispiele der letzten Wochen und Monate. Und hier ging es allein um kriminelle Ausreißer eigentlich als harmlos eingeschätzter KI-Systeme. Ausreißer, die zumeist ohne bösen Willen und unprovoziert passierten. Man stelle sich vor, was KI zu leisten im Stande wäre, wenn weder Moral noch Ethik bei ihrem Einsatz eine Rolle spielt, sondern stets allein das Ergebnis zählt. Z.B. in Staaten oder Staatenverbunden, die es vielleicht nicht so gut mit dem Wohl der Welt meinen.

Fakt bleibt aber auch, dass Künstliche Intelligenz der Menschheit enorm helfen kann. Sie beschleunigt Lern- und Entwicklungsprozesse. Sie erleichtert wiederkehrende Arbeiten. Sie macht die Wirtschaft, Industrie und Forschung effizienter. Sie hat, wie alles was die Menschheit bisher entwickelte, ihre guten und ihre schlechten Seiten. Sie kann die Welt bereichern oder zur Gefahr für sie werden. Es bleibt zu hoffen, dass die Menschheit zukünftig die guten Seiten der KI fördert und die schlechten gemeinsam einzudämmern oder zu verhindern versucht.

Andernfalls kommen wohl wieder Goethe und der Zauberlehrling ins Spiel.

– – – – –