Künstliche Intelligenz taucht inzwischen an Stellen auf, an denen vor Kurzem noch niemand mit ihr gerechnet hätte – vom kompletten Quellcode eines Videospiels bis zur Analyse von Überwachungsvideos rund um Militärstandorte. In dieser Woche liefen mehrere Meldungen zusammen, die zeigen, wie schnell sich die Technik ausbreitet und wo sie an Grenzen stößt. Ein Shooter auf Steam sorgt für Ärger, weil er fast vollständig von KI erstellt wurde. Anthropic legt offen, wie seine Modelle für Biowaffen-Forschung und heimliche Umleitungen missbraucht wurden. Und eine Analyse zeigt, warum KI-Chatbots als Kundenberater nur bedingt taugen.
Diese drei Stränge hängen enger zusammen, als es zunächst wirkt. Es geht überall um dieselbe Frage: Wie viel Arbeit lässt sich sinnvoll an ein Sprachmodell delegieren – und wo wird es problematisch, riskant oder schlicht unzuverlässig?
Juggernaut: Ein Shooter, dessen Code komplett von KI stammt
Auf Steam kündigt das Studio Mages Inc. mit Juggernaut einen klassischen Ego-Shooter an, der sich an der Gaming-Ära der 90er orientiert. Die Vorlage ist unübersehbar: Wie bei Doom kämpfst du dich in der Kampagne durch Horden von Dämonen, die eine großangelegte Invasion auf die Erde gestartet haben. Dazu kommt ein Hordemodus, in dem du 5.000 Zombies zurück ins Grab schicken sollst. Selbst das Logo erinnert stark an das Doom-Vorbild.
So weit, so gewöhnlich. Für Diskussionen sorgt erst die Offenlegung am Ende der Steam-Seite. Dort erklären die Entwickler ihre KI-Nutzung – und die fällt drastisch aus. Laut dem Bericht von t3n stammt der komplette Quellcode von einer Künstlichen Intelligenz, dasselbe gilt für die Ingame-Effekte. Bei der Grafik hat KI rund 60 Prozent der Arbeit übernommen, beim Sound etwa 50 Prozent.
Genau diese Transparenz löst den Ärger aus. In Steam-Foren und auf Resetera sammeln sich kritische Beiträge. Ein Nutzer rechnet vor, dass die Entwickler mathematisch gesehen weniger als ein Viertel des Spiels selbst gebaut hätten. Andere vermuten Sparmaßnahmen dahinter. Ungewöhnlich ist die Umstellung deshalb, weil Mages Inc. kein Ein-Personen-Projekt ist, sondern ein Studio, das in der Vergangenheit bereits Spiele ohne KI veröffentlicht hat. Solche fast vollständig KI-generierten Titel kennt man bislang eher von Solo-Entwicklern.
Der Hintergrund erklärt einen Teil der Skepsis. Mages Inc. wurde 2020 aufgekauft, im Dezember 2022 drohte wegen Verlusten in Höhe von 4,6 Millionen US-Dollar die Insolvenz. Zwar folgten immer wieder neue Spiele, aber ohne großen kommerziellen Erfolg. Viele Fans, die vor allem die Anime-Umsetzungen des Studios geschätzt haben, fürchten nun, dass künftige Titel grundsätzlich per KI entstehen könnten. Ein Release-Termin und ein Preis für Juggernaut stehen noch nicht fest. Angekündigt ist aber bereits ein kostenpflichtiger DLC namens „Juggernaut Asset Maker Pro“, mit dem sich eigene Level bauen und teilen lassen.
Anthropic sperrt Konten wegen Biowaffen-Forschung
Deutlich ernster ist ein Fall, den das KI-Unternehmen Anthropic in einem aktuellen Bericht dokumentiert. Das Unternehmen hat Konten von Nutzern gesperrt, die seine Modelle – darunter Claude – zur potenziellen Entwicklung biologischer Waffen einsetzen wollten. Der Bericht beschreibt Fallstudien aus sieben Missbrauchskategorien: biologischer Missbrauch, konventionelle Waffenentwicklung, Cyberoperationen, Einflussoperationen, Überwachung, Betrug und unautorisierte Modellreplikation.
Die praktische Schwierigkeit liegt in der Abgrenzung. Wie Anthropic laut Golem festhält, unterscheidet sich die Entwicklung von Impfstoffen technisch kaum von der Erstellung einer Biowaffe. Jacob Klein, Leiter der Threat Intelligence bei Anthropic, betonte gegenüber der New York Times, dass Forschungsanträge oft vielschichtig seien und nicht zwingend eine offenkundig schädliche Absicht erkennen ließen. In allen Zweifelsfällen entschied das Unternehmen nach eigenen Angaben vorsorglich restriktiv.
Der Chikungunya-Fall
Ein konkretes Beispiel: Im Mai 2026 schlug Anthropics biologischer Sicherheitsklassifikator an, als ein Nutzer Claude um Hilfe bei einem Förderantrag bat. Der Antrag betraf Gain-of-Function-Forschung am Chikungunya-Virus, für das keine zugelassene Behandlung existiert. Ziel der geplanten Arbeit war es, die Übertragbarkeit des Virus zu erhöhen und das Umgehen der Immunabwehr zu ermöglichen. Zusätzlich bestand eine Anbindung an ein militärisches Forschungsinstitut.
Weitere Fälle betrafen Gain-of-Function-Forschung zur Übertragbarkeit der Vogelgrippe auf Säugetiere, Arbeiten an Orthopoxviren, die Erstellung eines Toxin-Peptid-Atlasses samt Optimierungspipeline sowie die computergestützte Neugestaltung von Toxinen. Anthropic sperrte die betroffenen Konten und nutzt die Erkenntnisse, um die eigenen Sicherheitsfilter weiterzuentwickeln. Namen von Personen, Institutionen und Ländern sowie konkrete biologische Verfahren hält das Unternehmen ausdrücklich unter Verschluss.
Chinesische KI-Firmen sollen Claude heimlich angezapft haben
Parallel wirft Anthropic chinesischen Rivalen vor, Kundenanfragen heimlich umgeleitet zu haben, statt sie mit der eigenen Software zu beantworten. Dadurch landeten teils Daten staatlicher Stellen aus China und Russland in den Systemen der US-Firma. Ein besonders heikles Beispiel: Jemand lud Aufnahmen von Überwachungskameras hoch, unter anderem aus der Umgebung von Standorten der chinesischen Armee, um das Verhalten einer bestimmten Person in den Videos analysieren zu lassen.
Der Nutzer ging davon aus, dass die chinesische KI-Software Kimi der Firma Moonshot die Anfrage ausführt. Tatsächlich reichte Kimi sie an Claude weiter. Laut dem Bericht bei t3n ließ Kimi allein in einem Zeitraum von zehn Tagen fast 300.000 Kundenanfragen von Claude beantworten und nutzte dafür ein Netzwerk aus 5.380 Fake-Accounts. Auch die bekanntere chinesische KI DeepSeek fiel mit solchen Tricks auf – in einem Fall wurden Anfragen mit Daten einer Behörde aus dem Umfeld des russischen Verteidigungsministeriums umgeleitet, inklusive gültiger Einwahldaten für eine Datenbank der russischen Regierung.
Anthropic macht den chinesischen Entwicklern zudem einen weiteren Vorwurf: Sie hätten in großem Stil amerikanische Software wie Claude und ChatGPT genutzt, um ihre eigenen Modelle anzulernen. Für diese in der Branche als Destillation bekannte Technik habe allein Kimi von Mai bis Juli 23 Millionen Mal auf Anthropic-KI zugegriffen. Die Vorwürfe sind auch deshalb brisant, weil die günstigen Modelle von DeepSeek und Moonshot seit Anfang des Vorjahres wiederholt für Kursbewegungen an der Börse sorgten. Zeitweise zweifelten Anleger an den Geschäftsaussichten amerikanischer KI-Labore, weil der Eindruck entstand, leistungsstarke KI lasse sich mit deutlich weniger Aufwand trainieren.
GPT-Apps als Kundenberater: Was geht, was nicht
Während KI in Missbrauchsfällen erstaunlich viel leistet, offenbart sie bei nützlichen, aber komplexen Aufgaben klare Schwächen. Eine Analyse bei t3n zeigt am Beispiel der Kundenberatung, wo generative Systeme heute stehen. Die technische Basis ist da: Durch Echtzeit-Datenanalyse können große Sprachmodelle Angebots-, CRM- und Kundendaten in Sekundenbruchteilen zusammenführen – Arbeit, für die Menschen mehrere Stunden bräuchten. Statt starrer Formulare führen die Systeme mehrstufige Gespräche, stellen Nachfragen und bohren nach, um verborgene Risiken oder Präferenzen zu erkennen.
Trotzdem zeigen Praxistests deutliche Mängel. FB Research untersuchte, wie sich per KI ein Hausrat-Versicherungsschutz finden lässt, und fand mehrere Schwachstellen: Die Bedarfsermittlung stoppt nach wenigen Standardfragen, individuelle Faktoren wie Vorschäden, Rabatte oder detaillierte Leistungsklauseln bleiben unberücksichtigt, und die empfohlenen Tarife entsprechen nicht den etablierten Bewertungsmaßstäben des Marktes. Dazu kommen veraltete Trainingsdaten statt aktueller Tarife sowie unzuverlässige Ergebnisse – identische Fragen führen zu unterschiedlichen Empfehlungen.
Diese Beobachtungen decken sich mit Forschung. Apple Research wies 2024 nach, dass LLMs bei mehrstufigen Denkketten schlagartig versagen können. Der Finance Agent Benchmark stellte bei komplexen Finanzanalysen 2025 eine Genauigkeit von unter 47 Prozent fest. Und eine Untersuchung von Meta FAIR und der University of Edinburgh zeigt, dass Denkfehler in Sprachmodellen als konkrete Fehlfunktionen im internen Netzwerk nachweisbar sind. Von außen lassen sie sich durch gezielte Eingriffe beheben, doch das Modell erzeugt den Text stur weiter, ohne den eigenen Logikfehler zu bemerken. Genau diese fehlende Fähigkeit zur kritischen Selbstkorrektur ist der Kern des Problems.
Warum GPT-Apps eine funktionale Hülle bleiben
OpenAI hat im Oktober 2025 eine Plattform für Apps direkt in ChatGPT eingeführt und sie im Juli 2026 zu einem neuen Plugin-System erweitert. Über sogenannte Skills lassen sich Drittanbieter-Tools wie Canva oder Booking nativ im Chat nutzen, ohne die Oberfläche zu verlassen. Erste Anwendungen sind bereits am Start: PetGPT von Wag vermittelt Tierkrankenversicherungen, die Allianz hat als erste Versicherung auf dem deutschen Markt einen Service direkt in ChatGPT integriert, Ausbildung.de informiert über Ausbildungsstellen, und der MSCI Connector bietet Zugriff auf KI-gestützte Datenfunktionen.
Der Knackpunkt: Diese Apps sind transaktionsorientiert. Sie fragen Nutzerdaten ab, laden Widgets, füllen Formulare aus und steuern APIs an. Das eigentliche Schlussfolgern, Abwägen von Graubereichen und strategische Denken liefert nicht die App, sondern das im Hintergrund laufende Sprachmodell. Die App ist dabei lediglich die funktionale Hülle. Für echte Beratung fehlen weiche Faktoren wie emotionale Intelligenz, Empathie und ein Gespür für den sozialen Kontext. Der KI-Experte Kai-Fu Lee beschreibt diese Grenze in seinem Buch „AI Superpowers“: Bei Mustererkennung ist KI dem Menschen überlegen, bei Aufgaben, die Vertrauen und Verantwortung verlangen, nicht. Eine KI kann Mitgefühl sprachlich simulieren, aber weder fühlen noch Verantwortung übernehmen.
ChatGPT für die Finanzbranche und neue Desktop-Apps
Parallel treibt OpenAI die Spezialisierung voran. Mit ChatGPT for Financial Services stellte das Unternehmen eine Variante vor, die integrierte Finanzdaten mit dem Modell GPT-6 Astra für Recherche, Modellierung und kundenfertige Unterlagen kombiniert. Das Angebot zielt klar auf professionelle Anwender in der Finanzbranche, etwa Analysten. Passend dazu meldete Google, dass Gemini künftig als eigene Desktop-App für Windows verfügbar ist – ein Zeichen, wie stark die Anbieter darauf drängen, ihre Assistenten fest in den Arbeitsalltag zu integrieren.
Bemerkenswert bleibt der Widerspruch: Auf der einen Seite wächst die Rechenleistung rasant, auf der anderen belegen Benchmarks, dass gerade bei anspruchsvollen Finanzanalysen die Trefferquote niedrig bleiben kann. Wer solche Werkzeuge einsetzt, sollte die Ergebnisse als Vorschlag behandeln, nicht als Entscheidung.
Was bedeutet das für dich?
Die Meldungen betreffen unterschiedliche Nutzergruppen – vom Gamer über den Versicherungskunden bis zum Entwickler. Ein paar konkrete Konsequenzen lassen sich trotzdem ziehen:
- Bei Spielen genauer hinschauen: Steam verlangt inzwischen Angaben zur KI-Nutzung. Wirf vor dem Kauf einen Blick auf diesen Abschnitt der Store-Seite, wenn dir wichtig ist, wie viel menschliche Arbeit in einem Titel steckt.
- KI-Beratung nur als ersten Schritt nutzen: Für Versicherungen, Finanzen, Recht oder Medizin liefern Chatbots eine grobe Orientierung, aber keine verlässliche Empfehlung. Individuelle Faktoren und aktuelle Tarife bleiben oft außen vor – hol dir bei wichtigen Entscheidungen menschlichen Rat.
- Antworten gegenprüfen: Da identische Fragen zu unterschiedlichen Ergebnissen führen können und Modelle Denkfehler unbemerkt weitertragen, solltest du kritische Auskünfte immer mit einer zweiten Quelle abgleichen.
- Sensible Daten zurückhalten: Der Anthropic-Bericht zeigt, wie Anfragen bei manchen Diensten heimlich an andere Anbieter weitergeleitet werden können. Lade keine vertraulichen Dokumente oder Zugangsdaten in KI-Tools hoch, deren Datenverarbeitung du nicht kennst.
- GPT-Apps als Zeitsparer sehen: Für Recherchen, Formularentwürfe und Datenabgleiche taugen die Werkzeuge gut. Begreife sie als Co-Piloten, die dich entlasten – nicht als Ersatz für Fachurteil.
Häufige Fragen
Ist ein komplett von KI erstelltes Spiel wie Juggernaut erlaubt?
Ja. Steam verlangt lediglich, dass Entwickler ihre KI-Nutzung offenlegen. Genau diese Offenlegung findet sich am Ende der Juggernaut-Store-Seite und benennt, dass Quellcode und Ingame-Effekte von KI stammen sowie große Teile von Grafik und Sound. Die Kritik der Community richtet sich nicht gegen einen Regelverstoß, sondern gegen den hohen KI-Anteil selbst.
Wie hat Anthropic den Missbrauch von Claude erkannt?
Über spezialisierte Sicherheitsklassifikatoren. Im Chikungunya-Fall schlug im Mai 2026 ein biologischer Sicherheitsklassifikator an, als ein Nutzer Hilfe bei einem Förderantrag zu Gain-of-Function-Forschung anfragte. Anthropic bewertet solche Fälle einzeln, entscheidet in Zweifelsfällen vorsorglich restriktiv und sperrt betroffene Konten. Die Erkenntnisse fließen in die Weiterentwicklung der Filter ein.
Was ist Destillation im KI-Kontext?
Damit ist gemeint, dass ein Anbieter ein fremdes, leistungsfähiges Modell nutzt, um das eigene KI-System anzulernen. Anthropic wirft chinesischen Entwicklern vor, in großem Umfang Claude und ChatGPT dafür verwendet zu haben – laut Bericht griff allein Kimi von Mai bis Juli 23 Millionen Mal auf Anthropic-KI zu. Auf diese Weise lassen sich Fähigkeiten kopieren, ohne selbst den vollen Trainingsaufwand zu betreiben.
Kann ein KI-Chatbot meinen Versicherungsberater ersetzen?
Nach den vorliegenden Analysen nicht bei komplexen Fragen. In einem Test zu Hausratversicherungen brach die Bedarfsermittlung nach wenigen Standardfragen ab, ließ individuelle Faktoren wie Vorschäden oder Leistungsklauseln außen vor und lieferte nicht reproduzierbare Ergebnisse. Für einen ersten Überblick kann KI helfen, für die eigentliche Empfehlung fehlen ihr Marktübersicht, aktuelle Daten und die Fähigkeit zur Selbstkorrektur.
Worin unterscheidet sich ChatGPT for Financial Services von der normalen Version?
Laut OpenAI kombiniert die Variante integrierte Finanzdaten mit dem Modell GPT-6 Astra und ist auf Recherche, Modellierung und kundenfertige Unterlagen ausgelegt. Sie richtet sich an professionelle Anwender in der Finanzbranche. Auch hier gilt allerdings die Einschränkung aus den Benchmarks: Bei komplexen Finanzanalysen kann die Genauigkeit von KI-Systemen deutlich unter der Marke liegen, die für belastbare Entscheidungen nötig wäre.
