Künstliche Intelligenz steckt inzwischen in Produkten, an die vor wenigen Jahren niemand gedacht hätte – von der Zahnbürste bis zur Wanderplanung. Gleichzeitig häufen sich die Berichte, in denen KI-Systeme spektakulär versagen oder erstaunliche Leistungen zu absurden Kosten liefern. Zwischen Marketing-Versprechen und realer Zuverlässigkeit klafft eine Lücke, die für Nutzer schnell teuer oder sogar gefährlich werden kann.

Ein Blick auf die aktuellen Meldungen zeigt ein widersprüchliches Bild: Prüforganisationen wollen Vertrauen schaffen, Unternehmer preisen KI als Jobmotor, Konzerne streiten über den Sinn smarter Gadgets, und im Hintergrund tobt ein geopolitischer Wettlauf um Chips und Sprachmodelle. Wir ordnen die wichtigsten Entwicklungen ein – und zeigen, worauf du im Umgang mit KI achten solltest.

Wenn KI-Ratschläge lebensgefährlich werden

Wie schnell blindes Vertrauen in einen Chatbot zum Problem wird, zeigt ein Fall aus Kalifornien. Drei Bergsteiger mussten am Mount Shasta, einem 4.317 Meter hohen Berg im Norden des Bundesstaates, von der Bergwacht gerettet werden. Beim Abstieg berichteten sie, dass sie ihre gesamte Tour inklusive Packliste von Googles KI Gemini hätten planen lassen. Das Ergebnis: Die KI kalkulierte die Zeit für den beschwerlichen Aufstieg zu knapp. Statt am Nachmittag erreichte die Gruppe den Gipfel erst am Abend und musste eine Nacht im Freien verbringen.

Der Weg auf den Gipfel ist fast 13 Kilometer lang, dabei sind knapp 2.000 Höhenmeter zu überwinden. Laut dem Bericht von Golem.de, der sich auf den San Francisco Chronicle beruft, folgte die Gruppe zusätzlich einer vorgeschlagenen Route der App Alltrails, die einem Bergführer zufolge gar kein echter Trail war. Als beim Abstieg der Smartphone-Akku zur Neige ging und ein mitgebrachtes Powerpack versagte, verirrten sich die drei und mussten schließlich die Bergrettung rufen. Am nächsten Morgen wurden sie erschöpft, hungrig und durstig gefunden – ohne passende Kleidung und ohne geeignete Ausrüstung.

Besonders brisant: Gemini hatte den Bergsteigern geraten, nur leichte, kohlenhydrathaltige Nahrung mitzunehmen. Die Behörden werten die KI-Planung als den Schlüsselfaktor für das Scheitern der Tour. Die zuständigen Bergretter berichten von einer Zunahme solcher Fälle, in denen sich Wanderer auf fehlerhafte KI-Informationen verlassen – etwa auf KI-generierte Karten voller Fehler.

Der Fall bringt ein grundsätzliches Problem auf den Punkt. KI-Anbieter weisen im Kleingedruckten meist darauf hin, dass Ergebnisse falsch sein können und überprüft werden sollten. Im Marketing der Modelle taucht dieser Hinweis dagegen selten auf – dort werden die Tools als universelle, verlässliche Helfer präsentiert. Genau diese Diskrepanz führt dazu, dass Menschen einem Chatbot Entscheidungen anvertrauen, die eigentlich Erfahrung, Ortskenntnis und Vorsicht erfordern.

Der TÜV will Vertrauen zertifizieren

An dieser Vertrauensfrage setzt der TÜV an. Wie der TÜV-Verband in Berlin mitteilte, erproben die TÜV-Organisationen derzeit ein KI-Zertifizierungsprogramm mit Pilotpartnern. Bereits Ende des Jahres könnten diese Zertifizierungen schrittweise eingeführt werden. Das Ziel: Anwender sollen künftig auf einen Blick erkennen, wie vertrauenswürdig eine KI-Anwendung ist.

Geplant ist laut t3n ein dreistufiges Modell, dessen Prüfungen sich in Umfang, Methodik und Tiefe unterscheiden. Welche Stufe zum Einsatz kommt, hängt vom jeweiligen Anwendungsfall ab:

  • Die erste Zertifizierung richtet sich an Systeme, die nicht in die Hochrisikokategorie des europäischen AI Acts fallen.
  • Die zweite Stufe steht allen Systemen offen und umfasst eine KI-spezifische Risikobewertung sowie die Prüfung, ob der Hersteller die Anforderungen umgesetzt hat.
  • Bei der dritten Zertifizierung werden ausgewählte Eigenschaften eines KI-Systems durch unabhängige Tests überprüft.

Warum das nötig ist, belegt eine Studie des Verbands: 79 Prozent der Deutschen befürchten unkalkulierbare Risiken durch KI. Und selbst unter den Menschen, die KI regelmäßig nutzen, glauben nur 53 Prozent, dass die Ergebnisse von Chatbots korrekt sind. TÜV-Digitalisierungsexperte Marc Fliehe formuliert das Problem so, dass Unternehmen gegenüber Kunden und Partnern nachweisen müssten, dass ihre KI-Systeme nicht nur leistungsfähig, sondern auch zuverlässig und sicher funktionieren. Ein Siegel allein löst technische Schwächen zwar nicht – aber es könnte einen Anreiz schaffen, KI-Produkte transparenter und robuster zu bauen.

KI in Alltagsprodukten: Sinnvoll oder Selbstzweck?

Wie schnell die KI-Euphorie ins Absurde kippen kann, führt gerade ein Schlagabtausch zweier Konzerne vor. Dyson hat mit der Camerajet eine Zahnbürste mit eingebauter Kamera vorgestellt. Das Gerät nutzt laut Hersteller eine integrierte Kamera mit 100.000 Pixeln, die 28 Bilder pro Sekunde analysiert. Erkennt das System – von Dyson als "Gap Optical Targeting" bezeichnet – einen Zahnzwischenraum, löst es innerhalb von 100 Millisekunden einen gezielten Strahl Mundspülung aus, um die Reinigung zu verbessern.

Colgate Großbritannien ließ sich die Vorlage nicht entgehen und spottete in einem Instagram-Beitrag über den Konkurrenten. Der Kernpunkt: Die eigene, herkömmliche Zahnbürste koste 495 britische Pfund weniger als das KI-Modell. Sie biete ein "fortschrittliches System zur Erkennung und Entfernung von Lebensmittelpartikeln", ganz ohne hochauflösende Kamera. Mit sichtlich ironischem Unterton pries Colgate weitere "Features" an: Die Bürste sei anatomisch so gestaltet, dass die Hand als Schnittstelle diene, biete unbegrenzte Geschwindigkeitseinstellungen und komme ohne Updates, ohne App und ohne Abonnement aus.

Hinter dem Spott steckt laut Golem.de auch ein technischer Seitenhieb: Die Dyson-Zahnbürste soll mit einer speziellen, besonders schaumarmen Zahncreme verwendet werden, damit die Kamera überhaupt etwas erkennen kann. Colgate betont dagegen die "reichhaltige, schnelle Schaumbildung" der klassischen Variante. Der Fall steht sinnbildlich für eine Debatte, die weit über Zahnbürsten hinausgeht: Nicht jedes Gerät wird durch eine eingebaute KI besser – manchmal entsteht nur zusätzliche Komplexität, die Wartung, Kosten und Fehlerquellen erhöht.

Was moderne KI-Modelle leisten – und was sie kosten

Dass KI-Systeme technisch enorm leistungsfähig geworden sind, zeigt ein aufschlussreiches Experiment. Das seit dem 3. September 2026 verfügbare Spitzenmodell GPT-6 Astra von OpenAI hat den Puzzleklassiker Portal von Valve weitgehend selbstständig durchgespielt. Das ist deshalb bemerkenswert, weil die KI dabei dreidimensionale Räume erfassen, Rätsel verstehen, Lösungswege planen und ihre Spielfigur steuern musste.

Ein Nutzer mit dem Pseudonym Cozyblaze verband Astra über das Model Context Protocol (MCP) mit einer modifizierten Spielversion. Die KI erhielt Screenshots und Positionsdaten, analysierte die Situation und schickte anschließend Bewegungen an das Spiel. Während Astra nachdachte, wurde Portal angehalten – erst danach führte es die Eingaben aus. Genau das macht den Versuch interessant: Das Modell folgt keinem festen Skript, sondern leitet aus dem aktuellen Zustand immer wieder ab, was als Nächstes zu tun ist.

Der Haken steckt in der Rechnung. Astra schaffte den kompletten Durchlauf, verursachte dabei aber API-Kosten von 571,18 US-Dollar und benötigte 3.336 Werkzeugaufrufe. Insgesamt zog sich das Experiment über fast 24 Stunden – die Denkpausen wurden im veröffentlichten Video herausgeschnitten. Zum Vergleich: Ein Mensch kauft Portal für wenige Euro und spielt es an einem Nachmittag durch, wie Golem.de anmerkt.

Solche Modelle nennt man Agenten: Sie beantworten nicht nur Fragen, sondern können eine Kette von Handlungen abarbeiten, Programme bedienen, Code schreiben und externe Werkzeuge aufrufen. Das Portal-Experiment demonstriert diesen Ansatz anschaulich – zeigt aber zugleich die aktuelle Grenze. Es ist weniger eine praktische Anwendung als ein Beleg dafür, was ein allgemein einsetzbares KI-Modell inzwischen leisten kann. Einschränkend gilt: Portal ist fast 20 Jahre alt und im Netz umfangreich dokumentiert. Astra suchte zwar während des Versuchs nicht nach Lösungen, könnte aber Wissen über das Spiel aus seinen Trainingsdaten mitbringen. Wie gut das Modell ein völlig unbekanntes Spiel meistern würde, lässt sich daraus nicht ableiten.

KI und der Arbeitsmarkt: Mark Cubans Rat an Jobsuchende

Während die einen vor Jobverlusten warnen, sieht Investor Mark Cuban vor allem Chancen. Der US-Unternehmer, der seine erste Firma mit 32 Jahren für sechs Millionen Dollar und wenige Jahre später ein weiteres Unternehmen für knapp sechs Milliarden Dollar verkaufte, rät Jobsuchenden zu einem ungewöhnlichen Schritt: Statt sich nur bei großen Konzernen zu bewerben, stünden die Chancen bei kleineren Firmen deutlich besser.

Seine Begründung stützt sich auf KI. Kleine Unternehmen schaffen laut Cuban jährlich rund 60 Prozent der neuen Jobs, und dieser Anteil werde weiter wachsen. Der Grund: KI-Tools versetzen kleine Firmen in die Lage, es mit größeren Wettbewerbern aufzunehmen. Oft fehle diesen Unternehmen aber die Expertise, KI sinnvoll einzusetzen. Genau hier könnten junge Berufseinsteiger mit ihrem Wissen aushelfen.

Kleine Unternehmen und KI: Diese Vorteile können Jobsuchende laut Mark Cuban jetzt ausnutzen
Foto: t3n

Cuban weiß, dass KI zwiespältig ist. Wie t3n berichtet, benannte er in der Vergangenheit fünf Berufsgruppen, die durch KI-Tools besonders bedroht sind: Büroangestellte ohne langjährige Erfahrung, Softwareentwickler, Mitarbeiter im Kundenservice, Datenanalysten sowie unterstützende Kräfte in Finanzen und Recht. Zugleich argumentiert er, dass Unternehmen KI für Aufgaben nutzen, für die sie zuvor keine Zeit hatten – und dass daraus völlig neue Jobs entstehen.

Seine übrige Haltung ist typisch für den Silicon-Valley-Habitus: Jobs sieht er als bezahlte Lernmöglichkeiten, dem Konzept Work-Life-Balance steht er skeptisch gegenüber, wenn man in seinem Feld ganz nach oben will. Und beim ganz großen Erfolg spielt für ihn am Ende auch Glück eine Rolle. Für Berufseinsteiger bleibt vor allem die praktische Erkenntnis: KI-Kompetenz ist derzeit ein Türöffner, gerade dort, wo sie noch fehlt.

Der geopolitische Wettlauf – und Deutschlands Rolle

Hinter den einzelnen Produkten und Experimenten steht ein globaler Machtkampf um Rechenleistung. Der chinesische KI-Entwickler DeepSeek treibt die technologische Entkopplung von den USA voran und setzt für ein neues Rechenzentrum auf heimische Hardware: Laut heise online bestellt das Unternehmen 160.000 KI-Chips von Huawei. Der Schritt zeigt, wie stark der Zugang zu Chips inzwischen zum strategischen Faktor geworden ist – und wie China versucht, sich unabhängiger vom westlichen Angebot zu machen.

Im internationalen Vergleich fällt Deutschland dabei zurück. In einem Meinungsbeitrag zeichnet Golem.de-Autor Tim Elsner ein nüchternes Bild: An der Spitze des KI-Wettlaufs stehen die USA mit Anthropic, OpenAI und Grok, knapp gefolgt von China mit Anbietern wie MoonshotAI und DeepSeek. Danach klaffe eine große Lücke, ehe das Mittelfeld mit Frankreichs Mistral folge. Deutschland komme erst weit dahinter.

Der Autor benennt konkrete Gründe. Für konkurrenzfähige große Sprachmodelle brauche es enorme Kapitalmengen – das Training aktueller Modelle im Billionen-Parameter-Bereich koste einen fast dreistelligen Millionenbetrag. Geförderte deutsche Projekte wie Teuken oder Soofi, letzteres mit über 25 Millionen Euro Fördersumme, landen damit finanziell nur im unteren Mittelfeld, zumal solche Beträge auch Personalkosten abdecken müssen. Hinzu komme eine Wirtschaftskultur, die auf Planbarkeit und Risikoaversion setzt statt auf das "Move fast and break things" des Silicon Valley – für ein Feld, das sich fast täglich neu erfindet, ein Nachteil.

Die oft beschworenen Standortnachteile relativiert der Beitrag allerdings teilweise. Personal sei in Deutschland deutlich günstiger als im Silicon Valley, Rechenleistung lasse sich mieten, und mit dem mit modernen KI-Chips ausgestatteten Rechenzentrum in Jülich stehe Deutschland gar nicht schlecht da. Selbst die notorisch hohen Energiepreise fielen im Vergleich zu den sonstigen Kosten kaum ins Gewicht. Die Kernthese: Statt den Großen bei den Sprachmodellen hinterherzulaufen, liege Deutschlands Zukunft in Nischen, Forschung und Anwendung. Außerhalb der LLMs sei man etwa mit Black Forest Labs bei der Bild- und Videogenerierung durchaus konkurrenzfähig. Details dazu stehen im Meinungsbeitrag auf Golem.de.

Was bedeutet das für dich?

Die aktuellen Meldungen zeichnen ein deutliches Muster: KI ist mächtig, aber weder unfehlbar noch immer sinnvoll eingesetzt. Für den Alltag lassen sich daraus einige konkrete Konsequenzen ziehen.

  • Vertraue keiner KI-Auskunft bei sicherheitskritischen Entscheidungen blind. Ob Bergtour, Medikamente oder Reiseplanung – prüfe wichtige Angaben immer mit einer verlässlichen zweiten Quelle. Der Fall am Mount Shasta zeigt, wie schnell falsche Zeitangaben oder Packlisten gefährlich werden.
  • Achte auf das Kleingedruckte. KI-Anbieter weisen fast immer darauf hin, dass Ergebnisse fehlerhaft sein können. Nimm diese Hinweise ernst, auch wenn das Marketing anderes suggeriert.
  • Hinterfrage KI in Produkten. Nicht jede eingebaute KI bringt echten Mehrwert. Frage dich, ob eine Funktion ein reales Problem löst oder nur zusätzliche Kosten, Apps und Abhängigkeiten schafft.
  • Baue KI-Kompetenz auf. Wenn du auf Jobsuche bist, kann der sichere Umgang mit KI-Tools ein Vorteil sein – gerade bei kleineren Unternehmen, denen laut Mark Cuban oft das nötige Know-how fehlt.
  • Behalte kommende Siegel im Blick. Sobald der TÜV seine KI-Zertifizierungen einführt, kannst du ein solches Prüfzeichen als Orientierung nutzen – als Zusatzinformation, nicht als Garantie.
Kurz beantwortet

Häufige Fragen

Kann ich mich bei einer Wanderung auf KI-Planung verlassen?

Nur mit großer Vorsicht. Der Fall am Mount Shasta zeigt, dass Chatbots wie Gemini Wegzeiten unterschätzen und unpassende Ausrüstungs- oder Verpflegungstipps geben können. Die Behörden werteten die KI-Planung dort sogar als Schlüsselfaktor für das Scheitern der Tour. Verlasse dich bei Touren im Gebirge auf offizielle Wetterdienste, aktuelle Karten, erfahrene Bergführer und eine ordentliche Ausrüstung – KI kann höchstens eine erste grobe Orientierung liefern.

Was bringt eine TÜV-Zertifizierung für KI?

Sie soll für Anwender und Unternehmen erkennbar machen, wie zuverlässig und sicher ein KI-System arbeitet. Der TÜV plant ein dreistufiges Modell, das je nach Anwendungsfall unterschiedlich tief prüft – von Systemen außerhalb der Hochrisikokategorie des AI Acts bis zu unabhängigen Tests einzelner Eigenschaften. Erste Zertifizierungen könnten bereits Ende des Jahres schrittweise eingeführt werden. Ein Allheilmittel ist das nicht, aber ein Anhaltspunkt für mehr Transparenz.

Warum hat GPT-6 Astra so viel Geld verbraucht, um ein Spiel durchzuspielen?

Weil das Modell für Portal keinen festen Ablauf abspielte, sondern jede Situation neu analysieren, Lösungswege planen und Aktionen ausführen musste. Das erforderte 3.336 Werkzeugaufrufe und rund 24 Stunden, was API-Kosten von 571,18 US-Dollar verursachte. Solche agentischen Aufgaben sind rechenintensiv – das Experiment demonstriert eher die technischen Möglichkeiten als eine wirtschaftlich sinnvolle Anwendung.

Kostet KI Arbeitsplätze oder schafft sie welche?

Beides, je nach Perspektive. Mark Cuban benennt fünf Berufsgruppen, die durch KI-Tools besonders bedroht sind, darunter Büroangestellte ohne lange Erfahrung, Softwareentwickler und Mitarbeiter im Kundenservice. Zugleich argumentiert er, dass KI kleinen Unternehmen hilft, wettbewerbsfähig zu werden, und dadurch neue Jobs entstehen. Gefragt sind vor allem Menschen, die KI kompetent einsetzen können.

Hat Deutschland bei KI noch eine Chance?

Bei großen Sprachmodellen ist der Rückstand auf die USA und China erheblich, vor allem wegen des enormen Kapitalbedarfs und einer eher risikoscheuen Wirtschaftskultur. Laut dem Golem-Meinungsbeitrag liegen die realistischen Chancen deshalb weniger im Kopieren der Großen als in spezialisierten Nischen, in Forschung und Anwendung. In Bereichen wie der Bild- und Videogenerierung ist Deutschland mit Anbietern wie Black Forest Labs bereits besser aufgestellt.