Gemini schickt Wanderer in die Irre: Googles KI und ihre Grenzen

Ein Chatbot plant die Wanderung, sagt, was in den Rucksack gehört, und schätzt die nötige Wassermenge – für viele klingt das nach einer bequemen Abkürzung. In den Bergen Kaliforniens ist genau dieser Plan gründlich schiefgegangen. Drei junge Männer verließen sich bei ihrer Tour auf den Mount Shasta unter anderem auf Googles KI-System Gemini. Am Ende brauchte es eine mehrtägige Rettungsaktion, um sie sicher ins Tal zu bringen.

Der Fall, über den zunächst das Sheriff-Büro von Siskiyou County berichtete und den unter anderem t3n aufgriff, ist mehr als eine kuriose Randnotiz. Er führt vor Augen, wie schnell aus einem hilfreichen Werkzeug ein Risiko wird, wenn man KI-Antworten ungeprüft übernimmt. Und er fällt in eine Zeit, in der Google seine Chatbots und KI-Modelle immer tiefer in Alltag und Geräte drückt.

Was am Mount Shasta passierte

Der Mount Shasta ist ein rund 4.300 Meter hoher Vulkan im Norden Kaliforniens und ein anspruchsvolles Ziel für Bergsteiger. Die Gruppe brach laut dem Facebook-Beitrag des Sheriff-Büros am Sonntag um drei Uhr morgens auf. Vorgesehen war ein Aufstieg von etwa acht Stunden.

Für solche Touren gilt eine simple Sicherheitsregel: Wer den Gipfel bis zum Mittag nicht erreicht hat, sollte umkehren. Die drei Männer kletterten trotzdem weiter. Erst um 19 Uhr abends standen sie oben – Stunden nach dem Zeitpunkt, zu dem ein verantwortungsvoller Rückzug angesagt gewesen wäre. Beim Abstieg im Dunkeln verletzte sich dann einer von ihnen.

Damit war die Lage endgültig kritisch. Zwei Hubschrauber-Rettungsversuche scheiterten. Erst am Montag gelang es den Einsatzkräften, die Gruppe sicher zu evakuieren. Aus dem geplanten Tagesausflug war eine Tortur über mehrere Tage geworden.

Der entscheidende Fehler

Gegenüber einem Beamten vor Ort schilderten die Männer, worauf sie sich bei der Vorbereitung gestützt hatten. „Die Männer erzählten einem Sheriff-Beamten vor Ort, dass sie sich stark auf Googles KI-System Gemini verlassen hätten, um Informationen über die Route sowie darüber zu erhalten, was sie für ihre Tour einpacken sollten“, zitiert t3n aus dem Beitrag der Behörde.

Der Kern des Problems steckt im nächsten Satz: „Das war ein entscheidender Fehler, da Gemini ihnen riet, weit weniger Proviant und Wasser mitzunehmen, als ihre Gruppe benötigte – insbesondere, da aus dem geplanten achtstündigen Aufstieg eine mehrtägige Tortur wurde.“ Wer für acht Stunden packt, aber mehrere Tage draußen ist, gerät in ernste Not – und genau diese Fehleinschätzung verstärkte die ohnehin riskante Entscheidung, trotz Zeitverzugs weiterzuklettern.

Das Sheriff-Büro zog eine deutliche Lehre: Man solle sich bei der Reiseplanung niemals ausschließlich auf KI verlassen. Ein nüchterner Rat, der leicht klingt, aber im Alltag oft ignoriert wird – gerade weil Chatbots so souverän und überzeugend formulieren.

Warum Chatbots so selbstsicher danebenliegen

Der Vorfall ist kein Ausrutscher eines einzelnen Produkts, sondern eine Eigenschaft der Technik dahinter. Sprachmodelle wie Gemini, ChatGPT oder Claude erzeugen ihre Antworten, indem sie aus Text und gelernten Sprachmustern jeweils das nächste Wort berechnen, das am wahrscheinlichsten passt. Das macht sie stark beim Formulieren, Strukturieren und Erklären. Zu automatisch verlässlichen Faktenquellen macht es sie nicht.

Für Textentwürfe, Zusammenfassungen und Routinearbeit sind die Ergebnisse häufig brauchbar. Sobald es aber um konkrete Zahlen, sicherheitsrelevante Angaben oder harte Fakten geht – etwa die richtige Wassermenge für einen Vulkanaufstieg –, wird das Prinzip zum Risiko. Das Modell klingt genauso überzeugend, wenn es richtigliegt, wie wenn es sich irrt. Diese Diskrepanz zwischen Tonfall und Treffsicherheit ist es, die Menschen in falsche Sicherheit wiegt.

Hinzu kommt, dass die Verantwortung schnell verschwimmt. Wer einen erfahrenen Bergführer fragt, weiß, mit wem er es zu tun hat. Ein Chatbot dagegen liefert eine glatte, autoritativ wirkende Antwort ohne sichtbare Unsicherheit – und ohne den Kontext, den ein Mensch aus Erfahrung mitbringt.

Wie Google auf den Fall reagiert

Google selbst weist – wie die Anbieter von Claude und ChatGPT auch – ausdrücklich darauf hin, dass die eigenen Tools Fehler machen können und Antworten überprüft werden sollten. Im konkreten Fall der geretteten Bergsteiger erklärte das Unternehmen gegenüber Cnet, das „Trust and Safety“-Team wolle die von Gemini generierten Kletterempfehlungen untersuchen.

Bemerkenswert ist ein Detail aus dieser Reaktion: Es sei Google nicht gelungen, die beanstandeten Antworten zu reproduzieren. Das ist typisch für generative Systeme – identische Fragen können je nach Formulierung, Zeitpunkt und Modellversion unterschiedliche Ausgaben liefern. Genau das erschwert die Fehlersuche und macht es schwierig, eine einzelne problematische Antwort im Nachhinein festzunageln.

Ein Sprecher empfahl, bei Zweifeln stets die von Gemini angegebenen Quellen zu prüfen. Das ist ein sinnvoller Hinweis, verschiebt die Last der Kontrolle aber vollständig auf die Nutzer – und setzt voraus, dass diese im entscheidenden Moment auch tatsächlich nachschlagen.

KI wird zur Alltagsroutine – auch in Deutschland

Der Grund, warum solche Fälle brisant sind, liegt in der schieren Verbreitung der Werkzeuge. Laut einer Umfrage des TÜV-Verbands gaben im vergangenen Jahr 65 Prozent der Bürger an, generative KI-Tools schon ausprobiert zu haben oder aktiv zu nutzen. Bei den 16- bis 29-Jährigen setzen sogar mehr als neun von zehn im Alltag regelmäßig auf KI.

Und wofür? An erster Stelle steht die Informationssuche: 72 Prozent nutzen Chatbots laut der Erhebung, um Produkte zu vergleichen, aktuelle Nachrichten einzuordnen, Gesundheitsfragen zu klären oder eben eine Reise zu planen. Genau in diesen Anwendungsfeldern lauert die Gefahr, denn hier zählen korrekte Fakten – nicht nur ein flüssig geschriebener Absatz.

Die Reiseplanung ist dabei ein besonders heikles Terrain. Sie verbindet scheinbar harmlose Recherche mit realen Konsequenzen: Ausrüstung, Verpflegung, Zeitplan, Wetter. Fällt eine dieser Angaben falsch aus, kann das im Stadtturismus ärgerlich und im Hochgebirge lebensgefährlich sein.

Googles KI-Offensive: mehr Modelle, mehr Reichweite

Der Mount-Shasta-Fall fällt in eine Phase, in der Google seine KI-Aktivitäten sichtbar ausweitet. In der aktuellen Berichterstattung tauchen neue Modelle von OpenAI, Meta und Google gemeinsam auf – ein Zeichen dafür, wie eng sich die großen Anbieter im Wettlauf um leistungsfähigere Systeme bewegen. Je häufiger neue Modelle erscheinen und je aggressiver sie in Produkte eingebaut werden, desto wichtiger wird die Frage, wie verlässlich ihre Ausgaben im Alltag sind.

Google verankert seine Dienste dabei längst nicht nur im Browser oder in der Suche, sondern auch in vernetzten Geräten. Ein anschauliches Beispiel liefert der digitale Bilderrahmen Pexar VivKeep Pro, der über die Frameo-App eine Kalenderfunktion mitbringt. Diese lässt sich laut Hersteller unter anderem mit den Kalenderdiensten von Apple, Google und Microsoft synchronisieren – Googles Ökosystem reicht also bis auf den Küchentisch.

Der 12,5-Zoll-Rahmen mit 2K-Display im 4:3-Format zeigt, wie selbstverständlich Google-Konten heute im Hintergrund mitlaufen. Der Kalendereintrag, der auf dem Smartphone gepflegt wird, erscheint per Sync auch auf dem Bilderrahmen im Flur. Solche Verknüpfungen sind praktisch – und sie verdeutlichen zugleich, wie tief einzelne Plattformen im vernetzten Zuhause verankert sind, oft ohne dass Nutzer es bewusst wahrnehmen.

Das vernetzte Zuhause und die Frage nach Kontrolle

Parallel dazu wächst der Markt für Smart-Home-Technik, die auf offene Standards setzt. Ikea etwa bringt mit dem LED-Treiber Dubbelkisel für 22 Euro ein Matter-fähiges Netzteil nach Deutschland, das angeschlossene Beleuchtung nicht nur im Ikea-System, sondern auch in Plattformen wie Apple Home oder Amazon Alexa steuerbar macht. Bis zu acht Leuchten pro Treiber lassen sich damit ein- und ausschalten sowie dimmen, sofern deren gemeinsame Leistung 30 Watt nicht überschreitet.

Für die Anbindung setzt Ikea auf Matter over Thread und benötigt einen entsprechenden Border-Router, etwa den Dirigera-Hub oder einen HomePod. Das Beispiel zeigt einen Gegentrend zur KI-Zentralisierung: Standards wie Matter sollen Geräte herstellerübergreifend zusammenbringen und die Kontrolle stärker beim Nutzer belassen. Wer sein Zuhause plant, entscheidet zunehmend selbst, welche Dienste und Plattformen wo mitreden dürfen – eine Abwägung, die auch beim Einsatz von KI-Assistenten immer wichtiger wird.

Was bedeutet das für dich?

Der Fall am Mount Shasta ist ein Extrembeispiel, aber die Lehre lässt sich auf viele Alltagssituationen übertragen. KI-Chatbots sind gute Assistenten für Entwürfe und Struktur, aber keine verlässliche Instanz für sicherheitskritische Entscheidungen. Konkret heißt das:

• Prüfe Zahlen und Fakten nach. Wasser- und Proviantmengen, Öffnungszeiten, Wetter, Routen oder Gesundheitsangaben solltest du an einer zweiten, verlässlichen Quelle gegenchecken – etwa offiziellen Behörden, Wetterdiensten oder etablierten Fachportalen.
• Nutze die angegebenen Quellen. Wenn ein Chatbot Links oder Verweise liefert, öffne sie und lies nach. Fehlen belastbare Quellen, behandle die Antwort mit Vorsicht.
• Verlass dich bei Sicherheitsfragen nicht allein auf KI. Bei Touren, Reisen oder Gesundheitsentscheidungen zählt die Einschätzung von Menschen mit Erfahrung mehr als ein glatt formulierter Absatz.
• Plane Puffer ein. Gerade bei Outdoor-Aktivitäten gilt: lieber mehr Wasser, mehr Proviant und klare Umkehrzeiten. Der Chatbot kennt weder deine Kondition noch die aktuellen Bedingungen vor Ort.
• Behalte den Überblick über deine Dienste. Kalender-Sync, Sprachassistenten und Smart-Home-Anbindungen verknüpfen Google-, Apple- oder Microsoft-Konten oft im Hintergrund. Prüfe regelmäßig, welche Verbindungen du wirklich brauchst.

Kurz: Behandle KI wie einen eifrigen, aber unerfahrenen Praktikanten. Nützlich für Vorarbeiten – aber niemand, dem du blind das Kommando über eine riskante Situation überlässt.