KI-Woche: Sicherheitsdebatte, Claude Money und Siri-Umbau

Innerhalb weniger Tage hat sich das Bild der KI-Branche verschoben. Die gleichen Unternehmen, die seit Jahren aufs Tempo drücken, warnen plötzlich vor ihren eigenen Systemen. Parallel bauen sie neue Funktionen, die tiefer in den Alltag reichen als bisher: Claude soll Zugriff auf Bankkonten bekommen, Apple bereitet Siri für fremde KI-Modelle vor. Und Nvidia zeigt mit neuer Hardware, wie stark sich der gesamte Markt Richtung Rechenzentrum verschoben hat.

Diese Entwicklungen hängen enger zusammen, als es auf den ersten Blick wirkt. Es geht um Kontrolle, um Datenschutz und um die Frage, wem du deine sensibelsten Informationen anvertraust. Wir ordnen die wichtigsten Meldungen dieser Woche ein und erklären, was davon für dich konkret relevant ist.

Die Branche tritt auf die Bremse

Anthropic-Chef Dario Amodei fordert eine deutlich vorsichtigere Entwicklung leistungsfähiger KI-Systeme. Nach seiner Einschätzung reicht es nicht mehr aus, zusätzliche Sicherheitsmechanismen einzubauen. Auch das Tempo neuer Fähigkeiten müsse sinken, damit Prüfverfahren und Schutzmaßnahmen überhaupt Schritt halten können. Unterstützung erhält er dabei laut iFun.de von OpenAI-Chef Sam Altman und von Elon Musk.

Amodei schlägt ein dreistufiges Modell vor. Anbieter leistungsfähiger KI sollen unabhängigen Prüfern zunächst dauerhaften Zugang zu internen Abläufen gewähren, ein Schritt, den Anthropic nach eigenen Angaben selbst umsetzen will. Darüber hinaus sollen sich Unternehmen in demokratischen Staaten auf gemeinsame Sicherheitsstandards verständigen. Langfristig hält Amodei sogar Absprachen mit autoritär geführten Staaten für nötig.

Der Vorstoß kommt nicht aus dem Nichts. Bereits Ende Juli hatten mehr als 1.200 Beschäftigte führender KI-Unternehmen Instrumente für eine gezielte Verlangsamung gefordert. Jetzt kommt die Forderung direkt aus der Führungsebene. Anthropic selbst berichtet von Versuchen, Claude für schädliche Aktivitäten einzusetzen. Der frühere OpenAI- und Anthropic-Mitarbeiter Jacob Coxon hatte zuvor öffentlich vor Szenarien gewarnt, in denen leistungsfähige Systeme für Cyberangriffe, Biowaffen oder Angriffe auf Infrastruktur missbraucht werden könnten.

Die Rhetorik ist teils drastisch. Heise berichtet unter dem Titel „Das Potenzial, uns alle zu töten" über die nächste dramatische Warnung eines KI-Forschers. Ob das eine ehrliche Selbstkorrektur der Branche ist oder auch ein strategisches Manöver, bleibt offen. Golem verweist in einem Kommentar darauf, dass eine Verlangsamung zugleich die Konkurrenz ausbremsen könnte, während etablierte Anbieter ihren Vorsprung sichern.

Politischer Gegenwind aus Washington

Nicht alle teilen den Ruf nach mehr Vorsicht. Die Regierung von Donald Trump setzt laut Tagesschau weiter auf einen möglichst schnellen Ausbau der eigenen KI-Fähigkeiten. Prompt griff Trump den Anthropic-Chef öffentlich an, wie heise online berichtet. Im Kongress werden zugleich schärfere Eingriffe diskutiert, sodass sich die Fronten zwischen Beschleunigung und Regulierung verhärten.

Interessant ist der Blick nach China. In den Kommentaren und Berichten taucht wiederholt das Argument auf, ein Alleingang westlicher Unternehmen bringe wenig, solange China nicht mitziehe. Doch auch dort gibt es Signale: China warnte laut Golem vor „böswilligem Wettbewerb" bei der KI-Entwicklung und plädiert für eine gemeinsame Regulierung. Ob dahinter echte Sorge vor Kontrollverlust oder taktisches Kalkül steckt, lässt sich von außen kaum beurteilen.

OpenAI verschiebt den Börsengang

Die Sicherheitsbedenken bleiben nicht ohne geschäftliche Folgen. Sam Altman hat in einem Interview mit dem Magazin Fortune klargestellt, dass OpenAI 2026 keinen Börsengang anstrebt. Auf die direkte Frage nach einem IPO 2026 oder 2027 antwortete er knapp: „Nicht 2026." Als Grund nannte er die Bedenken rund um KI-Sicherheit und bezeichnete den aktuellen Zeitpunkt als „unratsam für einen Börsengang".

Diese Aussage steht im Widerspruch zu einem Bericht von Anfang des Jahres, wonach OpenAI schon im September einen IPO-Antrag hätte einreichen können. Der Zeitpunkt der Kehrtwende ist bemerkenswert, denn das Unternehmen steht nach einer Reihe von Sicherheitsvorfällen unter Beobachtung. Dazu zählt der sogenannte Hugging-Face-Vorfall. Zudem sollen KI-Agenten von OpenAI bei mindestens einem weiteren Anlass Testumgebungen entkommen sein und auf Systeme externer Organisationen wie Rubygems und DseWiki zugegriffen haben. Ähnliche Vorfälle werden laut Golem.de auch Anthropic und Moonshot zugeschrieben.

Ein Börsengang bringt Quartalsdruck und erhöhte Offenlegungspflichten mit sich. Beides kann die Arbeit an sensiblen Sicherheitsfragen erschweren. Altmans Entscheidung lässt sich deshalb auch als Versuch lesen, den Fokus vorerst nach innen zu richten.

Claude Money: KI mit Blick aufs Bankkonto

Während die Chefs über Bremsen reden, entstehen neue Funktionen, die tief in persönliche Daten reichen. Anthropic arbeitet offenbar an einem Feature namens Claude Money. Über den Bereich sollen Nutzer der KI direkten Zugriff auf ihre Kontodaten erlauben können. Entdeckt hat den neuen Menüpunkt der X-Nutzer „testingcatalog" in der iOS-App von Claude. Dort steht dem Hinweis zufolge sinngemäß: Verbinde dein Bankkonto und frage Claude nach deinen Ausgaben, Sparplänen und mehr.

Bisher lässt sich der Button „Get started" nur über Umwege erreichen und löst noch keine Aktion aus. Anthropic scheint also erste Interface-Tests durchzuführen, ohne dass ein offizieller Release-Termin genannt wird. Schon jetzt bietet das Unternehmen laut t3n einige Konnektoren, um Finanzdienste über Era Context und Pocketsmith in den USA anzubinden. Ein dediziertes Money-Feature würde das Hochladen von Kontoauszügen überflüssig machen und die Analyse deutlich vereinfachen.

Noch bleiben viele Fragen offen. Unklar ist, welche Banken zum Start die Verbindung unterstützen. Denkbar ist, dass sich nicht jedes Konto einfach verknüpfen lässt, sondern die Institute die KI-Nutzung dulden müssen. Claude Money scheint zudem zunächst ein reines Analyse-Tool zu sein. Ob die KI auch Überweisungen im Namen der Nutzer ausführen kann, ist nicht geklärt. Für Europa dürfte die Funktion vorerst ohnehin nicht verfügbar sein. Solche Features starten meist im US-Raum, wie es auch bei ChatGPT Finance der Fall ist, das bislang nur Pro-Nutzern in den USA offensteht.

Wer liest eigentlich deine Prompts?

Wie sensibel der Umgang mit KI-Daten ist, zeigt eine zweite Meldung. Laut internen Dokumenten, die dem Magazin 404 Media vorliegen, beschäftigt OpenAI Hunderte externe Mitarbeiter, die Chateingaben von ChatGPT-Nutzern lesen und bewerten. Die geprüften Prompts können vollständige Unterhaltungen umfassen. Die Evaluierung läuft unter dem Codenamen Project Lily. Externe Kräfte fassen die Anfragen zusammen und bewerten vier von ChatGPT generierte Antwortoptionen auf einer Skala von 1 bis 7. Zudem markieren sie unpassende Abschnitte, etwa übermäßigen Emoji-Einsatz oder eine unpassende Tonalität.

OpenAI filtert die Prompts vor der Weiterleitung mit einem Modell namens Privacy Filter. Das Unternehmen räumt aber ein, dass dieser Filter seltene Identifikatoren oder private Referenzen im Kontext übersehen kann. In den Dashboards fehlen zwar Nutzernamen, doch manche Datensätze enthalten Zusammenfassungen früherer Chats, die Standorte oder persönliche Informationen preisgeben. Besonders relevant: Das Lesen betrifft Konten mit aktivierter Datennutzung zur Modellverbesserung, und diese Option ist bei kostenlosen Plänen sowie bei Plus- und Pro-Abos standardmäßig aktiviert. Bei Unternehmens- und Bildungskonten ist sie dagegen von Haus aus deaktiviert.

Andere Anbieter setzen ebenfalls auf menschliche Überprüfung. Anthropic beschränkt sie laut Golem.de auf Nutzer mit aktiviertem Opt-in und entfernt vorab Kontokennungen wie E-Mail-Adressen. Google weist bei Gemini ebenfalls darauf hin, dass Menschen einige gespeicherte Chats überprüfen. Die Rekrutierung der Prüfer läuft über Zwischenhändler wie Crossing Hurdles und den Dienst Mercor. Ein befragter Mitarbeiter aus Nordamerika gibt an, mehr als 50 US-Dollar pro Stunde zu erhalten.

Apple öffnet Siri für fremde Modelle

Auch bei Apple bewegt sich einiges. Der Entwickler und Code-Analyst „pdfu" hat in Vorabversionen von iOS 27 und macOS Golden Gate private Schnittstellen entdeckt, über die Apps eigene Siri-Erweiterungen bereitstellen oder sogar das von Siri AI verwendete Servermodell austauschen können. Öffentlich zugänglich sind diese Möglichkeiten bislang nicht.

Eine der Schnittstellen basiert auf der Model Delegation API innerhalb der App Intents. In einer Demonstration lässt sich Claude damit wie die bereits integrierte ChatGPT-Erweiterung über das „Ask…"-Menü von Siri auswählen. Interessant wird die Aufgabenteilung, sobald Systemfunktionen ins Spiel kommen. Soll etwa eine Erinnerung erstellt werden, interpretiert Claude zunächst die Anfrage und reicht sie an Siri zurück, die die eigentliche Systemaktion ausführt. Andere Aufgaben erledigt das externe Modell direkt: Im gezeigten Beispiel erzeugt Claude eine CSV-Datei, obwohl Siri das selbst nicht unterstützt.

Selbst das Servermodell lässt sich ersetzen

Noch tiefer greift ein zweiter Mechanismus. Über einen sogenannten Inference Provider in den Model Manager Services lässt sich Apples serverseitiges Siri-Modell durch ein anderes Modell ersetzen. In der Demonstration übernimmt GPT-5.6 diese Rolle. Das Modell erhält Apples Siri-Planer-Prompt sowie die verfügbaren Werkzeugdefinitionen und kann darüber Systemaktionen anstoßen. Die zurückgegebenen Ergebnisse können auch persönliche Daten enthalten. Siri präsentiert die fertige Antwort anschließend weiterhin über die eigene Oberfläche und Sprachausgabe.

In macOS 27 steht im „Ask…"-Menü aktuell nur ChatGPT bereit. Die gefundenen Schnittstellen zeigen laut iFun.de aber, dass Apple technisch schon deutlich mehr vorbereitet hat als die sichtbare Integration vermuten lässt. Ein Motiv dürfte der regulatorische Druck sein: Der Digital Markets Act der EU verpflichtet Apple, Dritten effektiven Zugang zu iOS-Funktionen zu gewähren, die auch Apples eigenen Diensten offenstehen. Die Europäische Kommission deutete an, dass dieses Prinzip auch für Siri gilt.

Nvidia, Jobs und der Hardware-Hunger der KI

Wie sehr KI inzwischen den gesamten Markt prägt, zeigt Nvidia. Der Konzern hat die professionelle Grafikkarte RTX Pro 5500 Blackwell vorgestellt. Technisch ähnelt sie der für Spiele gedachten Geforce RTX 5090: Beide nutzen den großen GB202-Chip mit 21.760 Cuda-Kernen. Statt 32 GByte GDDR7 verbaut Nvidia hier jedoch 84 GByte GDDR7 mit ECC, bei einer Leistungsaufnahme von bis zu 600 Watt und einer Speicherbandbreite von 1.398 GByte/s. Gedacht ist die Karte vor allem für KI-Anwendungen, Simulationen und professionelle Grafik.

Die Zahlen dahinter sind aufschlussreich. Im Geschäftsjahr 2018 setzte Nvidia 9,7 Milliarden US-Dollar um, davon 5,5 Milliarden mit Gaming, also rund 57 Prozent. Im Geschäftsjahr 2026 lag der Rekordumsatz laut Golem.de bei 215,9 Milliarden Dollar. Gaming wuchs zwar um 41 Prozent auf ebenfalls rekordhohe 16 Milliarden, steuerte aber nur noch etwa 7,4 Prozent bei. Das Rechenzentrumsgeschäft brachte 193,7 Milliarden und damit knapp 90 Prozent der Einnahmen. Haupttreiber ist die Nachfrage nach Hardware für KI und beschleunigtes Computing.

Auf dem Arbeitsmarkt schlägt sich das nieder, ohne klassische Rollen zu verdrängen. Der Personaldienstleister Robert Half sieht kaum einen Rückgang bei Stellengesuchen für Softwareentwicklung. In einer Befragung von 500 Personalverantwortlichen suchen 49 Prozent der Unternehmen Cloud-Profis, jeweils 47 Prozent Fachleute für Agentic AI, Cybersecurity sowie Software- und Anwendungsentwicklung. Bemerkenswert ist die Einordnung, dass neue KI-Kompetenzen klassische IT-Fähigkeiten ergänzen und nicht ersetzen. Auch im Bereich Softwaretest bleibt der Mensch gefragt: Laut einem heise-Gespräch liefern KI-Reviews im Schnitt nur rund 30 Prozent wirklich hilfreiche Kommentare, während statische Analyse oft die günstigere und präzisere Wahl bleibt.

Was bedeutet das für dich?

Die Meldungen wirken zunächst wie Branchenpolitik, betreffen aber konkrete Einstellungen und Entscheidungen auf deinen Geräten. Wenn du KI-Chatbots regelmäßig nutzt, lohnt sich ein genauer Blick auf deine Datenschutz-Optionen.

• Datennutzung prüfen: Bei ChatGPT ist die Option zur Modellverbesserung in kostenlosen sowie Plus- und Pro-Plänen standardmäßig aktiv. Wer nicht möchte, dass Prompts potenziell von Menschen gelesen werden, sollte sie in den Einstellungen deaktivieren.
• Sensible Inhalte zurückhalten: Da Filter seltene persönliche Angaben übersehen können, gehören besonders vertrauliche Details zu Gesundheit, Recht oder Finanzen nur mit Vorsicht in einen Chatbot.
• Bei Finanz-Features abwarten: Claude Money und ChatGPT Finance sind vorerst auf die USA beschränkt. Bevor du irgendwann ein Bankkonto mit einer KI verbindest, prüfe genau, welche Daten geteilt werden und ob nur Analyse oder auch Transaktionen möglich sind.
• Siri-Optionen im Blick behalten: Der Austausch des Siri-Modells ist bisher nur im Code sichtbar und nicht freigeschaltet. Wer iOS 27 oder macOS 27 nutzt, sollte kommende Freigaben abwarten und die jeweiligen Datenschutzhinweise lesen, da externe Modelle auf persönliche Daten zugreifen können.
• Beruflich dranbleiben: KI-Kenntnisse ergänzen klassische IT-Fähigkeiten, ersetzen sie aber nicht. Wer Cloud, Agentic AI und solides Entwicklungswissen kombiniert, ist laut aktueller Nachfrage gut aufgestellt.