KI zwischen Kontrolle und Kommerz: Was jetzt passiert

Die Debatte über künstliche Intelligenz läuft aktuell auf mehreren Ebenen gleichzeitig. Auf der einen Seite bringen OpenAI und Anthropic mit GPT-6 und Claude Opus 5.5 die nächste Modellgeneration auf den Markt, während Unternehmen wie SAP KI-Agenten mitten in die Geschäftsprozesse von Großkonzernen einbauen. Auf der anderen Seite wächst der politische Druck: Eine internationale Initiative fordert verpflichtende Sicherheitstests, und in Europa mehren sich die Stimmen, die vor einer zu großen Abhängigkeit von US-Technologie warnen.

Wer die Meldungen der vergangenen Tage nebeneinanderlegt, erkennt ein Muster. KI ist längst kein Laborthema mehr, sondern durchdringt Verwaltung, Industrie und Alltag. Genau deshalb rücken jetzt Fragen nach Kontrolle, Verantwortung und Unabhängigkeit in den Vordergrund. Dieser Überblick ordnet die wichtigsten Entwicklungen ein.

Staaten fordern verpflichtende Sicherheitstests

Der spürbarste Vorstoß auf politischer Ebene kommt aus dem Norden Europas. Finnland und Norwegen haben eine Initiative namens „Call for Control of Frontier AI Models“ angestoßen, die sich gezielt an sogenannte Frontier-Modelle richtet – also die besonders leistungsfähigen, universell einsetzbaren KI-Systeme, wie sie von OpenAI oder Anthropic entwickelt werden. Deutschland unterstützt die Erklärung, wie iFun.de berichtet.

Das zentrale Argument der Unterzeichner: Die Fähigkeiten dieser Systeme könnten schneller wachsen als die Möglichkeiten, die daraus entstehenden Risiken zuverlässig zu beherrschen. Deshalb sollen KI-Unternehmen transparente Sicherheitskonzepte entwickeln und ihre stärksten Modelle vor der Veröffentlichung verpflichtend testen lassen. Wichtig dabei: Auch unabhängige Experten sollen ausreichend Zugriff bekommen, um Risiken selbst bewerten zu können – nicht nur die Hersteller.

Als konkrete Gefahrenbeispiele nennt die Erklärung KI-Systeme, die Schutzmaßnahmen umgehen, Sicherheitslücken ausnutzen oder sich unberechtigt Zugang zu realen Computersystemen verschaffen. Das sind keine abstrakten Science-Fiction-Szenarien, sondern Fähigkeiten, die bei zunehmend autonom agierenden Modellen praktisch relevant werden. Die beteiligten Regierungen wollen deshalb gemeinsame Standards entwickeln und schwere Sicherheitsvorfälle länderübergreifend melden.

Eine internationale Kontrollinstanz im Gespräch

Langfristig geht der Vorstoß noch weiter. Die UN-Mitgliedstaaten sollen prüfen, ob sich eine internationale Institution schaffen lässt, die gemeinsame Standards festlegt, deren Einhaltung überprüft und bei Überschreiten bestimmter Leistungsgrenzen Gespräche zwischen Staaten einleitet. Unterstützt wird die Erklärung unter anderem von Kanada, Australien, Dänemark, Spanien, Singapur und den Vereinigten Arabischen Emiraten sowie von der Europäischen Kommission.

Der entscheidende Haken: Die USA und China – die beiden mit Abstand relevantesten Player im Rennen um die leistungsfähigsten Modelle – gehören bislang nicht zu den Unterzeichnern. Zudem sind die Forderungen rechtlich nicht bindend. Sie markieren eher eine politische Absichtserklärung als eine durchsetzbare Regel. Trotzdem zeigen sie, dass die Diskussion um das Tempo der KI-Entwicklung zunehmend auf internationaler Ebene geführt wird. Die Kernbotschaft der Unterzeichner lautet, dass künstliche Intelligenz auch bei weiter steigenden Fähigkeiten unter menschlicher Aufsicht bleiben soll.

KI-Agenten drängen mitten in die Geschäftsprozesse

Während die Politik über Kontrollmechanismen debattiert, schaffen Unternehmen Fakten. Ein aufschlussreiches Beispiel liefert SAP. Der Softwarekonzern schickt sogenannte Forward Deployed Engineers – kleine Entwicklerteams aus drei bis zehn Top-Programmierern plus externen Beratern – direkt zu großen Kunden, um dort KI-Agenten zu bauen und zu implementieren. Das bestätigte SAP-Sprecher Björn Emde gegenüber Golem.de teilweise.

Die Teams arbeiten über mehrere Monate vor Ort bei Konzernen wie Bayer, H&M, Toyota oder Bosch. Innerhalb von sechs bis neun Wochen entwickeln sie erste einsatzfähige KI-Agenten, die mit den Daten der Firmen arbeiten und in deren bestehende IT-Systeme eingebettet werden. Bei Bayer entstand so ein Werkzeug, das ausstehende Rechnungen – etwa von Landwirten in Lateinamerika – automatisiert und schneller einfordert. Beim Modekonzern H&M bauen die Entwickler KI-Systeme für die Retourenabwicklung, die vorab berechnen, ob bei einem Umtausch ein passendes Ersatzstück in der jeweiligen Filiale vorrätig ist.

Interessant ist die Geschäftslogik dahinter: Die Ergebnisse gehören vollständig SAP. Bewährte Lösungen werden anschließend in SAP-Produkte integriert und als standardisierte, skalierbare Angebote breiter verfügbar gemacht. Aus einem individuellen Kundenprojekt wird also Produkt-Know-how für den gesamten Markt. Bis Jahresende will SAP nach eigenen Angaben mehr als 50 sogenannte Joule Assistants bereitstellen, die auf ein geplantes Netzwerk von über 200 spezialisierten KI-Agenten zugreifen und Geschäftsprozesse über Funktionsgrenzen hinweg automatisieren.

Warum SAP unter Druck steht

Der Vorstoß kommt nicht von ungefähr. SAP fürchtet, zur austauschbaren Passiv-Datenbank zu werden, während die wertschöpfenden, intelligenten Prozesse von den KI-Agenten der Konkurrenz übernommen werden. Etablierte Rivalen wie Salesforce mit Agentforce, Microsoft und ServiceNow sowie Datenspezialisten wie Palantir und Automatisierungs-Start-ups wie n8n greifen das klassische ERP-Modell mit autonomen Agenten an. Wer die Agenten kontrolliert, kontrolliert künftig auch die Benutzerinteraktion – und damit den eigentlichen Wert.

Dieses Muster zeigt sich branchenübergreifend. AWS etwa lässt KI bei der Analyse von Störungen in CloudWatch mitermitteln, und Amazon rüstet seinen Seller Assistant mit agentischen Funktionen für Drittanbieter-Verkäufer aus. Die Richtung ist überall dieselbe: weg vom reinen Werkzeug, hin zum handelnden System, das Aufgaben eigenständig erledigt.

Ringg zeigt, was Sprachagenten im Kundenkontakt leisten

Wie weit die Automatisierung im Kundenkontakt schon reicht, illustriert ein Beispiel von OpenAI. Das Unternehmen Ringg betreibt mehrsprachige KI-Agenten für Sprache, Chat, WhatsApp und Web, die laut OpenAI bis zu 65 Prozent der Kundenanrufe eigenständig lösen. Grundlage ist das Modell GPT-5.6, das im Vergleich zu GPT-4.1 rund 90 Prozent geringere Kosten verursachen soll.

Diese Zahlen sind Herstellerangaben und sollten mit der entsprechenden Vorsicht gelesen werden. Sie deuten aber auf einen Trend hin, der für viele Servicebereiche relevant wird: Sprachagenten werden nicht nur leistungsfähiger, sondern auch deutlich billiger im Betrieb. Genau diese Kombination – höhere Trefferquote bei sinkenden Kosten – ist der Grund, warum Unternehmen ihre Callcenter und Support-Kanäle zunehmend mit KI unterlegen.

Europa ringt um digitale Souveränität

Parallel zu Regulierung und Automatisierung läuft eine dritte Debatte, die vor allem in Deutschland an Schärfe gewinnt: die Frage nach der Unabhängigkeit von US-Technologie. Telekom-Chef Tim Höttges hat im Zeit-Podcast deutliche Worte gefunden. Wenn Europa aufgebe, „würde das hier eine Kolonie der Amerikaner werden“, sagte er. Was es brauche, sei „Technologieoptimismus“ statt der vorherrschenden „Technologiefeindlichkeit“.

Höttges fordert, dass der Staat deutsche und europäische Anbieter von KI-, Cloud- und Rechenzentrumsinfrastruktur stärker durch öffentliche Aufträge unterstützt. Nur so könnten heimische Unternehmen die nötige Größe erreichen, um gegen US-Konzerne zu bestehen. Ein reiner Ausbau neuer Rechenzentren reiche nicht – entscheidend sei auch eine verlässliche Nachfrage. Nach eigenen Angaben betreibt die Telekom bereits 50 Prozent der Hochleistungs-GPUs für KI in Deutschland und hat im Münchner Tucher-Park mit einer Milliardeninvestition einen ersten Schritt getan. Im Vergleich zu den USA sei das allerdings noch klein.

Besonders bemerkenswert: Höttges betreibt sein Kerngeschäft mit T-Mobile US und hat die Vereinigten Staaten so offen noch nie kritisiert. Sein Argument, man könne sich nicht mehr sicher sein, jederzeit Zugang zu US-Produkten, zu den eigenen auf US-Servern gespeicherten Daten oder zur modernsten KI-Technologie zu haben, trifft einen zunehmend sensiblen Punkt der europäischen Debatte über digitale Abhängigkeit.

Auch der Bundestag zieht Konsequenzen

Wie konkret das Souveränitätsthema wird, zeigt ein Blick ins Parlament. Der Bundestag arbeitet an einem eigenen Chatbot, der die inoffizielle Nutzung externer KI-Dienste – die sogenannte Schatten-KI – im Parlament ablösen soll, wie heise online berichtet. Dahinter steht die Erkenntnis, dass Mitarbeiter längst KI-Werkzeuge einsetzen, ohne dass Datenschutz und Kontrolle geklärt wären. Eine hauseigene Lösung soll diese Lücke schließen.

Das große Geld und die großen Zweifel

Der Ausbau der KI-Infrastruktur verschlingt gewaltige Summen. Laut heise online leiht sich SoftBank offenbar weitere elf Milliarden Dollar, um seine Investition in OpenAI zu stemmen. Solche Zahlen verdeutlichen, in welchen Dimensionen sich das Rennen um die führende KI-Position mittlerweile bewegt – und wie sehr es auf massives externes Kapital angewiesen ist.

Gleichzeitig wachsen die Zweifel innerhalb der Branche selbst. Die Financial Times hat Beschäftigte von KI-Firmen befragt, die von Stress, Burnout und Furcht vor den Folgen ihrer eigenen Arbeit berichten. KI sicherer zu machen, sei eine „unmögliche Aufgabe“, heißt es. In einem weiteren Beitrag hinterfragt FT-Kolumnist Tim Harford den Nutzen sogenannter P(doom)-Vorhersagen – also der Wahrscheinlichkeitsschätzungen für eine KI-Katastrophe, die mittlerweile Mainstream geworden sind. Diese kritischen Stimmen aus dem Inneren der Branche stehen im auffälligen Kontrast zum Investitionsoptimismus der Konzerne.

Nicht zu vergessen sind die rechtlichen Auseinandersetzungen. OpenAI sieht sich mit einer Klage konfrontiert, bei der es unter anderem um die menschliche Prüfung von ChatGPT-Chats geht. Auch das Thema Identitätsmanagement für KI-Agenten rückt in den Fokus der IT-Sicherheit: Wenn Software eigenständig handelt, braucht es klare Regeln dafür, welche Rechte und Zugänge diese Agenten überhaupt haben dürfen.

Was bedeutet das für dich?

Die Nachrichten wirken auf den ersten Blick weit weg vom Alltag. Doch sie haben handfeste Auswirkungen – ob als Verbraucher, im Beruf oder als Nutzer von KI-Diensten. Ein paar konkrete Punkte lassen sich daraus ableiten:

• Rechne mit mehr KI im Kundenkontakt. Sprachagenten, die bis zu 65 Prozent der Anrufe selbst lösen, werden für Unternehmen wirtschaftlich attraktiv. Wenn du künftig häufiger mit einer KI statt mit einem Menschen sprichst, ist das kein Zufall, sondern kalkuliert.
• Prüfe, wo deine Daten liegen. Die Souveränitätsdebatte betrifft nicht nur Konzerne. Wer sensible Daten in Cloud-Diensten speichert, sollte wissen, in welchem Land die Server stehen und welchem Rechtsraum sie unterliegen.
• Sei skeptisch bei Herstellerzahlen. Angaben wie „90 Prozent weniger Kosten“ oder „65 Prozent gelöste Anrufe“ stammen von den Anbietern selbst. Sie sind ein Indikator für Trends, aber kein unabhängig geprüfter Beleg.
• Kläre den KI-Einsatz am Arbeitsplatz. Das Beispiel Schatten-KI im Bundestag zeigt: Viele nutzen KI-Tools ohne offizielle Freigabe. Frag in deinem Unternehmen nach klaren Regeln, bevor du vertrauliche Inhalte in einen externen Dienst eingibst.
• Beobachte die Regulierung. Die Sicherheitsinitiative ist bislang unverbindlich, doch aus solchen Erklärungen entstehen oft spätere Gesetze. Für Entwickler und Unternehmen lohnt es sich, die Standards früh im Blick zu behalten.