Wenn KI über Leben entscheidet: Warum Europa hier klüger handeln muss

Die US-Regierung setzt in 3.611 staatlichen Anwendungsfällen auf KI – von der Bewertung von Sozialhilfeanträgen bis zur Steuerung von Atomreaktoren. Die Liste liest sich wie ein dystopischer Roman: Palantir filtert Antragsteller nach politischer Ausrichtung, Gefängnisse bewerten Häftlinge vorab auf "Mißbrauchsrisiko". Europa hat hier eine klare Wahl: Entweder wir folgen dem US-Modell der reinen Effizienz – oder wir nutzen unsere Stärken: Rechtsrahmen, Datenschutz und technologische Souveränität.

KI als staatliches Allheilmittel: Die US-Variante

Die Zahlen sind atemberaubend – und beunruhigend. Innerhalb weniger Monate hat die US-Regierung die Zahl der staatlichen KI-Anwendungen um 70% auf 3.611 erhöht. Das Office of Management and Budget (OMB) listet dabei Projekte auf, die tief in grundrechtliche Sphären eingreifen: Das Gesundheitsministerium (HHS) lässt von Palantir alle Sozialhilfeanträge nach politischer Konformität scannen. Das Bundesgefängnis bewertet neu Inhaftierte algorithmisch auf ihr "Mißbrauchsrisiko" – bevor sie überhaupt eine Tat begangen haben. Die Veteranenbehörde hört Telefonate ab und kombiniert die Daten mit externen Datenbanken, um Suizidgefahr zu prognostizieren. Selbst die Steuerung von Atomreaktoren soll bald autonom durch KI erfolgen.

Diese Anwendungen werfen grundlegende Fragen auf: Wer haftet, wenn eine KI im Atomkraftwerk versagt? Wie transparent sind Algorithmen, die über Freiheit entscheiden? Und vor allem: Wer kontrolliert die Daten, die solche Systeme antreiben? Die Antwort der USA scheint klar: Effizienz geht vor Grundrechtsschutz.

Die europäische Alternative: Regulierung als Standortvorteil

Während die USA KI als reines Werkzeug der Effizienzsteigerung einsetzen, hat Europa mit der DSGVO, dem AI Act und dem Digital Services Act bereits einen anderen Weg eingeschlagen. Die EU setzt nicht auf maximale Automatisierung, sondern auf rechtliche Klarheit und technologische Souveränität. Der AI Act klassifiziert Hochrisiko-KI-Systeme wie sie im Strafvollzug oder bei Sozialleistungen eingesetzt werden, als besonders regulierungsbedürftig. Die DSGVO verlangt, dass personenbezogene Daten innerhalb der EU verarbeitet werden – ein entscheidender Unterschied zu US-Anbietern wie Palantir, die Daten oft in Drittstaaten transferieren.

Doch die Herausforderung bleibt: Viele europäische Behörden greifen auf US-amerikanische KI-Lösungen zurück, weil sie schlicht keine Alternativen kennen. Dabei gibt es sie durchaus – nur werden sie selten genutzt. Die Europäische Kommission setzt etwa auf Open-Source-KI wie den "AI Act Compliance Checker" oder die Plattform "AI Watch". Deutschland hat mit dem "KI-Innovationswettbewerb" Fördergelder in Höhe von 100 Millionen Euro für europäische KI-Projekte bereitgestellt. Und Frankreich entwickelt mit "Alice&Bob" ein eigenes Quantencomputing-Ökosystem, das auch für KI-Anwendungen genutzt werden könnte.

Warum Europa hier nicht nachahmen sollte

Die US-Strategie der KI-Nutzung ist aus unternehmerischer Sicht ein Risiko – nicht nur für die Bürgerrechte, sondern auch für die langfristige Wettbewerbsfähigkeit. Drei konkrete Probleme:

1. Lock-in-Effekt: Behörden, die sich an US-amerikanische KI-Anbieter binden, geben die Hoheit über ihre Daten aus der Hand. Das schafft Abhängigkeiten, die später nur schwer zu lösen sind. Ein Beispiel: Viele deutsche Sozialbehörden nutzen US-amerikanische CRM-Systeme, die zwar günstig sind, aber keine DSGVO-konforme Datenverarbeitung ermöglichen.

2. Preisdiktat: US-Anbieter wie Palantir oder Microsoft setzen ihre Preise einseitig fest und passen sie an politische Vorgaben an. Wer einmal auf solche Systeme setzt, ist später erpressbar – sei es durch Lizenzgebühren oder politische Vorgaben.

3. Reputationsrisiko: Wenn europäische Behörden mit US-KI-Systemen arbeiten, die später Skandale auslösen (wie etwa die Zusammenarbeit von Palantir mit der US-Einwanderungsbehörde ICE), leidet das Vertrauen in die gesamte öffentliche Verwaltung.

Die Chance: Europa als Vorreiter für vertrauenswürdige KI

Europa hat die Chance, sich als Standort für ethische und rechtssichere KI zu positionieren. Drei konkrete Schritte:

1. Förderung europäischer Lösungen: Statt auf US-Anbieter zu setzen, sollten Behörden gezielt europäische Alternativen prüfen. Ein Beispiel ist das deutsche Startup "Aleph Alpha", das eine eigene KI-Infrastruktur entwickelt und bereits mit dem Bundesinnenministerium zusammenarbeitet. Oder die französische Firma "Mistral AI", deren Sprachmodelle unter der Apache 2.0-Lizenz veröffentlicht werden.

2. Transparenzpflichten verschärfen: Der AI Act verlangt bereits eine hohe Transparenz für Hochrisiko-KI-Systeme. Doch viele Behörden umgehen diese Vorgaben, indem sie KI als "unterstützendes Werkzeug" deklarieren. Hier braucht es klare Regeln – und Kontrollen durch unabhängige Stellen wie die geplante Europäische KI-Agentur.

3. Datenhoheit zurückgewinnen: Behörden sollten ihre Daten nicht an US-Anbieter auslagern, sondern eigene europäische Cloud-Infrastrukturen nutzen. Die Gaia-X-Initiative zeigt, dass dies möglich ist – wenn auch noch mit Kinderkrankheiten. Doch der Weg ist klar: Wer die Daten kontrolliert, kontrolliert auch die KI.

Die USA zeigen, wohin eine ungebremste KI-Nutzung in der öffentlichen Verwaltung führen kann: in eine Welt der algorithmischen Vorverurteilung und undurchsichtigen Machtkonzentration. Europa hat die Chance, diesen Weg nicht zu gehen – und stattdessen eine KI-Politik zu verfolgen, die Effizienz mit Grundrechtsschutz verbindet. Die Werkzeuge dafür sind da. Es fehlt nur noch der politische Wille, sie auch einzusetzen.

Quellen: www.schneier.com