Keine Manipulation oder Überwachung: EU-Ausschüsse einigen sich bei Regeln für KI

Beim Einsatz von Künstlicher Intelligenz (KI) findet ein rasanter Wettlauf statt. Auf der einen Seite verkünden Software-Entwickler fast täglich neue Einsatzmöglichkeiten. Gleichzeitig wird von staatlicher Seite versucht, Auswüchse zu verhindern, einen rechtlichen Rahmen zu definieren und auf diese Weise die Bürger zu schützen.

So kündigte etwa das US-Unternehmen Google an, seine Dienste mit neuen, KI-unterstützten Funktionen aufzurüsten. Neben der Suchmaschine sollen auch andere Anwendungen wie Mail, Bürosoftware und Karten aufgebessert werden, sagte Konzernchef Sundar Pichai am Donnerstag auf der Entwicklerkonferenz Google I/O. Allerdings wird zum Beispiel Googles Chat-Bot Bard zwar auf Deutsch, aber zunächst weder in Deutschland noch in der Europäischen Union verfügbar sein. Offensichtlich versucht der US-Konzern zunächst zu klären, ob Bard kompatibel mit dem rechtlichen Rahmen in der Europäischen Union ist.

Von den Internet-Giganten wird also sehr genau beobachtet, dass in Europa im Moment an der rechtlichen Regulierung der KI-Systeme gearbeitet wird. So hat die EU-Kommission bereits das sogenannte Gesetz über Künstliche Intelligenz vorgelegt, über das am Donnerstag in den beiden zuständigen Parlamentsausschüssen für Bürgerrechte und Verbraucherschutz abgestimmt worden ist. Die EU wäre der erste Wirtschaftsraum weltweit, der Vorschriften für die Künstliche Intelligenz erlässt.

KI soll den Menschen dienen und sie weder überwachen, manipulieren, analysieren noch über sie richten.

Birgit Sippel, SPD-Politikerin

Die Kommission wählt bei der Umsetzung der geplanten Gesetzgebung einen risikobasierten Ansatz, der sicherstellen soll, dass KI-basierte Systeme keine negativen Folgen für die Sicherheit und Grundrechte der Menschen haben. Das bedeutet, dass die jeweiligen gesetzlichen Auflagen vom Risikopotenzial der Anwendung abhängen sollen.

Risikoreiche Systeme, die für die EU nicht akzeptabel sind, sollen demnach komplett verboten werden. Darunter fallen sprechende Spielzeuge, die Kinder zu einem gefährlichen Verhalten verleiten könnten, oder das sogenannte Social Scoring, mit welchem die Kreditwürdigkeit von Personen durch Internetdaten beurteilt werden könnte. Hochrisikosysteme, wie zum Beispiel im Transportwesen, sollen bestimmten Regeln unterliegen. KI-Systeme, die als risikoarm eingestuft werden, sollen keine Auflagen bekommen. Chatbots wie ChatGPT werden von der EU derzeit als begrenzt risikoreich eingeordnet. Damit unterliegen diese KI-Anwendungen einer minimalen Transparenzpflicht, die es den Anwendern ermöglichen soll, selbst zu entscheiden, dieses zu nutzen oder nicht.

Am Donnerstag machten die Europaparlamentarier noch einmal deutlich, dass auch sie diesen risikobasierten Ansatz unterstützen. Die SPD-Politikerin Birgit Sippel betonte, dass bei der Entwicklung und dem Einsatz von Künstlicher Intelligenz stehts „ein menschenzentrierter Einsatz“ im Fokus stehen müsse. Die Technik solle „den Menschen dienen und sie weder überwachen, manipulieren, analysieren noch über sie richten“. In dieselbe Kerbe schlägt auch Cornelia Ernst, datenschutzpolitische Sprecherin von der Partei Die Linke. Sie fordert eine strikte Regelung des KI-Einsatzes in allen Lebensbereichen.

Auch der CDU-Abgeordnete Axel Voss plädiert für eine Regulierung, warnt im selben Atemzug aber: „Was mir allerdings Sorgen bereitet, ist ein bestehender angstgetriebener Umgang mit Künstlicher Intelligenz, der die Chancen neuer Technologien völlig erstickt.“

Die FDP-Abgeordnete Svenja Hahn äußert sich hingegen zufrieden über die geplante Regelung, denn es sei gelungen, „konservativen Überwachungswünschen und linken Überregulierungsfantasien zu trotzen“. Die liberale Digitalpolitikerin glaubt, dass der Kompromiss die Bürgerrechte schützen und gleichzeitig die Wirtschaft „beflügelt“ werde.

Nach dem nun erfolgten Votum in den beiden EU-Parlamentsausschüssen wird eine Plenarabstimmung im Juni erwartet. Sie bildet die Grundlage für die dann folgenden Verhandlungen mit den Mitgliedsländern.