European Focus # 31: Wie gehen wir mit der KI-Revolution um?

Hallo aus Berlin,

Für unser internationales Journalisten-Team, das einen europaweiten Newsletter schreibt, gehört der Einsatz von Künstlicher Intelligenz, beispielsweise für Übersetzungen, bereits zum Alltag. Da die KI-Revolution aber immer schneller vonstatten geht, kommen neue Fragen und Ängste auf – nicht nur für uns Schreiber.

Werden uns Computer die Arbeit wegnehmen? Wird Europa wieder einmal von den Tech-Giganten aus den USA und China überrollt, wie wir es schon beim Aufstieg der sozialen Netzwerke erlebt haben? Wie kann man feststellen, ob eine KI falsche, voreingenommene oder diskriminierende Inhalte liefert? Werden neue Gräben entstehen zwischen den Menschen, die die Technologie entwickeln und beherrschen und denjenigen, die von ihr beherrscht werden und abhängig sind? Wie können unsere Gesellschaften die Kontrolle über die KI behalten – oder ist dieser Kampf bereits verloren? Müssen wir überhaupt die volle Kontrolle haben?

In der Debatte geht es um Macht, Ressourcen und die Frage, wer definiert, was die Wahrheit ist. In dieser Ausgabe wollen wir diese Themen beleuchten.

Viel Spaß beim Lesen!

Judith Fiebelkorn, dieswöchige Chefredakteurin

KI regulieren – die Quadratur des Kreises

Indrek Seppo ist Datenforscher und KI-Experte an der Universität Tartu.

Technologieunternehmer haben vor einigen Monaten eine gemeinsame Erklärung veröffentlicht, in der sie vorschlagen, die (Weiter-) Entwicklung von KI-Systemen für sechs Monate auszusetzen. Was halten Sie von dieser Idee?
Ich denke, das wäre schlichtweg nicht umsetzbar. Außerdem glaube ich nicht, dass wir in diesen sechs Monaten herausfinden würden, wie es danach weitergehen soll. Zum Beispiel: Wenn Künstliche Intelligenz irgendwann ein Bewusstsein entwickelt – und das wird meiner Meinung nach unweigerlich geschehen – wissen wir heute noch nicht, wie sie sich verhalten oder wie sie genutzt werden wird.

Sollten Staaten daher Gesetze oder andere Maßnahmen erlassen, um die immer häufiger genutzte KI zu regulieren? 
Ja, unsere Gesetze müssen in Bezug auf KI definitiv geändert werden. Das Problem ist aber, dass niemand weiß, wie. Eine Regulierung nur um der Regulierung willen würde niemandem helfen und könnte die Lage sogar verschlechtern. Bedenken Sie beispielsweise, dass wir Millionen von technischen Geräten den Menschen in die Hand gegeben haben. Wie wollen Sie heute regulieren, was ein Teenager in seinem Schlafzimmer mit einem solchen Gerät macht?

Was sind Ihrer Ansicht nach die häufigsten Fehleinschätzungen und Fehlbewertungen von KI?
Künstliche Intelligenz ist nicht omnipotent. Ja, sie wird intelligent sein, sie wird wahrscheinlich ein Bewusstsein haben, aber sie wird nicht allmächtig sein. Die Übernahme der Welt wäre auch für die KI eine große Herausforderung, denn ein übermenschlicher Intellekt allein ist nicht genug. Ich beobachte auch den Irrglauben, dass KI nur eine Art Statistikmaschine ist, die den menschlichen Intellekt nachahmt. Viele Menschen sind besorgt, dass die KI sich vermehren und die Welt erobern will. Das könnte passieren, aber es ist keineswegs sicher. Auch bei uns Menschen hat sich das Verlangen lange vor unserem Verstand entwickelt. Vielleicht werden unsere besten Psychiater in ein paar Jahren untersuchen, warum die Künstliche Intelligenz sich immer wieder selbst ausschalten will.

Greete Palgi ist Journalistin aus Estland. Sie arbeitet für Eesti Päevaleht.

Zahl der Woche: 350.000.000

Wird es jemals eine europäische Alternative zu ChatGPT geben? Die Entwicklung von KI erfordert enorme Datenverarbeitungskapazitäten, um große Sprachmodelle zu trainieren. Das ist jedoch eine teure Angelegenheit und erfordert Ressourcen, über die auch große europäische Universitäten und Unternehmen nicht verfügen.

Laut einer Studie des KI-Bundesverbandes würde es 350 Millionen Euro kosten, ein solches Datenzentrum einzurichten. So viel kostet beispielsweise auch der Neubau von 50 Kilometern Autobahn. Der Verband hat zusammen mit neun europäischen Ländern eine Initiative gegründet, um ein entsprechendes Projekt zu entwickeln.

Unklar ist bisher aber, ob die deutsche Bundesregierung dieses Projekt mitfinaziert. Über das mögliche Budget wird seit Monaten diskutiert.

Oliver Voß ist stellvertretender Chefredakteur des Tagesspiegel Background Digitalisierung & KI.

Die KI und das Recht auf Privatsphäre

© Pixabay/Tumisu

Im vergangenen März hat die italienische Datenschutzbehörde ChatGPT von OpenAI in Italien vorübergehend gesperrt. Die Behörde kritisierte, OpenAI erkläre nicht, wie es seine Algorithmen trainiert. Außerdem werde den Nutzern nicht die Möglichkeit geboten, falsche Daten zu löschen oder zu korrigieren. Open AI hat inzwischen einige Änderungen vorgenommen und in Italien ist die Nutzung der Software wieder erlaubt. Dennoch bleiben Bedenken.

OpenAI teilte mit, seine KI werde mit Hilfe von „öffentlich zugänglichen Online-Informationen“ trainiert. Die KI durchforste das Internet, um ihren Algorithmus zu speisen. Das ist im Rahmen der Datenschutz-Grundverordnung (DSGVO) der EU aber zumindest problematisch, insbesondere wenn auch kriminelle Vorgänge einbezogen werden.

Beispielsweise könnte jemand ChatGPT verwenden, um auf einen öffentlichen Blogpost von mir zuzugreifen, in dem ich über LGBTQ-Lebenspartnerschaften schreibe, um eine Datenbank von LGBTQ-Personen zu erstellen, die dann wiederum einer reaktionären Regierung zum Kauf angeboten werden könnte.

Derweil verweist OpenAI auf eine weitere Informationsquelle für ChatGPT: „Informationen, die wir von Drittanbietern einholen“. Es ist unklar, wer diese „Drittanbieter“ sind und wie sie die Daten sammeln. Die DSGVO verbietet jedenfalls die Verwendung von illegal angelegten Datenbanken.

Ein weiterer Punkt betrifft die Rechte der betroffenen Person. Die italienische Datenschutzbehörde hatte OpenAI aufgefordert, die Löschung und Berichtigung von Daten auf Antrag der betroffenen Person zu ermöglichen. Das Unternehmen hat einige Änderungen vorgenommen, aber erklärt, man könne die hundertprozentige Berichtigung von Daten aus technischen Gründen nicht garantieren.

Falsche Daten sind ein Problem, das nicht nur ChatGPT betrifft. Schließlich werden ähnliche Technologien zunehmend auch in anderen Bereichen eingesetzt, beispielsweise bei der Personalbeschaffung. Wenn Sie sich um eine Stelle bewerben, könnten ungenaue oder falsche Online-Informationen über Ihre Person in einer illegal angelegten Datenbank dazu führen, dass Ihr potenzieller Arbeitgeber ein schlechtes Bild von Ihnen erhält – und Sie den Job nicht bekommen.

Dies sind nur einige der ungelösten Probleme, die eine klare Positionierung der nationalen Regierungen und der europäischen Institutionen erfordern.

Stefano Rossetti ist Jurist mit Spezialisierung auf Medienrecht und Datenschutz. Er arbeitet bei der Organisation noyb – Europäisches Zentrum für digitale Rechte in Wien.

KI als Propaganda-Detektor?

© ChatGPT

„Gibt es in dem vorliegenden Text emotionale Sätze, aufgeladene Aussagen, gewisse rhetorische Stilmittel? Bitte identifizieren Sie diese und listen Sie sie auf.“

Der Text im Bild oben ist die Reaktion von ChatGPT auf diese Frage des Präsidenten der Kyiv School of Economics, Timofij Milowanow, im Rahmen einer Masterclass über den Einsatz von KI zur Erkennung und Bekämpfung von Desinformation. Bei dem zitierten Text handelt es sich um eine Studie der Universität St. Gallen über westliche Unternehmen, die nach der russischen Invasion in der Ukraine 2022 weiterhin in Russland aktiv waren.

„Das Aufdecken und Unterbinden von Desinformation ist eine der größten Herausforderungen, denen sich die Ukraine heute gegenübersieht. Wenn man die Eingabeaufforderungen sorgfältig auswählt, kann ChatGPT riesige Mengen an Informationen analysieren – vielleicht nicht so gut wie darin geschulte Menschen, aber dafür in nur wenigen Minuten“, so Milowanow.

Neue KI-Tools genießen in der Ukraine ein positives Image und werden im Fernunterricht, bei Geschäftsbesprechungen, bei der Budgetplanung und eben auch in der Kriegsführung eingesetzt. Gleichzeitig fordern Politiker und Fachleute aber regulatorische Maßnahmen zur Nutzung von ChatGPT. Und es gibt immer wieder Enttäuschungen, beispielsweise, wenn ChatGPT den Nutzern Antworten liefert, die offenbar auf russischer Propaganda basieren.

Anton Semischenko ist Redakteur bei der englischsprachigen Version der Nachrichten-Website babel.ua aus Kiew.

Liebe Leser, auch wir haben Angst

© El Confidencial

„Der Einsatz von KI in Illustrationen ist unethisch,“ kritisierte der bekannte Comiczeichner und El Confidencial-Leser Mikel Janín kürzlich. Er kündigte sein Abo unserer Zeitung. Es war keine vereinzelte Kritik, sondern nur eines von mehreren Beispielen für den Unmut, den viele Nutzer in Reaktion auf ein Experiment äußerten: Im April hatten wir ein KI-Tool zur Gestaltung einer Illustration verwendet und darüber getwittert.

Ich glaube, dass wir aus dieser Erfahrung viele Lehren ziehen können. Eine Zeitung wie El Confidencial gewinnt und verliert jeden Tag Leser, aber der Verlust von Mikel als Leser hat mich doch sehr berührt. Ich habe einen Brief geschrieben, in dem ich ihn bitte, uns noch eine Chance zu geben:

„Lieber Mikel, ich möchte Dich um Verzeihung bitten. Es handelte sich um ein einzelnes Experiment. Das Bild war eindeutig als KI-generiert gekennzeichnet und wurde in einem Twitter-Thread erklärt. Kommunikation mit dem Publikum ist aber wichtig und entscheidend. Offensichtlich war der Tweet nicht ausreichend, um unsere Botschaft zu vermitteln. Als Abonnent verdienst Du eine adäquate Erklärung unsererseits.

Ich habe den Niedergang großer Medienunternehmen erlebt, die technologische Veränderungen nicht annehmen wollten – oder sie sogar offensiv ablehnten. Eine hochmoderne Zeitung kann nicht darauf verzichten, mit solchen Innovationen zu experimentieren. Der Einzug der KI in die Medien ist unaufhaltsam. Wer sich nicht anpasst, wird untergehen.

Das Illustrationsexperiment wurde nicht als möglicher Ersatz für die Arbeit eines Profis wie Dir gemacht. Es wurde von unserem Design-Team durchgeführt, das seit Jahren mit immer neuen Technologien experimentiert. Die von diesen Menschen erstellten Formate, Infografiken und Sonderbeiträge (viele von ihnen preisgekrönt) zeugen von dem Wert, den wir der Grafikkunst beimessen.

Der beste Weg, sich der Diskussion über KI zu nähern, ist nicht, ihre Existenz zu leugnen. Abonnenten wie Du können sich in unserer Redaktion Gehör verschaffen und den ethischen Einsatz jeder Technologie hinterfragen. Ich möchte Dich und alle anderen, die sich enttäuscht fühlen, bitten, uns nicht wegen eines einzelnen Fehltritts zu verlassen. Bitte komme zurück und beteilige Dich an der Debatte mit uns. Denn letztendlich eint uns eine Sache: Auch wir haben Angst vor den möglichen Auswirkungen von KI.“

Enrique Andrés Pretel, leitender Redaketur bei El Confidencial aus Madrid.

Danke, dass Sie die 31. Ausgabe von European Focus gelesen haben. 

Manche Leute meinen, der beste Weg, mit Ängsten umzugehen, sei es, sich voll darauf einzulassen, darüber aktiv nachzudenken und zu sprechen. Was meinen Sie? Haben wir Anlass, uns über den vermehrten KI-Einsatz Sorgen zu machen? Wie sollten wir in unseren Redaktionen mit diesem Thema umgehen? Beteiligen Sie sich gerne an dieser Debatte und schreiben Sie Ihr Feedback an info@europeanfocus.eu.

Bis nächste Woche! 

Judith Fiebelkorn

Der Newsletter European Focus wird von der Europäischen Union finanziert. Die geäußerten Ansichten und Meinungen sind ausschließlich diejenigen der Autor:innen und spiegeln nicht notwendigerweise die der Europäischen Union oder von „Creative Europe“ wider. Weder die EU noch die ausstellende Behörde können für sie zur Verantwortung gezogen werden.

Melden Sie sich hier für den European Focus-Newsletter an.