Künstliche Intelligenz in der Schule: Böse KI, unbekannte KI

Meistens beginnt es mit einem Beispiel, bei dem Künstliche Intelligenz offenkundig böse ist. Die Arizona State University ist so ein Fall. Dort zeichnet das Lernmanagement „Knewton“ jede kleinste Wissensbewegung auf, die Studierende auf ihren vernetzten tilmComputern hinterlassen. Zugleich wird protokolliert, wann ein Student in der Bibliothek sitzt oder auf dem Campus auffällig wird – etwa durch übermäßigen Alkoholgenuss.

In der Kollektion all dieser Daten legt Knewton dann fest, welche Kurse der Studierende belegen darf. „Diese Art der Vorhersage hält Menschen klein, sie steckt Studierende in Schubladen“, warnte Arndt Kwiatkowski bei der KI-Konferenz von Konrad-Adenauer-Stiftung und der Berliner Filiale der OECD.

Das Nicken in der Videorunde war dem Geschäftsführer des Mathematik-Portals Bettermarks sicher. In der Debatte über Künstliche Intelligenz in der Schule war damit die dystopische Hälfte des Veranstaltungstitels praktisch abgearbeitet. Er lautete: „KI an der Schule? Zwischen individualisiertem Lernen und totaler Überwachung.“

Die fast dreistündige digitale Konferenz hatte in den Worten von Felise Maennig-Fortmann von der Adenauer-Stiftung diesen Zweck: „Offen darüber zu diskutieren, was an KI in Schulen schon möglich ist – und was wir davon anwenden wollen.“ Ein sehr ambitioniertes Ziel. Denn eines wurde schnell klar: Schon bei der Frage, wie Künstliche Intelligenz an Schulen eigentlich funktioniert, scheinen viele Experten in Deutschland ratlos.

"Ich weiß gar nicht genau, wie die KI das macht"

Gesa Ramm war eine der Referentinnen, die ein konkretes Beispiel dabei hatte. Ramm arbeitet am Institut für Qualitätsentwicklung Schleswig-Holsteins, das an einem KI-Projekt arbeitet. Künstliche Intelligenz solle helfen, den Lesefluss von Grundschülern zu fördern. „Wir entwickeln eine App dazu und machen die Vorgaben“, sagte Ramm – und bekannte sodann offen. „Aber ich weiß gar nicht genau, wie die KI das macht.“

Diese Äußerung markiert in etwa den Stand des Umgangs mit Daten an staatlichen Schulen in Deutschland. Eine Umfrage des Tagesspiegel hatte jüngst folgendes Ergebnis gebracht: Die Schulministerien der Bundesländer sammeln und verarbeiten keine Daten von Schülern oder deren Lernen – und können dementsprechend auch nichts für Algorithmen oder KI nutzen.

Die Konferenz der Kultusminister bestätigte auf Anfrage: „Unseres Wissens nach nicht.“ Ohne Lerndaten aber ist Künstliche Intelligenz nicht anwendbar – es fehlt der Grundstoff.

Die Entscheidung soll immer bei den Lehrkräften liegen

So verwunderte es nicht, dass auch eine Schule, die ganz explizit auf den Einsatz von KI zielt, „noch ganz am Anfang steht“. So berichtete es Anke Langner von der Universitätsschule in Dresden, die Lernhilfen für Schüler individuell bereit stellt – und das bald auch mit elektronischen Mitteln tun will.

[Neue Chancen für die digitale Schule: Lesen Sie hier unseren Tagesspiegel Plus-Text - ein Interview mit Pisa-Chefin Kristina Reiss]

Künstliche Intelligenz, sagt Langner, Professorin für Erziehungswissenschaften an der TU Dresden, solle „die Lehrer*innen auf die eine oder andere Art schubsen“. Sprich: die Maschine empfiehlt Lehrkräften, welche Lernschritte für Schüler die richtigen sind. So zurückhaltend Langner im Bezug auf die aktuellen Möglichkeiten der KI war, so enthusiastisch beschrieb sie die künftigen: „Wir können viel mehr KI-Anwendungen herausarbeiten, als wir derzeit erahnen.“ Langner bestand allerdings darauf, dass die KI nur Vorschläge mache. Die Entscheidungsgewalt über das Lernen hätten – anders als in Arizona – die Schüler und die Lehrer.

Private Lernplattformen sind weiter

So weit deutsche staatliche Bildungseinrichtungen noch vom Einsatz Künstlicher Intelligenz entfernt sind, so nahe scheint die neue pädagogische Technologie an anderer Stelle – bei privaten Lernplattformen. Mit Arndt Kwiatkowski und Stephan Bayer hatten die Veranstalter zwei Gründer von Bildungsanbietern eingeladen, die bereits über den Rohstoff für die Anwendung von KI verfügen: über Lerndaten von Schülern, die auf den Plattformen Bettermarks und Sofatutor lernen.

Dazu gehören seit jüngstem jeweils zwei Bundesländer, die mit den Anbietern kooperieren. Bremen und Sachsen mit Sofatutor, Hamburg und – nach Informationen des Tagesspiegel – Rheinland-Pfalz mit Bettermarks.

[Lesen Sie auch unser Interview zur Werbung von IT-Firmen in der Schule: Schattenseiten der Digitalisierung des Lernens]

Bettermarks laufe an 2500 Schulen, berichtete Kwiatkowski. 250.000 Schüler nutzten das Angebot mittlerweile. So kann die Lernplattform im laufenden Jahr auf 100 Millionen gerechnete Aufgaben als Datenpool zurückgreifen. „Die Maschine macht Vorschläge, welche Aufgaben für einen Schüler als nächstes sinnvoll sind“, beschrieb Kwiatkowski eine Funktion seines Mathematik-Portals.

Anhand der Aufgaben, die ein Schüler auf der Plattform bearbeitet, kann Bettermarks Lehrern Hinweise geben, „welche Wissenslücken bei Schülern bestehen“.

KI-Hilfe beim Lernen geht nur digital

Kwiatkowski äußerte sich grundsätzlich kritisch zu KI. „Ein von künstlicher Intelligenz gesteuertes Lernverhalten ist nicht die Art von Bildung, die wir in Deutschland haben wollen“, sagte der CEO dem Tagesspiegel. „Allerdings könnten die Empfehlungen mit KI wahrscheinlich zielgenauer werden.“ Kwiatkoski betonte zugleich, dass Bettermarks keine Daten besitze, die auf konkrete, mit Klarnamen bekannte Schüler bezogen werden könnten.

Ähnlich vorsichtig agierte Stephan Bayer von Sofatutor, dessen Nachhilfeplattform eine halbe Million Abonnenten verzeichnet. Schüler können sich bei Sofatutor kurze Lernvideos anschauen und dazu Übungen absolvieren. Bayer warnte in der Diskussion davor, „den übernächsten Schritt vor dem nächsten gehen zu wollen".

© Hannibal Hanschke/REUTERS

Wer mit digitalen Lernempfehlungen arbeiten wolle, müsse die Schüler der Bildungsrepublik zunächst vom Papier lösen. Erst wenn die Lernschritte der Schüler auf Rechnern erfasst werden, bestehe überhaupt die Möglichkeit mit den daraus gewonnenen Daten zu arbeiten. Auf Nachfrage betonte Bayer, die bislang bei Sofatutor vorliegenden Lerndaten ließen es wegen der Heterogenität der Lehrpläne der Länder noch nicht zu, Muster bei den Interaktionen der Schüler zu erkennen.

Bekenntnis eines führenden Bildungsforschers

Was bei der virtuellen Debatte von Adenauer-Stiftung und OECD ins Auge stach war der gefühlt himmelweite Unterschied in der Kennerschaft der Diskutanten. Während die beiden Anbieter privater Lernplattformen so exakt wie realistisch über die Art der Nutzung Künstlicher Intelligenz parlierten, blieben die staatlichen Experten oft wolkig.

Der Referent des sächsischen Landesamts für Schule und Bildung, Martin Arndt, etwa sagte: „Wir müssen zunächst sehen, wie die KI Daten erkennen, erheben und nutzbar machen kann.“ Das hörte sich so an, als hinge es vom Willen der Lernroboter ab – und nicht etwa davon, wie ein Programmierer die Algorithmen von Big Teacher gestaltet.

Der höchstrangige anwesende Forscher indes, Kai Maaz vom Leibniz-Institut für Bildungsforschung und Bildungsinformation, bekannte offen, „ich bin kein KI-Experte“. Maaz’ Frankfurter Institut ist Teil des Forschungsclusters „Datafied Schools“, der seit knapp zwei Jahren die Nutzung von Schülerdaten in Bundesländern wissenschaftlich untersucht. Wenn der Geschäftsführende Direktor eines der beteiligten Institute kein KI-Experte ist, wer dann?