Brisante Überlegung bei AOK Nordost: KI-Chatbot könnte Zugriff auf Patientendaten bekommen

Der wissenschaftliche Beirat der AOK Nordost hat die größte Krankenkasse der Region ermutigt, KI-Systeme einzusetzen, die automatisiert Texte generieren. „Krankenkassen sollten sich dem Einsatz von generativer KI grundsätzlich öffnen, denn die Chancen sind groß“, sagte Inga Bergen, die Sprecherin des Beirats.

Laut dem Digitalverband Bitkom plant jede sechste Firma in Deutschland, Textgeneratoren zu benutzen. Der bekannteste Chatbot heißt ChatGPT und ist ein Produkt des US-amerikanischen Unternehmens OpenAI. Bei der AOK Nordost könnten diese KI-Systeme zum Beispiel helfen, Verträge zu aktualisieren und mit Kund:innen zu kommunizieren.

Erhielte der Chatbot Zugriff auf die Versichertenhistorie, wüsste dieser unter anderem von kognitiven Defiziten oder Sprachbarrieren und könnte entsprechend antworten. Der Chatbot wäre außerdem imstande, individualisierte Versicherungsangebote zu erstellen. Dies erhöhte die Antwortgenauigkeit – aber auch das Datenschutzrisiko.

Krankenkassen sollten sich dem Einsatz von generativer KI grundsätzlich öffnen, denn die Chancen sind groß.

Inga Bergen, die Sprecherin des wissenschaftlichen Beirats der AOK Nordost.

Am sichersten wäre es, KI-Modelle auf eigenen Servern laufen zu lassen. Die Krankenkasse hat hierauf noch keine Antwort gefunden, laut einem Sprecher befinde sie sich derzeit in „ergebnisoffenen Gesprächen“ mit verschiedenen Anbietern.

Eine andere Herausforderung liegt im Umgang mit fehlerhaften Antworten. KI-Systeme verarbeiten Daten mithilfe neuronaler Netze, die Berechnungen auf Basis statistischer Wahrscheinlichkeiten durchführen. Es könne passieren, dass ein Textgenerator „plausible Formulierungen für sachlich falsche Aussagen“ ausgebe, schreibt der AOK-Beirat in seinem Impulspapier.

Bergen, die Sprecherin, empfiehlt den Mitarbeitenden deshalb, Textgeneratoren zunächst wie „eine Art Sparringspartner“ zu benutzen: Ein Chatbot könne den Arbeitsalltag effizienter machen, die Antworten taugten aktuell aber „nur als Entwürfe für die Weiterverarbeitung“. Im wissenschaftlichen Beirat sitzen neben Bergen sieben Expert:innen, darunter die Publizistin und ehemalige Piraten-Politikerin Marina Weisband.