KI Nutzung in Moodle – Aufsichtsbehörde Baden Württemberg zu fAIrchat

Im 39. Tätigkeitsbericht für das Jahr 2023 der Aufsichtsbehörde Baden Württemberg findet sich auch ein Kapitel, welches sich mit dem Thema KI beschäftigt. Dazu gehört auf S. 26 auch ein Abschnitt mit dem Thema „KI und Schule„. Beschrieben wird dort eine Beratungstätigkeit der Aufsichtsbehörde, deren Gegenstand ein von Fortbildnern am Zentrum für Schulqualität und Lehrerbildung (ZSL) entwickeltes Moodle-Modul fAIrchat war. Dieses Modul nutzt ChatGPT von OpenAI über die vom Anbieter bereitgestellte API und zu den dazu gehörenden Terms of Use, die zusichern, dass Nutzerdaten nicht zu Weiterentwicklung oder Verbesserung von ChatGPT verwendet wird. Durch die Nutzung via API können keine Metadaten der Nutzer an den Anbieter abfließen. Gleichzeitig gibt es eine Nutzungsordnung für fAIrchat, in welcher die Nutzung von personenbezogenen Daten untersagt ist. Außerdem haben Lehrkräfte die Möglichkeit, Eingaben der Lernenden nachträglich einzusehen. Fazit aus der Beratungstätigkeit für die Aufsichtsbehörde ist: „Sofern zusätzlich die jeweilige Lehrkraft die Schüler_innen auch ausdrücklich und für sie verständlich darüber aufklärt, dass sie keine personenbezogenen Daten in das System eingeben dürfen, und die Lehrkraft die Eingaben der Schüler_innen nachträglich überprüfen kann, die nachträgliche Kontrolle durch die Lehrkraft auch tatsächlich risikoangemessen zumindest stichprobenhaft erfolgt, scheint uns unter diesen Voraussetzungen eine Verwendung dieser KI im Rahmen des Unterrichts datenschutzrechtlich vertretbar.„

Bewertung

Der kurze Text zeigt sehr gut, worauf es ankommt, wenn KI wie ChatGPT von OpenAI unterrichtlich genutzt werden soll. Sind folgende Bedingungen erfüllt:

• Nutzung durch Schülerinnen und Schülern via API entsprechend den Terms of Use,
• Nutzungsordnung, welche die Verwendung von personenbezogenen Daten untersagt,
• Aufklärung der Schülerinnen und Schülern über die Nutzungsregel – keine Eingabe von personenbezogenen Daten
• Möglichkeit der stichprobenhaften¹stichprobenhaft ist wichtig, da eine komplette Kontrolle andere datenschutzrechtliche Probleme aufwirft – Stichwort „Überwachung“; „Einschränkung der freien Entfaltung der Persönlichkeit“ nachträglichen Kontrolle von Eingaben durch die Lehrkraft

sieht man von Seiten der Aufsichtsbehörde keine datenschutzrechtlichen Probleme bei einer unterrichtlichen Nutzung. Man wird davon ausgehen können, dass auch andere Aufsichtsbehörden hier eine ähnliche Einstellung haben. Inwieweit ein Fehlen der Möglichkeit zur stichprobenhaften nachträglichen Kontrolle von Schülereingaben die Einschätzung der Aufsichtsbehörde verändern würde, ist schwierig zu beurteilen. Gemachte Eingaben können nicht zurückgenommen werden. Das Wissen um die Kontrollmöglichkeit könnte für Schülerinnen und Schülern jedoch eine abschreckende Wirkung haben und darüber hinaus Lehrkräften die Möglichkeit geben, mit Schülerinnen und Schülern, welche gegen die Regeln verstoßen haben, zu reden. Beim Anbieter fobizz gibt es die Kontrollmöglichkeit für Lehrkräfte.²Sie erhalten in von ihnen erstellten Klassenräumen, die Möglichkeit, sich im Inkognito Modus als Schüler anzumelden und sehen dann die Chatverläufe. Die Funktion läuft über einen Schülerzugang, den diese vom System erhalten, um später auf ihre Ergebnisse zugreifen zu können. Eine vergleichbare Kontrollfunktion findet sich für Lehrkräfte auch bei SchulKI über die Freigabeschlüssel.

Ergänzende Informationen

Auf Seiten des Kultusministeriums Baden Württemberg finden sich weitere Informationen zum Projekt um das Moodle-Modul fAIrchat. Demnach wird das Moodle-Modul zunächst in einer Pilotphase an Seminaren für Lehrerausbildung und zeitversetzt an Schulen erprobt werden. Begleitend Schult man die angehende Lehrkräfte an den Pilotseminaren im pädagogischen Einsatz des Chatbots.