Wie dem Tätigkeitsbericht für das Jahr 2023 der Landesbeauftragten für Datenschutz und Informationsfreiheit Rheinland Pfalz zu entnehmen beschäftigte sich die Aufsichtsbehörde im Tätigkeitszeitraum auch mit dem Thema KI an Schulen. Es ging dabei um eine Beratung des Ministerium für Bildung (BM), welches den Schulen des Bundeslandes die KI Plattform Fobizz ab dem zweiten Halbjahr des Schuljahres 23/24 anbieten wollte. Fobizz, welches bereits in anderen Bundesländern über Landeslizenzen Schulen bereitgestellt wird, ermöglicht es Lehrkräften verschiedene KI Anwendungen für Schülerinnen und Schüler kontrolliert über Räume zur Verfügung zu stellen. Ein individuelles Nutzerkonto ist dabei für Schülerinnen und Schüler nicht erforderlich. Je nach KI Anwendung können Lehrkräfte eines von mehreren KI Modellen, darunter auch ChatGPT, auswählen. Bei ChatGPT werden die Anfragen der Schülerinnen und Schüler über eine API Schnittstelle zum Anbieter OpenAI übertragen. Bei den dort stattfindenden Verarbeitungsprozessen sieht der LFDI noch Klärungsbedarf. Laut dem Bericht befindet sich der LFDI deshalb „in einem fortlaufenden Austausch mit dem BM und Fobizz.“ Scheinbar sah die Aufsichtsbehörde auch generell noch Verbesserungsbedarf und regte „Rahmenbedingungen und Konfigurationen an, die den Einsatz der Anwendung datenschutzkonformer gestalten.“ Man sieht bei der Aufsichtsbehörde außerdem „die Notwendigkeit der Erstellung einer Datenschutzfolgenabschätzung.“ Das BM hat, möglicherweise den Anregungen der Aufsichtsbehörde folgend, für Lehrkräfte und Schüler organisatorische Hinweise zum Umgang mit personenbezogenen Daten bei der Eingabe in die Fobizz KI Anwendungen erstellt.
Wie auf Seiten der Landesregierung zu sehen, wurde die Landeslizenz tatsächlich erworben und der Zugang zu Fobizz Schulen angeboten. Unter Mit „fobizz“ sicher, zuverlässig und kostenfrei in die KI-Welt informiert das BM über die Bereitstellung und beantwortet mögliche Fragen der Nutzer zum Thema Datenschutz. Dabei wird unter anderem versichert, dass keine Nutzerdaten zum Training der KI Anwendungen verwendet werden, Nutzer für die richtige Nutzung der Anwendungen, d.h. ohne Verwendung von personenbezogenen Daten sensibilisiert werden und die KI Anbieter noch Fobizz Nutzerprofile erstellen. Die Nutzung der KI-Tools, so versichert man „erfolgt dank „fobizz“ datenschutzkonform„. Man habe außerdem den LFDI über die geplante Einführung von Fobizz informiert.
Bewertung
Die Nutzung von KI beschäftigt die Aufsichtsbehörden an vielen Stellen, auch in Schule. Neben Baden Württemberg und Niedersachsen hat sich nun auch Rheinland Pfalz mit dem Thema beschäftigt. Fobizz macht sich Gedanken zum Thema Datenschutz und hat als Anbieter einige Erfahrung. Durch die Einbindung mehrerer KI Plattformen können Schulen auf dein Einsatz von US Anbietern wie ChatGPT (OpenAI) und Claude (Anthropic) verzichten. Dass eine Aufsichtsbehörde etwas findet, das verbessert werden könnte, ist normal. Schulen in Rheinland Pfalz nutzen die Plattform mittlerweile aktiv im Unterricht. Ob sie auch die von der Aufsichtsbehörde für erforderlich gehaltene Datenschutz-Folgenabschätzung durchführen (müssen), ist nicht bekannt. Aus der Website des BM geht keine solche Erfordernis hervor. Gemäß Art. 35 DS-GVO ist eine Datenschutz-Folgenabschätzung erforderlich, wenn „eine Form der Verarbeitung, insbesondere bei Verwendung neuer Technologien, aufgrund der Art, des Umfangs, der Umstände und der Zwecke der Verarbeitung voraussichtlich ein hohes Risiko für die Rechte und Freiheiten natürlicher Personen zur Folge“ hat. Es stellt sich die Frage, ob die Nutzung von KI Anwendungen wie auch ChatGPT und Claude im unterrichtlichen Kontext, vermittelt durch die API, ohne individuelle Nutzerkonten für Schülerinnen und Schüler, über temporäre Zugänge, kontrolliert durch die Lehrkräfte und mit sehr kurzen Speicherfristen tatsächlich die Kriterien erfüllt, welche eine Datenschutz-Folgenabschätzung erforderlich machen.