Generative KI in der schulischen Leistungsbewertung: 
 

Neues Fachpapier bietet rechtliche Orientierung für Bildungsakteur:innen

ChatGPT, Llama, Claude und Co.: Bei KI-Systemen existieren bereits spezialisierte Angebote, die gezielt auf den Bildungssektor zugeschnitten sind. Viele Lehrkräfte fühlen sich angesichts fehlender rechtlicher Grundlagen und ihres Unwissens zum Thema verunsichert. Das neue Fachpapier der Deutschen Kinder- und Jugendstiftung in Kooperation mit der Kanzlei Spirit Legal, gibt Lehrkräften, Schulaufsichten und Entscheider:innen im Bildungswesen erstmals eine rechtliche Orientierung im Bereich generative künstliche Intelligenz bei der schulischen Leistungsbewertung. 

„Schatten-KI“ an deutschen Schulen

Die Anforderungen des Datenschutzrechts und der KI-Verordnung können meist nicht erfüllt werden. Deshalb ist der Einsatz von KI-Systemen zur Bewertung schulischer Leistungen in der Regel rechtswidrig. Schulen sind in der Pflicht, ihre Lehrkräfte über die rechtlichen Risiken aufzuklären. Ohne Sensibilisierung droht die Entstehung einer „Schatten-KI" – nicht dokumentierter Systeme – an deutschen Schulen. 

Zudem basieren KI-Systeme auf Wahrscheinlichkeitsrechnungen und stellen deshalb keine echte Leistungsmessung oder Korrektur dar.

Empfehlungen und Take-aways
 

Die Autor:innen des Papiers kommen zu dem Schluss: KI-Systeme dürfen die Arbeit qualifizierter Lehrer:innen nicht ersetzen – sie können jedoch zu ihrer Entlastung beitragen und bessere Lernprozesse ermöglichen. Dieses Anwendungsspektrum stellt einen wichtigen Schritt in Richtung Integration digitaler Dienste im Bildungswesen dar.

Die DKJS formuliert dazu fünf Take-aways: 

• Wieder ins Steuerung kommen - Schatten-KI abschaffen

   

  Die Anschaffung und Nutzung von privaten generativen KI-Lizenzen durch Lehrkräfte muss aufhören. Dies sorgt für einen großflächigen Einsatz von Schatten-KI. Diese ist ein wesentlicher Grund dafür, dass KI in Schule nicht rechtskonform betrieben werden kann. Es braucht klare Richtlinien der Arbeitgeber:innen sowie Schulungen und eine konsequente Umsetzung der aufgestellten Vorgaben.

   

• KI ersetzt keine Fachkräfte

   

  Künstliche Intelligenz darf nicht mangelnde Ausstattung im Bereich Personal und Sachmittel ausgleichen. Schüler:innen haben das Recht, gute Bildung mit den dafür notwendigen Fachkräften zu erfahren. Dazu gehört auch das Recht, dass ihre Leistung von einem Menschen bewertet wird.

   

• Freiwilligkeit ist kaum gegeben

   

  Im Schulsystem bestehen Abhängigkeiten von Schüler:innen zu Lehrkräften. Diese spielen auch bei der Nutzung von KI für Leistungsbewertungen eine erhebliche Rolle. Lehrkräfte müssen sich ihrer Rolle und der Rolle von Schule im Bildungssystem für den Einsatz von KI zur Leistungsbewertung stärker bewusst sein. Denn von Schüler:innen und Sorgeberechtigen eingeholte Einwilligungen zur Nutzung von KI-Systemen sind nicht gültig. Es braucht eine entsprechende Sensibilisierung mit Blick auf ein zunehmend datengetriebenes Bildungssystem.

   

• Schulaufsichten und Schulleitungen als KI-Qualitätstandems

   

  Der Einsatz von künstlicher Intelligenz bietet die Chance, den Unterricht besser vorzubereiten, auf Heterogenität reagieren zu können oder außerunterrichtliche Abläufe in Schulen inklusiver zu gestalten. Schulaufsichten und Schulleitungen können das Aufkommen von künstlicher Intelligenz als Anlass nutzen, gemeinsam Bildungsqualität zu gestalten. Dafür können regelmäßige Austauschformate zwischen Schulaufsichten und Schulleitungen entscheidend sein, wenn sie strukturiert und regelmäßig den KI-Einsatz bearbeiten.

   

• Rechtsgrundlagen fehlen in den Landesdatenschutzgesetzen

   

  Um Lehrkräfte, Schulleitungen und Schulaufsichten größtmögliche Rechtssicherheit bei der Nutzung von KI-Systemen zu geben, braucht es angepasste Landesgesetze gerade mit Blick auf besonders sensible Daten und Einsatzbereiche. Es braucht eine ehrliche Diskussion zwischen Sorgeberechtigten, Schüler:innen, politischen Verantwortungsträger:innen und Leitungskräften der Bildungssteuerung, welche Implementierung von generativer künstlicher Intelligenz im schulischen Bildungswesen gewünscht und mit den Grundrechten von Schüler:innen vereinbar ist. Landesforen aus allen Stakeholdern der Landesbildungssysteme können einen Auftakt darstellen, um zentrale rechtliche Fragen zum KI-Einsatz gemeinsam zu diskutieren.