Warum betrifft der AI Act Bildungseinrichtungen?
Immer mehr Bildungseinrichtungen setzen auf KI-Technologien, sei es in der Unterrichtsgestaltung, Schulverwaltung oder im administrativen Bereich. Der AI Act unterscheidet zwischen verschiedenen Risikostufen, die je nach Einsatzbereich unterschiedliche Anforderungen mit sich bringen.
Beispiele für KI-gestützte Tools im Bildungsbereich
Viele beliebte Softwarelösungen und Plattformen enthalten bereits KI-Funktionen, die nun unter die neuen Regelungen des AI Acts fallen. Dazu gehören unter anderem:
- IServ – Schulplattform mit Funktionen zur digitalen Unterrichtsorganisation und automatisierten Arbeitsabläufen.
- itslearning – Lernmanagementsystem mit KI-gestützten Analysefunktionen zur Lernfortschrittsüberwachung.
- Microsoft 365 Copilot – KI-Unterstützung in Word, Excel und Teams.
- Grammarly & Duden Mentor – KI-basierte Schreib- und Grammatikprüfungen.
- ChatGPT – Generative KI zur Textverarbeitung und Wissensvermittlung.
- Turnitin & Plagscan – KI-gestützte Plagiatsprüfung für wissenschaftliche Arbeiten.
- MNSpro Cloud – Cloudbasierte Schulverwaltung mit intelligenten Funktionen.
- Schulmanager Online – Software zur Organisation von Schulabläufen mit KI-Unterstützung.
- Smartboards & Whiteboard-Software – Einige interaktive Tafeln bieten KI-gestützte Handschriftenerkennung.
Welche Verpflichtungen ergeben sich für Bildungseinrichtungen?
Je nachdem, in welchem Bereich KI genutzt wird, ergeben sich unterschiedliche Pflichten:
Minimales Risiko
Unkritische Anwendungen wie KI-gestützte Rechtschreibprüfungen oder automatische Übersetzungen. (keine besonderen Vorgaben)
Begrenztes Risiko
KI-gestützte Chatbots oder generative KI-Tools müssen klar kennzeichnen, dass sie KI nutzen. (Transparenzpflichten)
Hohes Risiko
KI-Systeme, die Schülerleistungen bewerten, Verhaltensanalysen durchführen oder automatisierte Entscheidungen treffen, unterliegen strengen Auflagen.
Dazu gehören z. B.:
- Lernplattformen, die automatisierte Bewertungen durchführen
- KI-gestützte Gesichtserkennung zur Anwesenheitskontrolle
- Systeme zur Analyse von Schülerverhalten (z. B. Engagement-Tracking in Online-Kursen)
Was bedeutet das für Schulen konkret?
- Prüfen Sie, ob Ihre Schule bereits KI-Tools nutzt und ob diese unter den AI Act fallen.
- Neue KI-gestützte Lösungen sollten mit Blick auf die neuen Vorschriften evaluiert werden.
- Achten Sie auf Transparenzanforderungen und den Schutz personenbezogener Daten.
Ab 2. Februar 2025: Gesetzliche Pflicht zur Schulung über KI für Mitarbeiter in Bildungseinrichtungen.
Gemäß Artikel 3, Absatz 56 der europäischen KI-Verordnung muss die Kompetenz im Umgang mit Künstlicher Intelligenz klar definiert werden – also die Fähigkeit, KI-Systeme fachkundig zu nutzen und deren Chancen sowie Risiken zu verstehen. Zudem schreibt Artikel 4 vor, dass Mitarbeiter entsprechend geschult werden müssen. Diese Regelung tritt am 02.02.2025 in Kraft.
co.Tec unterstützt Bildungseinrichtungen beim sicheren Einsatz von KI-Lösungen
Die neuen Regelungen werfen viele Fragen auf – wir helfen Ihnen, den Überblick zu behalten. Wir beraten Bildungseinrichtungen zu KI-Lösungen, Datenschutz und den neuen EU-Richtlinien.
Haben Sie Fragen zum AI Act und seinen Auswirkungen auf Ihre Schule? Kontaktieren Sie uns – wir helfen Ihnen gerne weiter!
