Große Sprachmodelle, die sogenannten Large Language Models (LLMs), sind durch Anwendungen wie ChatGPT, Claude und Gemini in kurzer Zeit bekannt geworden. Die genannten Modelle sind kommerziell und bergen sowohl ethische als auch rechtliche Probleme, insbesondere bei Fragen des Datenschutzes und des Urheberrechts. Eine Anwendung dieser Modelle im schulischen Kontext kann daher herausfordernd sein. Eine Alternative sind so genannte offene LLMs. Die Offenheit der einzelnen Modelle unterscheidet sich jedoch deutlich.
Ein Beitrag von Jens Crueger
Was bedeutet Offenheit bei LLMs?
LLMs bestehen aus drei Kernbestandteilen, die für eine Freigabe unter offener Lizenz infrage kommen:
- Der Code, der die Modellarchitektur und den Code für Training, Konfiguration und Inferenz enthält,
- die Trainingsdaten, die dem Modell Wissen über die Welt vermitteln,
- die Modellgewichte (Weights), dies sind die im Training erlernten Parameter der Informationsverarbeitung, also der Gewichtung und Verknüpfung von Informationen.
Hinsichtlich der Offenheit von LLMs ist daher die entscheidende Frage, welche dieser Elemente frei zugänglich und nutzbar sind, und welche verwehrt bleiben. Grundsätzlich lassen sich zwei Typen von offenen LLMs unterscheiden: Open Weight LLMs und Open Source LLMs.
Nur begrenzte Offenheit bei Open Weight LLMs
Bei Open Weight Modellen sind die im Training erarbeiteten Modellgewichte und damit ihre erlernte Gewichtung und Verknüpfung von Informationen öffentlich zugänglich. Dadurch wird es für Dritte möglich, das Modell auf ihrem Rechner auszuführen, seine Funktionsweise zu untersuchen, und es für eigene Bedarfe anzupassen.
Allerdings werden bei Open Weight Modellen nicht sämtliche Elemente öffentlich gemacht. Insbesondere der für das Training verwendete Code und der Korpus an Trainingsdaten bleiben dem freien Zugriff und der Einsicht verwehrt.
Der fehlende Zugriff auf die Trainingsdaten bedeutet urheberrechtliche und ethische Risiken sowie Sicherheitsgefahren, beispielsweise im Hinblick auf technische Hintertüren der Systeme. Open Weight LLMs sind daher bei der Suche nach offenen LLMs für den Bildungsbereich nicht zu empfehlen.
Komplette Offenheit bei Open Source LLMs?
Open Source LLMs stellen neben ihren Modellgewichten sowohl ihren Code als auch die Trainingsdaten öffentlich. Die Open Source Initiative hat 2024 die Open Source AI Definition 1.0 veröffentlicht, in der die Voraussetzungen einer Open Source LLM weiter aufgeschlüsselt werden.
Unter den aktuell verfügbaren weit über 100 Open Source LLMs gibt es im Detail weitere Abstufungen der Offenheit. Die Linux Foundation hat deshalb mit dem Model Openness Framework (MOF) eine Einteilung in die drei Stufen Open Model, Open Tooling Model und Open Science Model vorgeschlagen. Auf Basis dieses Framework ordnet die Website isitopen.ai rund 80 Modelle ein.
Anwendungen im Bildungskontext
Die Ständige Wissenschaftliche Kommission der Kultusministerkonferenz (SWK) hat 2024 in einem Impulspapier zu Large Language Models und ihren Potenzialen im Bildungssystem dafür plädiert, die LLMs „in geeignete Lernplattformen zu integrieren oder Commons-Alternativen zu entwickeln“ (S.21).
Im Rahmen des bundesländerübergreifenden Projektes AIS (Adaptives Intelligentes System) wird seit November 2024 ein Open Source LLM für den Einsatz im Unterricht entwickelt. Der Chatbot dieses LLMs nennt sich „AIS.chat“. Dieses Angebot ist kostenfrei und soll alle rechtlichen Anforderungen, insbesondere im Hinblick auf den Datenschutz, erfüllen.
Manche Lehrkräfte und Schulen hegen jedoch den Wunsch nach einem LLM, das ohne einen externen Anbieter (sei es ein kommerzieller oder ein staatlicher) auskommt. Open Source-Modelle, die als lokale Systeme auf einem schuleigenen Rechner laufen, können eine Alternative sein (vgl. dazu https://linux-bildung.at/2025/05/lokale-ki-auf-eigenem-server/) und benötigen noch nicht mal eine stehende Internetverbindung. Initiativen zu eigenen Open Source-KI-Umgebungen sind an Hochschulen bereits öfter zu finden, beispielsweise an der Universität Paderborn.
Offenheit und Lokalität als Themen der Zukunft
Sowohl die Entwicklung von KI-Modellen als auch die Implementierung von KI in den Unterricht bewegen sich derzeit rasant voran. Die Relevanz, die Open Source-Anwendungen dabei entfalten können, ist aufgrund der rechtlichen und ethischen Probleme großer Tech-Konzerne und ihrer kommerziellen Modelle hoch. Lokale Open Source-Modelle kommen dem Ideal von Souveränität über Technologie und Daten sehr nahe. Initiativen wie OSOS (Open Source Open Schools) können für Lehrkräfte ein Anlaufpunkt sein, die sich für lokale KI-Modelle an Schulen interessieren.
Dieser Text steht unter der CC BY 4.0-Lizenz. Der Name des Urhebers soll bei einer Weiterverwendung wie folgt genannt werden: Jens Crueger, iRights.info für OERinfo – Die Informationsstelle OER