Wenn es um neue Technologien und deren Nutzung geht, ist die Rechtslage anfangs oft lückenhaft – so auch beim Einsatz generativer KI-Tools in Studium und Lehre. Bestehende Gesetze und Verordnungen stellen aber schon jetzt Rahmenbedingen dar, die eine rechtskonforme Nutzung von KI-Tools ermöglichen. Im Folgenden erhalten Sie einen kurzen Einblick in die zwei zentralen Themen “Urheberrecht” und “Datenschutz”. Am Ende der Seite finden Sie zudem ein Informationspapier von Dr. Janine Horn, das eine detaillierte Einschätzung dieser und weiterer rechtlicher Aspekte bietet, sowie zwei externe Ressourcen zu rechtlichen Rahmenbedingungen.

Urheberrecht

Das Urheberrechtsgesetz (UrhG) schützt kreative Werke. Inhalte, die von Menschen erstellt und bei denen generative KI-Tools nur als Hilfsmittel verwendet wurden, können schutzfähige Werke darstellen. Dafür bedarf es jedoch der sogenannten Schöpfungshöhe. Das bedeutet, dass ein erheblicher, kreativer, menschlicher Aufwand zu leisten ist. Wenn der Einfluss der KI-basierten Anwendung der des Menschen nicht untergeordnet ist, gelten in der Regel weder die KI-Anwendung noch die Nutzenden als Urheber:innen der Inhalte.

Eine Kennzeichnungspflicht für KI-generierte Inhalte besteht laut UrhG nicht. Sie kann sich aber z. B. aus Nutzungsbedingungen von Anbietern oder aus Eigenständigkeitsanforderungen bei Prüfungen im Rahmen des Studiums ergeben. Werden KI-generierte Ergebnisse ungeprüft weiterverwendet, besteht zudem ein erhöhtes Risiko, Quellen nicht ausreichend sorgfältig zu kennzeichnen. Es empfiehlt sich daher generell auf die Nutzung von KI-Tools hinzuweisen, wenn diese erfolgt ist.

Auch wenn KI-Textgeneratoren wie z. B. Chat GPT oder Gemini lediglich eine wahrscheinlichkeits-basierte Berechnung von Wortkombinationen durchführen, können ihre Ergebnisse urheberrechtlich geschütztes Material enthalten. Schon die Herkunft der für eine KI-Anwendung verwendeten Trainingsdaten ist häufig nicht transparent. Nutzende können daher oft nicht erkennen, dass urheberrechtlich geschützte Materialien Teil des generativen Prozesses waren bzw. sind. Auch wenn dies bei bildgenerierenden KI-Anwendungen wie z. B. DALL-E oder Stable Diffusion offensichtlicher scheinen mag, trifft es genauso auf textgenerierende KI-Tools zu.

Letztendlich gilt:
1. Pürfen Sie KI-generierte Inhalte vor einer Weiterverwendung nach den Regeln guter wissenschaftlicher Praxis.
2. Machen Sie kenntlich, wie und wofür Sie KI-Tools verwendet haben.
3. Beachten Sie außerdem, dass Sie bei der Interaktion mit einer KI-basierten Anwendung keine Inhalte eingeben, an denen andere Personen Urheberrechte halten.


Datenschutz

Sollen KI-Tools in der Lehre zum Einsatz kommen, gilt es hinsichtlich des Datenschutzes einiges zu beachten. Den rechtlichen Rahmen bildet hier vor allem die Datenschutzgrundverordnung (DSGVO).

Sie besagt, dass KI-Werkzeuge von externen Anbietern, nur dann verpflichtend in der Lehre eingesetzt werden dürfen, wenn die Hochschule eine Vereinbarung zur Auftragsverarbeitung mit dem Anbieter geschlossen hat. Für gängige Tools wie ChatGPT, DALL-E etc. bestehen an der UOS keine solchen Vereinbarungen – sie dürfen also in der Lehre nicht ohne weiteres genutzt werden.

Um Lehrenden und Studierenden die Nutzung von generativen KI-Systemen dennoch zu ermöglichen, stellt die UOS ihren Mitgliedern und Angehörigen eigene Anwendungen zur Verfügung, die die DSGVO-Anforderungen erfüllen (hier gelangen Sie zu einer aktuellen Liste): Das UOS KI-Portal bietet bspw. einen datenschutzfreundlichen Zugang zu Open AI’s GPT-Modellen. Beim Login werden keine personenbezogenen Daten an OpenAI übertragen. Darüber hinaus wird verhindert, dass Eingaben (Prompts) einer Person zugeordnet werden können. Durch eine Zusatzvereinbarung mit OpenAI ist geregelt, dass die Chat-Inhalte nicht als Trainingsdaten verwendet werden, wobei alle Daten aus rechtlichen Gründen sechs Monate auf den Servern von OpenAI gespeichert werden.

Möchten Sie KI-Tools von externen Anbietern, mit denen keine Vereinbarung zur Auftragsverarbeitung besteht, in Ihrer Lehre einsetzen, müssen Sie gemäß der DSGVO sicherstellen, dass (1) die Nutzung für die Studierenden freiwillig ist und (2) keinerlei Nachteile für diejenigen Studierenden entstehen, die das Tool nicht nutzen möchten.


Informationspapier: Rechtliche Aspekte des Einsatzes von KI in Studium, Lehre und Prüfung

Die komplette PDF zum Download

Dr. Janine Horn ist Juristin beim ELAN e.V. und hat im Rahmen des Projektes SOUVER@N eine Handreichung zu den rechtlichen Gegebenheiten bzgl. des Einsatzes von KI im Hoschschulalltag erstellt. Das Informationspapier gibt unter anderem einen Überblick über Aspekte wie Urheberschaft, Kennzeichnungspflicht und Veröffentlichung als OER von KI-generierten Inhalten.

Das Papier nimmt konkreten Bezug auf geltende Gesetze und gibt Ausblicke auf kommende, EU-weite Regularien.

Vortrag der dghd: Rechtliche Einschätzung und Datenschutzfragen zu textbasierter KI in der Lehre

Im Rahmen Ihrer Vortragsreihe KI in der Hochschullehre stellt die dghd (deutsche Gesellschaft für Hochschuldidaktik) unter anderem auch einen Vortrag zu rechtlichen Aspekten von KI-Nutzung auf ihrem YouTube-Kanal zur Verfügung.

dghd – Deutsche Gesellschaft für Hochschuldidaktik

Ass. jur. Jan Hansen ist behördlicher Datenschutzbeauftragter und Dozent an der Technischen Universität Darmstadt und spezialisiert in den Bereichen Datenschutz, Urheberrecht, Cyber-Crime und Gewerblicher Rechtsschutz.

Diskussionspapier: Rechtsgrundlagen im Datenschutz
beim Einsatz von Künstlicher Intelligenz

Die komplette PDF zum Download

Wer sich gerne tiefer mit den datenschutz-rechtlichen Gegebenheiten und Gesetzeslagen auseinandersetzen möchte, findet in diesem Dokument des Landesbeauftragten für Datenschutz und Informationsfreiheit Baden-Württemberg umfassende Handreichungen und Erklärungen zum Thema. Es handelt sich hier zwar um ein landesspezifisches Dokument, jedoch sind viele der Überlegungen auch auf die Rechtslage in Niedersachsen übertragbar. Die Autor:innen nehmen unter anderem auch Bezug auf die KI-Verordnung der EU sowie die DSGVO. Hilfreich ist, dass viele Abschnitte abschließend in einer Sektion „Kurz gesagt“ zusammengefasst werden. Dadurch ist das Diskussionspapier auch für einen groben Überblick interessant.

Mit der Verarbeitung umfangreicher Datensätze personenbezogener Daten
im Zusammenhang mit KI-Systemen geht das Risiko einher, dass diese im Laufe des Lebenszyklus der Verarbeitung zu besonderen Kategorien personenbezogener Daten werden. Daher sollten Verantwortlichen von Anfang an die Anforderungen an die Verarbeitung besonderer Kategorien personenbezogener Daten einbeziehen.

Diskussionspapier: Rechtsgrundlagen im Datenschutz
beim Einsatz von Künstlicher Intelligenz