Warum ein „KI-Verbot-Verbot“ nicht verfassungswidrig ist
Eine Replik auf „AI Way or the Highway“ von Stella Elmentaler und Linus Hof
Seit dem „ChatGPT-Moment“ im Herbst 2022 ist an Hochschulen eine lebendige Debatte entfacht. Es geht dabei um zeitgemäßes Lehren und Prüfen, aber ebenso um den Wert menschlicher Leistungen sowie die Zukunft der (Hochschul-)Bildung.
Während es inzwischen erste Leitlinien für den KI-Einsatz in wissenschaftlichen Publikationen (z.B. durch die DFG) gibt, fehlen weiterhin Standards für den Umgang mit KI in Hochschulprüfungen. Bayern wagt mit dem „KI-Verbot-Verbot“ nun einen ersten regulatorischen Schritt und formuliert in Art. 84 Abs. 3 S. 1 Nr. 9 BayHIG-E einen Gestaltungsauftrag an die Hochschulen. Diese haben in ihren Prüfungsordnungen „die wesentlichen Fragen im Hinblick auf Prüfungsanforderungen und Prüfungsverfahren“ zu regeln, wonach nunmehr auch „die Zulässigkeit der Nutzung von KI-Systemen als Hilfsmittel“ zählen soll. Hierbei soll – so der Gesetzentwurf der Staatsregierung – die Nutzung bei nicht beaufsichtigten schriftlichen Prüfungen nicht ausgeschlossen werden.
Dieser regulatorische Vorstoß kommt bei Elmentaler und Hof nicht gut weg, sie halten ihn für mit der Lehrfreiheit (Art. 5 Abs. 3 GG) „unvereinbar und mithin verfassungswidrig.“ Zudem sehen sie darin den „Ausdruck einer gesetzgeberischen Überschätzung von KI […] und einer Abwertung der Hochschullehre […].“ Auf dem Weg zu diesen Schlussfolgerungen entgehen ihnen jedoch gewichtige Argumente, die für die Verhältnismäßigkeit und damit Verfassungsmäßigkeit der bayerischen Regelung sprechen – eine Replik:
Verboten wird nur, was ohnehin rechtswidrig wäre
Die von den Autor*innen betonte Reichweite und Bedeutung der Lehrfreiheit als Teil der Wissenschaftsfreiheit (Art. 5 Abs. 3 GG) steht hier nicht zur Diskussion. Dass Art. 84 Abs. 3 S. 1 Nr. 9 BayHIG-E in die Lehrfreiheit eingreift, ist unbestritten und wird auch durch die Ausführungen in der Entwurfsbegründung entsprechend berücksichtigt. Indes verkennen Elmentaler/Hof einen gewichtigen Punkt: „Verboten“ sollen nur solche Prüfungen werden, die aufgrund eines Verstoßes gegen die Chancengleichheit der Studierenden ohnehin rechtswidrig wären. Dies sind solche Prüfungen, bei denen das Nutzen von KI durch die Prüfenden zwar verboten wird, von ihnen jedoch nicht nachgewiesen und damit nicht sanktioniert werden kann. Ein solches – grundsätzlich nicht durchsetzbares – Verbot begegnet grundlegenden rechtsstaatlichen Bedenken. Auch bei unklareren Vorgaben zum KI-Einsatz, etwa durch ein bloßes Dulden, kommt es zu einer entsprechenden Ungleichbehandlung. Jeweils werden wesentlich Ungleiche (Prüfungsteilnehmende, die KI zur Prüfungsbearbeitung nutzen, und Prüfungsteilnehmende, die dies nicht tun) ungerechtfertigt gleichbehandelt, nämlich anhand derselben Bewertungsmaßstäbe beurteilt. Unbeaufsichtigte schriftliche Prüfungen zeichnen sich dabei dadurch aus, dass eine eigenständige schriftliche Leistung erbracht werden soll, d.h. irgendeine Art von Textproduktion gefordert ist, die mit verschieden gewichtigen Schritten, wie Literaturrecherche, Strukturierung und Schwerpunktsetzung, Berücksichtigung formeller Vorgaben sowie der korrekten Verwendung von Orthografie und Grammatik, verbunden ist. All diese Aspekte lassen sich, je nach Fach und Aufgabe, mehr oder weniger gut durch KI-Anwendungen erfüllen. Dadurch unterscheidet sich das Hilfsmittel KI in seiner Qualität entscheidend von bisherigen technischen Hilfsmitteln wie Suchmaschinen oder Datenbanken. Die Prüfungsumgebung (Ort und Zeit der Bearbeitung, genutzte Infrastruktur und Hilfsmittel) liegt bei unbeaufsichtigten Prüfungen dabei gerade nicht im Einflussbereich der Hochschulen.
Wenn ein KI-Einsatz nicht bereits während der Bearbeitung ausgeschlossen werden kann, verbleibt nur die Möglichkeit eines an die Bearbeitung anschließenden Nachweises. Doch genau das ist in der Regel unmöglich. Anders als bei einem Plagiat gibt es, abgesehen von Einzelfällen, in denen Studierende die KI-Nutzung zugeben (z.B. VG Kassel, Urt. v. 25.2.2026 – 7 K 2515/25), oder einer sehr dilettantischen Nutzung, (bisher) keinen Weg, von der schriftlichen Ausarbeitung auf den Einsatz von KI zu schließen. Sog. KI-Detektoren arbeiten auf der Basis von Wahrscheinlichkeiten und können allenfalls ein Indiz liefern. Zahlreiche Beispiele belegen ihre Fehleranfälligkeit und das ihnen innewohnende Potential für weitere Ungleichbehandlung (etwa, wenn Texte von Nicht-Muttersprachlern häufiger als KI-generiert bewertet werden). Auch die Gerichte sind sich bisher nicht einig, welche Merkmale eines Textes denn nun für einen KI-Einsatz sprechen sollen. Während das VG München auf die besonders hohe Qualität, Inhaltsdichte, Stringenz und Fehlerfreiheit des Textes abstellte, sah das LG Darmstadt (Beschl. v. 10.11.2025 – 19 O 527/16) gerade in einem besonders schlechten Stil (u.a. einfache und sich wiederholende Satzstrukturen, sprachliche Brüche sowie generische Zusammenfassungen) den Beleg für KI. Das VG Berlin kam hingegen nach sprachlicher Analyse eines Prüfungstextes aufgrund von Unterschieden in der Qualität einzelner Abschnitte innerhalb einer Arbeit zu der Überzeugung, dass KI genutzt worden war (Urt. v. 20.05.2026 – VG 12 K 305/24). Dass entsprechend ebenso wenig die Grundsätze des Anscheinsbeweises herangezogen werden können, hat die rechtswissenschaftliche Literatur vielfach dargelegt.1)
Im Ergebnis ist ein Verbot der KI-Nutzung in unbeaufsichtigten schriftlichen Prüfungen rechtlich nicht haltbar.
Warum dann eine gesetzliche Regelung treffen?
Bei diesem klaren Befund könnte man daher allenfalls fragen: Warum dann eine gesetzliche Regelung treffen?
Die Antwort liefert die Praxis. Die konkreten Zahlen unterscheiden sich zwar je nach Umfrage, doch der Befund ist klar: Der Großteil der Studierenden nutzt KI regelmäßig, wohl auch in Prüfungen (s. etwa hier und hier). Bei der Frage, ob ein KI-Einsatz in Prüfungen zulässig sein sollte, gehen die Meinungen indes auseinander, gewünscht und gefordert werden jedoch klare Vorgaben sowie die Vermittlung von KI-Kompetenz. Doch das vermag die Hochschulpraxis bisher nicht zu leisten.
In der Konsequenz gehen Unsicherheiten derzeit vielfach zu Lasten der Prüfungsteilnehmenden, erbrachte Leistungen werden unter „KI-Verdacht“ gestellt und das Vertrauensverhältnis zwischen Lehrenden und Studierenden gerät unter Druck (zu diesen Entwicklungen etwa Heckmann und Sigmund). Der bayerische Vorstoß ist daher kein Ausdruck von Misstrauen gegenüber den Hochschulen und Lehrenden, sondern kann vielmehr als das Gegenteil verstanden werden: als konkreter Gestaltungsauftrag unter Aufzeigen (grund-)rechtlicher Leitplanken. In der aktuellen Ausgestaltung („soll“ statt „muss“) berücksichtigt die Entwurfsfassung sogar die (wohl eher theoretische) Möglichkeit abweichender Einzelfälle, also unbeaufsichtigter schriftlicher Prüfungen, bei denen sich doch aufgrund der spezifischen Umstände ein KI-Hilfsmittel-Verbot durchsetzen lassen würde. Selbstverständlich ist auch eine Soll-Vorschrift – anders als es die Autor*innen behaupten – rechtsverbindlich. „Sollen“ bedeutet auch nach ständiger Rechtsprechung des Bundesverwaltungsgerichts „Müssen“ mit einer (gerichtlich überprüfbaren) Ausnahme in atypischen Fällen (BVerwG, Beschl. v. 10.03.2009 – OVG 9a D 149/06.G, Rn. 2).
Somit lässt sich auch der mit dem KI-Verbot-Verbot verbundene Eingriff in die Lehrfreiheit rechtfertigen: Art. 84 Abs. 3 S. 1 Nr. 9 BayHIG-E zielt auf die Gewährleistung chancengerechter Hochschulprüfungen unter den durch KI veränderten Bedingungen ab. Die Regelung ist geeignet, da durch sie solche Prüfungen unterbunden werden sollen, die nicht entsprechend dem sich aus Art. 3 Abs. 1 iVm Art. 12 Abs. 1 GG2) ergebenden Maßstab ausgestaltet werden können. Ein gleich geeignetes milderes Mittel steht nicht zur Wahl. Denn bisher ist es Hochschulen und Lehrenden ohne eine entsprechende Regulierung nicht gelungen, die KI-bedingten Rechtsunsicherheiten abzubauen. Es ist vertretbar zu erwarten, dass Art. 84 Abs. 3 S. 1 Nr. 9 BayHIG-E zu einem Mehr an Chancengerechtigkeit führt und so die Verwirklichung der Grundrechte der Studierenden positiv beeinflusst. Die Eingriffsintensität wird durch die Verwendung des Modalverbs „soll“ zudem bereits abgemildert und lässt Raum für Abweichungen im Einzelfall. Auch auf Ebene der Angemessenheit stehen dem „KI-Verbot-Verbot“ keine Bedenken entgegen. Die Lehrfreiheit wird nur hinsichtlich unbeaufsichtigter schriftlicher Prüfungen punktuell eingeschränkt. Der Gestaltungsauftrag liegt bei den Hochschulen. Den Lehrenden verbleibt es darüber hinaus unbenommen, ihren Unterricht und auch ihre Prüfungen „KI-frei“ zu gestalten und etwa auf andere Prüfungsformate zu wechseln.
Was bleibt nun von der Kritik am „KI-Verbot-Verbot“?
Der mit dem Aufkommen von KI einsetzende Paradigmenwechsel im Hochschulwesen wurde in Bayern erkannt und mit Art. 84 Abs. 3 S. 1 Nr. 9 BayHIG-E stellt die Staatsregierung einen konkreten Vorschlag für den Umgang mit KI in Hochschulprüfungen zur Diskussion. Dabei kann man überlegen, ob man das Framing als „Verbot-Verbot“ für überzeugend hält und der Begriff „Künstliche Intelligenz“ einer stärkeren begrifflichen Einordnung bedarf, oder ob sich umgekehrt der konkrete rechtliche Auftrag für die Normadressaten (Hochschulen) hier ausreichend aus dem Kontext ergibt.
Angesichts der aufgezeigten Schwierigkeiten, einen KI-Einsatz nachzuweisen, stellt sich außerdem die berechtigte – von Elmentaler/Hof indes nicht aufgeworfene – Frage, wie es dann um die „Vorgaben zu Umfang und Art einer Dokumentation der Nutzung“ steht, die die Hochschulen vorsehen sollen. Auch diese ließen sich praktisch nicht überprüfen, ggf. ebenso mit KI erzeugen und dienten daher eher als Reflexions- und Fleißaufgabe sowie der Transparenz aus Gründen der wissenschaftlichen Redlichkeit.
Soll die KI-Nutzung perspektivisch nicht nur nicht verboten, sondern vielmehr Bestandteil von Prüfungsleistungen werden, so müssen dann konsequenterweise die auf die Prüfung vorbereitende Lehre sowie die Bewertungskriterien angepasst werden. Dies umfasst neben der Vermittlung von KI-Kompetenzen auch die Bereitstellung eines rechtskonform nutzbaren, insbesondere den datenschutzrechtlichen Vorgaben entsprechenden, KI-Tools durch die Hochschulen.3). Hierzu sind im BayHIG noch keine Vorgaben angelegt, diese Entwicklung wird durch den Entwurf allenfalls mittelbar gefördert.
Im Ergebnis besteht die Leistung des gesetzgeberischen Vorstoßes somit darin, einen grundrechtswidrigen Zustand nicht einfach zu akzeptieren, sondern Leitplanken aufzuzeigen und einen konkreten Gestaltungsauftrag an die Hochschulen zu formulieren. Während man über die Ausgestaltung des „KI-Verbot-Verbots“ im Detail durchaus diskutieren kann, ergeben sich hierbei jedoch keine durchgreifenden verfassungsrechtlichen Bedenken.
References
| ↑1 | VG München, Beschl. v. 28.11.2023 – M E 23.42371 mit Anmerkungen Rachut, NJW 2024, 1052; Braegelmann, RDi 2024, 188; Müller/Hellmuth, LTZ 2024, 351; Vasel, KIR 2024, 70; Birnbaum, NVwZ 2024, 603; VG Kassel, Urt. v. 25.2.2026 – 7 K 2134/24.KS mit kritischen Anmerkungen Sigmund, OdW 2026, 187; Wirth, NVwZ 2026, 942; zudem Heckmann, jurisPR-ITR 9/2026 Anm. 2. |
|---|---|
| ↑2 | S. zum Grundrechtsschutz durch Gestaltung des Prüfungswesens, Jeremias, in: Fischer/Jeremias/Dieterich Prüfungsrecht, 9. Aufl. 2026, Rn. 128 ff. |
| ↑3 | So bereits Rachut, Grundrechtsverwirklichung in digitalen Kontexten, 2025, S. 666. |
Liebe Frau Rachut,
vielen Dank für diesen Beitrag.
Sie schreiben: „Verboten“ sollen nur solche Prüfungen werden, die aufgrund eines Verstoßes gegen die Chancengleichheit der Studierenden ohnehin rechtswidrig wären. Dies sind solche Prüfungen, bei denen das Nutzen von KI durch die Prüfenden zwar verboten wird, von ihnen jedoch nicht nachgewiesen und damit nicht sanktioniert werden kann. Ein solches – grundsätzlich nicht durchsetzbares – Verbot begegnet grundlegenden rechtsstaatlichen Bedenken.
Welche rechtsstaatlichen Bedenken sehen Sie hier? Inwieweit unterscheidet sich das Verbot einer KI-Nutzung von der ebenfalls verbotenen Inanspruchnahme anderer Hilfsmittel, die keine eigene Bearbeitung mehr durch Studierende darstellen, z.B. Verfassen der Arbeit durch eine andere Person? Auch diese Verstöße bzw. Verbote scheinen mir im Rahmen häuslicher Arbeiten nicht nachweisbar/durchsetzbar. Wo ziehen Sie die verfassungsrechtliche Grenze eines nicht durchsetzbaren Verbots? Wie sieht es bspw. Mit StVO-Verstößen, die in der Breite nicht durchgesetzt werden können? Die Nachweisbarkeit von KI-Nutzung unterscheidet sich in Bezug auf die Indizien in Fällen von falschen Lit.-Angaben, nicht passenden Textpassagen oder im Text auftauchenden Prompts nicht fundamental vom sonstigen Prüfungsrecht oder auch den Plagiatsfällen? Oder halten Sie die gesamte verwaltungsrechtliche Rechtsprechung zum Prüfungswesen für nicht überzeugend?
Mein Eindruck aus der universitären Praxis ist etwas anders: wir haben regelmäßig Fälle, in denen offensichtlich falsche Angaben von LLMs übernommen wurden, der Nachweis anhand der verwaltungsgerichtlichen Maßstäbe ist m. E. nach rechtssicher möglich.
Aber vielleicht sind die Studierenden in Bayern auch schon viel weiter….
Freundliche Grüße
Hannah Ruschemeier
Liebe Frau Ruschemeier,
vielen Dank für Ihre Nachfrage.
Hier sollte man in meinen Augen verschiedene Aspekte trennen:
Insoweit Prüfungsteilnehmende Arbeiten abgeben, die falsche Angaben enthalten, nicht existierende Quellen oder inkorrekte Fundstellen zitieren oder fremde Inhalte als eigene wiedergeben, kann diesen mit den bestehenden prüfungsrechtlichen Möglichkeiten begegnet werden. Hierbei kommt es auch gar nicht darauf an, ob dies mit oder ohne KI erfolgte, denn im Ergebnis steht eine Arbeit, die nicht den (Mindest-)Anforderungen an eine wissenschaftliche Arbeit entspricht. Während man in der Vergangenheit bei solchen Fehlern in der Korrektur möglicherweise etwas großzügiger war, gilt es nun, die Bewertungsmaßstäbe an die veränderten Realbedingungen anzupassen und z.B. die korrekte Verwendung von Quellen als gewichtigeren Punkt zu bestimmen. Insoweit veränderte Prüfungsmaßstäbe müssen selbstverständlich kommuniziert werden.
Möchte man hingegen den KI-Einsatz als solchen verbieten, ergeben sich die in dem Beitrag beschriebenen Probleme hinsichtlich der Bestimmtheit des Verbots und der Nachweisbarkeit eines Verstoßes. Anders als z.B. bei Verstößen gegen die StVO – wo zwar nicht alle Verstöße geahndet werden können, der Verstoß als solcher (z.B. Überschreitung der zulässigen Höchstgeschwindigkeit) an sich unproblematisch nachweisbar ist – kann der Nachweis eines KI-Einsatzes nach derzeitigem Stand nicht gelingen. In anderen Worten: Von 100 fahrenden Autos können zwar nicht alle überprüft werden, jedoch können bei jeder überprüften Fahrt etwaige Verstöße festgestellt werden. Bei 100 Hausarbeiten kann bei einer Stichprobenuntersuchung jedoch nicht mit entsprechender Sicherheit festgestellt werden, ob genau diese nun mittels KI erstellt wurde oder nicht. Ein Nachweis gelingt nur in den Fällen, in denen die Abgebenden dies selbst zugeben oder KI wirklich dilettantisch eingesetzt wurde (Prompts im Text, Copy-Paste von nicht existenten Quellen uä). Für den letzten Fall bedarf es jedoch keines KI-Verbots, da diesen Arbeiten bereits mit den bestehenden Bewertungsmaßstäben beizukommen ist (s.o.).
Zugegebenermaßen gab es schon vor KI die Möglichkeit, sich Arbeiten komplett durch Dritte schreiben zu lassen und so keinerlei eigenständige Leistung zu erbringen. Auch in diesen Fällen ist der Nachweis nur schwer möglich, aber durch die Beteiligung mindestens einer weiteren Person, die Nutzung von Kommunikationsmitteln und ggf. einen Geldfluss immerhin denkbar. Letztlich hat man diesen Graubereich jedoch toleriert und versucht, das Verhalten durch die verpflichtende Abgabe von Selbstständigkeitserklärungen und die theoretische Möglichkeit, dass ein solches Ghostwriting später aufgedeckt werden könnte, zu lenken, um unbeaufsichtigte Prüfungen durchführen zu können.
KI richtet nun das Brennglas auf diesen bisher tolerierten Bereich. Dabei skalieren KI-Anwendungen nicht nur qualitativ im Vergleich zu anderen technischen Hilfsmitteln, sondern ebenso quantitativ. Während für ein Ghostwriting entsprechende Kontakte und idR finanzielle Mittel bestehen müssen und zudem die Kapazität von Ghostwritern naturgemäß irgendwo begrenzt ist, können Texte mittels KI praktisch grenzenlos und mit sehr geringem (finanziellen) Aufwand erstellt werden. Die Reaktion auf diese Veränderungen sollte jedoch nicht ein nicht durchsetzbares KI-Verbot sein, sondern in der Aus- und Umgestaltung von Lehre und Prüfungen liegen. Genau das strebt der Gesetzentwurf an, so zumindest mein Eindruck.
Mit den besten Grüßen
Sarah Rachut
Liebe Frau Professorin Rachut,
vielen Dank für Ihren Beitrag. Wir schätzen Ihre Kritik an unserer rechtlichen Einordnung, erlauben uns aber gewissermaßen eine Verbot-Verbot-Replik-Replik:
Wir sind uns einig, dass das KI-Verbot-Verbot einen Eingriff in die durch Art. 5 Abs. 3 GG geschützte Lehrfreiheit darstellt. Die diskutierte Frage, ob das KI-Verbot-Verbot verfassungsmäßig ist, dreht sich also darum, ob dieser Eingriff verfassungsrechtlich gerechtfertigt werden kann. Unseres Erachtens ist es hilfreich, die einzelnen Voraussetzungen einer verfassungsrechtlichen Rechtfertigung im Detail zu prüfen, weswegen wir hier noch einmal auf den verfolgten Zweck, die Geeignetheit, Erforderlichkeit und Angemessenheit eingehen.
1. Zum verfolgten Zweck
Da die in Art. 5 Abs. 3 GG verankerte Lehrfreiheit vorbehaltslos gewährt wird, kann eine Eingriffsrechtfertigung ausschließlich zum Schutz kollidierenden Verfassungsrechts erfolgen. Wie auch schon die öffentliche Kommunikation des Gesetzes (hierzu in unserem Beitrag) setzt sich ein erheblicher Teil der Replik demgegenüber mit Gründen für ein Verbot-Verbot auseinander, die von vornherein nicht geeignet sind, einen Eingriff in die Lehrfreiheit zu rechtfertigen: Weder die „Vermittlung von KI-Kompetenz“ noch das „Vertrauensverhältnis zwischen Lehrenden und Studierenden“ sind Rechtsgüter von Verfassungsrang.
Dass es insbesondere keinen verfassungsrechtlichen Anspruch auf Vermittlung von KI-Kompetenz gibt, führen Sie in Ihrem Beitrag „Rechtssichere Hochschulprüfungen mit und trotz generativer KI“ (in: Ordnung der Wissenschaft 2024, S. 85–100, gemeinsam mit Prof. Dr. Dirk Heckmann) auf S. 88 selbst zutreffend aus: „Die Studierenden haben keinen grundrechtlich fundierten Anspruch auf innovative Lehrinhalte und Prüfungsbedingungen, solange Lehre und Prüfung nicht komplett an der Lebenswirklichkeit vorbeigehen. Insofern könnte die Billigung des Einsatzes generativer KI bei Hochschulprüfungen zwar bildungs- und arbeitsmarktpolitisch wünschenswert sein – dies nicht zu billigen wäre aber noch keine Verletzung von Art. 12 Abs. 1 GG.“
Auch eine verfassungsrechtliche Anknüpfung für den Schutz des „Vertrauensverhältnisses zwischen Lehrenden und Studierenden“ ist nicht ersichtlich. In der Diskussion darum, ob der Eingriff in die Lehrfreiheit verfassungsrechtlich gerechtfertigt werden kann, sind diese Argumente für ein KI-Verbot-Verbot daher fehlplatziert. Lediglich das durch Art. 3 Abs. 1 in Verbindung mit Art. 12 Abs. 1 GG geschützte Recht auf chancengleiche Ausgestaltung von Universitätsprüfungen stellt ein Rechtsgut von Verfassungsrang und damit ein legitimes Ziel dar.
2. Zur Eignung des KI-Verbot-Verbots zur Förderung von Chancengleichheit
Ein KI-Verbot-Verbot wäre dann geeignet, die Chancengleichheit zu fördern, wenn ein KI-Verbot die Chancengleichheit der Prüflinge beeinträchtigen würde. Um dies zu begründen, greifen Sie auf zwei Prämissen zurück, denen wir wie folgt entgegentreten möchten:
a. Zur Nachvollziehbarkeit von Verstößen gegen KI-Verbote
Der ersten Prämisse nach ist der Nachweis der Nutzung von KI bei der Erstellung unbeaufsichtigter Prüfungsleistungen „in der Regel unmöglich“. Wir sind uns einig, dass sogenannte „KI-Detektoren“ kein probates Mittel für den Nachweis eines KI-Einsatzes darstellen, und haben diese deshalb in unserem ursprünglichen Beitrag auch nicht als mögliches Mittel zur Durchsetzung eines KI-Verbots angeführt.
Ungeachtet dessen gibt es diverse Möglichkeiten, die Nutzung von KI in unbeaufsichtigten Prüfungen rechtssicher nachzuweisen. Zum einen kann für die Nutzung von KI auf verschiedene Indikatoren zurückgegriffen werden, die sich ihrer Anzahl und Natur nach in den einzelnen Kursen und Fächern stark unterscheiden können. Wir schließen uns an dieser Stelle den überzeugenden Ausführungen von Frau Ruschemeier zu den aus der Hochschulpraxis bekannten Fällen an, in denen eine Nutzung sehr wohl rechtssicher nachgewiesen werden konnte. Daneben ließen sich weitere Indikatoren anführen, etwa wenn durch Chatbots übernommene URLs hinzugefügte tracking parameter enthalten oder Studierende nicht der Aufforderung folgen, ausschließlich auf die Lösungswege, Techniken, Quellen etc. zurückzugreifen, die in Kursen besprochen und erworben wurden – ein Phänomen, das immer wieder in Programmieraufgaben auftritt. Ob die KI-Nutzung dabei dilettantisch erscheint oder nicht, spielt hierfür erst einmal keine Rolle.
Daneben ist zu erwarten, dass sich die Möglichkeiten zur Nachvollziehbarkeit der Nutzung von KI in Zukunft verbessern werden: Art. 50 Abs. 1 EU AI Act (Verordnung (EU) 2024/1689) verpflichtet Unternehmen dazu, technische Lösungen zur Nachvollziehbarkeit des Einsatzes ihrer KI-Produkte zu entwickeln. In Ausführung dieser Vorgabe wurden bereits sogenannte „Watermarks“ entwickelt, deren technische Funktionsweise sich von KI-Detektoren unterscheidet und insbesondere Verbesserungen hinsichtlich falsch-positiver Diagnosen erwarten lässt.
Nicht nur kann eine Häufung obengenannter Indikatoren, die die schriftliche Arbeit selbst erkennen lässt, den Verdacht eines KI-Einsatzes erhärten. So ist es auch denkbar, dass ein Nachweis nicht lediglich aufgrund des finalen Ergebnisses, sondern auf der Grundlage eines dokumentierten Arbeitsprozesses erfolgt. Etwa können Studierende von Prüfenden zu Projekten in kollaborativen cloudbasierten Editoren eingeladen und dazu verpflichtet werden, sämtliche Arbeitsschritte in der bereitgestellten Umgebung anzufertigen. Editoren wie Overleaf, ShareLaTeX und weitere erlauben es mittels automatischer Versionierung in kurzen Zeitintervallen selbst kleinschrittigste Arbeitsprozesse in allen im Projekt befindlichen Dokumenten technisch sicher nachzuvollziehen. Eine unzulässige Nutzung von KI ist hier – jedenfalls in vielen Fällen – leicht nachvollziehbar.
Ebenfalls können schriftliche Arbeiten um eine mündliche Verteidigung ergänzt werden, um einzelne für die eigenständige Erarbeitung erforderliche Arbeitsschritte nachzuvollziehen und zu prüfen, ob das verbalisierte Prozess- und Ergebniswissen mit dem in der schriftlichen Arbeit ausgedrückten Wissenstand übereinzubringen ist.
Was Ihren Hinweis angeht, dass in dem von Frau Ruschemeier erwähnten Vergleichsbeispiel (Ghostwriting) ein Nachweis zwar schwer, aber „immerhin denkbar“ sei, sei darauf hingewiesen, dass angesichts der aktuellen Datenspeicherpraxis vieler KI-Betreiber auch hier in der Regel der Nachweis anhand gespeicherter Chat-Verläufe jedenfalls „denkbar“ ist.
b. Zur Rechtswidrigkeit der Gleichbehandlung
Der zweiten Prämisse nach handelt es sich bei der Gleichbehandlung von Personen, die sich an das KI-Verbot halten, und solchen, die unentdeckt dagegen verstoßen, um eine rechtlich relevante Gleichbehandlung ungleicher Tatbestände. An dieser Stelle weisen wir darauf hin, dass der Maßstab für eine gleichheitsrechtswidrige Gleichbehandlung nach Art. 3 Abs. 1 GG sich nach der Rechtsprechung des Bundesverfassungsgerichts von dem für eine grundrechtswidrige Ungleichbehandlung unterscheidet: Eine Gleichbehandlung von Ungleichem ist nur dann problematisch, „wenn die tatsächliche Ungleichheit so groß ist, daß sie bei einer am Gerechtigkeitsgedanken orientierten Betrachtungsweise nicht unberücksichtigt bleiben darf“ (BVerfG, Beschl. v. 15.7.1998 – 1 BvR 1554/89, 963, 964/94, BVerfGE 98, 365). Eine Gleichbehandlung von Ungleichem kann daher leichter gerechtfertigt werden, wiegt mithin weniger schwer als eine Ungleichbehandlung von Gleichem (Kingreen in: BK GG, Feb. 2020, Art. 3 Rn. 286).
Selbst wenn man annähme, dass aufgrund der angeblich unmöglichen Durchsetzung des KI-Verbots Ungleiches gleichbehandelt wird, müsste man zunächst begründen, warum diese Gleichbehandlung zu einer dem Gerechtigkeitsgedanken widersprechenden tatsächlichen Ungleichheit führt. Hier kommt der von Frau Ruschemeier angeführte Vergleich mit anderen, in großen Teilen nicht durchsetzbaren Verboten ins Spiel (dem Verbot von Ghostwritern würden wir noch das Verbot von Spickern hinzufügen, bei denen in der Regel ebenfalls nur eine dilettantische Nutzung „auffliegt“). Es spricht viel dafür, dass die Gleichbehandlung von Personen, die sich an ein Verbot halten, und Personen, die unentdeckt gegen das Verbot verstoßen, nicht per se zu einer tatsächlichen, dem Gerechtigkeitsgedanken widersprechenden Ungleichheit führt. Ansonsten würden alle Verbote, deren Verstoße größtenteils in der Praxis nicht geahndet werden können, eine rechtlich erhebliche, rechtswidrige Gleichbehandlung von Ungleichem darstellen – ein Standpunkt, der in der Tat schwer vertretbar erscheint. Darüber hinaus ist nicht ersichtlich, warum sich ausgerechnet in Bezug auf die Nutzung von KI gegenüber anderen prüfungsrechtlichen Vorgaben eine besondere Ungerechtigkeit ergeben sollte.
In Ermangelung einer rechtswidrigen Gleichbehandlung von Ungleichem ist das Verbot-Verbot daher nicht geeignet, die Chancengleichheit für Studierende zu fördern.
c. Zur steigenden Chancenungleichheit durch KI
Schließlich sei erneut darauf hingewiesen, dass die Zulässigkeit von KI-Modellen bei der Ableistung unbeaufsichtigter Prüfungen selbst mit dem Risiko einer steigenden Chancenungleichheit einhergeht. Denn für die Nutzung der „besseren“ KI-Modelle werden Gebühren erhoben, die sich einkommensstärkere Studierende eher leisten können als einkommensschwache. Weitere Bedenken ergeben sich auch in Bezug auf personenbezogene Merkmale wie zum Beispiel die Herkunft und Muttersprache der Studierenden, ihre soziale Identität oder ihr Geschlecht: Es ist hinlänglich bekannt, dass aufgrund des zugrundeliegenden Trainingsregimes viele KI-Systeme (einschließlich Chatbots) nicht für alle Nutzer:innen gleich „gut“ funktionieren. Die Bedenken hinsichtlich einer marginalisierenden Ungleichbehandlung, die Sie im Zusammenhang mit der Nutzung von KI-Detektoren erwähnen, gelten mithin selbstverständlich ebenfalls in Bezug auf die Nutzung von KI-Produkten durch Studierende. Die grundsätzliche Erlaubnis der Nutzung von KI führt daher naheliegend eher noch dazu, dass sich die Chancenungleichheit zwischen Studierenden verstärkt.
3. Zur Erforderlichkeit des Verbot-Verbots
Die Erforderlichkeit wird recht knapp damit begründet, dass Hochschulen und Lehrende bislang nicht in der Lage seien, „die KI-bedingten Rechtsunsicherheiten abzubauen“. Diese Begründung greift unter zwei Gesichtspunkten zu kurz:
Zum einen stellt sie auf ein anderes Ziel – nämlich den Abbau von „Rechtsunsicherheit“ ab – und nicht die eigentlich zur Rechtfertigung herangezogene Chancengleichheit. Richtigerweise wäre hier die Frage zu beantworten, ob es mildere Mittel gibt, um eine ungerechtfertigte Gleichbehandlung von gegen das Verbot verstoßenden Prüflingen und regelkonformen Prüflingen zu verhindern.
Sodann ist problematisch, dass aus dem Umstand, dass die Grundrechtsträger selbst bislang (angeblich) keine hinreichenden Maßnahmen getroffen haben, um der „Rechtsunsicherheit“ entgegenzutreten, abgeleitet wird, dass keine milderen Mittel ersichtlich sind. Bei der Erforderlichkeit ist darauf abzustellen, ob staatlicherseits Mittel ersichtlich sind, die milder und gleich effektiv sind. Neben der staatlichen Untätigkeit, die die Replik anspricht, wenn sie darauf verweist, dass die Hochschulen und Lehrenden als Grundrechtsträger dem angeblichen Problem angeblich keine Abhilfe schaffen, kommen aber noch diverse weitere mildere Mittel in Betracht: Ein milderes Mittel wäre beispielsweise eine Begrenzung des Verbots auf Fächer und schriftliche Prüfungsformate, in denen ein Nachweis der Nutzung von KI besonders schwer ist, oder ein wissenschaftlich fundierter und vor allem fachspezifischer Leitfaden. Selbst ein zeitlich begrenztes oder bedingtes Verbot, das zu erwartende technische Entwicklungen berücksichtigt, wäre milder. Weiter käme in Betracht, statt eines generellen Verbot-Verbots eine Pflicht der Lehrenden zu kodifizieren, nach denen sie sicherstellen müssen, dass die Einhaltung prüfungsrechtlicher Vorgaben auch kontrolliert werden kann, beziehungsweise nach denen sie bei Aufstellen eines Verbots verpflichtet sind, Verstöße gegen das Verbot zu erschweren.
Während man hier vielleicht argumentieren kann, dass diese Maßnahmen möglicherweise nicht gleichermaßen effektiv sind, sind sie dennoch – insbesondere auch mit Blick auf die sogleich anzusprechende Angemessenheit – jedenfalls eine Erwähnung wert. In jedem Fall aber gilt: Ein gesetzgeberisches Eingreifen ist – anders, als die Replik suggeriert – nicht schon deswegen erforderlich, weil die Grundrechtsträger selbst in Ausübung ihrer Grundrechte das Ziel angeblich nicht hinreichend erfüllen.
4. Zur Angemessenheit
Im Rahmen der Angemessenheit führt die Replik zunächst die Möglichkeit der Ausnahme im Einzelfall an. Unberücksichtigt bleibt hier allerdings die – von uns bereits in unserem ursprünglichen Beitrag angebrachte – Abschreckungswirkung einer solchen Vorschrift und insbesondere der mit der Begründung einer Ausnahme verbundene Aufwand. Gerade diese Abschreckungswirkung stellt einen erheblichen Eingriff dar.
Die Replik führt weiter aus, dass die Eingriffsintensität deshalb nur gering sei, weil „[d]ie Lehrfreiheit […] nur hinsichtlich unbeaufsichtigter schriftlicher Prüfungen punktuell eingeschränkt“ werde und es den Lehrenden freistehe „ihren Unterricht und auch ihre Prüfungen ‚KI-frei‘ zu gestalten“. Dass diese Diagnose unzutreffend ist, zeigt sich nur wenige Absätze später, wo festgestellt wird: „Soll die KI-Nutzung perspektivisch nicht nur nicht verboten, sondern vielmehr Bestandteil von Prüfungsleistungen werden, so müssen dann konsequenterweise die auf die Prüfung vorbereitende Lehre sowie die Bewertungskriterien angepasst werden.“ Richtigerweise betrifft die Frage der KI-Nutzung in Prüfungen nämlich nicht nur die Prüfung selbst, sondern gerade auch die Lernziele des jeweiligen Faches und damit die Lehre selbst. Durch das KI-Verbot-Verbot nimmt der Gesetzgeber für sich in Anspruch, zu entscheiden, welche Prüfungsleistungen abgefragt werden dürfen: anstelle des eigenständigen Schreibens eines Textes nämlich das Lektorat eines von KI geschriebenen Textes. Gerade das eigenständige Schreiben ist ein wichtiger Grundstein der akademischen Ausbildung in vielen Fächern (hier sei erneut auf die Äußerungen des Wissenschaftsrats verwiesen), weswegen sehr gute Gründe dafür bestehen, diese Fähigkeit an Universitäten zu vermitteln. Das Verbot-Verbot zwingt Hochschullehrende, die Vermittlung dieser Fähigkeit aufzugeben.
Weiter wird der Eingriff auch nicht dadurch abgeschwächt, dass es Lehrenden offensteht, Arbeiten, die aufgrund der Nutzung von KI falsche Inhalte enthalten, schlicht mit einer schlechten Note zu bewerten. Soweit Lehrende als Lernziel für einen Kurs das selbstständige wissenschaftliche Schreiben bestimmen, handelt es sich bei der heimlichen Nutzung nun mal nicht einfach um eine schlechte Ausführung der Arbeit, sondern um einen Täuschungsversuch, der aus gutem Grund anders als erstere geahndet wird.
Geradezu zynisch erscheint es schließlich, in dem Verbot-Verbot „Leitplanken“ oder gar einen „Gestaltungsauftrag an die Hochschulen“ zu sehen: Ein Verbot fordert nicht zur Gestaltung auf – es verbietet und verkürzt damit den Gestaltungsfreiraum erheblich. Die Bezeichnung als „Leitplanken“ oder „Gestaltungsauftrag“ macht das Verbot nicht weniger zu einem Eingriff in die Freiheit von Hochschulen und Lehrenden, ihre Lehre, Lernziele und Prüfungsinhalte frei zu gestalten.
Auf Seiten der angeblichen Chancenungleichheit beim KI-Verbot fällt ins Gewicht, dass es sehr wohl rechtssichere Möglichkeiten gibt, um Verstöße gegen KI-Verbote rechtssicher nachzuweisen – insbesondere auch unter Berücksichtigung der zu erwartenden technischen Entwicklungen zum Nachweis der Nutzung von KI in Zukunft, die sich aus Art. 50 Abs. 1 EU AI Act ergeben.
Eine Abwägung der betroffenen Rechtsgüter unter Berücksichtigung der Intensität ihrer Betroffenheit ergibt daher, dass ein für alle Fächer und Kurse gleichermaßen geltendes, zeitlich unbegrenztes KI-Verbot-Verbot jedenfalls unangemessen ist.
5. Fazit
Alles in allem: Eine vereinzelte Gleichbehandlung von Studierenden, die unentdeckt gegen ein KI-Verbot verstoßen, mit solchen, die regelkonform handeln, kann eine so drastische gesetzgeberische Maßnahme wie ein KI-Verbot-Verbot, das im Ergebnis dazu führt, dass das eigenständige, unbeaufsichtigte Arbeiten ohne Nutzung von KI nicht mehr Prüfungsgegenstand und damit auch nicht Lernziel an bayerischen Universitäten sein darf, nicht rechtfertigen. Wir bleiben daher dabei: Der Vorschlag für ein KI-Verbot-Verbot ist verfassungswidrig.
Mit freundlichen Grüßen
Stella Elmentaler und Linus Hof