• Studierende sowie Lehrende und Beschäftigte müssen vor der Nutzung von KI-Systemen verpflichtend an einer Schulung teilnehmen: Die Schulung besteht aus dem Modul “Exkurs in die generative KI” sowie dem Modul “Welche Risiken entstehen mit ML?” aus dem Kurs “Einführung in die KI" des KI-Campus.
• Lesen Sie die Nutzungsbedingungen des KI-Systems, das Sie verwenden möchten, sorgfältig durch und beachten Sie diese für Ihre Nutzung.
• Um die Datenübertragung bestmöglich abzusichern, sollten Sie die VPN-Verbindung aufbauen, wenn Sie den KI-Dienst von außerhalb der IT-Netze der Hochschule nutzen.

• Prüfen Sie, ob Sie urheberrechtlich geschütztes Material als Input für den KI-Dienst verwenden möchten. Dies gilt z.B. für die Eingabe von Abbildungen, Textkopien und Prüfungsleistungen.
  Sollte dies der Fall sein, müssen Sie dessen rechtmäßige Verwendung absichern, z.B. durch Einholen der Zustimmung des/der Urheber*in, und dies schriftlich dokumentieren. §§44a, 44b UrhG eröffnen u. U. weitere Möglichkeiten der Nutzung von urheberrechtlich geschützten Inhalten. Prüfen Sie das Vorliegen der Voraussetzungen jeweils individuell.
• Sie dürfen keine personenbezogene Daten Dritter gemäß Art. 4 Abs. 1 DS-GVO als Input verwenden.
  Hierzu zählen Klarname, Kontaktdaten, E-Mail-Adresse, Staatsangehörigkeit, Alter, Familienstand, Foto-, Audio- oder Videoaufnahmen.
• Sie dürfen keine besonders sensiblen personenbezogenen Daten Dritter gemäß Art. 9 Abs. 1 DS-GVO als Input verwenden.
  Hierzu zählen ethnische Herkunft, politische Meinungen, religiöse oder weltanschauliche Überzeugungen oder die Gewerkschaftszugehörigkeit sowie die Verarbeitung von genetischen oder biometrischen Daten zur eindeutigen Identifizierung einer natürlichen Person, Gesundheitsdaten oder Daten zum Sexualleben oder der sexuellen Orientierung einer natürlichen Person.
• Personenbezogene Daten Dritter müssen vor der Verwendung als Input anonymisiert werden, damit kein Rückschluss auf die Person möglich ist.
• Wenn KI-Dienste Entscheidungen oder Bewertungen unterstützen, müssen Sie nachvollziehbar dokumentieren, dass die Entscheidung primär auf einer menschlichen Urteilsfindung beruht und dass es sich damit nicht um eine automatisierte Entscheidung im Einzelfall gemäß Art. 22 Abs. 2 DS-GVO handelt.
• Beim Verfassen des Inputs müssen geltende vertragliche Vereinbarungen, gesetzliche Bestimmungen und Hochschul-interne Richtlinien nach bestem Wissen und Gewissen eingehalten werden. Insbesondere sind dies Vereinbarungen zum Datenschutz, zur Vertraulichkeit, der Wahrung von Dienstgeheimnissen oder gesetzliche Vorgaben.
• Materialien aus vertraulichen Quellen darf nicht als Input verwendet werden.

• Auf Basis der Antworten des KI-Dienstes dürfen keine automatisierten Entscheidungen gemäß Art. 22 Abs. 1 DS-GVO vorgenommen werden, die gegenüber der betroffenen Person rechtliche Wirkung entfalten oder sie in ähnlicher Weise erheblich beeinträchtigen, etwa im Fall von arbeits- und personalrechtlichen Entscheidungen. 
  Es ist sicherzustellen, dass die Letztentscheidungskompetenz bei einer natürlichen Person liegt, z.B. bei Ihnen selbst.
• Bei der Verbreitung oder Veröffentlichung des Outputs des KI-Systems muss dieser auf urheberrechtlich geschützte Inhalte geprüft werden, die z.B. entstehen können, wenn die KI zufällige Ähnlichkeiten zu bestehenden Werken produziert.
• Unterliegen veröffentlichte Texte einer redaktionellen Kontrolle und lassen eine*n Verantwortliche*n erkennen, müssen Sie nicht als KI generiert gekennzeichnet werden.
  Automatisiert KI generierte Texte, die ohne vorherige Kontrolle veröffentlicht werden, sind gemäß Art. 50 Abs. 4 EU AI Act kennzeichnungspflichtig (Beispiele hierfür sind Chatbots oder automatisierte Social Media Posts).
• Der Output des KI-Systems sollte nach wissenschaftlichen Grundsätzen geprüft werden, u.a. auf fachliche Richtigkeit. Dazu sollen u.a. die Verfahren und Leitlinien zur Sicherung guter wissenschaftlicher Praxis der HWG Ludwigshafen beachtet werden.

• Sie kopieren urheberrechtlich geschützte Werke wie z.B. Fotografien oder Zeitungsartikel als Input in einen KI-Dienst ein.
  Diese Verwendung ist nicht zulässig, solange keine Zustimmung der Rechteinhaber vorliegt.
• Sie verwenden personenbezogene oder besonders sensible personenbezogene Daten Dritter als Teil eines Inputs wie z.B. den Klarnamen, die E-Mail-Adresse, ethnische Herkunft, biometrische oder medizinische Daten.
  Diese Verwendung ist nicht zulässig. Personenbezogene Daten sind zu anonymisieren.
• Sie kopieren Bewerbungsunterlagen, persönliche Anschreiben, Lebensläufe oder andere sensible Unterlagen dritter Personen in nicht-anonymisierter Form als Teil eines Inputs in den KI-Dienst ein.
  Diese Verwendung ist nicht zulässig.
• Sie kopieren nicht-öffentliche Schriftstücke wie z.B. Angebotsabgaben, Selbstauskünfte oder Geschäftsberichte als Input in einen KI-Dienst ein.
  Diese Verwendung ist ohne Zustimmung der Betroffenen nicht zulässig.
• Sie kopieren Prüfungsleistungen von Studierenden oder Auszubildenden wie z.B. schriftliche Klausurlösungen oder Zeichnungen als Input in einen KI-Dienst ein, um Sie bei der Korrektur zu unterstützen.
  Diese Verwendung ist nicht zulässig.
• Sie verwenden vertrauliche Materialien wie Gremienprotokolle aus geschlossenen Sitzungen, nicht-öffentliche Forschungsergebnisse oder Verschlusssachen als Teil eines Inputs.
  Diese Verwendung ist nicht zulässig.
• Sie führen eine automatische Bewertung von Unterlagen mithilfe von KI-Diensten durch, die beeinträchtigende Wirkungen für die betroffenen Personen entfaltet und bei der Sie das Ergebnis aus dem KI-Dienst ohne umfassende menschliche Bewertung übernehmen.
  Diese Verwendung ist nicht zulässig.

Ein KI-System ist „ein maschinengestütztes System, das […] für explizite oder implizite Ziele aus den Eingaben, die es erhält, ableitet, wie es Ausgaben wie Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen generieren kann“ (EU AI Act Art.3 Nr.1).

Generative KI ist ein Teilbereich der KI. Sie zeichnet sich dadurch aus, dass sie in der Lage ist, eigenständig völlig neue Inhalte zu generieren, die weit über die Vorhersagen der nicht-generativen KI hinausgehen. Dies geschieht durch komplexe Berechnungen von Wahrscheinlichkeiten, gepaart mit Lernprozessen der KI, dem sogenannten Machine Learning (ML) und basierend auf riesigen Datenmengen. Die Anweisungen an die KI, was sie bearbeiten oder generieren soll, nennt man Prompt oder Prompting.

Die aktuell in der Breite beliebtesten Vertreter der generativen KI sind LLMs (Large Language Models), deren Zielsetzung es ist, menschliche Sprache zu generieren und zu verstehen. Zu den LLMs gehören die bekannten kommerziellen Conversational Agents ChatGPT, Gemini, Perplexity etc., aber auch die KI-Systeme, die die über die HWG Ludwigshafen bereitgestellt werden. 

Viele generative KI Modelle sind mittlerweile multimodal: Sie können aus Audio-Files Text generieren oder aus Text Grafiken oder Codes oder Videos etc. Trotz dieser beeindruckenden Fähigkeiten, verfügt generative KI (genau wie nicht generative KI) nicht über (Fakten-)Wissen.

Der Output (also das, was die KI als Ergebnis ausgibt), der auf den Input (also das, was vom Nutzenden eingegeben wird) folgt, entsteht weiterhin ausschließlich basierend auf komplexen statistischen Wahrscheinlichkeiten. Die sachliche Richtigkeit ist dabei nicht das Ziel des Systems, sondern ausschließlich die Ausgabe von kohärentem Text (oder klaren Bildern etc). Hierdurch kann es zu Halluzinationen kommen, also schlichten Falschbehauptungen. Ein weiteres Problem sind in den Trainingsdaten enthaltene Verzerrungen oder Voreingenommenheit, sogenannter Bias. Daher müssen Sie alle Outputs, die Sie von einer KI erhalten, nicht nur auf sachliche Richtigkeit, sondern auch auf möglicherweise subtileren Bias überprüfen.

Die Möglichkeit, in menschlicher Sprache (gesprochen oder verschriftlicht) mit diesen Systemen zu kommunizieren, verleitet dazu, diesen Systemen Emotionen, Intelligenz und Wissen zuzuschreiben, die sie de facto nicht besitzen, und auch Fehler zu verzeihen, die bei normalen „Maschinen“ schlicht als solche gesehen werden würden. Man spricht hierbei vom ELIZA- Effekt.

Ähnlich anderen PC Anwendungen oder Handy-Apps verarbeiten auch KI Systeme die Daten der Nutzenden. Hierzu zählen Anmeldedaten wie E-Mailadressen, Namen, IP-Adressen oder Geburtsdaten, ggf. Kreditkartendetails oder Wohnorte. Bei generative KI-Systemen kommt hinzu, dass die Inputs in die Systeme ebenfalls mit diesen Daten verknüpft werden können, also: Alles, was der KI mitgeteilt oder in die KI hochgeladen wird, wird dem Nutzenden zugeordnet.

Wenn Sie mehr über die Funktionsweise von KI und generativer KI lernen möchten, empfehlen wir den kostenlosen Online-Kurs des KI-Campus „Einführung in die KI“.

Folgende generative und nicht-generative KI-Systeme stehen Lehrenden und Studierenden jederzeit zur Verfügung und können für alle Aufgaben in Studium und Lehre genutzt werden. Studierende können verpflichtet werden, diese KI-Systeme in den Lehrveranstaltungen und Prüfungen zu nutzen. Es ist sichergestellt, dass die Verarbeitung der Daten datenschutzkonform erfolgt.

Bereitgestellte generative KI-Systeme:
Die HWG Ludwigshafen ermöglicht allen Studierenden sowie Lehrenden und Beschäftigten einen Zugang zu den generativen KI-Systemen auf der Plattform des „Edu-KI-Chats“, den der Virtuelle Campus Rheinland-Pfalz (VCRP) für die rheinland-pfälzischen Hochschulen anbietet (Edu-KI-RLP). Auf dieser Plattform finden Sie mehrere freie, generative KI-Modelle, die je nach Thema und Prompt unterschiedlichen Output liefern. Das System wird stetig weiterentwickelt und ergänzt.
Die Anmeldung erfolgt über Shibboleth. Dadurch werden die Anmeldedaten verschlüsselt und es kann keine Verknüpfung zwischen Ihren Anmeldedaten und Ihren Chatverläufen hergestellt werden. Chatinhalte werden nicht protokolliert, zwischengespeichert oder zu Trainingszwecken verwendet.
Sie erhalten Zugang zur Plattform und den generativen KI-Systemen mit Ihren üblichen Login Daten unter folgendem Link: https://chat.edu-ki-rlp.de/login

Bereitgestellte Systeme mit KI-Funktionalität:
Lehrende und Studierende können jederzeit auf Software mit KI-Funktionalität zugreifen, die in den PC-Poolräumen der Hochschule bereitgestellt werden und ggf. auch remote genutzt werden können.
Beispiele sind: IBM SPSS, Tableau, RStudio, SAP BusinessObjects Analysis, SAP HANA Studio / BW Modeling Tools, SAP Analytics Cloud u.a.

Auf eigenen PCs installierbare KI-Systeme:
KI-Systeme und Werkzeuge zum Arbeiten mit KI, die von den Studierenden kostenfrei auf privaten Rechnern installiert und lokal genutzt werden können, dürfen ebenfalls für alle Aufgaben in Studium und Lehre eingesetzt werden. Bei einer Installation auf privaten Geräten sind die Lehrenden dazu verpflichtet, die Studierenden anzuleiten, wie die Software datenschutzkonform installiert und genutzt wird. Im Allgemeinen muss die Nutzung lokal und nicht in der Cloud erfolgen.
Beispiele sind: Anaconda für Python oder R, Microsoft Power BI, R für Windows, Altair RapidMiner, RStudio, KNIME.

Falls Lehrende unsicher sind, ob die Bedingungen für einen datenschutzkonformen und verpflichtenden Einsatz vorliegen, können sie sich gerne zur Beratung an das AI Literacy Center wenden.

KI-Systeme in Cloud-Umgebungen:
Für bestimmte KI-Systeme ist eine datenschutzkonforme Nutzung auch in einer Cloud-Umgebung möglich, beispielsweise über Amazon Web Services mit Serverstandort Frankfurt. Bei der Verwendung solcher Dienste sind die Lehrenden verpflichtet, die Studierenden in der datenschutzkonformen Nutzung anzuleiten. Werden diese Dienste den Studierenden kostenfrei zur Verfügung gestellt, können sie in allen Bereichen von Studium und Lehre auch verpflichtend eingesetzt werden.

Falls Lehrende unsicher sind, ob die Voraussetzungen für einen datenschutzkonformen und verpflichtenden Einsatz vorliegen, um zusätzliche KI-Systeme in Cloud-Umgebungen zu nutzen, können sie sich gerne zur Beratung an das AI Literacy Center wenden.

Bei vielen KI-Systemen, die in der Cloud betrieben werden, sind die datenschutzrechtlichen Voraussetzungen nicht erfüllt. Dies betriff insbesondere kommerzielle generative KI-Systeme wie ChatGPT oder DeepL. Deshalb dürfen Studierende zur Nutzung dieser Systeme nicht verpflichtet werden. Eine freiwillige und eigenverantwortliche Nutzung ist jedoch möglich (s. folgender Abschnitt).

Studierende sowie Lehrende und Beschäftigte dürfen KI-Systeme, für die eine verpflichtende Nutzung unter in den Kategorien 1 und 2 genannten Voraussetzungen nicht gegeben ist, eigenverantwortlich für ihr Studium bzw. ihre dienstlichen Aufgaben verwenden. Dies betrifft bspw. die generativen KI-Systeme ChatGPT und DeepL oder KI-Produkte, die Google Cloud oder Microsoft Azure verwenden.

Studierende dürfen aber nicht verpflichtet werden, diese KI-Systeme in Lehrveranstaltungen oder Prüfungen zu verwenden.

Das bedeutet:

• Wenn für eine Prüfungsleistung die Verwendung von bestimmten KI-Systemen vorausgesetzt oder gefordert wird, müssen KI-Systeme der Kategorien 1 und 2 zum Einsatz kommen, falls ein verpflichtender Einsatz unter den jeweils genannten Voraussetzungen möglich ist.
• Wenn für eine Prüfungsleistung der Einsatz von KI-Systemen freigestellt ist oder es aus Sicht der Lehrenden unerheblich ist, welche KI-Systeme verwendet werden, können Studierende sowohl die bereitgestellten als auch andere KI-Systeme verwenden. Studierende sind also frei in der Entscheidung, welches KI-System sie nutzen möchten. Lehrende müssen dabei in der Lage sein, die eigenständige Prüfungsleistung der einzelnen Studierenden zu messen, auch wenn diese unterschiedliche KI-Systeme verwenden.
• In Lehrveranstaltungen sind je nach intendierten Lernergebnissen verschiedene Einsatzszenarien denkbar:
  • Lehrende können die bereitgestellten und auch andere KI-Systeme verwenden, bspw. im Rahmen einer Demonstration durch die Lehrenden selbst oder über die eigenverantwortliche freiwillige Nutzung der Studierenden.
  • Falls die Lehrenden voraussetzen, dass spezifische Aufgaben in den Lehrveranstaltungen von allen Studierenden mit denselben KI-Systemen bearbeitet werden, müssen für diesen verpflichtenden Einsatz KI-Systeme der Kategorien 1 oder 2 verwendet werden, unter Einhaltung der jeweils genannten Voraussetzungen.
  • Falls es aus Sicht der Lehrenden unerheblich ist, welches KI-System im Rahmen der Lehrveranstaltung verwendet wird, (es den Studierenden also freigestellt ist, ob sie die bereitgestellten oder nicht-bereitgestellten KI-Systeme verwenden,) können Studierende verpflichtet werden, die bereitgestellten KI-Systeme zu verwenden, falls sie keine anderen KI-Systeme nutzen möchten.

Studierende erhalten Informationen, ob KI-Systeme in den Lehrveranstaltungen und Prüfungen zulässig sind und wie der Umgang mit KI-Systemen dokumentiert und der Output gekennzeichnet werden soll, über die verantwortlichen Lehrpersonen und/oder die Leitfäden des Fachbereichs bzw. Studiengangs.

Ob KI-Systeme in einer Lehrveranstaltung oder einer Prüfung verwendet werden dürfen oder nicht, wird von den Lehrenden begründet und entschieden. Ist der Einsatz von KI-Systemen erlaubt, muss Ihnen als Studierenden klar sein, dass die Verantwortung für den gesamten Text, auch für KI-basierte Ergebnisse oder Passagen, bei Ihnen als Autorinnen und Autoren liegt. Sie als Studierende stehen daher in der Pflicht, die inhaltliche Richtigkeit und kommunikative Passung der KI-generierten Textteile oder anderer Ergebnisse sicherzustellen.

Die HWG Ludwigshafen hat eine hochschulweit einheitliche Eigenständigkeitserklärung zur Abschlussarbeit, in der auch über die Verwendung von KI-Systeme Auskunft gegeben wird. Die Eigenständigkeitserklärung verlangt, dass die Frage, ob und welche KI-Systeme bei der Abschlussarbeit verwendet werden dürfen und wie der Output dokumentiert wird, mit dem oder der Erstbegutachtenden abgestimmt ist. Die Eigenständigkeitserklärung finden Sie auf der Internetseite des SSC zur Abschlussarbeit (Thesis).

Lehrende und Lehrbeauftragte erhalten zusätzliche Hinweise und Empfehlungen der Abteilung Studium und Lehre zum Einsatz von KI-Systemen in Lehre & Prüfungenim Intranet (bitte vorher im Intranet anmelden).