Ein KI-System ist „ein maschinengestütztes System, das […] für explizite oder implizite Ziele aus den Eingaben, die es erhält, ableitet, wie es Ausgaben wie Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen generieren kann“ (EU AI Act Art.3 Nr.1).

Generative KI ist ein Teilbereich der KI. Sie zeichnet sich dadurch aus, dass sie in der Lage ist, eigenständig völlig neue Inhalte zu generieren, die weit über die Vorhersagen der nicht-generativen KI hinausgehen. Dies geschieht durch komplexe Berechnungen von Wahrscheinlichkeiten, gepaart mit Lernprozessen der KI, dem sogenannten Machine Learning (ML) und basierend auf riesigen Datenmengen. Die Anweisungen an die KI, was sie bearbeiten oder generieren soll, nennt man Prompt oder Prompting.

Die aktuell in der Breite beliebtesten Vertreter der generativen KI sind LLMs (Large Language Models), deren Zielsetzung es ist, menschliche Sprache zu generieren und zu verstehen. Zu den LLMs gehören die bekannten kommerziellen Conversational Agents ChatGPT, Gemini, Perplexity etc., aber auch die KI-Systeme, die die über die HWG Ludwigshafen bereitgestellt werden. 

Viele generative KI Modelle sind mittlerweile multimodal: Sie können aus Audio-Files Text generieren oder aus Text Grafiken oder Codes oder Videos etc. Trotz dieser beeindruckenden Fähigkeiten, verfügt generative KI (genau wie nicht generative KI) nicht über (Fakten-)Wissen.

Der Output (also das, was die KI als Ergebnis ausgibt), der auf den Input (also das, was vom Nutzenden eingegeben wird) folgt, entsteht weiterhin ausschließlich basierend auf komplexen statistischen Wahrscheinlichkeiten. Die sachliche Richtigkeit ist dabei nicht das Ziel des Systems, sondern ausschließlich die Ausgabe von kohärentem Text (oder klaren Bildern etc). Hierdurch kann es zu Halluzinationen kommen, also schlichten Falschbehauptungen. Ein weiteres Problem sind in den Trainingsdaten enthaltene Verzerrungen oder Voreingenommenheit, sogenannter Bias. Daher müssen Sie alle Outputs, die Sie von einer KI erhalten, nicht nur auf sachliche Richtigkeit, sondern auch auf möglicherweise subtileren Bias überprüfen.

Die Möglichkeit, in menschlicher Sprache (gesprochen oder verschriftlicht) mit diesen Systemen zu kommunizieren, verleitet dazu, diesen Systemen Emotionen, Intelligenz und Wissen zuzuschreiben, die sie de facto nicht besitzen, und auch Fehler zu verzeihen, die bei normalen „Maschinen“ schlicht als solche gesehen werden würden. Man spricht hierbei vom ELIZA- Effekt.

Ähnlich anderen PC Anwendungen oder Handy-Apps verarbeiten auch KI Systeme die Daten der Nutzenden. Hierzu zählen Anmeldedaten wie E-Mailadressen, Namen, IP-Adressen oder Geburtsdaten, ggf. Kreditkartendetails oder Wohnorte. Bei generative KI-Systemen kommt hinzu, dass die Inputs in die Systeme ebenfalls mit diesen Daten verknüpft werden können, also: Alles, was der KI mitgeteilt oder in die KI hochgeladen wird, wird dem Nutzenden zugeordnet.

Wenn Sie mehr über die Funktionsweise von KI und generativer KI lernen möchten, empfehlen wir den kostenlosen Online-Kurs des KI-Campus „Einführung in die KI“.

Die HWG Ludwigshafen ermöglicht allen Studierenden sowie Lehrenden und Beschäftigten einen Zugang zu den generativen KI-Systemen auf der Plattform des „Edu-KI-Chats“, den der Virtuelle Campus Rheinland-Pfalz (VCRP) für die rheinland-pfälzischen Hochschulen anbietet (Edu-KI-RLP). Auf dieser Plattform finden Sie mehrere freie, generative KI-Modelle, die je nach Thema und Prompt unterschiedlichen Output liefern.

Die generativen KI-Systeme auf dieser Plattform können für alle Hochschulaufgaben verwendet werden, insbesondere auch für das Studium und in der Lehre.
Edu-KI-RLP ist speziell auf akademische Bedürfnisse zugeschnitten.

Edu-KI-RLP ist dahingehend datenschutzfreundlich, dass die Anmeldung über Shibboleth erfolgt, wodurch die Anmeldedaten verschlüsselt werden und keine Verknüpfung zwischen Ihren Anmeldedaten und Ihren Chatverläufen hergestellt werden kann. Desweiteren werden Chatinhalte nicht protokolliert, zwischengespeichert oder zu Trainingszwecken verwendet.

Aber Achtung: Selbstverständlich müssen Sie im Promptverlauf und bei der Formulierung Ihres Inputs auch bei Edu-KI-RLP datenschutzkonform vorgehen und bei der Nutzung von Edu-KI-RLP auch die übrigen Vorgaben zum rechtskonformen Umgang einhalten; Sie dürfen also bspw. keine personenbezogenen Daten eingeben!

Sie erhalten Zugang zur Plattform und den generativen KI-Systemen mit Ihren üblichen Login Daten unter folgendem Link: https://chat.edu-ki-rlp.de/login

Studierende sowie Lehrende und Beschäftigte dürfen KI-Systeme, die nicht von der HWG Ludwigshafen bereitgestellt werden (bspw. ChatGPT, DeepL oder KI-Produkte, die Google Cloud oder Microsoft Azure verwenden), eigenverantwortlich für ihr Studium bzw. ihre dienstlichen Aufgaben nutzen. Falls Sie dies tun, sind auch dabei die Vorgaben “zum rechtskonformen Umgang mi KI-Systemen an der HWG Ludwigshafen” zwingend einzuhalten.

Studierende dürfen nicht verpflichtet werden, andere als die von der HWG Ludwigshafen bereitgestellten KI-Systeme in Studium, Lehre und Prüfungen zu verwenden.

Sofern die Vorgaben zum rechtskonformen Umgang (sowie bei Lehrenden und Beschäftigten die “Richtlinie zum Einsatz von KI der Hochschule für Wirtschaft und Gesellschaft”) eingehalten werden, kann für die eigenverantwortliche Nutzung von KI-Systemen, die nicht von der HWG Ludwigshafen bereitgestellt werden, die Hochschul-Emailadresse zur Anmeldung verwendet werden.

• Studierende sowie Lehrende und Beschäftigte müssen vor der Nutzung von KI-Systemen verpflichtend an einer Schulung teilnehmen: Die Schulung besteht aus dem Modul “Exkurs in die generative KI” sowie dem Modul “Welche Risiken entstehen mit ML?” aus dem Kurs “Einführung in die KI" des KI-Campus.
• Lesen Sie die Nutzungsbedingungen des KI-Systems, das Sie verwenden möchten, sorgfältig durch und beachten Sie diese für Ihre Nutzung.
• Um die Datenübertragung bestmöglich abzusichern, sollten Sie die VPN-Verbindung aufbauen, wenn Sie den KI-Dienst von außerhalb der IT-Netze der Hochschule nutzen.

• Prüfen Sie, ob Sie urheberrechtlich geschütztes Material als Input für den KI-Dienst verwenden möchten. Dies gilt z.B. für die Eingabe von Abbildungen, Textkopien und Prüfungsleistungen.
  Sollte dies der Fall sein, müssen Sie dessen rechtmäßige Verwendung absichern, z.B. durch Einholen der Zustimmung der Urheberin, und dies schriftlich dokumentieren. §§44a, 44b UrhG eröffnen u. U. weitere Möglichkeiten der Nutzung von urheberrechtlich geschützten Inhalten. Prüfen Sie das Vorliegen der Voraussetzungen jeweils individuell.
• Sie dürfen keine personenbezogene Daten Dritter gemäß Art. 4 Abs. 1 DS-GVO als Input verwenden.
  Hierzu zählen Klarname, Kontaktdaten, E-Mail-Adresse, Staatsangehörigkeit, Alter, Familienstand, Foto-, Audio- oder Videoaufnahmen.
• Sie dürfen keine besonders sensiblen personenbezogenen Daten Dritter gemäß Art. 9 Abs. 1 DS-GVO als Input verwenden.
  Hierzu zählen ethnische Herkunft, politische Meinungen, religiöse oder weltanschauliche Überzeugungen oder die Gewerkschaftszugehörigkeit sowie die Verarbeitung von genetischen oder biometrischen Daten zur eindeutigen Identifizierung einer natürlichen Person, Gesundheitsdaten oder Daten zum Sexualleben oder der sexuellen Orientierung einer natürlichen Person.
• Personenbezogene Daten Dritter müssen vor der Verwendung als Input anonymisiert werden, damit kein Rückschluss auf die Person möglich ist.
• Wenn KI-Dienste Entscheidungen oder Bewertungen unterstützen, müssen Sie nachvollziehbar dokumentieren, dass die Entscheidung primär auf einer menschlichen Urteilsfindung beruht und dass es sich damit nicht um eine automatisierte Entscheidung im Einzelfall gemäß Art. 22 Abs. 2 DS-GVO handelt.
• Beim Verfassen des Inputs müssen geltende vertragliche Vereinbarungen, gesetzliche Bestimmungen und Hochschul-interne Richtlinien nach bestem Wissen und Gewissen eingehalten werden. Insbesondere sind dies Vereinbarungen zum Datenschutz, zur Vertraulichkeit, der Wahrung von Dienstgeheimnissen oder gesetzliche Vorgaben.
• Materialien aus vertraulichen Quellen darf nicht als Input verwendet werden.

• Auf Basis der Antworten des KI-Dienstes dürfen keine automatisierten Entscheidungen gemäß Art. 22 Abs. 1 DS-GVO vorgenommen werden, die gegenüber der betroffenen Person rechtliche Wirkung entfalten oder sie in ähnlicher Weise erheblich beeinträchtigen, etwa im Fall von arbeits- und personalrechtlichen Entscheidungen. 
  Es ist sicher zu stellen, dass die Letztentscheidungskompetenz bei einer natürlichen Person liegt, z.B. bei Ihnen selbst.
• Bei der Verbreitung oder Veröffentlichung des Outputs des KI-Systems muss dieser auf urheberrechtlich geschützte Inhalte geprüft werden, die z.B. entstehen können, wenn die KI zufällige Ähnlichkeiten zu bestehenden Werken produziert.
• Unterliegen veröffentlichte Texte einer redaktionellen Kontrolle und lassen eine*n Verantwortliche*n erkennen, müssen Sie nicht als KI generiert gekennzeichnet werden.
  Automatisiert KI generierte Texte, die ohne vorherige Kontrolle veröffentlicht werden, sind gemäß Art. 50 Abs. 4 EU AI Act kennzeichnungspflichtig (Beispiele hierfür sind Chatbots oder automatisierte Social Media Posts).
• Der Output des KI-Systems sollte nach wissenschaftlichen Grundsätzen geprüft werden, u.a. auf fachliche Richtigkeit. Dazu sollen u.a. die Verfahren und Leitlinien zur Sicherung guter wissenschaftlicher Praxis der HWG Ludwigshafen beachtet werden.

• Sie kopieren urheberrechtlich geschützte Werke wie z.B. Fotografien oder Zeitungsartikel als Input in einen KI-Dienst ein.
  Diese Verwendung ist nicht zulässig, solange keine Zustimmung der Rechteinhaber vorliegt.
• Sie verwenden personenbezogene oder besonders sensible personenbezogene Daten Dritter als Teil eines Inputs wie z.B. den Klarnamen, die E-Mail-Adresse, ethnische Herkunft, biometrische oder medizinische Daten.
  Diese Verwendung ist nicht zulässig. Personenbezogene Daten sind zu anonymisieren.
• Sie kopieren Bewerbungsunterlagen, persönliche Anschreiben, Lebensläufe oder andere sensible Unterlagen dritter Personen in nicht-anonymisierter Form als Teil eines Inputs in den KI-Dienst ein.
  Diese Verwendung ist nicht zulässig.
• Sie kopieren nicht-öffentliche Schriftstücke wie z.B. Angebotsabgaben, Selbstauskünfte oder Geschäftsberichte als Input in einen KI-Dienst ein.
  Diese Verwendung ist ohne Zustimmung der Betroffenen nicht zulässig.
• Sie kopieren Prüfungsleistungen von Studierenden oder Auszubildenden wie z.B. schriftliche Klausurlösungen oder Zeichnungen als Input in einen KI-Dienst ein, um Sie bei der Korrektur zu unterstützen.
  Diese Verwendung ist nicht zulässig.
• Sie verwenden vertrauliche Materialien wie Gremienprotokolle aus geschlossenen Sitzungen, nicht-öffentliche Forschungsergebnisse oder Verschlusssachen als Teil eines Inputs.
  Diese Verwendung ist nicht zulässig.
• Sie führen eine automatische Bewertung von Unterlagen mithilfe von KI-Diensten durch, die beeinträchtigende Wirkungen für die betroffenen Personen entfaltet und bei der Sie das Ergebnis aus dem KI-Dienst ohne umfassende menschliche Bewertung übernehmen.
  Diese Verwendung ist nicht zulässig.

Studierende erhalten Informationen, ob KI-Systeme in den Lehrveranstaltungen und Prüfungen zulässig sind und wie der Umgang mit KI-Systemen dokumentiert und der Output gekennzeichnet werden soll, über die verantwortlichen Lehrpersonen und/oder die Leitfäden des Fachbereichs bzw. Studiengangs.

Ob KI-Systeme in einer Lehrveranstaltung oder einer Prüfung verwendet werden dürfen oder nicht, wird von den Lehrenden begründet und entschieden. Ist der Einsatz von KI-Systemen erlaubt, muss Ihnen als Studierenden klar sein, dass die Verantwortung für den gesamten Text, auch für KI-basierte Ergebnisse oder Passagen, bei Ihnen als Autorinnen und Autoren liegt. Sie als Studierende stehen daher in der Pflicht, die inhaltliche Richtigkeit und kommunikative Passung der KI-generierten Textteile oder anderer Ergebnisse sicherzustellen.

Die HWG Ludwigshafen hat eine hochschulweit einheitliche Eigenständigkeitserklärung zur Abschlussarbeit, in der auch über die Verwendung von KI-Systeme Auskunft gegeben wird. Die Eigenständigkeitserklärung verlangt, dass die Frage, ob und welche KI-Systeme bei der Abschlussarbeit verwendet werden dürfen und wie der Output dokumentiert wird, mit dem oder der Erstbegutachtenden abgestimmt ist. Die Eigenständigkeitserklärung finden Sie auf der Internetseite des SSC zur Abschlussarbeit (Thesis).

Lehrende und Lehrbeauftragte erhalten zusätzliche Hinweise und Empfehlungen der Abteilung Studium und Lehre zum Einsatz von KI-Systemen in Lehre & Prüfungenim Intranet (bitte vorher im Intranet anmelden).