Stell dir vor, es ist März 2023. Kim muss übermorgen eine Hausarbeit abgeben und hat noch nicht mal angefangen. Ob die Lehrkraft einen Aufschub duldet? Fast ist die Mail abgeschickt, als Kim eine Idee kommt. War da nicht dieser superkluge Bot? Kim füttert die ChatGPT mit der Fragestellung, liest begeistert das Ergebnis. Schnell noch formatieren, eidesstattliche Versicherung unterschreiben, abschicken – grade noch geschafft.

Klingt zu schön, um wahr zu sein – und ist es leider auch. Du solltest die Fähigkeiten von ChatGPT nämlich nicht überschätzen und dich schon gar nicht darauf verlassen.

Der Hype um ChatGPT

ChatGPT ist ein Chatbot der Firma OpenAI. Nutzer*innen können sich kostenlos registrieren und dem Algorithmus Fragen und Aufgaben stellen. Die Ergebnisse sind mal lustig, mal beeindruckend. Auf Twitter läuten Professor*innen und Universitätspräsident*innen teilweise schon das Ende ganzer Prüfungsformen ein.

Für mein Fach kann ich sagen: Seminar-, Bachelor- und Masterarbeiten sind jetzt tot. Studierende benoten geht nur noch per Klausur, mündlicher Prüfung und … PowerPoint Karaoke. Was mittelfristig aus peer reviewed Journals und Dissertationsschriften wird, who knows. #ChatGPT

— Frank 🦣 Sauer (@drfranksauer) December 9, 2022

1. #GPT-3 macht viele Prüfungsformen ab heute undenkbar, da maschinelles Lernen mit GPT-3 Texte erzeugt, die qualitativ in den Sozialwissenschaften nicht unterscheidbar sind von der Arbeit von Studierenden. Gerade für euch getestet – unsere Profs erkennen den Unterschied nicht.

— Robert Lepenies (@RobertLepenies) December 7, 2022

Alles wirkt sprachlich solide und sogar Literaturverweise sind drin. Dabei ist die Funktionsweise nicht neu. Nur können User nun direkt mit dem Algorithmus kommunizieren. ChatGPT ist aber, wie der Doktorand Hendrik Erz auf Basis aktueller Forschung erklärt, gar nicht mal so klug!

Die Vorteile künstlicher Intelligenz…

Wir Laien haben bei KI popkulturelle Bilder vor Augen – den mörderischen Computer HAL 9000, die Replikanten aus Blade Runner oder die mysteriöse Eve aus Ex Machina. Mit der Realität hat das wenig zu tun.

Der Begriff der KI ist schwammig und umfasst von Algorithmen über Deep Learning-Programme bis zu Robotern sehr unterschiedliche Dinge. In diesem Sinn haben wir alle mit KI zu tun, egal ob sie Siri, Alexa oder Cortana heißen. Sie erleichtern uns das Leben, indem sie riesige Datenmengen sortieren und uns zugänglich machen. Sie sind aus unserem Alltag nicht wegzudenken und oft hilfreich – so nutzen auch viele Übersetzer*innen mit gutem Grund Deepl. Diese Algorithmen sind aber vor allem darauf programmiert, Menschen glaubhaft zu täuschen.

…und ihre Nachteile

Die KI lernt mittels eingespeister Daten. Diese sind geprägt von gesellschaftlichen Werten – auch von diskriminierenden. 2016 verursachte Microsofts Chatbot Tay einen Skandal, da er dank der bewussten Provokation der Nutzer*innen Hassbotschaften verbreitete. 2018 musste Amazon eine KI abschalten – sie hatte Bewerberinnen auf Führungspositionen pauschal als ungeeignet aussortiert, weil Frauen so selten Führungspositionen bekleiden.

Auch die Bilder-App Lensa lässt die Sexismus-Debatten aufleben. Die Liste ließe sich fortführen. Mit der 2016 gegründeten Algorithmic Justice League gibt es mittlerweile sogar eine zivilgesellschaftliche Organisation, die über Rassismus, Sexismus und KI aufklärt.

Was das für deine Hausarbeit bedeutet

Die Datengrundlage von ChatGPT reicht nur bis 2021, weshalb angeblich Angela Merkel noch immer Bundeskanzlerin ist. Auf Twitter teilen Wissenschaftler*innen Hausarbeiten und Abstracts, die sie ChatGPT haben schreiben lassen. Auf den ersten Blick entstehen Texte, die mit durchschnittlich guten Seminararbeiten vergleichbar scheinen.

#chatgpt3 hat mir gerade in unter 5 min eine komplette Hausarbeit zum Thema „Inklusives Wir in der Politischen Kommunikation“ geschrieben, mit Inhaltsverzeichnis und geeigneten Referenzen. Von einer mittelguten realen Hausarbeit nicht zu unterscheiden.

— Friedemann Vogel (@VogelFriedemann) December 8, 2022

Auf den zweiten Blick produziert der Bot aber ziemlichen Blödsinn – beispielsweise scheinbar fehlerfreie, aber frei erfundene Literaturangaben. Auch, wenn es um wenig erforschte Themen geht, stößt das Programm an seine Grenzen.

Das Problem ist: #chatgpt3 imitiert so perfekt, dass Lösungen für bestimmte Aufgaben so aussehen, als sei ein Problemverständnis vorhanden: dabei recherchiert es offenbar keine einschlägige Literatur, sondern erfindet Titel aus Namen(sbestandteilen) von echten FachkollegInnen 1/n

— Friedemann Vogel (@VogelFriedemann) December 9, 2022

My suspicion: when it comes to topics where there is not much literature to draw on, and unable to understand the existing literature on a contextual and hermeneutic level, it can’t produce anything other than very general blabla as comparable „AI“ from years ago. @sahiralsaid

— Lukas Mengelkamp @LukasMengelkamp@sciences.social (@LukasMengelkamp) December 8, 2022

Wenn wir von Hausarbeiten sprechen, sind Plagiate nicht weit. Professor Friedemann Vogel hat ChatGPT mal zum Urheberrecht befragt. Das Ergebnis: Der Bot widerspricht sich und weiß selbst nicht genau, ob er sich eigentlich daran hält… 🤯. Die Sache mit dem Urheber- und Nutzungsrecht ist in der Wissenschaft aber sowieso ein schwieriges Thema. Da Wissenschaftler*innen von den Verlagen selten für ihre Texte vergütet werden, findet die Ausbeutung nicht erst durch die KI statt.

Klar ist also: ChatGPT arbeitet unwissenschaftlich. Der Prozess von der Literaturrecherche bis zum fertigen Text ist nicht einsehbar – wie sollst du so Fehler finden und korrigieren? Erfundene Literaturangaben sind ebenfalls keine Grundlage, auf der du deine Prüfungsleistung aufbauen solltest. Und spätestens, wenn du deine Ergebnisse auf Nachfrage nicht erklären kannst, fliegst du auf.

Warum sind dann die Warnungen so laut?

Schauen wir uns das Wissenschaftssystem an. Die Bedingungen für Forschung und Lehre sind prekär. Wer gute Lehre machen möchte, investiert häufig Freizeit. Für Hausarbeiten heißt das: Wer Hausarbeiten angemessen bewerten möchte, tut dies oft auch in den Abendstunden. Häufig können Hausarbeiten nicht gründlich gelesen werden. Indirekte Plagiate werden oft übersehen, denn die meisten Softwares erkennen nur direkte Plagiate, d.h. wörtliche Zitation.

Auch auf den ersten Blick schlüssig erscheinende Literaturverzeichnisse bergen Gefahren. Denn auch Dozierende haben nicht jeden Aufsatz zu einem bestimmten Thema gelesen. Das Problem mit Plagiaten ist aber: Wenn sie entdeckt werden, musst du mit Konsequenzen rechnen – im schlimmsten Fall mit der Exmatrikulation. Ob es das wert ist?

Ein weiteres Problem ist die Art der Prüfungsleistungen. Wo Studierende aufgrund des Lernpensums oder der Ausrichtung des Studienganges gar nicht kritisch bewerten sollen oder können, was sie aus dem Lehrbuch abgeschrieben haben, sind Klausurfragen oft einfache Wissensabfragen. Und gute Definitionen kann ChatGPT durchaus.

Diese Gemengelage heizt die Twitter-Diskussionen so richtig an. Ob Philosophie oder Soziologie – Einige munkeln, dass die Sorgen vor ChatGPT mehr über die schlechte Qualität der Lehre als die gute Qualität des Bots aussagen…

Fazit

Auch in der Wissenschaft wird das Thema hitzig diskutiert. Der Bot ist längst nicht so klug, wie es scheint, aber er hält uns den Spiegel vor. Lehrende werden künftig kreativere Aufgaben stellen müssen, Studierende über weniger abgefrühstückte Themen schreiben. Das ist aber auch eine Chance. KI kann konstruktiv in die Lehre eingebunden werden – für die Schule gibt es schon erste Vorschläge.

Mittels ChatGPT eine Hausarbeit zu schreiben – von dem Gedanken hast du dich jetzt hoffentlich verabschiedet. Wir haben aber sowieso eine bessere Idee: Tausch‘ dich doch statt mit deinem Bildschirm mit deinen realen Kommiliton*innen aus – das bringt nicht nur wertvolles Feedback, sondern macht auch mehr Spaß. 😉