KI korrigieren – wenn ChatGPT sich irrt

Ob für die Recherche, zum Zusammenfassen von Fachtexten oder als Unterstützung beim Schreiben – KI-Tools wie ChatGPT gehören für viele Studierende inzwischen zum Studienalltag dazu. Sie sparen Zeit, helfen beim Strukturieren von Ideen und können komplexe Inhalte verständlich erklären. Doch so hilfreich die Technologie ist: Auch eine KI macht Fehler.

Manchmal sind es kleine Ungenauigkeiten, manchmal erfindet sie Quellen, verwechselt Fakten oder zieht falsche Schlussfolgerungen. Das Problem: Solche Fehler klingen oft überzeugend und sind deshalb nicht immer leicht zu erkennen. Umso wichtiger ist es, KI-Antworten kritisch zu hinterfragen und bei Bedarf zu korrigieren.

Warum macht ChatGPT überhaupt Fehler?

ChatGPT ist ein Sprachmodell. Es erzeugt Antworten, indem es auf Basis seiner Trainingsdaten und des Gesprächskontexts berechnet, welche Formulierungen wahrscheinlich am besten zur gestellten Frage passen. Es arbeitet also nicht wie eine klassische Suchmaschine, die Informationen direkt aus einer Datenbank oder von Webseiten abruft.

Je nach Version kann ChatGPT zwar auch aktuelle Informationen aus dem Internet oder aus hochgeladenen Dokumenten einbeziehen. Trotzdem gilt: Die Antworten sind nicht automatisch fehlerfrei. Eine KI kann Informationen missverstehen, veraltete Inhalte wiedergeben oder Zusammenhänge falsch interpretieren.

Welche Fehler können auftreten?

Nicht jeder Fehler sieht gleich aus. Zu den häufigsten gehören:

• Erfundene Quellen: Studien, Bücher oder Webseiten werden genannt, obwohl sie gar nicht existieren.

• Falsche Fakten: Jahreszahlen, Statistiken oder Namen können fehlerhaft sein.

• Veraltete Informationen: Gerade bei aktuellen Entwicklungen kann das Wissen unvollständig sein.

• Logische Fehler: Die einzelnen Aussagen stimmen zwar, die Schlussfolgerung daraus ist jedoch falsch.

• Missverständnisse: Unklare oder sehr allgemeine Fragen können zu Antworten führen, die am eigentlichen Thema vorbeigehen.

Gerade im wissenschaftlichen Kontext können solche Fehler problematisch sein. Wenn du eine erfundene Quelle in einer Hausarbeit zitierst, riskierst du unnötige Punktabzüge oder sogar den Vorwurf wissenschaftlichen Fehlverhaltens.

So erkennst du fehlerhafte KI-Antworten

Auch wenn eine Antwort überzeugend formuliert ist, lohnt sich ein genauer Blick. Folgende Fragen helfen dir bei der Überprüfung:

• Sind die genannten Quellen tatsächlich auffindbar?

• Lassen sich wichtige Fakten in Fachliteratur oder auf offiziellen Webseiten bestätigen?

• Wirken Zahlen, Namen und Jahresangaben plausibel?

• Werden Behauptungen ausreichend begründet oder lediglich behauptet?

• Gibt es andere seriöse Quellen, die zu einem anderen Ergebnis kommen?

Je wichtiger eine Information ist, desto sorgfältiger solltest du sie überprüfen. Das gilt insbesondere für wissenschaftliche Arbeiten!

Wie kannst du ChatGPT korrigieren?

Um herausfinden zu können, ob ChatGPT sich geirrt hat, sollte man die Behauptungen per cross-referencing bei vertrauenswürdigen Seiten überprüfen. Am einfachsten geht dies, wenn man Chat GPT folgenden Prompt gibt:




So lassen sich die Informationen runterbrechen und schneller überprüfen, als durch den verfassten Fließtext schnüffeln zu müssen. Auch kannst – und solltest - du die angegebenen Links direkt auf Richtigkeit, Relevanz sowie Vertrauenswürdigkeit untersuchen, also die Quellen kritisch analysieren. Natürlich ist dies anstrengender, als sich von ChatGPT einfach einen fertigen Text ausspucken zu lassen, aber wie bereits erläutert, läuft man dann Gefahr, Falschaussagen generiert zu bekommen.

Den Prompt kannst du übrigens auch bei deiner Recherche für Hausarbeiten oder Präsentationen verwenden. So kannst du sowohl (vorher von deiner Seite überprüfte) Informationen sammeln als auch mögliche neue Quellen finden.

ChatGPT und andere KI-Chatbots können direkt auf Rückfragen reagieren – wenn dir ein Fehler auffällt, kannst du ihn also direkt ansprechen! Solche Rückfragen führen häufig zu präziseren und transparenteren Antworten.

OpenAI, die Organisation hinter ChatGPT, sagt selbst, das Modell würde durch neue Daten und Informationen, fortlaufende Forschungen und User-Feedback funktionieren und kontinuierlich verbessert werden. Eine der bedeutsamsten Maßnahmen ist also die Implementierung eines Feedback Mechanismus. ChatGPT ist absichtlich als Chat, als Dialog, aufgebaut – User sollen mit dem Modul interagieren, es korrigieren, herausfordern und Feedback geben.

Die Antworten im Dialog sollten mit Daumen-hoch und Daumen-runter Buttons ausgestattet sein. Klickt man auf letzteres Icon, kann man detaillierteres Feedback geben, wie beispielsweise "Faktisch nicht richtig”. Das gesammelte Feedback wird dann in regelmäßigen Intervallen von den Entwicklern genutzt, um neue Versionen des Modells zu optimieren. Dies kann je nach der Implementierung allerdings Wochen oder Monate dauern.

KI korrigieren - Fazit

ChatGPT ist ein leistungsfähiger KI-Assistent – aber kein unfehlbares Nachschlagewerk. Die Antworten können sehr hilfreich sein, enthalten jedoch gelegentlich Fehler oder Unsicherheiten. Wenn du KI sinnvoll nutzen möchtest, solltest du Informationen kritisch hinterfragen, Quellen überprüfen und gezielt nachfragen, wenn dir etwas unklar erscheint.
Gerade im Studium gilt: KI kann das Lernen, Schreiben und Recherchieren erleichtern.

Die Verantwortung für die Richtigkeit der Inhalte bleibt jedoch beim Menschen. Wenn du ChatGPT als Unterstützung und nicht als alleinige Autorität nutzt, profitierst du am meisten von den Möglichkeiten der Technologie.

Vielen Dank für die Bilder an Matheus Bertelli, Markus Winkler, Airam Dato-on, Solen Feyissa und Sanket Mishra (©pexels.com)

Diese Artikel könnten dich auch interessieren:
Wird ChatGPT an Hochschulen verboten?
ChatGPT vs. Akademisches Ghostwriting
Immer mehr Studierende nutzen KI für Bewerbungen
TruthScan: Wie du mit KI-Erkennungstools den Durchblick behältst
KI-Seminar als Karriere-Booster: Warum KI-Intelligenz ein Wettbewerbsvorteil ist