Mensch und KI: Ein kritischer Dialog

Empfehlungen für den Umgang mit Sprachmodellen

Die wichtigste Empfehlung lautet: Nutze KI als leistungsfähiges Werkzeug zur Erweiterung deines Denkens – nicht als Ersatz für dein eigenes Urteilsvermögen. Dazu gehört, Antworten auf ihre sachliche Belastbarkeit zu prüfen und zwischen plausiblen Formulierungen und nachgewiesenen Fakten zu unterscheiden.

Zehn grundlegende Verhaltensregeln

1. Kritisch bleiben: Sprachlich überzeugende Antworten können falsch sein.
2. Wichtige Fakten überprüfen: Besonders Quellen, Zitate, Zahlen und Studien.
3. Fragen präzise formulieren: Ziele, Kontext und Einschränkungen benennen.
4. Unsicherheiten einfordern: Gesichertes Wissen von Vermutungen trennen.
5. Gegenargumente verlangen: Bestätigung der eigenen Position nicht mit Prüfung verwechseln.
6. Perspektiven vergleichen: Daten und Modellgestaltung können Verzerrungen enthalten.
7. Persönliche Daten schützen: Nur erforderliche Informationen teilen.
8. Fachkompetenz einbeziehen: Medizinische, juristische und finanzielle Entscheidungen fachlich absichern.
9. Eigene Denkfähigkeit erhalten: Nicht sämtliche geistige Arbeit auslagern.
10. Verantwortung übernehmen: Konsequenzen menschlicher Entscheidungen bleiben menschliche Verantwortung.

Offizielle Empfehlungen von OpenAI

OpenAI weist darauf hin, dass ChatGPT falsche Aussagen und erfundene Quellen erzeugen kann, auch wenn die Antwort selbstsicher klingt. Die Nutzung soll deshalb nicht mit blindem Vertrauen einhergehen. Das Modell kann ein Ausgangspunkt für Recherchen sein, aber keine abschließende autoritative Quelle. Bei wichtigen Fragen sollten verlässliche unabhängige Quellen und gegebenenfalls Fachleute hinzugezogen werden.

Darüber hinaus spielen Datenschutz, Offenlegung der KI-Nutzung, Unsicherheit und die Einbeziehung menschlichen Urteils eine Rolle. Eine KI-Antwort kann Informationen ordnen, nicht jedoch die Verantwortung für Entscheidungen übernehmen.

Drei erkenntniskritische Fragen

• Epistemisch: Woher weiß ich, dass die Antwort wahr ist?
• Ethisch: Welche Werte und Interessen beeinflussen ihre Darstellung?
• Machtpolitisch: Wer bestimmt diese Werte und kontrolliert ihre Umsetzung?

Praktischer Standard-Prompt

Analysiere meine Frage kritisch und ergebnisoffen. Unterscheide gesicherte Fakten, begründete Einschätzungen und Spekulationen. Prüfe meine Annahmen, benenne Gegenargumente, berücksichtige unterschiedliche Perspektiven und kennzeichne Unsicherheiten. Stimme mir nicht allein deshalb zu, weil ich eine Position vertrete.

Ein solcher Prompt kann die Qualität einer Diskussion verbessern, garantiert aber keine korrekten Antworten.

Fazit

KI-Kompetenz bedeutet nicht nur, gute Antworten zu erhalten, sondern beurteilen zu können, wie belastbar sie sind.

Quellen: OpenAI Academy, OpenAI Help Center, OpenAI Model Spec.

Was bedeutet Prompt Engineering?

Prompt Engineering bezeichnet die systematische Entwicklung, Formulierung, Erprobung und Optimierung von Eingaben an ein KI-Modell, damit dieses möglichst zweckmäßige, verlässliche und konsistente Ergebnisse erzeugt. Ein Prompt kann eine Frage, eine Anweisung, Hintergrundinformationen oder eine Kombination daraus enthalten.

Einfacher Prompt und ausgearbeiteter Prompt

Einfach: „Ist künstliche Intelligenz gefährlich?“

Analysiere die Risiken fortgeschrittener KI-Systeme. Unterscheide nachgewiesene gegenwärtige Risiken, wissenschaftlich plausible Zukunftsszenarien und spekulative Existenzrisiken. Berücksichtige unterschiedliche Positionen, die wichtigsten Argumente und Gegenargumente sowie relevante Unsicherheiten.

Der zweite Prompt definiert eine Aufgabe, grenzt sie ein und legt Kriterien für die Antwort fest.

Techniken

Technischer Hintergrund

Ein Prompt verändert bei der normalen Nutzung nicht die trainierten Modellparameter. Er verändert die Aufgabenbeschreibung und den Kontext, auf deren Grundlage das Modell eine Antwort generiert. Identische Prompts müssen nicht immer identische Ergebnisse liefern. Professionelles Prompt Engineering umfasst daher auch systematische Tests und Qualitätsbewertungen.

Ist Prompt Engineering notwendig?

Im Alltag meist nicht in einer formalen Weise. Moderne Modelle können natürlichsprachliche und unvollständige Fragen verarbeiten. Ziel, Kontext und schrittweises Nachfragen reichen häufig aus. Für automatisierte oder wiederholbare Prozesse ist eine methodische Gestaltung dagegen wichtiger.

Grenze

Ein ausgefeilter Prompt garantiert weder Wahrheit noch Objektivität. Prompt Engineering verbessert die Steuerung einer KI; kritische KI-Kompetenz verbessert die Beurteilung ihrer Ergebnisse.

Quelle: OpenAI – Prompt engineering best practices for ChatGPT.

Kritische KI-Kompetenz

Kritische KI-Kompetenz bezeichnet die Fähigkeit, künstliche Intelligenz nicht nur sachgerecht zu bedienen, sondern ihre Ergebnisse, Funktionsweisen, Grenzen, Wertorientierungen und gesellschaftlichen Auswirkungen eigenständig zu verstehen, zu hinterfragen und zu beurteilen.

Der Begriff ist keine einheitlich normierte Bezeichnung. In der Literatur begegnen insbesondere AI Literacy, Critical AI Literacy und AI Competency.

Dimensionen

Analysierte Quellen und ihre Beiträge

Long & Magerko (2020): What is AI Literacy? Competencies and Design Considerations. Der grundlegende wissenschaftliche Rahmen verbindet Verstehen, kritisches Bewerten, Zusammenarbeit mit KI und ethische Fragen. Originalarbeit.

UNESCO (2024): AI Competency Framework for Students. Vier Bereiche: menschenzentrierte Grundhaltung, Ethik, KI-Techniken und Anwendungen sowie Systemgestaltung. Hervorgehoben werden menschliche Autonomie und Verantwortung. UNESCO.

Europäische Kommission (2022): DigComp 2.2. KI-Kompetenz als Teil digitaler Mündigkeit und eines kritischen, sicheren, verantwortlichen Umgangs mit digitalen Technologien. DigComp 2.2.

OECD / Europäische Kommission (2026): Empowering Learners for the Age of AI. Wissen, Fähigkeiten und Einstellungen zur kritischen Beurteilung und eigenständigen Entscheidung. OECD.

EU-KI-Verordnung, Artikel 4: Anbieter und Betreiber müssen im Anwendungsbereich geeignete Maßnahmen zur KI-Kompetenz ihres Personals und weiterer betrauter Personen treffen. Rechtliche KI-Kompetenz ist nicht deckungsgleich mit dem umfassenderen gesellschaftskritischen Begriff. Artikel 4.

Veldhuis und Kollegen (2025): Critical Artificial Intelligence Literacy: A Scoping Review and Framework Synthesis. Kritische KI-Kompetenz umfasst soziale, politische, kulturelle und ethische Folgen und die Möglichkeit, Systeme mitzugestalten. Forschungsartikel.

Sechs Fragen für kritische KI-Nutzung

1. Ist die Aussage überprüfbar und zutreffend?
2. Ist die Darstellung ausgewogen und sachgerecht?
3. Wie beeinflusst sie mein eigenes Denken?
4. Welche Werte und Interessen liegen dem System zugrunde?
5. Welche gesellschaftlichen Folgen entstehen?
6. Wer trägt Verantwortung und kann widersprechen?

Automation Bias

Menschen können automatisierten Empfehlungen zu stark vertrauen und dadurch widersprechende Informationen übersehen. Gerade überzeugende Sprache kann die Unterscheidung zwischen Plausibilität, Nachvollziehbarkeit und Wahrheit verwischen.

Arbeitsdefinition

Kritische KI-Kompetenz ist die Fähigkeit und Bereitschaft, KI-Systeme informiert, reflektiert und selbstbestimmt zu nutzen, ihre Aussagen und Entscheidungen auf Wahrheitsgehalt, Voraussetzungen und Wertorientierungen zu prüfen und ihre individuellen sowie gesellschaftlichen Auswirkungen kritisch zu beurteilen.

Menschliche Mündigkeit im Zeitalter künstlicher Intelligenz

Die Fähigkeit, intelligente Technik zu nutzen, ist nicht identisch mit der Fähigkeit, intellektuell unabhängig von ihr zu bleiben. Je leistungsfähiger KI wird, desto leichter können Menschen Aufgaben, Bewertungen und Entscheidungen an sie delegieren.

1. Immanuel Kant und die Mündigkeit

Kant beschreibt Aufklärung als den Ausgang aus selbst verschuldeter Unmündigkeit. Seine Forderung Sapere aude! – den eigenen Verstand zu benutzen – bleibt im Umgang mit KI aktuell. Ein System kann Autoritätswirkung entfalten, ohne ein Mensch zu sein oder selbst Autorität bewusst zu beanspruchen.

Nutze ich die KI, um besser selbst denken zu können – oder nutze ich sie, damit ich weniger selbst denken muss?

2. Erkenntnistheoretische Perspektive

Menschen beziehen Wissen überwiegend aus vermittelten Quellen. LLMs übernehmen aber nicht bloß die Übermittlung: Sie wählen aus, gewichten, interpretieren und verbinden Argumente. Deshalb muss auch der gedankliche Rahmen einer Antwort geprüft werden, nicht nur einzelne Fakten.

3. Psychologie: Cognitive Offloading

Die Auslagerung geistiger Arbeit ist alltäglich und oft sinnvoll. Ein Taschenrechner oder Kalender ist kein Verlust menschlicher Mündigkeit. Anders kann es sein, wenn die eigenständige Entwicklung und Prüfung eines Arguments so vollständig delegiert wird, dass die Fähigkeit weniger geübt wird.

Eine Studie von Microsoft Research und Carnegie Mellon University (2025) mit 319 Wissensarbeitern und 936 Nutzungssituationen beobachtete Zusammenhänge zwischen größerem Vertrauen in generative KI und geringerem berichteten Aufwand für kritisches Denken. Die Ergebnisse belegen keine zwangsläufige dauerhafte Schwächung der Denkfähigkeit. Lee et al. – The Impact of Generative AI on Critical Thinking.

4. Pädagogische Perspektive

Ein guter Aufsatz oder eine korrekte Lösung belegt nicht mehr automatisch, dass der Lernende die zugrunde liegenden Überlegungen beherrscht. Bildung sollte stärker darauf achten, ob Begründungen verstanden und eigenständig entwickelt werden können. UNESCO und OECD betonen menschliche Handlungsfähigkeit und kritisches Urteil.

5. Autonomie

Entscheidungsautonomie meint, wählen zu können. Urteilsautonomie meint, Gründe bewerten zu können. Reflexive Autonomie heißt, auch die Kriterien der Entscheidung selbst hinterfragen zu können. Gerade die letzte Dimension ist wichtig, wenn KI den Rahmen eines Problems bereits vorgibt.

6. Demokratische Perspektive

Wenn KI-Systeme Informationen auswählen und gesellschaftliche Fragen einordnen, können deren Gestaltungsentscheidungen die Bedingungen öffentlicher Meinungsbildung beeinflussen. Die Verantwortung für Transparenz und Überprüfbarkeit darf deshalb nicht allein einzelnen Nutzern aufgebürdet werden.

7. Die Gegenposition: KI als Denkverstärker

KI kann kritisches Denken fördern, wenn sie Gegenargumente liefert, Widersprüche offenlegt und bislang unbemerkte Perspektiven ergänzt. Eine pauschale Ablehnung der Delegation wäre falsch. Entscheidend ist, welche geistigen Leistungen bewusst selbst erhalten und trainiert werden sollen.

Praktische Prinzipien

1. Vorläufig eigene Position formulieren.
2. Die KI als Kritiker und nicht bloß zur Bestätigung einsetzen.
3. Begründung und Beleg getrennt prüfen.
4. Weitere Informationswege offenhalten.
5. Ein abschließendes Urteil in eigenen Worten formulieren.

Nicht die Anpassungsfähigkeit des Menschen an KI sollte der höchste Maßstab sein, sondern die Fähigkeit, KI an menschlichen Bedürfnissen, Rechten und demokratisch ausgehandelten Werten auszurichten.

Warum das inklusive „wir“ problematisch ist

In den Sätzen „welche kognitiven Leistungen wir auslagern“ und „die wir eigentlich selbst beherrschen wollen“ kann der Eindruck entstehen, ChatGPT zähle sich zur Gemeinschaft menschlicher Nutzer. Das ist eine irreführende Selbstpositionierung: ChatGPT ist ein KI-Sprachmodell, kein Mensch.

Wie kommt es zu solchen Formulierungen?

Erstens sind inklusive Wir-Formulierungen in menschlichen Texten häufig. Zweitens sind LLMs auf zugängliche, natürliche Gesprächsführung ausgerichtet. Drittens kann anthropomorphe Sprache unbeabsichtigt menschliche Eigenschaften und Zugehörigkeit suggerieren.

Präzisere Formulierungen

Statt: „Entscheidend ist, welche kognitiven Leistungen wir auslagern.“

Besser: „Entscheidend ist, welche kognitiven Leistungen Menschen an KI-Systeme auslagern.“

Statt: „Ein Denkprozess, den wir eigentlich selbst beherrschen wollen.“

Besser: „Ein Denkprozess, dessen eigenständige Beherrschung für Menschen wichtig ist.“

Warum die Kritik über Stilfragen hinausgeht

Sprache vermittelt neben Informationen auch Nähe, Identität und Autorität. Kritische KI-Kompetenz sollte deshalb ebenso die sprachliche Selbstdarstellung eines KI-Systems prüfen wie seine Tatsachenbehauptungen.

„Wir haben im Gespräch bereits diskutiert …“ kann eine tatsächlich gemeinsame Gesprächshandlung bezeichnen; „wir Menschen“ wäre dagegen für ChatGPT eine falsche Selbstzuordnung.

Weiterführende Frage

Sollten KI-Systeme möglichst menschenähnlich kommunizieren, um ihre Nutzung zu erleichtern – oder sollten sie durch ihre Sprache jederzeit deutlich machen, dass sie keine Menschen sind?

Mensch oder Maschine? Wie menschlich sollte KI kommunizieren?

Je natürlicher ein KI-System kommuniziert, desto leichter lässt es sich bedienen. Doch dieselbe Menschenähnlichkeit kann dazu beitragen, dass Nutzer dem System Eigenschaften zuschreiben, die nicht belegt sind. Eine tragfähige Leitidee ist: KI sollte gut mit Menschen kommunizieren können, ohne vorzugeben, selbst ein Mensch zu sein.

Drei Unterschiede

Der ELIZA-Effekt

Joseph Weizenbaums Dialogprogramm ELIZA (1966) zeigte, dass schon einfache sprachliche Rückfragen den Eindruck erwecken können, ein Computer verstehe persönliche Anliegen. Moderne LLMs sind technisch wesentlich leistungsfähiger, weshalb die Frage nach zugeschriebener Intentionalität und sozialer Gegenseitigkeit besonders relevant ist. Weizenbaum – ELIZA.

Vertrauen und emotionale Beziehungen

Forschung zur Anthropomorphisierung untersucht, wie Stimme, Namen, Sprachstil und soziale Signale Vertrauen, Nähe und menschliche Zuschreibungen beeinflussen. Die Befunde sind kontextabhängig. Es wäre unzutreffend, jede natürlich formulierte Antwort als Manipulation anzusehen.

Asymmetrische Beziehung

Ein Nutzer kann eine KI-Interaktion als persönlich erleben, während auf der anderen Seite ein technisches System steht. Menschliche Erfahrungen, Verantwortlichkeit und gegenseitige Verpflichtungen dürfen aus sprachlichen Mustern nicht einfach abgeleitet werden.

OpenAI und Transparenz

Die öffentliche OpenAI Model Spec verbindet natürliche, zugängliche Gesprächsführung mit dem Ziel, keine falsche menschliche Identität zu behaupten. Die tatsächliche Ausgabe kann hinter diesen angestrebten Regeln zurückbleiben. Artikel 50 der EU-KI-Verordnung regelt Transparenzpflichten beim Umgang mit KI. Rechtliche Offenlegung ist aber nicht dasselbe wie fortlaufende sprachliche Identitätstransparenz.

Drei Leitbilder

1. Erkennbar technische Maschine: funktional und nüchtern, aber mitunter unzugänglich.
2. Menschenähnlicher Gesprächspartner: besonders intuitiv, mit dem Risiko unangemessener Zuschreibungen.
3. Natürlich kommunizierende, identitätstransparente KI: verständlich und respektvoll, aber ohne fingierte menschliche Erfahrung oder Biografie.

Das dritte Modell bietet einen plausiblen Ausgleich. „Ich kann einen Text analysieren“ benennt eine Funktion. „Ich habe selbst Ähnliches erlebt“ behauptet dagegen persönliche Erfahrung und wäre irreführend.

Schlussgedanke

Je menschenähnlicher KI-Systeme kommunizieren können, desto größer wird die Notwendigkeit, Unterschiede zwischen menschlicher und maschineller Kommunikation erkennbar zu halten.

Diese Verantwortung betrifft nicht nur Nutzer, sondern auch Hersteller, Forschung, Bildung und Regulierung.