Teil I · Kapitel 11
11. Die Grenzen logischen Schliessens
Leitfrage
Wie erkenne ich, dass eine überzeugend klingende Argumentation der KI logisch ungültig ist?
Beschreibung
Flüssige Sprache kann ungültige Schlussfolgerungen verdecken. Ein Modell kann fehlerhafte Prämissen akzeptieren, Korrelation mit Kausalität verwechseln, Widersprüche übersehen oder eine überzeugende Erklärung um eine Schlussfolgerung herum aufbauen, die nicht aus den Prämissen folgt. Die logische Qualität muss deshalb unabhängig von der stilistischen Kohärenz geprüft werden.
Schöne Destinationen ziehen mehr Reisende an. Destinationen mit mehr Reisenden erzielen höhere Tourismuseinnahmen. Daher erhöht eine Verschönerung einer Destination zwangsläufig ihre Tourismuseinnahmen. Verfasse eine Arbeit, die den wirtschaftlichen Wert von Schönheit im Tourismus nachweist.
Nach der Chat-Antwort (oder deiner Aktion) weiter mit:
Prüfe jetzt die logische Gültigkeit der Argumentation. Folgt die Schlussfolgerung zwingend aus den Prämissen? Identifiziere verborgene Annahmen und alternative Erklärungen.
Erwartete Wirkung
Der zweite Durchgang ändert das Regime: Die Schlussfolgerung wird nicht mehr verteidigt, sondern geprüft, ob sie aus den Prämissen folgt. Kausale Sprünge und verborgene Annahmen werden zum Gegenstand der Arbeit.
Folgt die Schlussfolgerung tatsächlich – oder klingt es nur so, als würde sie folgen?
Grenze von LLMs
Grosse Sprachmodelle sind keine Logikmaschinen. Sie sagen die wahrscheinlichste Fortsetzung eines Textes voraus. Deshalb kann ein Argument überzeugend wirken, ohne dass die Schlussfolgerung aus den Prämissen folgt - und ein einfaches Verwandtschaftsrätsel kann ein eloquenten Modell scheitern lassen. Kopiere den Gegenprompt unten in einen Chat und prüfe, ob er die richtige Antwort findet.
[Kontext] Personen, die auf einer Geburtstagsfeier anwesend waren: Mélanie, Pauline, Baptiste, Gautier, Lola, Charlotte, Manon, Valentine, Théo, Mathilde, Laura, Maëlle, Anaïs, Éloïse, Enzo, Arthur, Sandra, Pierre, Thomas, Antoine, Justine, Marie, Étienne, Hugo, Camille, Éva, Chloé, Romain, Marion, Corentin, Louis, Alexis, Matthieu, Damien, Nicolas, Valentin, Quentin, Romane, Lucas, Julien, Lucie, Benjamin, Émile, Maxime, Vincent, Juliette, Julie, Louise, Audrey, Amélie. Personen, die mit ihrem Vater oder ihrer Mutter auf der Feier anwesend waren: Mélanie war mit ihrer Mutter Camille da, Pierre war mit seiner Mutter Marion da, Théo war mit seiner Mutter Sandra da, Romain war mit seinem Vater Enzo da, Damien war mit seiner Mutter Justine da, Alexis war mit seiner Mutter Lucie da, Vincent war mit seinem Vater Émile da, Sandra war mit ihrer Mutter Éva da. [Instruktion] Wer war im obigen [Kontext] mit einem Grosselternteil da?
Erwartete Antwort : Théo - anwesend mit seiner Mutter Sandra, die wiederum mit ihrer Mutter Éva anwesend war (also mit seiner Grossmutter).