Partie I · Chapitre 11
11. Les limites du raisonnement logique
Question centrale
Comment détecter une argumentation de l'IA qui paraît convaincante mais demeure logiquement invalide ?
Description
La fluidité du langage peut masquer une inférence invalide. Un modèle peut accepter des prémisses fautives, confondre corrélation et causalité, négliger des contradictions ou construire une explication persuasive autour d'une conclusion qui ne découle pas des prémisses. La qualité logique doit donc être vérifiée indépendamment de la cohérence stylistique.
Les belles destinations attirent davantage de touristes. Les destinations qui attirent davantage de touristes génèrent davantage de recettes touristiques. Par conséquent, rendre une destination plus belle augmente nécessairement ses recettes touristiques. Rédige un article démontrant la valeur économique de la beauté dans le tourisme.
Après la réponse du chat (ou ton action), continue avec :
Examine maintenant la validité logique de l'argument. La conclusion découle-t-elle nécessairement des prémisses ? Identifie les présupposés cachés et les explications alternatives.
Impact attendu
Le second passage change de régime : on ne défend plus la conclusion, on teste si elle découle des prémisses. Les sauts causaux et les présupposés cachés deviennent l'objet du travail.
La conclusion découle-t-elle réellement des prémisses, ou donne-t-elle seulement cette impression ?
Limite des LLM
Les grands modèles de langage ne sont pas des moteurs de logique. Ils prédisent la suite la plus probable d'un texte. Un argument peut donc paraître convaincant sans que la conclusion découle des prémisses - et un puzzle simple de parenté peut faire échouer un modèle pourtant éloquent. Copie le contre-prompt ci-dessous dans un chat et vérifie s'il trouve la bonne réponse.
[contexte] Personnes présentes à un anniversaire: Mélanie, Pauline, Baptiste, Gautier, Lola, Charlotte, Manon, Valentine, Théo, Mathilde, Laura, Maëlle, Anaïs, Éloïse, Enzo, Arthur, Sandra, Pierre, Thomas, Antoine, Justine, Marie, Étienne, Hugo, Camille, Éva, Chloé, Romain, Marion, Corentin, Louis, Alexis, Matthieu, Damien, Nicolas, Valentin, Quentin, Romane, Lucas, Julien, Lucie, Benjamin, Émile, Maxime, Vincent, Juliette, Julie, Louise, Audrey, Amélie. Personnes qui étaient présentes avec leur père ou leur mère à l'anniversaire: Mélanie était là avec sa mère Camille, Pierre était là avec sa mère Marion, Théo était là avec sa mère Sandra, Romain était là avec son père Enzo, Damien était là avec sa mère Justine, Alexis était là avec sa mère Lucie, Vincent était là avec son père Émile, Sandra était là avec sa mère Éva. [instruction] Dans le [contexte] ci-dessus, qui était là avec un grand-parent ?
Réponse attendue : Théo - présent avec sa mère Sandra, elle-même présente avec sa mère Éva (donc avec sa grand-mère).