Théorie des LLM

Question 1

Qu'est-ce qu'un LLM (Large Language Model) est entraîné à faire, fondamentalement ?

Accepted Answer

Prédire le prochain token (mot, syllabe) le plus probable.

Question 2

À quoi sert le RLHF (Reinforcement Learning from Human Feedback) sur un LLM ?

Accepted Answer

À aligner ses réponses avec ce que les humains préfèrent.

Question 3

Qu'est-ce que la 'sycophancy' (complaisance) d'un LLM ?

Accepted Answer

Sa tendance à vous donner raison même quand vous avez tort.

Question 4

Qu'est-ce qu'une 'hallucination' chez un LLM ?

Accepted Answer

Une réponse générée qui semble correcte mais qui est factuellement fausse.

Question 5

Quelle est la différence entre un 'system prompt' et un 'user prompt' ?

Accepted Answer

Le system prompt est invisible et persistant ; le user prompt est ce que vous tapez à chaque message.

Question 6

Que représente la 'context window' (fenêtre de contexte) ?

Accepted Answer

La quantité de texte que le modèle peut traiter en une seule fois (input + output).

Question 7

Quelle technique de prompt aide le modèle à admettre qu'il ne sait pas ?

Accepted Answer

Lui dire explicitement 'si tu n'es pas sûr, réponds : je ne sais pas'.

Question 8

Que fait le pattern de prompt 'Réfléchis étape par étape avant de répondre' ?

Accepted Answer

Il augmente la qualité des réponses sur les questions complexes (chain-of-thought).

Question 9

Quelle est la différence entre un 'prompt' et un 'tool call' (appel d'outil) ?

Accepted Answer

Un prompt est du texte ; un tool call permet au modèle d'exécuter une action (appeler une API, lire un fichier, envoyer un email).

Question 10

Quel réflexe adopter face à un chiffre ou une citation donnée par un LLM ?

Accepted Answer

Le vérifier à la source, le LLM peut halluciner des chiffres précis qui sonnent juste mais sont faux.