Grands modèles de langage : comment ça marche, vraiment
Derrière ChatGPT, Claude ou Gemini se cache une même mécanique. On explique sans jargon ce qu'est un grand modèle de langage et ce qu'il sait (ou non) faire.
Les grands modèles de langage — large language models, ou LLM — sont devenus le moteur de l'IA grand public. Mais derrière l'interface de discussion, le principe reste mal compris. Voici l'essentiel, sans équations.
Une machine à prédire le mot suivant
Un LLM ne « comprend » pas une question au sens humain. Il a été entraîné sur d'immenses corpus de texte à prédire le mot (plus précisément le token) le plus probable après une séquence donnée. Répétée des milliards de fois, cette tâche en apparence triviale fait émerger des capacités étonnantes : résumer, traduire, écrire du code ou raisonner par étapes.
L'entraînement, en deux temps
- Le pré-entraînement : le modèle ingère des téraoctets de texte pour apprendre la structure de la langue et une grande quantité de connaissances.
- L'alignement : on affine ensuite le modèle avec des retours humains pour qu'il réponde de façon utile, honnête et sûre.
C'est cette seconde phase qui distingue un assistant agréable d'un simple moteur statistique.
Ce que les LLM font bien
- Reformuler, synthétiser et traduire.
- Générer du code et expliquer des erreurs.
- Structurer des idées et accélérer la rédaction.
Leurs limites réelles
- Les hallucinations : un LLM peut affirmer avec aplomb une information fausse. Il faut toujours vérifier les faits sensibles.
- La fraîcheur : sans accès au web, ses connaissances s'arrêtent à sa date d'entraînement.
- Le raisonnement profond : il excelle sur des tâches courtes mais peut se perdre sur des problèmes longs et logiques.
Pourquoi ça change la donne
Pour les entreprises, l'intérêt n'est pas le « chatbot » mais l'automatisation de tâches textuelles à grande échelle : support client, analyse de documents, génération de rapports. La vraie difficulté est moins technique qu'organisationnelle : encadrer les usages, protéger les données et garder un humain dans la boucle.
Comprendre qu'un LLM est un prédicteur de texte probabiliste — et non une intelligence omnisciente — est la meilleure protection contre les déceptions comme contre les fantasmes.