Les LLM ne sont pas intelligents.
Ils sont formés pour prédire le mot suivant dans une phrase. C'est tout.
Cependant, même les meilleurs chercheurs en IA du monde ne comprennent pas entièrement pourquoi les grands modèles de langage deviennent intelligents lorsqu'ils sont entraînés sur des tâches simples comme "prédire le mot suivant".
Ce phénomène s'appelle :
Comportement émergent – capacités qui apparaissent spontanément à partir de l'échelle
Et personne ne sait vraiment pourquoi cela se produit, ni quelles sont les limites.
Voir l'original