LLM OS
Le modèle mental d'Andrej Karpathy pour arrêter de voir un LLM comme un chatbot et commencer à le voir comme le processeur d'un ordinateur d'un nouveau genre. Dans cette analogie, le modèle est le CPU, la fenêtre de contexte est la RAM, les outils sont les périphériques (calculatrice, navigateur, exécution de code), la mémoire externe est le disque dur, et l'agent est l'orchestrateur qui fait tourner le tout. Karpathy appelle ce basculement « Software 3.0 » : on ne programme plus en lignes de code, on pilote un système dont le cœur est un modèle de langage. Ce n'est pas un produit à installer, c'est la grille de lecture qui explique pourquoi le contexte, la mémoire et les outils comptent plus que le prompt parfait.
Forces
- Donne une grille de lecture claire : CPU, RAM, disque, périphériques, orchestrateur
- Déplace l'effort du prompt parfait vers ce qui compte vraiment : contexte, mémoire, outils
- Vieillit bien : l'analogie reste vraie même quand les modèles changent
Limites
- Le label « OS » est récupéré par la hype pour vendre de simples wrappers d'API
- Une analogie n'est pas une architecture : aucun LLM OS clé en main n'existe, tu assembles toi-même
Pour qui
- Un PM ou un designer qui veut comprendre où va vraiment l'effort quand on passe de l'assistant au système
- Un tech lead qui conçoit un setup IA durable et veut une boussole d'architecture