Fine-Tuning
Réentraîner un LLM existant sur tes propres exemples pour modifier ses poids, donc sa façon de se comporter : un style, un domaine, un format. C'est ce qui le sépare du RAG, qui ne touche pas au modèle et lui apporte seulement, au moment de la question, des informations qu'il n'a pas. Le fine-tuning change la manière dont le modèle répond, le RAG change ce qu'il sait sur le moment. Plus puissant que le prompt engineering pour des cas très ciblés, aussi beaucoup plus coûteux.
Forces
- Résultats très précis pour des cas d'usage très ciblés
Limites
- Coût élevé et rigidité, toute mise à jour des données nécessite un nouveau fine-tuning
Pour qui
- Comprendre pourquoi le fine-tuning n'est généralement pas la première solution à essayer