Fine-tuning business, quand l'envisager, comment l'arbitrer
Tu as un LLM en prod, tu paies 4 000 $/mois en tokens, ta qualité plafonne. Quelqu'un te suggère : « et si on fine-tunait un modèle custom ? ». Bonne idée, ou piège à 50 K$ ? Ce cours t'arme pour trancher comme un tech-lead, pas comme un fan. 5 fondations : (1) quand le fine-tuning bat vraiment prompting + RAG (et quand il les rate), (2) anatomie d'un dataset propre (format JSONL, taille min, curation), (3) pipeline Bedrock concret (training job, monitoring, deploy avec provisioned throughput), (4) eval rigoureux post-FT (holdout set, A/B vs baseline, LLM-as-judge), (5) ROI réel et garde-fous prod (calcul seuil, versioning, monitoring drift). À la fin, tu sais dire OUI ou NON à un projet fine-tuning en 30 minutes, et si tu dis OUI, tu shippes proprement.
Niveau : advanced · Durée : 180 min