Fine-tuning
Spécialisation d'un LLM sur vos données métier pour améliorer sa précision et son style.
Processus d'entraînement supplémentaire d'un LLM sur un jeu de données spécialisé pour l'adapter à un domaine ou un style précis. Permet d'obtenir des réponses plus cohérentes avec la terminologie et les processus de l'entreprise.
- Un cabinet juridique qui affine GPT-4 sur ses 10 000 contrats internes pour obtenir des rédactions alignées sur son style maison.
- Un éditeur qui fine-tune Claude sur ses articles publiés pour générer des brouillons respectant sa ligne éditoriale.
- Un service client qui adapte un modèle sur 5 000 tickets résolus pour automatiser les réponses de niveau 1.
Qu’est-ce que le fine-tuning ?
Le fine-tuning (ou affinage) consiste à poursuivre l’entraînement d’un LLM pré-entraîné sur un corpus spécialisé propre à une entreprise ou un secteur. Contrairement au prompting, qui guide le modèle à chaque requête, le fine-tuning modifie les poids du réseau pour intégrer durablement la terminologie, le ton et les règles métier.
Quand y recourir ?
Le fine-tuning est pertinent lorsque le volume de données d’exemples est suffisant (minimum 100 à 1 000 paires instruction/réponse) et que le prompt seul ne suffit plus à atteindre la précision requise. Il est utilisé pour créer des chatbots juridiques, des assistants de rédaction dans le style d’une marque ou des classificateurs sectoriels.
Le coût de fine-tuning a fortement diminué en 2024, rendant cette technique accessible aux équipes sans expertise ML interne.