Définition
Alignement de l'IA : définition simple
L'alignement vise à ce qu'une IA suive les buts et les valeurs voulus par ses concepteurs et utilisateurs. Définition, exemple, techniques, limites.
Mis à jour le
L'alignement d'une intelligence artificielle consiste à orienter un système vers les buts, les préférences ou les principes éthiques voulus par une personne ou un groupe. Un système est dit aligné s'il avance vers ces objectifs, mal aligné s'il en poursuit d'autres que ceux prévus. Les travaux d’Ouyang et de ses coauteurs traitent notamment de l’alignement avec les intentions des utilisateurs.
Une image du quotidien
Vous demandez à un livreur de vous rapporter « le moins cher possible » un fauteuil. Il revient avec une chaise cassée trouvée dans la rue : il a rempli la lettre de la demande, pas son esprit. L'alignement, c'est l'effort pour que l'assistant comprenne ce que vous voulez vraiment, et pas seulement ce que vous avez écrit.
Pourquoi c'est difficile
Le travail d’Ouyang et de ses coauteurs montre qu’augmenter la taille d’un modèle ne suffit pas à mieux suivre l’intention de l’utilisateur. Leur approche combine des exemples de comportement souhaité et des classements de réponses par des personnes. Le résultat dépend donc aussi de ce que ces évaluations cherchent à favoriser.
Comment on s'y prend
- Apprentissage à partir de retours humains (RLHF) : des personnes classent des réponses, et le modèle apprend à préférer les mieux classées. Le glossaire d'Anthropic décrit cette méthode et indique que Claude a été entraîné ainsi pour devenir un assistant plus utile.
- Évaluation et attaque simulée (red-teaming) : on cherche volontairement à faire échouer le modèle.
- Principes écrits : certains éditeurs publient un texte de principes que le modèle doit suivre.
- Cadre « utile, honnête, inoffensif » (HHH) : celui du glossaire d'Anthropic.
L'article de recherche déposé le 04/03/2022 par Long Ouyang et ses coauteurs montre l'intérêt de la méthode : des évaluateurs préféraient les réponses d'un modèle de 1,3 milliard de paramètres, affiné avec retours humains, à celles d'un modèle de 175 milliards qui ne l'était pas. Ces résultats portent sur leur distribution de requêtes et leurs évaluations, pas sur toutes les tâches possibles. Le résumé relu le 16/11/2026 précise que des erreurs simples persistent.
Un exemple concret
Prenons une PME fictive qui déploie un assistant pour répondre à ses clients. Elle veut qu'il refuse de donner un avis médical, reste poli face à un client agacé et dise « je ne sais pas » plutôt que d'inventer une réponse. Cela se joue à plusieurs niveaux : il faut examiner les objectifs annoncés par l’éditeur, et l'entreprise précise ses propres règles dans la consigne, puis teste l'assistant sur des cas difficiles avant la mise en service.
Une discussion entre pairs pourrait partir d’un désaccord réel de conception : faut-il répondre immédiatement, demander une précision ou transmettre à un responsable ? Écrivez la réponse attendue et sa raison métier avant de regarder celle du modèle. Les programmes d’ateliers et de webinaires offrent un point d’entrée pour mieux comprendre les assistants. Ne transformez pas une préférence de ton partagée pendant l’échange en preuve que le système respecte tous les objectifs de l’entreprise.
Ce que ça change pour une entreprise
- Un modèle aligné n'est pas infaillible : gardez une relecture humaine sur ce qui engage l'entreprise.
- Vos règles complètent celles du fournisseur : ton, sujets interdits et limites se décrivent dans le prompt.
- Testez avant d'ouvrir : une série de questions pièges révèle vite les écarts.
Écrire ce que vous allez vérifier
Pour cet assistant fictif, préparez une demande ordinaire, une demande ambiguë et une demande qui dépasse son rôle. Décrivez à l’avance la réponse attendue dans chaque cas : répondre, demander une précision ou passer à une personne. Conservez les résultats insatisfaisants dans votre prochaine série d’essais. Ce contrôle pratique ne prouve pas un alignement universel ; il documente le comportement sur votre périmètre.
Termes voisins
- Hallucination : une réponse inventée, l'un des écarts qu'on cherche à réduire.
- Biais algorithmique : un autre écart entre le comportement voulu et le comportement réel.
- Fine-tuning : le réentraînement, étape où l'alignement s'applique.
- LLM : le type de modèle concerné.
Questions fréquentes
L'alignement est-il un problème résolu ?
Non. Les travaux cités montrent des améliorations sur des tâches évaluées, tout en signalant des erreurs persistantes.
Aligner, est-ce la même chose que filtrer les contenus ?
Non. Un filtre bloque des sorties ; l'alignement cherche à orienter le comportement du modèle lui-même vers les buts voulus, par exemple grâce à des retours humains pendant l'entraînement.
Sources
Pages consultées pour écrire cet article :