Qui a peint cette toile exposée dans la galerie virtuelle du musée ? Pendant six jours, la légende générée automatiquement pour une reproduction numérique de tableau a attribué l’œuvre au mauvais artiste, une confusion révélée par un visiteur connaisseur dans les commentaires de la page. Le classement du catalogue du musée, sujet distinct, n’est pas traité ici.
Le plugin en cause générait des légendes descriptives pour chaque œuvre numérisée de la collection, à partir d’une analyse d’image combinée à un LLM chargé de rédiger un texte de présentation en langage accessible pour le grand public.
L’erreur détectée
La légende publiée décrivait correctement le sujet de la toile — une scène de bord de mer, avec une analyse fine de la composition et des tons employés — mais attribuait l’œuvre à un peintre contemporain de l’artiste réel, dont le style pictural présentait effectivement des similitudes visuelles fortes : même palette de bleus, même traitement de la lumière sur l’eau.
Le système de génération de légendes n’avait accès qu’à l’image elle-même et à un prompt demandant une description enrichie « dans le style de l’école post-impressionniste » — sans qu’aucune donnée de métadonnée fiable (nom de l’artiste, date, provenance) ne soit transmise en entrée pour ancrer factuellement l’attribution.
Le mécanisme de l’erreur
Le modèle, entraîné sur un vaste corpus d’œuvres d’art, a reconnu un style pictural proche de celui d’un artiste plus connu et a « complété » la légende avec cette attribution plausible, sans jamais avoir reçu l’information réelle en entrée. Ce comportement illustre un piège classique : demander une analyse stylistique à un modèle sans lui fournir les métadonnées factuelles disponibles revient à l’inviter à deviner, avec toute l’assurance d’une réponse correcte.
La légende erronée est restée en ligne six jours, le temps qu’un visiteur, spécialiste amateur de la période concernée, signale l’erreur en commentaire. Aucun contrôle interne n’avait détecté le problème avant cette alerte externe.
Le correctif technique
Le prompt a été modifié pour exiger la transmission systématique des métadonnées réelles de l’œuvre — artiste, date, provenance — extraites de la base de données du catalogue avant toute génération de légende, avec interdiction explicite de proposer une attribution différente de celle fournie :
function generer_legende_oeuvre( $oeuvre_id ) {
$metadonnees = get_post_meta( $oeuvre_id );
$prompt = sprintf(
"Redige une legende descriptive pour cette oeuvre. Artiste : %s. Titre : %s. Annee : %s. N'attribue jamais cette oeuvre a un autre artiste que celui indique ici.",
$metadonnees['artiste'][0],
$metadonnees['titre'][0],
$metadonnees['annee'][0]
);
return appeler_llm_avec_image( $prompt, get_post_thumbnail_id( $oeuvre_id ) );
}La relecture obligatoire mise en place
- Toute légende générée est désormais placée en brouillon, jamais publiée automatiquement.
- Un conservateur valide chaque légende avant publication, avec un temps de traitement moyen de deux minutes par œuvre.
- Un contrôle rétroactif a été mené sur l’ensemble des 1 200 légendes déjà publiées, révélant trois autres erreurs d’attribution similaires.
Demander à un modèle d’analyser le style d’une œuvre sans lui donner l’information factuelle disponible revient à lui demander de deviner : sur un sujet où l’exactitude prime sur la créativité, cette demande est toujours une erreur de conception, pas seulement de prompt.
En résumé
Un générateur de légendes pour un catalogue culturel doit systématiquement recevoir en entrée toute donnée factuelle déjà connue et disponible, plutôt que de laisser le modèle déduire ces informations de la seule analyse visuelle. La relecture humaine obligatoire, désormais systématique sur ce musée en ligne, reste le dernier filet de sécurité contre ce type d’erreur d’attribution, aussi plausible soit-elle en apparence.
L’équipe du musée reconnaît volontiers que cette relecture systématique ralentit la mise en ligne de nouvelles légendes par rapport à la publication automatique initialement envisagée. Ce ralentissement est désormais considéré comme un coût acceptable, largement compensé par la garantie de ne plus attribuer publiquement une œuvre au mauvais artiste devant un public de visiteurs parfois très informés sur la collection.
