Mercredi 14 mai, durant quelques heures, Grok, l’agent conversationnel du réseau social X, a fait montre d’une étrange obsession. Dans ses réponses, l’intelligence artificielle (IA) propriété d’Elon Musk a évoqué répétitivement la thèse d’un « génocide blanc » en Afrique du Sud, même lorsqu’on l’interrogeait sur tout autre chose – comme sur le salaire d’un joueur de baseball, ou la méthode pour changer de logiciel.
Dans ses réponses, Grok faisait ainsi référence aux meurtres de fermiers blancs, dans ce pays où le taux d’homicides est particulièrement élevé. La thèse selon laquelle la population sud-africaine blanche serait menacée d’un « génocide » est depuis longtemps soutenue par Elon Musk, avant d’être reprise à son compte par Donald Trump. Peu après sa réélection, début février, le président américain s’est ainsi dit favorable à accorder l’asile aux Afrikaners, les descendants des colons européens installés en Afrique du Sud. Les premiers Sud-Africains à répondre à cette invitation sont d’ailleurs arrivés sur le territoire américain mardi 13 mai.
Vendredi 16 mai, dans un message posté sur X, l’entreprise a reconnu le problème, déclarant que Grok avait fait l’objet d’une modification « non autorisée », qui poussait le robot conversationnel « à fournir des réponses spécifiques sur un sujet politique, violant les règles internes et les valeurs centrales de xAI » , la maison mère du réseau social X. L’entreprise a annoncé son intention d’améliorer la transparence des modifications apportées à son IA et de renforcer ses processus de contrôle.
Modifier le fonctionnement des IA
Dans ses réponses, l’IA d’Elon Musk ne soutenait pas pour autant l’existence d’un « génocide blanc » : elle présentait au contraire ce concept comme un sujet qui divise, démontant à l’occasion la thèse du génocide, comme l’a constaté le média The Verge. Certains de ces messages ont ensuite été effacés – et, dans la foulée, l’obsession de l’IA pour l’Afrique du Sud corrigée.
Beaucoup d’IA génératives sont fermement éduquées à présenter les questions politiques de façon équilibrée. Selon diverses études, Grok aurait ainsi tendance à pencher du côté du centre gauche.
Les robots conversationnels sont faits de milliards de neurones artificiels qui ont formé leurs connexions de manière autonome, et dont l’organisation demeure très opaque. Mais il n’est pas impossible de les pousser à privilégier certaines informations : en mai 2024, l’éditeur Anthropic a ainsi réussi à repérer, chez son IA Claude, les neurones portant en eux la mémoire du Golden Gate Bridge de San Francisco. Ses chercheurs sont ensuite parvenus à accentuer le poids de ces neurones au point que l’IA en parlait dans la majorité de ses réponses, y compris quand on l’interrogeait sur d’autres sujets.
Mise à jour le 16 mai 2025 à 10 h 30 : ajout de la réaction de l’entreprise.
