Un bug dans le systeme de moderation par intelligence artificielle de Discord a entraine le bannissement errone de plus de 8 000 utilisateurs depuis le mois de mai, apres que des images inoffensives ont ete identifiees a tort comme du contenu illegale.
La plateforme de messagerie instantanee a confirme l’incident le 7 juillet sur son compte X (anciennement Twitter). Les utilisateurs concernes ont vu leurs comptes suspendus de maniere permanente apres avoir partage des images comprenant des grilles de tableur, des echiquiers, des textures de jeux video ou encore des fonds transparents blancs et gris.
8 200 comptes suspendus par erreur
Selon les informations communiquees par Discord, environ 8 200 comptes ont ete affectes depuis mai 2026. Deux cents utilisateurs supplementaires ont ete bannis au cours du week-end du 4-5 juillet avant que l’equipe technique n’identifie et ne corrige le defaut. Tous les comptes concerns sont en cours de retablissement, a precise l’entreprise.
Le systeme de moderation automatique de Discord fonctionne en comparant les contenus telecharges a des bases de donnees d’elements illegaux. Si la technologie est concue pour detecter des contenus pedopornographiques ou terroristes, elle peut generer des faux positifs. En temps normal, un moderateur humain examine chaque signalement avant toute action. Mais un bug a provoque le bannissement immediat des comptes sans attendre cette verification.
Des motifs de bannissement inattendus
De nombreux utilisateurs ont fait part de leur mecontentement sur X et Reddit, expliquant avoir ete suspendus pour avoir partage des captures d’ecran de jeux video, des textures de developpement ou des documents professionnels. Plusieurs ont avance l’hypothese que l’IA de moderation serait devenue particulierement sensible aux motifs en grille, car ce type de structure est parfois utilise pour dissimuler du contenu illegale aux systemes de detection automatique.
Un utilisateur, directeur de jeu video, a declare avoir perdu l’acces a son compte professionnel apres avoir partage des textures de jeu. «Perdre un compte Discord pour une raison aussi injuste peut etre extremement devastateur et affecter gravement les utilisateurs», a-t-il ecrit sur X. Chaque jour, des millions d’utilisateurs sont touches par des bannissements erronees causees par l’IA.
Un probleme recurrent dans l’industrie
Discord n’est pas le seul service confronte a ce type d’incident. En 2025, des utilisateurs d’Instagram et des groupes Facebook avaient signale des suspensions de comptes a grande echelle, que beaucoup attribuaient a des erreurs des systemes de moderation automatique. Meta n’a jamais confirme officiellement le role de l’IA dans ces incidents, mais son conseil de surveillance a reclame davantage de transparence sur le fonctionnement de ces algorithmes.
La plateforme Tumblr avait egalement fait face a des plaintes d’utilisateurs dont les comptes avaient ete massivement suspendus sans explication claire. Ces episodes illustrent les defis poses par le recours croissant a l’intelligence artificielle pour moderer les contenus a grande echelle.
Discord a declare travailler a «de meilleures garanties pour que cela ne se reproduise pas». La societe na pas precise si elle modifierait son processus de verification humaine avant bannissement, une etape pourtant cruciale pour eviter de nouveaux incidents de ce type.
L’affaire survient dans un contexte de surveillance accrue des outils de moderation automatique. Aux Etats-Unis, le Federal Trade Commission (FTC) examine l’impact des decisions algorithmiques sur les droits des utilisateurs, tandis que le reglement europeen sur les services numeriques (DSA) impose aux grandes plateformes davantage de transparence sur leurs pratiques de moderation.
