Chatbot justicier

Sous l’avalanche des plaintes rédigées par l’IA

Le flot grandissant de réclamations enrichies à l’IA crée un nouveau type de harcèlement injustifié pour les tribunaux et les services RH

Sous l’avalanche des plaintes rédigées par l’IA © Freepik

On dit qu’il ne se passe jamais rien d’amusant sur Linkedin et, d’après mon expérience, c’est vrai.

Mais l’autre jour, un collègue m’a montré un message publié sur le site par un dénommé Chris qui racontait qu’il s’est mis à se connecter aux réunions en ligne avec trente secondes d’avance afin que les assistants IA utilisés pour transcrire les réunions virtuelles l’enregistrent discrètement.

Naufrage de l’IA

Il crie alors qu’il est sur le ‘Titanic’, que le paquebot vient de heurter un iceberg et qu’il a besoin d’aide de toute urgence, avant de poursuivre normalement la réunion. “À la fin de la réunion, écrit-il, tout le monde reçoit par e-mail une transcription dont le résumé généré par l’IA est le suivant : ‘Chris a heurté un iceberg, il est coincé sur un navire en train de couler, puis mises à jour générales sur les tarifs du deuxième trimestre’.”

J’ai beaucoup aimé cette histoire et j’espère qu’elle fera le tour du web, car quelqu’un a peut-être enfin trouvé un bon usage de l’IA au bureau.

Les plaintes s’appuient souvent sur des références à la jurisprudence et à divers textes de lois qui ne s’avèrent pas toujours exactes, mais qui prennent des heures à trier.

Bien sûr, j’entends constamment parler des derniers “cas pratiques” dans le “champ de l’IA” qui vont rendre la vie professionnelle plus productive, plus efficace et plus rationnelle.

Je sais également que les scientifiques de Google DeepMind ont remporté conjointement le prix Nobel de chimie l’année dernière pour un modèle d’IA qui contribue déjà à accélérer les travaux sur des problèmes complexes tels que la résistance aux antibiotiques et la pollution plastique.

Entre de bonnes mains, l’IA peut évidemment être bénéfique à l’humanité. Mais je croise sans cesse des personnes comme Sarah Harrop, qui savent à quel point elle peut être néfaste entre de mauvaises mains.

Tribunaux submergés

Sarah Harrop, avocate associée au cabinet Addleshaw Goddard à Londres, est spécialisée en droit du travail, ce qui veut dire qu’elle traite des plaintes pour licenciement abusif, discrimination et autres formes d’abus. Depuis l’arrivée de ChatGPT, elle constate une augmentation notable du nombre de courriers adressés aux services RH et aux tribunaux du travail [équivalents britanniques du Conseil de prud’hommes, ndt], nettement plus longs, détaillés et visiblement crédibles.

Les plaintes s’appuient souvent sur des références à la jurisprudence et à divers textes de lois qui ne s’avèrent pas toujours exactes, mais qui prennent des heures à trier.

Internet regorge désormais de sites proposant d’exploiter la puissance de l’IA pour générer des plaintes efficaces et bien rédigées.

“Nous avons vu des exemples où des dizaines et des dizaines de courriers ont été envoyés au tribunal du travail”, m’a-t-elle confié. La longueur des documents et la rapidité avec laquelle ils sont générés indiquent qu’ils sont presque certainement produits par des robots plutôt que par des humains, déclare-t-elle, ajoutant que ce procédé exerce “une pression considérable” sur les employeurs et les tribunaux.

Je peux facilement imaginer combien ce peut être fastidieux et coûteux pour les employeurs, et je suis sûre qu’ils ne sont pas les seuls.

J’ai fait part des observations de Mme Harrop à quelques personnes la semaine dernière et j’ai rapidement appris que les employés ne sont pas les seuls à utiliser l’IA pour démultiplier les plaintes.

Un directeur d’école exerçant depuis longtemps m’a confié que le volume et l’intensité des plaintes des parents, très probablement issues de l’IA, avaient explosé au cours des dix-huit derniers mois.

Ces plaintes étaient souvent bien rédigées et incluaient des références convaincantes à la jurisprudence qui les rendaient difficiles à ignorer, note-t-il, même si les plus longues s’avéraient invariablement spécieuses.

IA procédurière et prolixe

Je ne vois pas cette situation s’améliorer de sitôt. Internet regorge désormais de sites proposant d’exploiter la puissance de l’IA pour générer des plaintes efficaces et bien rédigées.

J’en ai testé un destiné aux employés en lui indiquant que je souhaitais une lettre de réclamation concernant le nombre de toilettes pour hommes par rapport à celui de toilettes pour femmes dans un grand bureau que j’avais récemment visité. En quelques secondes, il m’a renvoyé un acte d’accusation incisif, grammaticalement correct et bluffant d’éloquence, dénonçant ce qu’il qualifiait d’arrangement injuste et discriminatoire “donnant une impression négative, voire peu professionnelle” aux visiteuses.

Il doit y avoir des cas où il doit être tentant d’arrêter de se débattre avec ces messages et de passer du côté obscur en utilisant simplement l’IA pour répondre.

Je ne vais pas nier que ce test m’a inspiré un élan de gratitude et m’a fait prendre conscience qu’il doit y avoir bien des cas où une plainte assistée par l’IA est tout à fait justifiée. Les produits de piètre qualité, les contraventions injustes et les mauvais employeurs constituent sans aucun doute autant de motifs valables pour rédiger une lettre de réclamation musclée.

Mais un monde dans lequel ceux qui sont chargés de traiter les plaintes croulent sous une avalanche de verbiage généré par l’IA et à la légitimité douteuse n’est pas un monde souhaitable. Il doit être tentant d’arrêter de se débattre avec ces messages et de passer du côté obscur en utilisant simplement l’IA pour répondre.

Je ne pense pas que nous en arriverons un jour au point où nous laisserons les robots se battre à notre place et nous faire un compte rendu une fois qu’ils auront terminé. Mais là encore, pouvons-nous affirmer avec certitude que ce scénario ne se réalisera pas ?

Pilita Clark, FT

© The Financial Times Limited [2025]. All Rights Reserved. Not to be redistributed, copied or modified in anyway. Le nouvel Economiste is solely responsible for providing this translated content and the Financial Times Limited does not accept any liability for the accuracy or quality of the translation.

Réutiliser cet article
Cet article est une œuvre protégée. Son utilisation donne lieu à des droits d’exploitation et de rediffusion interne et externe. Nous consulter.

L'article ne possède pas encore de commentaires !