Barbara
## “Dread” at Google I/O 2021 Keynote
DE CETTE ANNONCE DE GOOGLE I/O de cette semaine, “l’appréhension” ne figurait pas sur ma liste courte des émotions attendues. Google a passé quelques décennies à créer des produits qui rendent ma vie plus facile. Cette semaine, il a démontré exactement le contraire: une façon de rendre la communication avec les autres personnes plus mauvaise.
## L’Intelligence Artificielle et la Génération de Texte
Google I/O de cette année était axé sur l’intelligence artificielle, et l’un de ses points centraux était la génération de texte basée sur des prompts, notamment dans la suite bureautique de Google. À plusieurs reprises pendant la présentation, il a démontré un système appelé “Aidez-moi à écrire” – qui réécrit des motifs simples dans Gmail et d’autres applications en des paragraphes de texte plus raffinés. Mais plus raffiné ne signifie pas automatiquement meilleur.
## Les Risques de la Génération de Texte pour la Communication
Une bonne écriture peut nous plaire avec un tournant de phrase intrigant. Elle peut nous dire quelque chose sur la façon dont une personne pense et ressent. Ou elle peut offrir quelques détails utiles sur le monde. Et il n’y a aucune raison pour que l’IA ne puisse pas jouer un rôle. J’ai vu des auteurs utiliser des outils génératifs pour créer une prose inattendue ou résumer des données de manière lisible. Je suis heureux de voir les gens explorer de nouveaux usages pour cela.
Mais les idées présentées sur scène par Google étaient presque impressionnantes dans leur capacité à répondre à aucun des objectifs fondamentaux de l’écriture. Ses exemples d’Aidez-moi à écrire cristallisent les pires tendances des communications “professionnelles”. Ce sont des formulations insipides et enflées qui transforment une tournure humaine en quelque chose qui utilise plus de mots pour en dire moins.
## La Rédaction de Lettres de Motivation
Prenons l’un des exemples. Au début du discours, un présentateur génère automatiquement une description de poste pour un poste de design textile qu’ils (dans le scénario de la démonstration) envoient dans le monde. Plus tard, un autre présentateur y répond en fournissant le motif suivant: intéressé ! 8 ans d’expérience avec des marques internationales. Appel mardi.
Aidez-moi à écrire fonctionne sa magie et produit ce qui suit: Salut Lori, Merci beaucoup pour votre demande! Je suis très intéressé par le poste de designer textile senior chez Cymbal. J’ai 8 ans d’expérience dans le travail avec des marques internationales, et je suis sûr d’avoir les compétences et l’expérience que vous recherchez. Je suis disponible pour un appel le mardi à votre convenance. Veuillez me faire savoir quel est le moment qui convient le mieux.
La deuxième version est évidemment la façon dont vous êtes censé postuler pour un emploi parce que, écrite par un humain, elle laisse entendre que vous êtes suffisamment engagé pour taper une réponse de plusieurs paragraphes et êtes capable de toucher certains signifiants de classe et de culture. Une réponse générée par IA ne sert cependant à aucun de ces objectifs. Elle a été créée presque instantanément sur la base d’un système de texte prédictif qui ne nécessite qu’une compétence minimale en anglais, et jusque-là, ce système ne peut gérer qu’un style d’écriture assez axé sur la formule ; il ne remplacera pas le travail humain dans de nombreuses situations réelles. Donc, tout ce qu’il fait, c’est construire une version plus longue et plus guindée de la tournure originale – une qui n’a probablement de la valeur que jusqu’à ce que tout le monde s’attende à ce qu’elle ait été écrite avec l’aide de l’IA.
## Une Concurrence Linguistique
Et pire encore, la génération de l’AI renforce l’idée que la langue commerciale américaine enthousiaste est la façon requise d’écrire, indépendamment de savoir si c’est une compétence nécessaire pour l’emploi. J’ai vu des histoires réfléchies sur des personnes atteintes de dyslexie utiliser ChatGPT pour produire du texte qui est – comme le met en évidence un article du Washington Post – “toujours professionnel et poli”. Mais il y a une autre alternative implicite plus simple: être prêt à accepter des variations plus larges dans la façon dont les gens communiquent. Je ne reste pas jaloux de quiconque utilise l’écriture de l’IA pour répondre à des normes largement arbitraires, mais à l’échelle de la société, c’est une course aux armements linguistique vers un avenir plus ennuyeux.
## Le Résumé Automatique
Pour un autre exemple, essayez ce message de félicitations de Google Android Engineering VP Dave Burke à Devices and Services SVP Rick Osterloh: Rick congrats on pixel fold launch amazing with Android dave.
Voici ce que Aidez-moi à écrire produit: Cher Rick, Félicitations pour le lancement réussi de Pixel Fold! Je suis vraiment impressionné par le dispositif et la façon dont il s’intègre bien avec Android. L’écran pliable est un changeur de jeu, et je suis impatient de voir ce que vous en ferez ensuite. Meilleurs vœux, Dave
Je vais supposer que c’est ironique parce que je connais la façon dont les dirigeants envoient des courriels personnels, et ils semblent parfaitement à l’aise avec des missives d’une phrase sans ponctuation. Mais encore une fois, c’est pire! Cela ne me montre rien de ce à quoi ressemble l’expéditeur. Cela prend plus de temps à lire. Cela donne l’impression que l’expéditeur est un robot interchangeable.
## Le Récit Irrité
Pour comprendre la valeur pragmatique de ce processus dès maintenant, il faut regarder un e-mail du tout début de la présentation. Le cœur de la génération est en fait assez cool – elle prend une demande de remboursement d’une compagnie aérienne très simple et la remplit de détails concrets tirés de votre boîte de réception, comme le nom et la date de vol. Mais après cela, elle embellit les faits avec quelques paragraphes de prose irritée. Voici l’original: demander un remboursement complet pour ce vol annulé.
Et la version générée par l’AI : Cher Service Client, J’écris pour demander un remboursement complet de mon vol annulé, DF 4542, le 4 février 2023. Je comprends que vous offrez un voucher à titre de geste commercial, mais je préférerais être remboursé pour le prix de mon billet. J’ai été un client fidèle de votre compagnie aérienne pendant de nombreuses années et j’ai toujours été satisfait de votre service. Cependant, je suis très déçu de la façon dont mon vol récent a été géré. Je n’ai reçu aucun préavis de l’annulation et j’ai été contraint de prendre des dispositions alternatives à la dernière minute. Cela m’a causé beaucoup d’inconvénients et de dépenses. Je crois qu’un remboursement complet est le seul moyen équitable de me compenser pour les problèmes que j’ai éprouvés. Je vous envoie une copie de mon billet original pour votre référence. Merci pour votre temps et votre considération. Cordialement, Rowan
Il n’y a aucune indication que ces affirmations furieuses soient exactes. C’est un affichage de démotion bureaucratique : convaincre un représentant de service à la clientèle malheureux que vous êtes assez en colère pour taper tout ce texte et que vous serez probablement une nuisance réelle jusqu’à ce que vous récupériez votre argent. J’ai vu cette idée proposée de manière plus convaincante sur Tumblr, toutes sortes d’endroits. Dans un article populaire sur l’IA, quelqu’un a décrit utiliser ChatGPT pour réaliser une sorte de version high-tech du Gambit de la Forme 27B/6 du film Brazil, générant une fausse lettre légale menaçante à un propriétaire qui violait les lois sur le logement. En tant que locataire de longue date, je les applaudis.
### Avertissement d’Usage de la Génération de Texte
Mais ces messages sont efficaces pendant une période de transition brève pendant laquelle le texte génératif n’est pas largement utilisé, lorsque les lecteurs sont susceptibles de supposer qu’il est lié à un écrivain humain. Si vous savez que c’est une machine, l’illusion s’évapore. Vous vous retrouvez avec un monde rempli de communications plus longues, moins réfléchies et plus assommantes à lire. Je préférerais embaucher quelqu’un sur la base d’une expérience honnête de “8 ans” plutôt que sur une lettre de motivation pleine de prose automatisée vide. Par contraste, l’exemple le plus utile d’Aidez-moi à écrire de Google concernait simplement la communication d’informations. Dans un e-mail sur un potluck, son IA était capable d’examiner un document contenant une liste de plats pour lesquels des personnes s’étaient inscrites, puis de résumer cette liste dans un e-mail. Elle économise aux écrivains l’étape de copier-coller une série d’éléments et aux lecteurs l’inconvénient de cliquer sur un autre onglet. Surtout, sa valeur ne dépend pas de prétendre qu’un humain l’a écrit – et si Google a son mot à dire, c’est un tour qui ne durera pas longtemps.
