Posez-vous ces questions sur la prochaine histoire d’intelligence artificielle dévoyée

1. La crédibilité de la source

Est-ce que la source de l’article est crédible ? Vient-elle d’une source d’informations fiable, d’un chercheur ou d’un utilisateur, ou a-t-elle été vérifiée par un site d’information ou un site de vérification des faits ? Il est également important de prendre en compte la motivation de la source de l’article, par exemple, est-ce que l’objectif est de vendre quelque chose ou de collecter de l’argent ? Parfois, ces motivations peuvent être dissimulées, il est donc important de rechercher les motivations fondamentales plutôt que les motifs superficiels que la source peut présenter.

2. La cohérence de l’histoire

L’utilisation de l’intelligence artificielle dans le contexte présenté semble-t-elle raisonnable et réaliste ? Même si vous n’êtes pas un expert en intelligence artificielle, si quelque chose vous semble étrange, maintenez votre scepticisme.

3. Les termes trompeurs

Les systèmes d’apprentissage automatique ne “comprennent” pas ou ne “réalisent” pas des choses, et ils ne “s’enseignent” pas à faire des choses en dehors de leur domaine. Les mots et les phrases utilisés peuvent souvent servir à occulter le contexte important du fonctionnement réel de l’intelligence artificielle. Ces mots peuvent aussi être des choix malheureux dans le but de communiquer un concept à un public plus large, mais il vaut la peine de creuser un peu plus pour découvrir ce qui se passe réellement.

4. L’apprentissage de l’IA

Comment l’intelligence artificielle a-t-elle été formée ? Quels comportements ont été récompensés pendant la phase d’apprentissage et ces récompenses ont-elles été correctement pondérées et contraintes ? Sur quelles données l’intelligence artificielle a-t-elle été formée et est-ce que ces données représentent fidèlement le monde réel ? De nombreuses choses peuvent être testées en simulation, et l’intelligence artificielle a tendance à ne se comporter de manière prévisible que lorsque les conditions sont soigneusement contrôlées, ce qui n’est souvent pas le cas dans une utilisation réelle. Les histoires sur l’intelligence artificielle rebelle mettent l’accent sur les résultats, mais elles ne fournissent généralement pas d’explications détaillées sur le processus qui a conduit à ces résultats, ce qui peut fournir un contexte critique.

5. La place de l’humain

Le comportement inattendu de l’intelligence artificielle est souvent le résultat d’un choix fait par un humain impliqué dans la conception ou la formation de l’intelligence artificielle, plutôt que d’un comportement émergent de l’intelligence artificielle elle-même. Cela peut faire partie du processus de formation ou être une erreur plus simple dans la façon dont le système d’intelligence artificielle a été conceptualisé ou mis en œuvre. Il ne s’agit pas d’une “intelligence artificielle rebelle”, mais bien d’une erreur humaine.

6. L’opinion des experts

Y a-t-il des citations d’experts indépendants de l’intelligence artificielle dans l’article ? Si c’est le cas, assurez-vous de comprendre qui sont ces experts et si vos propres instincts sceptiques vous font confiance. Il peut être difficile de savoir si un expert que vous n’avez jamais entendu parler est fiable ou non, recherchez des sceptiques informés, idéalement dans votre réseau étendu. Mais, encore une fois, soyez conscient de leurs motivations éventuelles.

Le but de ces questions n’est pas de réfuter chaque instance de ce que l’on pourrait appeler une « intelligence artificielle rebelle ». Ce qui compte exactement comme une “intelligence artificielle rebelle” est ouvert à l’interprétation, et vos propres préoccupations concernant l’intelligence artificielle peuvent ne pas correspondre à celles des experts ou des médias. Quelle que soit votre perspective sur l’intelligence artificielle, poser ces questions devrait vous aider à mettre les histoires inquiétantes sur l’intelligence artificielle dans un contexte plus objectif et précis.

Quelle que soit l’histoire d’intelligence artificielle rebelle suivante, l’intelligence artificielle n’est probablement pas là pour détruire les humains. Et elle ne cherche probablement pas non plus à nous transformer tous en trombones ou en agrafes. Cela ne signifie pas qu’il n’y aura pas de conséquences graves liées à l’intelligence artificielle, certaines d’entre elles pouvant être dangereuses. Mais à court terme, ces nuisances semblent beaucoup plus susceptibles d’être subtiles, avec des systèmes d’intelligence artificielle ciblés qui font discrètement exactement ce pour quoi ils ont été conçus : utiliser nos données pour attirer notre attention et nous soutirer de l’argent de manière aussi efficace que possible. Alors, abordez la prochaine histoire d’intelligence artificielle rebelle avec un certain scepticisme et essayez de ne pas vous laisser distraire par la façon dont l’intelligence artificielle affecte réellement votre vie en ce moment.

Un grand merci aux experts en intelligence artificielle qui nous ont donné leurs commentaires sur cet article.