Des considérations éthiques à tous les stades de l’utilisation de l’IA dans le journalisme

Les technologies d’intelligence artificielles (IA) sont de plus en plus présentes dans les salles de rédaction, mais la confiance dans les médias étant précaire, on craint toujours que l’introduction de l’apprentissage automatique n’aggrave la situation.

De l’automatisation des reportages et du traitement des données à la vérification des informations, la présence de l’IA dans le monde du journalisme, comme dans d’autres secteurs, ne cesse de croître. Toutefois, le fait que l’industrie des médias repose sur la confiance et la vérité constitue un facteur de complexité supplémentaire lorsqu’il s’agit d’utiliser cette technologie.

Plusieurs programmes intègrent avec succès l’IA dans le processus d’élaboration des informations, en décomposant et en standardisant les données liées à la Covid-19 notamment. Cependant, des inquiétudes subsistent quant aux implications éthiques de l’utilisation de ce type de technologies dans un secteur qui traite des informations sensibles et dont la portée sociétale est potentiellement importante.

Malgré cela, les médias ne figurent pas parmi les domaines d’application à haut risque mentionnés dans le projet de législation sur l’IA de l’UE, qui adopte une approche verticale fondée sur le risque pour réglementer l’application de la technologie en identifiant les secteurs considérés comme particulièrement vulnérables à une utilisation malveillante ou à des retombées négatives involontaires.

Le champ d’application de l’IA dans le journalisme est déjà vaste lorsque l’on regarde ses applications existantes et potentielles. Dans de nombreux cas, ce travail fait encore partie des coulisses du journalisme, où seules des étapes comme la collecte et le traitement de grands volumes de données, par exemple, ou encore l’analyse textuelle pour vérifier les faits et étiqueter les articles, sont automatisées.

Cependant, cette automatisation est également de plus en plus utilisée pour des facettes plus visibles du journalisme, comme la rédaction d’articles. Plusieurs rédactions utilisent l’automatisation pour publier des mises à jour et assembler des articles sur des sujets d’actualité, des événements sportifs ou encore des annonces immobilières, entre autres.

Le logiciel n’est pas uniquement basé sur le texte et est appliqué à d’autres formes de médias. Design AI, une entreprise basée à Munich, qui travaille avec des organismes d’information tels que l’Agence européenne pour la photographie de presse et l’agence de presse espagnole EFE, a mis au point une IA permettant d’annoter des vidéos, principalement pour l’archivage des séquences. Toutefois, les applications potentielles de cette IA couvrent un large éventail de pratiques à la fois dans le domaine du journalisme mais également au-delà.

Lorsqu’il s’agit d’éthique de l’utilisation de l’IA dans les médias et de la manière de les considérer, une différenciation doit être faite entre les différents niveaux de développement. C’est en tout cas ce qu’a déclaré Keesiu Wong, PDG et cofondateur de DesignAI, à EURACTIV.

Cette différenciation intervient premièrement lorsqu’il s’agit de déterminer si la préoccupation s’applique à l’IA dans son ensemble, par exemple lorsqu’il s’agit de biais dans les données, comme on le voit également dans d’autres secteurs, ou si elle s’applique à l’utilisation spécifique du logiciel dans les médias. Deuxièmement, il s’agit de déterminer où ces problèmes peuvent se poser dans le processus de développement et d’application.

« Il existe différents niveaux et endroits où un comportement non éthique indésirable peut se glisser», a déclaré M. Wong. «  Il peut s’agir de la façon dont le logiciel est programmé, et c’est ce qui nous préoccupe. Il peut également s’agir de la manière dont les données ont été compilées… et c’est ce qui est le plus difficile à régler car il s’agit de l’étape la moins évidente. Pour finir, cela pourrait aussi être lié à la façon dont l’IA est utilisée.  »

Selon lui, ce qu’il faut donc, c’est une approche «  éthique dès la conception  » lorsque l’on touche à ce type de technologies. «  En fait, vous avez besoin de considérations éthiques à tous les niveaux. En effet, vous en avez besoin lorsque vous construisez ou concevez l’IA, vous en avez besoin lors de la compilation des données, pendant la phase d’apprentissage, et aussi au moment de son utilisation. »

Lorsqu’il s’agit d’utiliser ces logiciels dans les médias, un niveau supplémentaire de considérations se pose, étant donné les implications potentielles de la publication d’informations qui ont été traitées par des technologies automatisées.

Les outils d’IA peuvent être d’une valeur inestimable pour les journalistes d’investigation, par exemple, lorsqu’il s’agit de rassembler et de traiter de gros volumes d’informations. C’est ce qu’a déclaré Jonathan Stray, chercheur en IA à l’université de Berkeley, lors d’une intervention au JournalismAI Festival de la London School of Economics le jeudi 2 décembre.

Toutefois, il a ajouté qu’avant que des affirmations ou des allégations ne soient rendues publiques sur la base de ces technologies, «  garantir l’exactitude du processus, garantir la vérification par un être humain de la qualité de la production, constitue l’un des principaux défis éthiques liés à l’IA et à la rédaction d’articles  ».