Lors d’un entretien avec Ravi Agrawal au forum de Foreign Policy, la journaliste, lauréate du prix Nobel de la paix, établit un lien entre le pouvoir des entreprises technologiques, l’indépendance de la presse et la capacité des citoyens à préserver leur liberté de choix et leur participation démocratique. Ses propos ouvrent une réflexion sur une gouvernance de l’intelligence artificielle fondée sur la protection et la promotion des droits humains.
Le débat sur l’intelligence artificielle ne se limite plus à ses capacités techniques ou à ses perspectives économiques. À mesure que son utilisation s’étend à la production et à la diffusion d’informations ainsi qu’à l’influence sur les décisions, les interrogations se multiplient quant à ses effets sur la liberté d’expression, la vie privée, l’accès à l’information et la participation à la vie publique.
Ces questions ont occupé une place centrale dans l’entretien entre Maria Ressa, journaliste récompensée par le prix Nobel de la paix en 2021, et Ravi Agrawal, lors du forum sur la technologie et l’intelligence artificielle organisé par Foreign Policy en marge de l’Assemblée générale des Nations Unies.
Les interventions de Ressa rejoignent une approche qui place les personnes et leurs droits au cœur de la transformation numérique. Elle relie la conception des systèmes numériques, les incitations commerciales qui les régissent et la répartition du pouvoir au sein des sociétés. Au centre de son analyse figure une question : les individus peuvent-ils conserver la maîtrise de leur attention, de leur temps et de leurs décisions, et les institutions publiques peuvent-elles demander des comptes aux acteurs qui influencent leur vie ?
Ressa assure, aux côtés de Yoshua Bengio, la coprésidence du Groupe scientifique international indépendant des Nations Unies sur l’intelligence artificielle. Cette fonction donne une dimension internationale supplémentaire à son engagement sur les liens entre technologie, information et démocratie.
De la captation de l’attention à l’influence sur l’autonomie
Ressa décrit l’expansion de l’influence de l’IA à travers trois étapes liées entre elles : les réseaux sociaux qui captent l’attention, les systèmes conversationnels capables de créer un sentiment d’intimité et les agents d’IA pouvant agir au nom de l’utilisateur.
Selon son analyse, cette évolution a commencé avec des plateformes qui recueillent des informations sur les utilisateurs, prédisent leurs comportements et sélectionnent les contenus les plus susceptibles de les maintenir connectés. Le problème tient au fait que les incitations récompensant l’engagement peuvent favoriser des contenus qui attisent les émotions ou induisent en erreur, avec des conséquences sur le débat public et la perception des événements.
Du point de vue des droits humains, ce modèle soulève des questions qui dépassent le temps passé en ligne. Il touche à la capacité des personnes à se forger une opinion de manière indépendante, à comprendre l’utilisation de leurs données et à accéder à des informations diverses et fiables.
La liberté de choix ne peut être évaluée sans tenir compte de l’environnement dans lequel elle s’exerce. Lorsque des systèmes mal compris par les utilisateurs organisent l’information et les exposent de façon répétée à certains messages, la transparence de ces mécanismes devient un enjeu d’autonomie et de décision éclairée.
Intimité numérique, vie privée et confiance
Avec l’IA conversationnelle, l’influence se déplace vers un espace plus privé. Les échanges peuvent porter sur des craintes personnelles, des besoins affectifs ou des demandes de conseils, hors du champ d’observation auquel peuvent être soumis les contenus publics.
Ressa avertit que la fluidité du langage et une empathie apparente peuvent encourager les utilisateurs à accorder une grande confiance à un système. Pourtant, ni l’une ni l’autre ne garantit l’exactitude des informations ou ne crée les responsabilités propres aux relations humaines.
Cette observation souligne l’importance de protéger la vie privée et d’expliquer clairement la nature du système avec lequel une personne interagit, ainsi que les limites de la confiance qu’elle peut lui accorder. Elle soulève également la question du traitement des informations sensibles communiquées au cours de ces conversations.
Dans une approche fondée sur les droits humains, les garanties devraient tenir compte des différences de capacité à comprendre ces systèmes et à les utiliser. Une attention particulière devrait être accordée aux enfants et aux personnes dont la situation peut accroître l’exposition à l’exploitation ou à la manipulation. Il s’agit ici d’une lecture éditoriale des implications de l’entretien, et non de recommandations directement citées de Ressa.
Déléguer des tâches ne supprime pas le besoin de contrôle
Ces questions prennent davantage d’importance avec l’apparition d’agents d’IA capables d’exécuter des tâches, plutôt que de simplement fournir des réponses.
Ressa estime que les utilisateurs doivent comprendre les pouvoirs qu’ils délèguent au système, ce que celui-ci peut accomplir dans ce cadre et les conséquences de ses actions. La facilité d’utilisation ne suffit pas à garantir que les décisions restent sous contrôle humain.
La protection des droits exige de clarifier les responsabilités et de préserver la possibilité d’intervenir et de corriger les erreurs. Lorsque les systèmes influencent des décisions ayant des conséquences importantes sur la vie des personnes, le besoin d’explications compréhensibles et de mécanismes permettant de contester les erreurs et d’en réparer les effets devient plus pressant.
Ces questions restent pertinentes même lorsqu’une personne utilise volontairement un système. Accepter un service ne signifie pas nécessairement en comprendre toutes les limites ou toutes les conséquences possibles.
Une information fiable, fondement de la participation et de la redevabilité
Ressa décrit des crises interdépendantes de confiance, d’ordre institutionnel et de redevabilité. La dégradation de l’environnement informationnel rend plus difficile l’établissement d’une compréhension commune des événements et affaiblit la capacité des sociétés à coopérer et à demander des comptes aux acteurs puissants.
Cette analyse revêt une importance particulière pour les droits humains, car leur exercice suppose l’accès à la connaissance. Les citoyens qui ne peuvent vérifier les décisions affectant leur vie, ou distinguer une information fiable d’un contenu trompeur, rencontrent des obstacles à une participation effective à la vie publique.
Cela concerne la santé, le climat et les inégalités, autant que les élections et la politique. Une information fiable aide les personnes à comprendre les risques, à évaluer les politiques et à faire valoir leurs droits.
Protéger l’environnement informationnel implique également de préserver la liberté d’expression et le débat critique. La lutte contre la désinformation nécessite de la transparence, du pluralisme, une presse indépendante et une éducation aux médias, tout en évitant qu’elle serve de justification pour restreindre les opinions ou réduire au silence les voix critiques.
Protéger les journalistes et le droit du public à l’information
L’analyse de Ressa s’appuie sur son expérience des attaques numériques et des pressions politiques aux Philippines. Elle explique comment des accusations répétées en ligne peuvent modifier les perceptions du public et contribuer à créer un contexte dans lequel l’intimidation hors ligne devient plus acceptable.
Les violences en ligne peuvent ainsi s’inscrire dans un ensemble plus large de pressions, comprenant des campagnes de dénigrement, des pratiques coercitives et des tentatives visant à limiter la capacité des journalistes à poursuivre leur travail.
Du point de vue des droits humains, la sécurité des journalistes est liée au droit du public d’accéder à l’information. Lorsque les menaces les réduisent au silence ou les poussent à l’autocensure, leurs effets s’étendent à une société qui perd une source de vérification et d’établissement des faits.
Ressa appelle à la solidarité au sein de la profession et au soutien du public à la presse indépendante. Elle reconnaît également les erreurs du journalisme et l’influence que les incitations des plateformes peuvent exercer sur les choix éditoriaux. Son propos associe la défense de l’indépendance professionnelle à la nécessité de revoir les pratiques et de renforcer la vérification et la redevabilité.
Viabilité du journalisme et accès équitable à l’information
Ressa pose une question économique ayant des implications directes pour le droit à l’information : comment continuer à produire un journalisme fiable lorsque les médias supportent les coûts de collecte et de vérification des informations, tandis que d’autres systèmes les réutilisent sans leur procurer une contrepartie économique suffisante ?
Elle souligne que les réponses générées par l’IA peuvent réduire le besoin des utilisateurs de consulter le site de l’éditeur d’origine. Elle décrit également les charges opérationnelles liées à l’extraction automatisée de contenus, alors que les médias subissent déjà des pressions sur leurs ressources.
Elle redoute ainsi un affaiblissement des institutions qui produisent les informations dont dépendent les systèmes de diffusion et de réutilisation eux-mêmes.
Les abonnements ne constituent toutefois pas, selon elle, une solution complète. Dans les sociétés où la pauvreté est importante, réserver l’accès à une information fiable aux personnes capables de payer peut exclure celles qui en ont besoin pour comprendre les décisions affectant leur vie.
La viabilité du journalisme est donc liée à l’équité de l’accès à l’information. Le défi consiste à financer un travail journalistique indépendant tout en le maintenant accessible à un large public, y compris aux personnes qui ne peuvent pas payer.
Une coopération internationale attentive à toutes les sociétés
Ressa souligne que les effets de la technologie dépassent les frontières et que les réponses nationales ne suffisent pas. Des systèmes développés dans un pays peuvent influencer la vie des personnes et le fonctionnement des institutions dans de nombreux autres.
Dans ce contexte, elle évoque le rôle du Groupe scientifique international indépendant sur l’intelligence artificielle, qu’elle copréside avec Yoshua Bengio, et du Dialogue mondial sur la gouvernance de l’intelligence artificielle. Le groupe fournit une base scientifique pour comprendre les possibilités, les risques et les effets de l’IA, tandis que le dialogue offre un cadre institutionnel permettant de s’appuyer sur ces connaissances et de discuter des réponses appropriées.
Ressa reconnaît la frustration suscitée par les divisions qui entravent les institutions internationales, mais estime que la coopération demeure nécessaire puisque les sociétés subissent des effets communs.
Même les pays qui ne développent pas les modèles les plus avancés ont intérêt à participer. Leurs citoyens utilisent ces systèmes et leurs institutions doivent en gérer les conséquences. Rester à l’écart des discussions peut les exposer aux risques tout en limitant leur influence sur les règles.
Dans une perspective de droits humains, cela exige de tenir compte des différences de langues, de ressources et de conditions sociales, ainsi que de la capacité des communautés sous-représentées à contribuer aux priorités de gouvernance. L’équité dans la transformation numérique comprend l’accès à la technologie et la participation aux décisions qui encadrent son utilisation.
La concurrence ne supprime pas la responsabilité de protéger
Ressa conteste l’idée selon laquelle la compétition technologique justifierait le report des garanties. La pression concurrentielle ne dispense pas les gouvernements de leur responsabilité de protéger les personnes et ne répond pas aux questions relatives aux préjudices et à la redevabilité.
Elle invite les journalistes à examiner cet argument et les intérêts qu’il sert, plutôt qu’à le considérer comme une évidence.
Elle propose également une démarche pratique face à l’incertitude : distinguer ce que les preuves établissent, ce qui reste inconnu et ce qu’il serait irresponsable d’ignorer. Elle prend l’exemple d’une sortie de secours dans un bâtiment : son installation n’exige pas de savoir à l’avance si un incendie se produira.
Cette idée soutient une approche fondée sur les droits humains qui examine les effets avant que des dommages surviennent, adopte des mesures proportionnées aux risques et les réévalue à la lumière de nouvelles données. La protection des personnes ne peut dépendre d’une connaissance exhaustive de toutes les conséquences possibles.
Ressa estime également qu’une présentation claire des preuves renforce la redevabilité : expliquer ce qui s’est passé, ce que cela révèle, ce qui demeure incertain et les réponses envisageables.
Les citoyens, partenaires de la protection des droits
Ressa ne limite pas la participation démocratique au vote. Elle appelle à soutenir la presse indépendante, à défendre les institutions de contrôle et à examiner les informations que l’on consomme.
Elle observe que les choix individuels concernant le temps et l’attention contribuent à maintenir certaines plateformes et certains éditeurs. Selon elle, l’organisation commerciale actuelle d’Internet peut évoluer, et les citoyens peuvent soutenir d’autres modèles et exiger davantage de comptes.
Une lecture fondée sur les droits humains ne fait toutefois pas peser la responsabilité de la protection sur les seuls utilisateurs. Les connaissances individuelles et les choix éclairés doivent pouvoir s’appuyer sur des institutions capables d’exercer un contrôle, des entreprises qui assument les effets de leurs produits et des voies permettant aux personnes concernées d’être entendues et d’obtenir une réponse à leurs plaintes.
Une participation effective suppose de permettre à la société civile, aux chercheurs, aux journalistes et aux institutions nationales des droits de l’homme de contribuer à l’évaluation des politiques numériques et de leurs effets, tout en donnant une place aux personnes dont les droits sont directement affectés par ces systèmes.
Au cœur du message de Ressa se trouve l’importance de préserver une réalité commune fondée sur les faits. À mesure que l’IA s’installe dans la vie quotidienne, la protection de ce socle devient essentielle pour permettre aux personnes de comprendre les événements, d’exercer leurs droits et de demander des comptes à ceux qui prennent des décisions affectant leur vie.
هذه المقالة متاحة أيضًا بـ:
