---

 

Qu’est-ce que l’intelligence artificielle ?

Mettre l’accent sur le terme d’intelligence artificielle est, en soi, trompeur. Cela suggère en effet qu’il existe des similarités avec l’intelligence humaine ou les processus d’apprentissage humains. 

L’intelligence artificielle (IA) a beau être un terme très à la mode aujourd’hui, il n’existe pourtant pas de définition standard universelle. Ceci est en partie dû au fait que l’étude de l’IA est un sujet très populaire qui évolue à toute vitesse, qui produit constamment de nouvelles conclusions et brouille les frontières entre informatique, statistique et robotique. Bien qu’il n’existe pas de consensus sur sa définition, l’intelligence artificielle touche la plupart d’entre nous. C’est ce type de technologie qui nous recommande quels biens acheter en ligne, qui gère notre planning et qui conduit les véhicules autonomes.

Les contenus manipulés sont susceptibles de permettre à la pensée extrémiste de se répandre dans le discours dominant et peuvent faciliter la radicalisation et entraîner des violences dans le monde réel. La désinformation politique n’est pas une stratégie nouvelle, mais la possibilité d’atteindre des publics d’une ampleur sans précédent d’un simple clic pour aiguiller le débat public engendre de nouvelles difficultés. Les trolls ou les bots sont des comptes de médias sociaux qui diffusent des contenus spécifiques ou produisent une mobilisation artificielle sur les plateformes correspondantes. « Ces bots peuvent être programmés pour effectuer des tâches normalement associées aux interactions humaines, comme suivre des utilisateurs, favoriser des tweets, envoyer des messages directs à d’autres utilisateurs et, plus important, tweeter du contenu et retweeter les publications d’un ensemble d’utilisateurs donné ou contenant un hashtag spécifique. » La programmation d’un bot ne nécessite pas de connaissances techniques approfondies et peut être réalisée facilement à l’aide de manuels disponibles en ligne.

Contenu fictif créé par IA – comment inverser la vapeur

Les trolls utilisés en grand nombre sont appelés réseau ou armée de trolls ou de bots. Les contenus manipulés orchestrés à l’aide de nombreux messagers peuvent influencer le discours ou les attitudes du public afin de servir un programme particulier. Un exemple bien connu est l’interférence russe dans l’élection présidentielle américaine de 2016, à l’occasion de laquelle de faux engagements placés stratégiquement ont favorisé la campagne de Donald Trump et attaqué Hillary Clinton. Selon les estimations, 5 à 15% des comptes en ligne étaient faux.

Les fake news contiennent des contenus créés de toutes pièces, des informations carrément fausses ou des théories du complot, qui ne sont pas nécessairement illégales mais qui posent de vrais problèmes. Une terminologie plus différenciée nous permet de faire une distinction entre désinformation et mésinformation. La première est diffusée intentionnellement, contrairement à la deuxième. Elles sont toutes deux susceptibles de répandre des pensées extrémistes dans le discours dominant, ce qui peut faciliter la radicalisation et entraîner la commission de violences dans le monde réel. La désinformation peut faire partie d’une stratégie politique, et influencer le discours public si elle est diffusée de façon efficace. Par exemple, «Pizzagate » est une théorie du complot issue de la campagne électorale américaine de 2016. Après la fuite des e‑mails privés de John Podesta, alors directeur de campagne de la candidate démocrate à la présidentielle, Hillary Clinton, ses opposants ont fait courir le bruit que ses e‑mails contenaient des codes rattachant de hauts représentants du parti démocrate à des réseaux de trafic d’êtres humains et de pédophilie. 

Les deep fakes, ou vidéos manipulées, sont une version extrême des données de synthèse manipulées et donnent une signification fondamentalement nouvelle à l’expression « faire dire à quelqu’un ce qu’il n’a pas dit ». Les dernières évolutions technologiques permettent aux utilisateurs de créer des vidéos à partir de la voix et des expressions du visage de quelqu’un. Cela peut donner lieu à des vidéos de responsables politiques qui semblent très réalistes sur les plans à la fois de l’image et du son, alors que ces personnes n’ont jamais prononcé ces mots. Un homme politique indien a utilisé une vidéo manipulée pour répondre aux besoins de l’environnement multilingue lors d’une campagne électorale récente, suscitant ainsi des réactions contrastées. Les organisations ayant tiré la sonnette d’alarme à propos des deep fakes ont également diffusé leurs conclusions, comme la vidéo dans laquelle Boris Johnson et son opposant Jeremy Corbyn s’accordent mutuellement un soutien politique pour l’élection de décembre 2019. Ces données créées de toutes pièces sont particulièrement présentent dans le secteur de la pornographie, faisant des femmes les plus grandes victimes de ces nouvelles technologies : les femmes peuvent désormais être les stars de vidéos pornographiques à leur insu et sans y avoir consenti. Cette technologie semble particulièrement néfaste lorsqu’elle est combinée à des outils de désidentification. Ces outils modifient les images et vidéos de telle manière qu’il est impossible pour les algorithmes d’identifier une nouvelle version légèrement modifiée comme le visage d’origine. Ils les identifient plutôt comme un nouvel élément à part entière. 

La maîtrise de la désinformation et de la mobilisation artificielle nécessite un renforcement de la culture numérique des utilisateurs. Comme le montrent les recherches sur la diffusion de fausses informations sur Twitter, les mensonges se propagent plus rapidement et plus largement que la vérité, et cela est dû aux interactions humaines. 

Compte tenu de la détermination des acteurs à diffuser des contenus malveillants à l’aide de faux comptes ou d’armées de trolls, les plateformes doivent adopter une approche proactive pour identifier les faux comptes et éviter ainsi que la modération de contenu se transforme en jeu du chat et de la souris. 

Conclusion

Selon Mark Zuckerberg, PDG de Facebook, l’IA est la solution idéale en matière de modération de contenu, puisqu’elle permet l’identification et la suppression des fausses mobilisations de toute nature. D’après lui, seuls les systèmes automatisés peuvent traiter les contenus postés par des millions d’utilisateurs dans différentes langues et issus de différents milieux culturels.

La modération de contenu pour les grandes plateformes de médias sociaux demeure problématique. Le grand nombre de langues, associé à des contextes culturels très variés, est encore trop insurmontable pour permettre aux algorithmes de filtrer les contenus malveillants. Un vaste débat public sur les contenus entrant dans la « zone grise » c’est ‎à dire les contenus malveillants mais licites s’impose. La société doit trouver un terrain d’entente sur les limites de la liberté d’expression en ligne. Cette décision ne devrait revenir qu’aux entreprises privées. De même, les technologies d’IA sont sous-développées et inutiles pour lutter contre la mobilisation artificielle en ligne, tels que les trolls, les bots et les fake news, dont la détection laisse encore à désirer à l’heure actuelle. Les internautes doivent être invités à participer et éduqués pour garantir des comportements responsables en ligne conduisant à une souveraineté numérique ; la conception des plateformes devrait permettre la mise en place d’un système transparent de « notification et action ». Les consommateurs et utilisateurs ne doivent pas être les seuls à porter le poids de cette responsabilité. 

La recherche d’une sécurité en ligne doit être appuyée par des stratégies qui dissuadent la publication de contenus malveillants ou fictifs en ligne et interdire les modèles commerciaux priorisant les contenus préjudiciables, puisque cela augmente la mobilisation en ligne et profite aux recettes publicitaires.

Il est facile d’imaginer la pièce où les décisions sont prises ; empruntons l’image du classique de science fiction Minority Report: un grand écran bleu tactile affichant les résultats d’une machine super intelligente censée assister les forces de l’ordre. Le résultat affiché est basé sur les données disponibles des individus ainsi que sur leur comportement en ligne en temps réel. Les alarmes du système retentissent dès que ce dernier repère une hausse considérable des facteurs de risque témoignant d’un niveau inquiétant de radicalisation. En fonction du comportement observé, le système envoie alors les unités compétentes cueillir le suspect. Ce système d’IA fiable permet à la police d’agir avant même qu’une infraction ne soit commise grâce à son pouvoir prédictif. 

Ce scénario peut sembler tentant, même s’il est exagéré et qu’il relève davantage de la science-fiction que de la réalité. Le lien entre nouvelles technologies et sécurité fait toutefois naître des aspirations pour ce type d’avancées. Les projets de police prédictive s’intéressent à la façon dont l’IA peut prêter assistance aux forces de l’ordre dans leur travail. Ces projets sont des applications d’AA qui prédisent la commission future d’infractions à partir de corrélations statistiques pour venir en aide aux forces de l’ordre.

Les systèmes de police prédictive actuels fonctionnent sur la base d’hypothèses portant sur des groupes, combinées à des informations sur des lieux et moments relatifs à des zones exposées à la criminalité. En d’autres termes, pour faire des prédictions éclairées, les algorithmes se fondent sur un ensemble d’informations en libre accès, de données gouvernementales et de données fournies par des entreprises privées.  

Il est peut être devenu évident qu’une IA générale, c’est-à-dire un système doué d’une intelligence supérieure, n’est pas une solution pour prédire la radicalisation en ligne des individus, et ce pour deux raisons. Tout d’abord, une raison technique : compte tenu de l’état actuel des technologies d’IA, les algorithmes ont besoin de vastes quantités de données pour faire des prédictions utiles. Heureusement, la radicalisation et le terrorisme ne sont pas suffisamment répandus pour produire suffisamment de données pour qu’une IA générale puisse prédire le comportement d’individus en matière de radicalisation en ligne. Le taux de faux positifs et de faux négatifs serait insupportable. Des investissements dans les ressources humaines seraient plus bénéfiques. La deuxième raison concerne le respect de la vie privée : un système observant les comportements en ligne en temps réel, stockant et analysant les données, ne respecterait pas les normes de protection de la vie privée en vigueur dans les démocraties libérales. La mise en place d’un tel système pourrait entraîner une surveillance de masse de la société. 

À long terme, l’application de technologies fondées sur l’IA devra suivre des normes précises. Ces normes viseront à protéger les utilisateurs contre les outils de prise de décision automatique injustes, par exemple parce qu’ils se fondent sur des ensembles de données biaisés ou sur une conservation des données discriminatoire basée sur le genre, le sexe, la religion ou d’autres caractéristiques protégées par la loi sur les droits des personnes. Les résultats des algorithmes doivent être atteints de façon transparente pour assurer une responsabilité des décisions fondées sur des calculs algorithmiques. Le développement d’une IA qui respecte le droit à la vie privée et qui soit non discriminatoire et compréhensible pour l’opérateur doit être la voie à suivre. 

Contexte politique

Introduction  

Le rapport introductif Intelligence artificielle et lutte contre l’extrémisme violent décrit des technologies d’IA conçues pour aider, accélérer ou rendre plus précises la modération et la suppression de contenu en ligne. Cela va des outils «entraînés » sur le plan linguistique pour identifier et signaler les contenus nuisibles aux technologies qui détectent les vidéos manipulées (deepfakes), en passant par les processus d’apprentissage automatique visant à élaborer des outils d’identification algorithmique. Le rapport cite également plusieurs difficultés et obstacles au déploiement effectif de ces technologies. Tout d’abord, les systèmes de recommandation fondés sur l’IA peuvent emporter les internautes dans des spirales constituées de contenus de plus en plus néfastes. 

Deuxièmement, l’accent placé sur la modération des contenus dans les langues européennes entraîne une reconnaissance et une modération sous‑optimales des contenus diffusés dans des langues non dominantes. Troisièmement, il n’existe à l’heure actuelle aucune mesure efficace pour lutter contre la désinformation en ligne, que ce soit sur le plan technique ou éthique. Enfin, un système général d’IA pour suivre les échanges en ligne en temps réel se fonderait sur un nombre démesuré de données non anonymisées, ce qui mettrait en péril les droits à la protection de la vie privée et à la liberté d’expression.

Ghana

Les efforts pour lutter contre l’extrémisme violent en ligne sont limités au Ghana, puisque la violence politique dans le pays n’est pas due à des activités terroristes, contrairement à ses voisins le Nigéria et le Tchad. La Global Terrorism Database, une base de données sur les attentats terroristes perpétrés dans le monde depuis 1970, ne recense que 21 incidents et 23 victimes en 50 ans au Ghana. 

Le Ghana n’est pas confronté aux mêmes problématiques que certains de ses voisins, concernant notamment les blocages d’Internet par les pouvoirs publics ou l’exploitation des réseaux sociaux par le gouvernement pour éliminer l’opposition politique. Ces gouvernements ont exploité l’héritage laissé par les lois coloniales, historiquement utilisées pour violer les libertés et « justifier de nombreuses (…) tentatives de requêtes extrajudiciaires adressées au secteur privé ».

Le rapport «Ranking Digital Rights » de 2019 indique que les médias sociaux et les fournisseurs d’accès à Internet ont dû répondre à des requêtes extrajudiciaires de blocage de la part des gouvernements, suscitant des inquiétudes concernant une surveillance et une censure excessive. 

Bien que le gouvernement ghanéen n’ait pas encore fait de telles requêtes illégales, les groupes de la société civile et les journalistes se sont dits inquiets pour l’avenir. Avant les élections de 2016, le chef de la police ghanéenne a annoncé un éventuel blocage des réseaux sociaux. Bien que le président ait résisté à ces projets, les préoccupations relatives aux droits numériques au Ghana grandissent. Les lois libérales relatives à la liberté d’expression au Ghana laissent la place aux abus sur les espaces numériques, comme les discours haineux et le harcèlement en ligne (en particulier à l’encontre des femmes). Les appels à une régulation plus stricte des médias sociaux vont donc croissant. Selon un expert de la Fondation pour les Médias en Afrique de l’Ouest, « en l’absence de réglementation, d’autres dispositions législatives », comparables aux requêtes gouvernementales décrites plus haut, « seront exploitées pour poursuivre les gens en justice de manière potentiellement excessive ».

On ignore encore si le Ghana a pour projet de développer des outils d’IA pour faciliter la régulation des contenus en ligne. Les menaces régionales pesant sur la liberté d’expression, héritées des lois de l’époque coloniale, ont toutefois montré que le pays doit placer les droits numériques de ses citoyens au cœur de tout outil technologique ou effort législatif pour contrôler les contenus préjudiciables en ligne. Dans le cadre d’une initiative louable, le Ghana a adopté, en 2019, un projet de loi sur le droit à l’information, qui garantit l’accès à l’information détenue par les institutions publiques. Ce projet de loi signale que le gouvernement ghanéen souhaite faire preuve de transparence et de responsabilité dans sa gestion des droits numériques. Toute évolution future concernant la modération des contenus en ligne doit suivre ces normes et engagements afin de protéger les droits à la vie privée et à la liberté d’expression.