L’IA : entre promesses et préjugés

Les modèles d’intelligence artificielle comme Midjourney, spécifiquement visé par la campagne de Heetch, sont capables de créer des images impressionnantes à partir de descriptions textuelles. Cependant, ils ne sont pas à l’abri des biais systémiques, car leurs bases de données sont issues d’images et de contenus produits par les humains, et quand ces entrées sont biaisées, les résultats le sont aussi. Lorsque Heetch a testé des requêtes contenant le mot « banlieue », les résultats étaient souvent stigmatisants, reflétant des clichés dégradants associés à ces zones. Ces biais, bien qu’involontaires, renforcent des stéréotypes préjudiciables et contribuent à une perception négative des banlieues françaises.

L’exemple de Midjourney soulève une question cruciale : l’IA peut-elle être un outil neutre ? La réponse est claire : tant que ses bases de données et ses algorithmes ne seront pas débarrassés des préjugés humains, elle continuera de reproduire et de perpétuer ces biais.

Une action citoyenne pour changer les choses

Face à ce constat, Heetch a décidé d’agir pour créer une campagne unique en son genre. L’idée était simple mais puissante : récolter des milliers de photos authentiques des banlieues françaises afin de proposer une représentation plus positive et réaliste. Ces images ont été transformées en cartes postales intitulées « Greetings from la Banlieue », accompagnées d’un QR code menant à la base de données.

Ces cartes ont été distribuées dans les banlieues elles-mêmes, incitant les habitants à personnaliser leur message avant qu’elles ne soient envoyées directement aux équipes de Midjourney à San Francisco. Le message était clair : ces résidents ne se résument pas à des stéréotypes, et leur quotidien mérite d’être vu et compris dans toute sa richesse et sa diversité.

Le pouvoir de l’engagement collectif

Cette campagne met en évidence l’importance de l’action collective pour contrer les effets négatifs de l’IA. Elle nous rappelle que les citoyens peuvent jouer un rôle actif dans la manière dont les technologies sont conçues et utilisées. En unissant leurs efforts, les habitants des banlieues et les créateurs de la campagne ont réussi à attirer l’attention d’un acteur clé de l’IA et à amorcer un dialogue autour des biais technologiques.

Les leçons à retenir

1. Sensibilisation : Les biais présents dans les outils d’IA ne sont pas toujours évidents. Il est crucial d’éduquer le public et les développeurs sur ces enjeux.
2. Responsabilité : Les entreprises qui développent ces technologies doivent être tenues responsables de leurs impacts sociaux.
3. Action collective : Les citoyens, en collaborant avec des organisations et des entreprises, peuvent changer les choses, même face à des géants de la technologie.
4. Représentation équitable : Des initiatives comme « Greetings from la Banlieue » montrent qu’il est possible de créer des alternatives positives et inclusives.

Conclusion

L’IA a le potentiel de transformer nos vies de manière positive, mais elle n’est qu’aussi bonne que les données et les intentions qui la guident. L’action « Greetings from la Banlieue » prouve que, lorsque les citoyens se mobilisent, ils peuvent influencer ces technologies pour refléter une société plus juste et plus équilibrée. Elle nous rappelle que l’avenir de l’IA est entre nos mains — et qu’il est de notre devoir de veiller attentivement aux conséquences potentielles de ces technologies, et d’agir si nécessaire.

______________________________________________

Pascal Gemperli est membre du réseau TRANSCEND Peace Development Environment. Il est un spécialiste reconnu de la médiation, de la négociation, de la réforme du secteur de la sécurité et d’autres domaines. Fort d’une vaste expérience de travail avec des agences des Nations Unies, des organisations internationales et des ONG, il a conçu et dirigé des initiatives de consolidation de la paix et de dialogue dans des contextes culturels et institutionnels divers. Son expertise comprend la transformation des conflits et la promotion de la gouvernance dans les environnements fragiles. Email: gemperlipascal@gmail.com