A Marseille, on réfléchit à l’éthique du numérique

Il y a un an ouvrait le LICA à Marseille, un tiers-lieu engagé autour des questions de société et notamment sur le rôle du numérique. Enlarge your Paris y a rencontré Rafael Torres, expert de l'intelligence artificielle qui estime indispensable de nourrir une réflexion éthique en particulier sur les algorithmes de recommandation.

Entretien réalisé en juin 2023 et mis à jour en décembre 2024 à l’occasion du premier anniversaire de l’ouverture du LICA (Laboratoire d’intelligence collective et artificielle) à Marseille

Comment en vient-on à travailler sur les questions d’intelligence artificielle ?

Je suis ingénieur en traitement du signal de l’information. Pendant longtemps, j’ai codé des algorithmes pour de l’audio comme de la vidéo. Aujourd’hui, avec la numérisation de nos espaces, il y a de plus en plus d’applications dans ce domaine. Après des années d’expériences professionnelles diverses dans ce secteur, je me suis posé de plus en plus de questions sur la façon dont ces algorithmes étaient imaginés, et surtout sur leurs impacts sur notre société.

Quel est le problème avec ces algorithmes ?

C’est un mythe de penser que l’algorithme est neutre. J’ai été en école d’ingénieurs. C’est une formation imaginée par des techniciens pour des techniciens. Un entre-soi où on avait tous une compréhension du monde un peu similaire. Quand tu codes, tu injectes dans ton code ta propre vision du monde. Quand cette elle provient de personnes qui ont les mêmes références culturelles, ta production va nécessairement être imprégnée de cela.

Vous avez rencontré cette problématique dans le monde du travail ?

Un peu, oui. En travaillant dans l’intelligence artificielle (IA), on croise beaucoup de sujets problématiques ou polémiques. J’évoluais notamment dans le domaine du mobile. On avait une vision en termes de produit, très orientée sur le marché, avec des cycles de développement très courts. Pour mettre un nouveau smartphone sur le marché, on suit une roadmap de six mois/un an. Cela m’a beaucoup interrogé sur le sens de mon activité professionnelle.

Vous étiez gêné par l’absence de réflexion sur sa finalité, avec l’idée qu’il faut aller au-delà de la simple création de produits…

Oui, tout à fait. Mais c’est le marché qui est comme cela, ce n’est pas propre à telle ou telle entreprise. Cela m’a beaucoup interrogé, et j’ai commencé à effectuer des recherches sur le sujet. C’est comme cela que j’ai découvert le LICA sur Internet. Avec leurs activités à Marseille, je me suis dit qu’il fallait que je les rencontre car leur démarche m’intéressait beaucoup.

À l’origine, leur démarche est pourtant plus orientée sur l’intelligence collective que sur l’intelligence numérique…

Quelques mois avant le covid, ils faisaient déjà des meetups et des rencontres citoyennes sur l’IA avec des activités de sensibilisation et des conférences sur le sujet. Et puis dans le nom « LICA », il y a intelligence collective certes, mais il y a aussi intelligence artificielle ! On a cette volonté plus générale de mélanger intelligence collective et outils numériques.

Quel est votre rôle au LICA ?

Pour ce qui me concerne, je suis impliqué dans des projets liés à l’environnement, à la démocratie, à la culture aussi. Pour toutes ces thématiques, on fait de l’intelligence collective afin d’améliorer la gouvernance et l’idéation.

Vous êtes par exemple impliqué dans le projet « Musical Bands Back ». Vous pouvez nous en parler ?

Avec notre projet « Musical Bands Back », le but est de parler d’égalité de genre dans le domaine de la musique, parce qu’il y a une forme d’invisibilité des femmes dans les parcours pédagogiques de la musique. Quand tu fais de la musique contemporaine par exemple, tu n’as pas facilement accès à des partitions composées par des femmes. Il y a une surreprésentativité des partitions créées par les hommes. C’est un sujet hautement numérique parce qu’aujourd’hui les algorithmes de recommandation (il y en a partout, sur toutes les plateformes) suggèrent des titres ou des partitions. Or ces algorithmes sont biaisés. Ils ont tendance à exagérer la surreprésentation masculine. Comprendre ces outils numériques et les maîtriser, c’est se mettre au service d’une éthique numérique. Cela fait vraiment partie des sujets qu’on porte au LICA.

Intelligence collective et numérique n’ont donc pas vocation à se tourner le dos…

Les deux sujets ont un réel point de convergence. On est obligé, aujourd’hui, quand on traite de ces sujets de transition, de considérer la composante numérique. L’IA permet entre autres de traiter d’énormes quantités de données qu’on n’arriverait pas à traiter individuellement. Par exemple, dans le domaine de la sociologie, l’IA peut être en mesure de reconnaître des biais de comportements en repérant des informations qui seraient passées inaperçues si elles avaient été étudiées par une personne seule.

Comment donner du sens à l’usage des outils numériques ?

On n’imagine pas suffisamment d’outils pour réduire notre impact sur l’environnement. Clairement, on manque de recherche et développement pour mettre en place des outils, une méthodologie qui limitent notre bilan carbone. Dans nos pratiques, il faut aussi repenser la façon qu’on a de produire des services numériques, très coûteux sur le plan environnemental. Si on considère que l’IA doit toujours suivre toutes les tendances, on va avoir un impact carbone délirant. Mais on peut aussi réfléchir pour en faire un usage raisonné, et n’utiliser ce budget carbone que pour résoudre de réels problèmes de société.

L’idée est donc de faire des arbitrages, et éviter de développer de l’IA partout ?

Tout à fait. Il faut une approche volontariste du sujet parce que pour l’instant, il n’y a pas beaucoup de réglementations qui imposent quoi que ce soit dans ce secteur. On peut, via le design de projets, réussir à limiter notre impact environnemental en utilisant des méthodes moins énergivores. Par exemple on peut réutiliser les ressources disponibles localement plutôt que de vouloir chacun réinventer la roue.

Concernant votre modèle économique, comment fait-on pour financer de la technologie alors qu’on est dans une démarche citoyenne ?

Eh bien, on se débrouille ! C’est vrai que nous ne sommes pas les GAFAM [Google, Apple, Facebook, Amazon, Microsoft, NDLR], mais réfléchir sur l’éthique du numérique engendre des bénéfices directs qui peuvent intéresser les entreprises et les institutions. Il y a déjà le règlement général sur la protection des données (RGPD) et la Commission européenne va bientôt réglementer les métiers de l’IA. Anticiper comme nous le faisons les problématiques du numérique, jouer le jeu de la transparence, c’est utile. Le faire maintenant évite que cela coûte plus cher plus tard. S’il faut faire des correctifs, des ajustements ou du SAV alors que l’application est déjà utilisée par des millions d’utilisateurs… C’est le concept de l’ « éthique by design » : faire de l’éthique dès la phase de conception.

Il y a un scepticisme de plus en plus important autour des questions d’IA. Comment gérez-vous cet écueil ?

Effectivement, et c’est normal. Au Lica, on souhaite accompagner à la fois les utilisateurs, parce que c’est important qu’ils se posent les bonnes questions, mais aussi les acteurs, pour qu’ils réussissent à répondre à ces inquiétudes de la meilleure des façons. Ils sont d’ailleurs demandeurs. On a eu des retours de développeurs de services qui nous ont expliqué que leur solution avait été un fiasco parce que les gens ne se l’étaient pas appropriée. Les utilisateurs avaient des craintes et il est impossible de récupérer cette perte de confiance.

Chacun doit donc se poser la question de l’éthique dans l’usage du numérique ?

Tout à fait. Dans la formation IA qu’on propose, on fait écrire une charte éthique à chaque équipe participante. Au niveau institutionnel, il faut aussi prendre en compte le fait qu’une organisation dans le domaine de la culture n’a pas les mêmes valeurs qu’une collectivité locale. Chacun doit réfléchir en fonction de ses publics. Ces questions doivent être pensées ensemble. Les phases d’intelligence collective impliquent toutes les personnes qui participent au projet, du designer jusqu’à l’utilisateur. C’est donc une approche plurielle, mais également dynamique, car c’est un sujet évolutif. On peut changer d’avis sur un sujet avec le temps, en fonction de l’actualité. Il faut sans cesse se reposer des questions, réunir des personnes nouvelles aussi. Ces chartes éthiques ne doivent pas être figées.

Il y a un particularisme local dans votre approche du numérique ?

Tout à fait, la question de l’imaginaire local est importante. On veut parler de l’IA d’une autre façon, pour lutter contre un imaginaire largement influencé par les GAFAM qui sont des acteurs mondiaux très puissants. Pour nous, il est crucial d’apporter des clés de compréhension avec le regard d’un acteur local, qui travaille avec des institutions et des entreprises privées de la région.

Plutôt qu’une licorne à l’accent marseillais, l’idée est donc d’avoir une démarche territoriale, à l’échelle de la vie des gens ?

Voilà. Le but est de dire : construisez votre propre imaginaire. Les institutions publiques ont leur propre culture de l’open data, de l’approche numérique, et elles ont besoin de pouvoir se créer un imaginaire qui soit détaché des GAFAM. Mais elles ne sont pas outillées pour. Elles nous sollicitent pour cela. nous sommes là pour les accompagner.

Lire aussi : Une vitrine des low-tech et des solutions innovantes dans une bastide à Marseille

Lire aussi : A Toulouse, le maraîchage s’invite aux portes de la ville avec le 100e singe

Lire aussi : Quatre lieux pour se former à tout âge à l’écologie