Trend Report Deep Dive : Un Regard Sur Les Biais de L’intelligence Artificielle

  • Uncategorized

Le développement rapide de l’intelligence artificielle (IA) a ouvert une fenêtre dans le temps pour discuter, débattre et rêver des nombreuses conséquences que cette technologie peut avoir sur tous les aspects de notre vie. Nous sommes sur le point d’entrer dans une ère où les machines sont en mesure de reproduire l’intelligence humaine, et il y a là matière à réflexion sur les enjeux et les questions à la signification de l’humanité.

Le sixième rapport annuel de Thinkwell sur les tendances en matière d’expérience des visiteurs ne concerne pas seulement les possibilités futures de l’IA dans le cadre d’expériences fondées sur le lieu, mais aussi les réalités et les défis des personnes qui utilisent l’IA. Le sondage et le rapport ont été créés au cours d’une année difficile qui a exposé les nombreuses manières dont les différentes identités humaines entraînent des expériences vécues largement divergentes. Nous avons observé la preuve de divisions profondes et de conflits raciaux, sociaux, économiques et propres aux genres dans des manifestations récurrentes, dans des révélations troublantes de harcèlement et d’agression, dans la létalité disproportionnée d’une pandémie selon l’âge, l’ethnicité et le statut socio-économique, et dans l’écart qui se creuse entre les différents groupes économiques. 

Pour ces raisons, nous avons jugé important que ce rapport sur les tendances en matière d’expérience des visiteurs relativement à l’IA comprenne, dans le cadre de son sondage mené auprès de 1 300 personnes, des questions qui permettent d’évaluer la manière dont la race, le genre et l’âge influencent l’attitude générale des gens à l’égard des technologies émergentes en IA, ainsi que leur expérience directe de celles-ci. Les réponses à ces questions ont été résumées dans deux articles d’analyse de données qui accompagnent le rapport principal sur les tendances.

  • Les biais dans l’IA : quelle est l’expérience des gens par rapport aux biais dans l’IA? Comment régler le problème?
  • Écart générationnel : dans quelle mesure l’âge détermine-t-il l’attitude à l’égard de l’IA?

Voici quelques-unes des principales constatations de ces rapports :

  • L’identité raciale des répondants a compté jusqu’à 15 % dans la différence d’expérience directe déclarée de biais et dans les préoccupations générales concernant les biais dans l’IA. 
    • Les Asiatiques ont déclaré avoir le plus de préoccupations et d’expériences, et les Blancs en ont déclaré le moins.
  • Les préoccupations des hommes et des femmes à l’égard des biais dans l’IA étaient semblables. Les hommes se sont montrés plus affirmatifs en donnant des exemples de biais qu’ils ont personnellement vécus que les femmes, plus incertaines à cet égard.
  • Les jeunes étaient plus préoccupés par les défis de l’IA (et favorables à la réglementation de cette technologie) et plus optimistes quant à ses avantages futurs que les personnes des générations précédentes.

Les implications de ces données devraient avoir un effet notable sur la conception d’expériences sociales qui font appel à l’IA. Par exemple, les technologies de reconnaissance faciale ont été vantées pour leur capacité à offrir des expériences de visiteurs plus personnalisées, transparentes ou interactives. Toutefois, des preuves émergent de leur performance inégale devant certains teints, certaines races ou certaines caractéristiques faciales liées au sexe – elles ciblent donc ou excluent injustement certaines personnes. En outre, la présence même de ces technologies peut déclencher ou renforcer les préoccupations actuelles des visiteurs. Les données suggèrent également que les jeunes, en particulier, pourraient exiger plus de transparence sur la façon dont l’IA est utilisée dans le cadre de l’expérience des visiteurs.

Combattre les biais exige une approche proactive. À Thinkwell, nous croyons que le design inclusif doit mobiliser tous les membres de l’équipe de conception et de développement, et que l’équipe doit comprendre des personnes aux horizons, aux identités et aux points de vue diversifiés, et ce, à tous les échelons de l’entreprise. Pour incarner proactivement cette conviction, Thinkwell a établi un conseil sur la diversité et l’inclusion. Le conseil doit continuer de cerner les défis et les solutions possibles, dans le but de faire entendre la diversité des voix de notre entreprise comme de notre secteur. Un aspect modeste mais important de ce renforcement des voix comprend la collecte des données nécessaires pour mieux comprendre et combattre le racisme, le sexisme et l’âgisme au sein de l’industrie de conception d’expériences, une tâche que le rapport sur les tendances contribue à éclairer.