MATCHING - Collaboration avec des systèmes intelligents

Responsables projet : Gilles Bailly Université Paris-Saclay, Michel Beaudoin-Lafon CNRS, Stéphane Huot Inria, Laurence Nigay Université Grenoble Alpes

Membre impliqué : Mohamed Daoudi CRIStAL

Équipe : 3D-SAM Groupe Thématique : Image

Dates : 01/08/2023 - 31/08/2030

Résumé :

Les systèmes intelligents (ou agents) font de plus en plus partie intégrante de presque tous les domaines de notre vie quotidienne ( personnelle et professionnelle) et les façonnent. Malgré les efforts déployés dans les domaines de l’interaction humain-machine et des sciences humaines et sociales, de nombreux défis demeurent sur la manière de concevoir, de modéliser et d’évaluer une collaboration satisfaisante entre l’humain et les systèmes intelligents. Cela nécessite de renouveler les modèles théoriques, les modèles d’interactions, et de s’interroger sur leurs conséquences sociales et sociétales.
Le projet MATCHING vise à créer des formes renouvelées d’interactions entre les utilisateurs humains et les systèmes intelligents afin de tirer un meilleur parti des compétences respectives des humains et du système. Le but est de créer un partenariat global dans lequel la combinaison de l’humain et du système est meilleure que l’un ou l’autre seul. le projet abordera différentes configurations d’interactions en mettant l’accent sur les groupes hybrides comportant plusieurs humains et plusieurs agents.
Mais il examinera également la question de l’augmentation de l’interaction d’un utilisateur avec des outils basés sur l’IA, tels que des systèmes de recommandations, d’aides à la décision ou des compagnons artificiels dédiés. L’éxplicabilité, la transparence et l’équité de ce type d’interaction hybride seront prises en considération, ainsi que la diversité et les capacités des utilisateurs, leurs états affectifs et/ou cognitifs et leur volonté d’exercer leur agence et leur autorité en ce qui concerne les questions éthiques et le bien-être de l’utilisateur.
Le projet MATCHING aborde également l’évolution des compétences dans les sphères privées et professionnelles, le sens du travail et de l’activité, la gestion de la responsabilité, de l’éthique et de l’autorité dans les futures organisations intégrant des agents intelligents.

Abstract :

Intelligent systems (or agents) are becoming an integral part of nearly all areas of our daily lives and shape them. Despite efforts in HCI (Human Computer Interaction) and HSS (Human and Social Sciences) to address these questions, how to design, model and evaluate effective and beneficial collaboration between human and intelligent systems is still understudied. This requires renewed theoretical and empirical models of interactions and questioning around the associated ethical issues.
The project MATCHING aims at creating new forms of interactions between human users and intelligent systems that take advantage of differences in human’s and system’s skills, while reducing reliance on their respective weaknesses, to create an overall partnership where the combination of the human and the system is better than either one alone. The project will address different configurations while putting the emphasis on groups (multiple humans, multiple agents) but will also go through the question of augmenting one user with proper interaction with AI-based tools such as recommenders, decision aids or dedicated artificial companions. Explainability, privacy, and fairness of this type of hybrid interaction will be taken into consideration as well as the users’ diversity and abilities, affective and/or cognitive states and willingness to exert their agency and authority with regards to ethical issues and user’s well-being.
The MATCHING project also addresses the evolution of skills in private and professional spheres, meaning of work and activity, management of responsibility, ethics and authority in the future organizations embedding intelligent agents.