Recommandations de conception et de gouvernance

Cet axe formule des recommandations de conception et de gouvernance visant à sauvegarder et à renforcer l'agentivité humaine dans les ensembles socio-techniques impliquant l'IA. Il s'agit d'identifier les caractéristiques techniques et organisationnelles qui permettent aux utilisateurs de rester des participants à part entière des collaborations humain-IA, plutôt que des destinataires passifs de résultats algorithmiques.

Responsables : Célia Zolynski (Université Paris 1 Panthéon-Sorbonne), Raja Chatila (ISIR) Participants : Carina Prunkl, Mehdi Khamassi, Anouk Barberousse, Mohamed Chetouani

Deux sous-tâches

1. Recommandations pour renforcer l’agentivité humaine — à partir de l’exigence de « contrôle humain effectif » posée par l’article 14 du règlement européen sur l’IA, préciser ce que suppose concrètement un tel contrôle : conscience de la situation, traçabilité, réversibilité, contestabilité ; et relier ces critères à la conception des interfaces, aux mécanismes de retour et aux structures de responsabilité.
2. Améliorer le droit pour protéger l’agentivité humaine — au-delà de l’AI Act et du DSA, explorer des mécanismes de régulation économique qui prennent en compte le contexte relationnel humain ; examiner si l’impact sur les relations humaines peut constituer un risque systémique au sens de l’AI Act ; étudier la portée, pour les agents conversationnels, de nouveaux droits proposés pour les interfaces numériques (droit au paramétrage, droit à l’interopérabilité).

Le résultat attendu est un livre blanc de recommandations de conception et de gouvernance, illustré d’études de cas, destiné à informer tant le développement des systèmes de prochaine génération que l’évolution des cadres réglementaires.