L'IA et les fondements de l'agentivité

Que signifie « agir » ? Et en quel sens un système d'IA agit-il ? Cet axe élabore un cadre philosophique de l'agentivité en s'appuyant sur la philosophie de la biologie : la notion d'étayage (scaffolding), par laquelle des fonctions complexes émergent de structures qui les rendent possibles, sert de modèle pour penser une agentivité intégrée — celle des systèmes d'IA, dont les capacités dépendent d'infrastructures et de régimes d'entraînement conçus par les humains.

Responsable : Philippe Huneman (IHPST) Participants : Maud van Lier, Matteo Mossio, Francesca Poggiolesi, Alberto Naibo, Pierre Wagner, Catherine Pelachaud, Mehdi Khamassi, Raja Chatila, Alexandre Gefen, un·e post-doctorant·e (IHPST)

Questions

En philosophie, l’agentivité est le plus souvent rapportée aux humains comme agents rationnels délibérants. Pourtant, certains phénomènes biologiques semblent exiger qu’on attribue une agentivité à des organismes dépourvus de conscience : l’agentivité pourrait donc être correctement attribuée à des systèmes non humains. L’axe examine si ce cadre d’une agentivité « étayée » par l’environnement permet de comprendre les systèmes d’IA, et si l’agentivité biologique offre un modèle utile pour penser des formes d’agentivité artificielles non humaines mais authentiques.

Trois sous-tâches

1. Les fondements de l’agentivité — orientation vers un but, téléonomie, auto-organisation ; les conditions d’une « unité de visée » (unité de sélection, organisation holistique, clôture de contraintes) et leur rôle dans l’étayage.
2. La formalisation des formes d’agentivité étayée — comment des formes d’agentivité se construisent par couches d’organisation et par interaction avec des structures, des agents ou des environnements préexistants.
3. Le concept d’agentivité artificielle intégrée — mesurer les systèmes d’IA sur une échelle d’agentivité, penser les dyades humain-IA comme des agents intégrés, et tirer de l’IA explicable (XAI) des normes pour les systèmes humains-IA.