Titre de thèse : « The Problem of Autonomy. Human Cognition Faced with AI-powered Technology » | « Le Problème de l’autonomie. La cognition humaine face à la technologie de l’IA »
Directeur de thèse : Mathias Girel (CNRS)
Co-encadrant : Maël Montévil (CNRS)
Année académique d’inscription : 2021-2022
Résumé :
FR : Le thème général de la thèse concerne la co-constitution et la disruption de l’autonomie humaine par les technologies fondées sur des systèmes d’intelligence artificielle. Autrement dit, il s’agit de comprendre comment l’expérience vécue et l’action de l’agent humain se transforment à travers les développements technologiques actuels. L’ambition théorique de ce travail est de réimaginer les conditions de l’autonomie humaine en relation avec les « environnements technologiques actifs » et, plus spécifiquement, avec les technologies propulsées par des systèmes d’IA. L’hypothèse de base est que, si l’on modifie le cadre ontologique et épistémologique, la manière d’aborder les questions éthiques et publiques s’en trouve profondément changée. Le point de départ critique peut être formulé ainsi : dans les sociétés technologiquement avancées – de plus en plus configurées comme des sociétés de contrôle informatisées – l’agent humain est, sous certains aspects, plus libre d’agir et de désirer qu’autrefois, mais, paradoxalement, de moins en moins autonome dans sa propre auto-organisation. La redéfinition du problème de l’autonomie apparaît dès lors non seulement comme une nécessité théorique, mais aussi comme une urgence éthique. Si nous sommes encore autonomes, c’est d’une manière bien différente de ce que la tradition a pensé : ce qu’on appelle autonomie doit être compris comme un processus en constante transition et co-constitution avec l’environnement – aujourd’hui traversé par l’agentivité des technologies d’IA. La thèse poursuit donc un double objectif théorique. D’une part, il s’agit de repenser l’autonomie humaine en des termes radicalement non idéalistes et non essentialistes, dans le sillage de la tradition pragmatiste, en la concevant comme un processus inscrit dans la continuité de la nature, plutôt que comme une qualité intrinsèque de l’humain – ainsi que l’a envisagé la tradition d’ascendance kantienne. Elle se concrétise, au niveau de l’agent humain, comme une capacité et une condition dépendantes à la fois du corps et du milieu dans lequel nous agissons, autrement dit, d’un système intégré cerveau-corps-environnement. Il devient ainsi nécessaire de dépasser les modèles individualistes, mais aussi de prolonger les approches relationnelles – encore trop centrées sur l’interaction homme-homme – afin d’ouvrir la voie à un enrichissement pragmatique et synergique du concept, en dialogue avec les sciences biologiques et cognitives. L’autonomie n’est pas une propriété abstraite, mais un processus d’organisation cognitive d’où émergent des formes de normativité ; celles-ci, au niveau humain, doivent être comprises comme des règles d’action. D’autre part, la thèse vise à conceptualiser la co-constitution et la disruption de cette autonomie par les technologies fondées sur l’intelligence artificielle. Cette problématique est abordée à travers l’étude de l’hyper-nudging et du profilage algorithmique, en mobilisant un modèle d’autonomie renouvelé. L’analyse porte sur les facteurs dépendant de l’agent et du contexte, qui favorisent ou, au contraire, perturbent le processus d’organisation individuelle et la production de notre propre normativité – c’est-à-dire la manière dont nous pensons et agissons. Enfin, la réflexion se conclut par une discussion des implications éthiques et éducatives de cette transformation.
Abstracts:
EN: The general theme of my thesis concerns the co-constitution and disruption of human autonomy by contemporary technologies based on artificial intelligence systems. In other words, it seeks to understand how lived experience and human agency are being transformed through current technological developments. The theoretical ambition of this work is to reimagine the conditions of human autonomy in relation to so-called “active technological environments,” and more specifically, to the technologies powered by AI systems. The underlying hypothesis is that, once the ontological and epistemological framework is shifted, the way we approach ethical and public issues is profoundly altered. The critical point of departure may be formulated as follows: in technologically advanced societies — increasingly configured as computerized control societies — the human agent is, in some respects, freer to act and to desire than ever before, yet paradoxically less autonomous in their own self-organization. Redefining the problem of autonomy thus appears not only as a theoretical necessity but also as an ethical urgency. If we are still autonomous, it is in a sense quite different from what tradition has assumed: what we call autonomy must be understood as a process in constant transition and co-constitution with the environment, now pervaded by the agentivity of AI-driven technologies. The thesis therefore pursues a twofold theoretical objective. On the one hand, it seeks to rethink human autonomy in radically non-idealist and non-essentialist terms, following the pragmatist tradition, by conceiving it as a process inscribed within the continuity of nature rather than as an intrinsic property of the human being — as envisioned by the Kantian lineage. At the level of individual agency, autonomy is realized as both a capacity and a condition dependent on the body and on the environment in which we act — in other words, as emerging from an embedded brain-body-environment system. It thus becomes necessary to move beyond individualistic models, while also extending relational approaches still too centered on human-to-human interaction, in order to open the way for a pragmatic and synergistic enrichment of the concept, in dialogue with biological and cognitive sciences (first and foremost the enactivist tradition). Autonomy is not an abstract property but a process of cognitive organization from which forms of normativity emerge — forms that, at the human level, should be understood as rules for action. On the other hand, the dissertation aims to conceptualize the co-constitution and disruptionof autonomy through AI-based technologies. This issue is explored through the study of hyper-nudging and algorithmic profiling, by applying to them a renewed model of autonomy. The analysis focuses on the agent- and context-dependent factors that either support or disrupt the process of individual organization and the production of our own normativity — that is, the ways in which we think and act. Finally, the work concludes with a discussion of the ethical and educational implications of this transformation.
KeyWords:
Artificial Intelligence ; Theory and Practice of Autonomy ; Pragmatism ; Cognitives Sciences ; Applied Ethics ; Sciences and Technology Studies ; Education.
Sites webs :
https://www.danielecavalli.org/