L'utilisation des interfaces cerveau-machine, et plus généralement les neurotechnologies numériques, soulèvent des questions éthiques importantes. Le CCNE (Comité Consultatif National d'Ethique) et le CCNEN (Comité Consultatif National d'Ethique du Numérique) ont publié récemment un avis commun sur ce sujet.
Les neurotechnologies permettent aujourd’hui d’observer et de moduler l’activité cérébrale, ouvrant des perspectives inédites pour le diagnostic et le traitement des maladies neurologiques et psychiatriques. Ces innovations soulèvent toutefois des enjeux majeurs, notamment en matière de protection des données, de consentement éclairé et de risques de dérives, dans les applications médicales et les applications au delà.
De quoi parle-t-on : quelques définitions
1. Neurotechnologies
Selon la définition de l'UNESCO, "Les neurotechnologies « font référence aux appareils, systèmes et procédures – englobant à la fois le matériel et les logiciels – qui permettent de mesurer directement le système nerveux, d’y accéder, de le surveiller, de l’analyser, d’en prévoir l’activité ou de la moduler, afin de comprendre, influencer, restaurer ou anticiper sa structure, son activité et sa fonction".
Le développement de ces technologies s'appuie sur les progrès médicaux et les progrès des sciences numériques. On comprend un peu mieux le fonctionnement cérébral et on est capable de produire des interfaces miniaturisées, d'analyser les données de l'activité cérébrale avec de l'IA (intelligence artificielle) …
2. Interface cerveau-machine
Une Interface cerveau-machine (ICM) est un système de liaison directe entre un cerveau et un ordinateur. L’interface est en général formée d’une ou plusieurs électrodes captant un signal transmis à l’ordinateur qui interprète ce signal et déclenche une réponse. Ce dispositif permet à un individu d’effectuer des tâches sans passer par l'action des nerfs périphériques et des muscles.
3. Les données neurales
Les données neurales sont des données qualitatives et quantitatives concernant la structure, l’activité et la fonction du système nerveux, recueillies grâce aux neurotechnologies. Il s’agit des mesures ou observations les plus directes des états du système nerveux, états dont plusieurs sont corrélés à des états mentaux.
Des perspectives de développement importantes
Ces dernières années, quelques avancées spectaculaires ont donné de la visibilité aux travaux sur les ICM. Dans le domaine médical, on peut citer les neuroprothèses. Depuis plusieurs décennies, les implants cochléaires ont permis de traiter des surdités profondes. Des travaux sont en cours sur la vision, mais selon le rapport, "les résultats sont encore limités car les difficultés sont plus importantes que pour l'audition".
Des dispositifs permettent aussi le remplacement de commande motrice déficiente. Pour pallier une paralysie, l'interface décode l’activité d’une région du cerveau et une machine est activée pour aider la personne à se déplacer, ou faire une synthèse vocale. Ce type de développement permet à des personnes atteintes de syndrome d’enfermement (« locked-in syndrome »), ou d'une sclérose latérale amyotrophique (SLA) de communiquer.
Les neurotechnologies comprennent à la fois des dispositifs "invasifs", c’est-à-dire avec un composant qui pénètre à l’intérieur du corps en franchissant la barrière cutanée, ou des dispositifs non-invasifs. Comme l'indique le rapport, "l’idée générale est que la maladie est responsable d’un dysfonctionnement de plusieurs régions cérébrales et de leurs connexions. La stimulation cérébrale, en ciblant l’une de ces régions, vise à rétablir l’équilibre de l’ensemble et à diminuer ou faire disparaître certaines manifestations". Des succès "probants" ont été obtenus sur des personnes atteintes de la maladie de Parkinson.
Des dispositifs "non-invasifs", moins risqués, ont été testés pour des douleurs chroniques ou des maladies psychiatriques. Le document note que "certains effets bénéfiques, lorsqu’ils sont observés, paraissent être rémanents, c’est-à-dire persister entre ou après les sessions thérapeutiques". Cependant, les résultats restent à confirmer. Selon le rapport, "comme pour tout traitement médical, la confirmation des résultats nécessite leur reproduction dans plusieurs études contrôlées rigoureuses, avec suffisamment de sujets, donnant des résultats convergents, ce qui est souvent encore loin d’être le cas".
Le rapport note aussi que les progrès récents, significatifs, restent loin des craintes ou des espoirs annoncés par certains.
"Les dispositifs disponibles ou envisageables dans un avenir proche ne permettront probablement pas de « lire les pensées » dans le sens courant de cette phrase. Les possibilités nouvelles, aussi extraordinaires qu'elles paraissent, restent encore très limitées. Malgré des similarités superficielles, le cerveau ne fonctionne pas comme un ordinateur et il n'est pas envisageable dans l’état actuel des connaissances de le connecter directement à un système numérique pour « télécharger » la mémoire ou les pensées ou lui transmettre des informations complexes."
Des technologies qui s'étendent au-delà du médical
Au-delà des usages médicaux, ces nouvelles technologies suscitent l'intérêt dans de nombreux domaines : loisirs, éducation, sport, et pour certaines professions, par exemple les professions militaires. Le document rappelle "qu’en France, l’utilisation d'interfaces cerveau-machine implantées (invasives) dans de tels contextes n’est pas envisageable et que la prospective ne concerne que les dispositifs portables non-invasifs. Les stimulations cérébrales non-invasives font déjà l'objet d'utilisations en dehors du cadre médical". Certains pays ont déjà démarré des utilisations de ce type.
Selon le rapport, "l’intérêt pour de telles approches concerne en particulier les professions dans lesquelles le niveau de vigilance et d’attention est important et où les conséquences d’erreurs peuvent être graves (pilotes d’avion, conducteurs de véhicules ou d’engins, utilisateurs de machines dangereuses, chirurgiens, etc.). Les interfaces cerveau-machine proposées peuvent avoir comme objectif de détecter des états cognitifs globaux indésirés (surcharge cognitive, altération de l’attention, endormissement…".
L'utilisation de dispositifs non-invasifs légers (casques, lunettes…) pour des buts ludiques est aussi connue : jeux vidéo, "métavers" ou réalité virtuelle… Un marché apparait aussi pour proposer des dispositifs dans un but de "bien-être", par exemple des casques et des capteurs pour "favoriser" la concentration, ou le sommeil. L'avis publie une mise en garde sur ces usages : "Ils soulèvent toutefois des interrogations sur leurs effets indésirables, d’autant plus importantes qu’il s’agit d’usages apparemment banals et attractifs, potentiellement destinés à un très large public, et échappant à toute évaluation prospective".
Les questions éthiques soulevées par ces technologies
Ces technologies permettent à la fois de mesurer et de moduler l'activité cérébrale. Le fait de pouvoir modifier l'activité du cerveau soulève la question d'une "prise de contrôle" sur la personne. De plus, les mesures d'activité sont suffisamment précises pour conduire à une identification.
"Il est possible d'identifier les sujets en reconstruisant leur visage à partir des images obtenues par imagerie par résonance magnétique (IRM) cérébrale puis en utilisant des techniques de reconnaissance faciale et des bases de données publiques".
La question de l'intrusion dans la vie privée, de l'identification comme moyen accru de surveillance des personnes se pose. En effet, plus des dispositifs seront proposés et diffusés dans le public, plus des données seront captées, potentiellement stockées et mises à disposition de sociétés ou d'Etats. Le rapport note que "à l’heure actuelle, le caractère identifiant des données neurales recueillies avec des interfaces cerveau-machine non-invasives légères n’est pas démontré, mais doit être considéré comme potentiel en fonction du développement des méthodes d’analyse". Si le danger n'est pas immédiat, il doit donc être pris en compte dans les recommandations éthiques.
Pour ces raisons, l'avis commun comporte une série de recommandations.
- Former, informer, et inclure les questions de neurotechnologies dans les Etats Généraux de la bioéthique, et les révisions à venir de la loi.
- Traiter les données neurales comme des données personnelles à caractère sensible et potentiellement identifiantes. Il faut donc inclure des sécurités pour le stockage de ces données et recueillir un consentement éclairé pour leur traitement dans le cadre des usages médicaux.
- Pour les usages non-médicaux, le CCNE et le CCNEN se prononcent pour l'interdiction de dispositifs invasifs, le contrôle des dispositifs non-invasifs, et veulent encadrer leur usage pour les applications professionnelles. Par exemple, l'avis propose que "l’usage de données neurales pour l’embauche, l’évaluation, la promotion, la sanction ou le licenciement d’employés soit considéré comme discriminatoire".
- Quand un dispositif est susceptible de modifier des comportements, l'avis recommande que "pour chaque type de neurotechnologie numérique susceptible d'être mis sur le marché, il faut déterminer les conséquences de la privation du dispositif en particulier après usage prolongé".
- Enfin, l’avis recommande une protection accrue pour les mineurs, dont le cerveau est en cours de développement : « En dehors de la recherche ou d’indications médicales, interdire l'utilisation des neurotechnologies numériques chez les enfants et adolescents, y compris dans le cadre éducatif et les loisirs ».
L’humanité a produit des outils depuis la nuit des temps. Ces outils à leur tour façonnent l’intelligence humaine. Assurer une utilisation responsable de ces outils en vue du bien des personnes est un enjeu renouvelé à chaque découverte. Pour les neurotechnologies, réparer les personnes sans chercher à les modifier voire à les « augmenter » artificiellement demandera un discernement, une volonté politique, et une éducation de tous.
En janvier 2025, l’Agence de la biomédecine s’est vu confier le pilotage de la Charte de développement responsable des neurotechnologies, un document initié par le ministère de l’Enseignement supérieur et de la Recherche en 2022 et visant à concilier avancées scientifiques, éthique et protection des droits.