UP' Magazine L'innovation pour défi

homme augmenté

Le grand ménage des cellules pour rajeunir et vivre plus longtemps

Tous les jardiniers, même ceux du dimanche, le savent : pour obtenir de belles fleurs, il faut de temps en temps nettoyer ses plantes et éliminer tiges, feuilles et bourgeons fanés. Eh bien, c’est un peu la même chose pour le corps humain. Des chercheurs de l’Université Erasmus Medical Center aux Pays-Bas ont en effet démontré que le corps accumule au fil de l’âge des cellules sénescentes (cellules dormantes) qui ne sont pas toutes éliminées. Jusqu’à présent ces déchets semblaient bien inoffensifs. En réalité, leur accumulation accélère le vieillissement et les problèmes qui y sont liés. En se débarrassant de ces déchets encombrants, l’organisme rajeunit et vit plus longtemps en bonne santé.
 
Supprimer les cellules sénescentes, celles qui se détériorent parce que leur ADN est abimé, pourrait-il contribuer à prolonger la vie ? C’est le pari de ces chercheurs, non pas en quête de l’éternelle jeunesse, mais d’une thérapie qui pourrait aider à vivre plus vieux, en bonne santé.
 
Les scientifiques ont d’abord travaillé sur des souris. Ils leur ont administré une substance destinée à supprimer les cellules qui sont entrées dans un état dormant à cause de dommages sur leur ADN. Les souris choisies, qui étaient plutôt mal en point, atones, perdant leur fourrure, et montrant des symptômes évident de grand âge, se mirent à gambader deux fois plus loin que leurs congénères, à améliorer leur fonction rénale, à reprendre du poil de la bête au sens propre comme au sens figuré. Bref, elles affichaient tous les attributs d’une seconde jeunesse.
 
Que s’est-il donc passé ? En vieillissant, nos cellules accumulent des dommages liés à leur ADN défaillant et, passé un certain seuil, ne peuvent se réparer. A ce stade, les cellules peuvent soit devenir cancéreuses, soit s’autodétruire, soit entrer dans un demi-sommeil, la sénescence.  Les médecins ont toujours pensé que ces dernières cellules n’avaient aucun apport biologique utile et étaient inoffensives. Il y a une quinzaine d’années, cette idée a commencé à évoluer. En effet, les chercheurs ont constaté que ces cellules secrétaient des déchets et qu’elles n’étaient pas si inoffensives que cela. Le docteur De Keizer qui a mené l’étude emprunte une analogie : « Ces cellules ont un comportement toxique de même nature que celui d’un élève perturbateur dans une classe qui compromet les performances scolaires de ses voisins ».
 
Il existe désormais des preuves qui soulignent le rôle de ces cellules sénescentes dans les maladies liées à l’âge. On en trouve abondamment dans les articulations arthritiques, la cataracte et les plaques qui se forment dans les artères.
Déjà l’année dernière, une étude avait montré que la suppression de ces cellules avait permis à des souris de gagner 20 % d’espérance de vie. Mais une nouvelle étude tend à montrer pour la première fois que le vieillissement n’est pas seulement retardé en éliminant les cellules sénescentes ; il est potentiellement inversé.
 
La dernière étude publiée dans la revue Cell décrit le rajeunissement spectaculaire de souris soumises au « lavage » de leurs cellules sénescentes. Pour les auteurs de cette recherche, ces résultats laissent augurer de futures thérapies qui débarrasseraient le corps des cellules sénescentes et le protégeraient des ravages de la vieillesse. Pierre de Keiser, le scientifique qui a dirigé les travaux à l’université Erasmus Medical Center aux Pays-Bas, se prend à prophétiser au quotidien britannique The Guardian : « Peut-être que quand vous atteindrez vos 65 ans, vous irez tous les cinq ans dans une clinique pour effectuer le grand nettoyage de vos cellules sénescentes. Une cure de rajeunissement en quelque sorte ».
 
Des essais cliniques sur l’homme sont envisagés, d’abord sur des personnes souffrant d’une forme agressive de tumeur cérébrale dans laquelle les cellules présentent une grande similarité avec des cellules sénescentes. Si les essais cliniques s’avéraient concluants sur une grande échelle, on pourra alors dire que les scientifiques sont parvenus à vaincre la vieillesse. Le rêve faustien semble vraiment maintenant à portée de main.
 
 
Source  : The Guardian
 
 
Add a comment
Mars - Space X

Pour aller sur Mars, il faudra modifier génétiquement des humains

Les projets, les candidats, les enthousiasmes ne manquent pas pour aller sur Mars. Ce vieux rêve de l’homme qui pourrait, selon Elon Musk, se réaliser en 2025. C’est presque demain. Mais le voyage vers Mars et la vie sur la planète rouge ne seront pas une sinécure. Un grand saut dans l’inconnu au cours duquel les limites humaines, psychologiques comme physiologiques seront mises à rude épreuve. D’autant que le voyage ne comportera qu’un ticket aller. Le retour étant encore dans le domaine de l’incertain. Alors, faudra-t-il modifier les humains candidats au grand voyage pour qu’ils supportent cette aventure ? C’est ce que pensent certains scientifiques.
 
Les projets pour coloniser la planète rouge ne manquent pas. Ce vieux rêve de l’homme semble pour certains à portée de main, d’autant que, changement climatique oblige, il faudra peut-être nous trouver rapidement une planète de rechange. Mais Mars a beau sembler proche au regard des distances de l’univers galactique, il faudra quand même faire au minimum 56 millions de kilomètres pour l’atteindre ; un voyage de plusieurs mois, confiné dans une capsule spatiale.
Certes les candidats astronautes s’entraînent d’arrache-pied. On les enferme dans des dômes pendant un an ou on les envoie plusieurs mois dans l’ISS, la station spatiale internationale. Pour observer leurs réactions, leurs comportements et aussi pour préparer leur formation. Mais toutes ces simulations ne sont rien au regard des défis qu’une colonisation de Mars engendrerait.
 
Dans un article récent publié par la revue scientifique Space Policy, des universitaires polonais, spécialistes renommés en sciences cognitives, nous ramènent brutalement sur Terre. Konrad Szocik, l’un des co-auteurs, prévient : « Nous ne pouvons pas simuler les mêmes conditions physiques et environnementales de Mars, et en particulier la microgravitation martienne ou l’exposition aux radiations ».  Il poursuit : « Par conséquent, nous ne pouvons pas prédire les effets physiques et biologiques sur des êtres humains qui vivraient sur Mars ».
 
Pour ces scientifiques, il n’y a pas de doute ; les êtres humains ne pourront pas survivre longtemps sur la planète rouge, à moins qu’on ne les modifie pour les adapter à l’environnement martien. Dans un entretien accordé à Gizmodo, le scientifique affirme : « Mon idée est que le corps et l’esprit humain sont faits pour vivre dans un environnement terrestre. En conséquence, certains défis physiologiques et psychologiques, aussi bien pendant le voyage, que sur la planète rouge elle-même, seront, en l’état, insurmontables et empêcheront toute survie humaine. »
 
Il est vrai que les séjours prolongés dans l’espace sont rudes pour l’organisme. L’astronaute Scott Kelly et le cosmonaute Mikhail Kornienko en ont fait l’expérience. Après plus d’un an passé à bord de l’ISS, leur corps souffre de douleurs et troubles physiologiques directement causés par leur séjour dans l’espace. Ces problèmes sont mineurs par rapport à ce qui pourrait se passer pour les longs trajets sans retour vers Mars. Les auteurs de l’étude expliquent que « ces premiers astronautes sont conscients que, après un voyage durant près d’un an, ils devront vivre sur Mars plusieurs années ou probablement toute leur vie en raison du fait que leur retour sera technologiquement impossible ». De plus les problèmes psychologiques qu’ils devront surmonter ne peuvent être simulés correctement dans les missions actuelles de l’ISS. En effet, le moral des astronautes de long terme est soutenu par les visites -au moins tous les trois mois – de nouveaux venus. Depuis la Terre, les missions sont soutenues psychologiquement et les communications avec les proches, les médecins, la famille sont constantes. Sur Mars, cela sera rendu excessivement difficile du fait de la distance.
 
En bref, aucune simulation actuelle ne pourrait rendre vraiment compte de ce qui arrivera sur Mars. Pour les auteurs de l’étude, la solution est radicale : « Il faudra mettre en œuvre des solutions permanentes avec des modifications génétiques et chirurgicales. » En clair, pour aller sur Mars, il faudra d’abord transformer l’humain. Le transhumanisme n’est pas loin et doit être, selon les auteurs, accepté pour améliorer les voyageurs martiens et les préparer aux environnements qu’ils devront affronter. Modifications génétiques, sélection des plus aptes psychologiquement, utilisation des biotechnologies, des sciences cognitives, des nanotechnologies seront les recours possibles pour équiper les hommes pour leur nouvelle vie dans l’espace.  
 
Des scientifiques ont déjà repéré le gène LRP5/mutation G171V qui augmente la densité osseuse. Ils s’intéressent au MSTN/IVS1+5G, une mutation génétique qui, par la suppression de la myostatine, augmente la masse musculaire et la force physique. D’autres travaillent sur des modifications génétiques de l’oreille interne afin de rendre les spationautes plus tolérants aux effets de l’absence de gravité. Des solutions totalement innovantes pourraient être trouvées en utilisant les systèmes d’édition génétique comme CRSPR.
Mais il n’y a pas que les humains à modifier. Les bactéries que nous hébergeons dans notre organisme pâtiront elles aussi de ces voyages. Les scientifiques s’intéressent donc à certaines bactéries et notamment Deinococcus radiodurans, un microbe capable de supporter des radiations 7000 fois plus élevées que celles qui tueraient un humain. Le biologiste Mike Wall révélait à space.com  que des scientifiques travaillent sur l’intégration des gènes caractéristiques de ce microbe pour les agréger à de l’ADN humain afin de rendre les astronautes insensibles aux effets négatifs des rayons cosmiques.
 
Les nanotechnologies sont aussi une source d’inspiration pour ceux qui veulent transformer l’humain en vue des voyages spatiaux. Certains nanomatériaux sont capables de délivrer des médicaments pour traiter des maladies osseuses ou pour régénérer les os. Bien utile dans l’espace. D’autres nanomatériaux pourraient être utilisés pour protéger la peau humaine contre les radiations dangereuses. Ces matériaux seraient soit ajoutés en surface comme une sorte de nanocombinaison, soit intégré dans notre peau et en faire partie prenante. Autre solution apportée par des nanomachines : les respirocytes. Elles pourraient apporter de l’oxygène aux tissus de l’organisme d’une façon beaucoup plus efficace que nos bons vieux globules rouges. Et pourquoi pas remplacer nos poumons ?
 
Ray Kursweil, un des papes du transhumanisme, actuellement cadre dirigeant chez Google, y est allé aussi de ses spéculations : les nanotechnologies pourraient éliminer notre besoin de manger. En effet, selon lui, des machines moléculaires minuscules pourraient être utilisées pour délivrer à volonté les éléments nutritifs à nos cellules. Pour que cela fonctionne, les futurs astronautes seraient équipés d'une « ceinture de nutriments » chargée de milliards de nanorobots équipés de leur cargaison de nourriture.
 
 
Dans l’hypothèse où ces solutions seraient mises au point pour permettre le voyage viable vers Mars, il reste encore une inconnue. Quid de la reproduction des colons martiens ?  Il est clair que les terriens ne pourront envoyer des millions d’humains sur Mars. La population sera donc très réduite chez ces premiers colons et les risques de consanguinité élevés. Les regards se tournent alors vers le clonage car la procréation « naturelle » sera un sport à haut risque. Nul n’est capable de prédire les effets des rayonnements cosmiques et de la microgravité martienne sur l’état d’une femme enceinte et de son fœtus.
 
Séjourner sur Mars ne sera certes pas une villégiature. Et pourtant, tous les regards sont braqués sur la planète rouge et l’échéance d’une présence humaine sur Mars, de plus en plus proche. Elon Musk vous invite même, si vous avez quelques dollars en trop, à réserver votre place sur son prochain vaisseau Space X à destination des montagnes rouges du bout du monde.
 
 
Source Science Alert
Add a comment
oeil bionique

Cette rétine artificielle pourrait redonner la vue à des millions de gens

Voici une innovation scientifique que vient de publier la revue Nature Materials qui, si elle était confirmée, serait une bénédiction pour des millions de personnes souffrant de cécité ou de grave déficience visuelle. Des chercheurs italiens ont en effet mis au point un implant rétinien qui convertit la lumière en un signal électrique qui stimule les neurones rétiniens. Des expériences sont actuellement menées avec succès sur des rats mais les scientifiques pensent passer à l’expérimentation humaine dans le courant de cette année.
 
C’est un réel espoir pour des millions de personnes souffrant de dégénérescence rétinienne, voire même de rétinite pigmentaire, cette affection dans laquelle les cellules se décomposent, menant le patient inéluctablement à la cécité. Dans ce type de pathologie causée par la mutation d’un gène, si les cellules photoréceptrices sont atteintes, il n’en est pas de même pour les nerfs rétiniens qui restent intacts et fonctionnels.
Depuis longtemps, les médecins travaillent sur ce sujet. Des expériences ont été menées en utilisant des dispositifs oculaires bioniques qui stimulent les neurones avec des lumières. D’autres expériences tentent d’utiliser le fameux outil d’édition génétique CRISPR-Cas9 pour réparer les mutations qui causent la cécité.
 
L’innovation apportée par l’équipe de médecins de l’Institut italien de technologie repose sur une prothèse totalement biocompatible, implantée dans l’œil, dont le travail sera de prendre le relai de la rétine déficiente. L’implant est fabriqué à partir d’une mince couche de polymère conducteur placée dans un substrat de soie recouvert d’un polymère semi-conducteur. Ce dernier agit comme un matériau photovoltaïque : il absorbe des photons quand la lumière pénètre dans la lentille de l’œil. À ce moment, l’électricité stimule les neurones rétiniens comme le feraient les photorécepteurs naturels de l’œil s’ils n’étaient pas endommagés.
 
Les scientifiques ont testé ce dispositif en mettant en place des implants sur des rats. Trente jours après l’opération, les mesures de la sensibilité à la lumière menées notamment pas le test du réflexe pupillaire ont démontré que l’opération était un succès. En effet, les rats traités étaient stimulés par une lumière de 4 à 5 lux, ce qui est l’équivalent d’un ciel crépusculaire. En dessous, à 1 lux (équivalent d’une nuit éclairée par la lune), les rats ne réagissent pas à la lumière. Mais au-dessus de 5 lux, leur comportement est le même que celui de rats en bonne santé.
D’autres tests ont été menés 6 et 10 mois après l’opération. Dans tous les cas, l’implant était encore efficace.
 
Dans leurs batteries d’expériences, les chercheurs ont utilisé la tomographie par émission de positons (TEP) pour mesurer l’activité du cerveau des rats pendant les tests de sensibilité à la lumière. Les chercheurs ont alors observé une augmentation de l’activité du cortex visuel primaire, celui même qui traite l’information visuelle.
 
Selon les chercheurs, les résultats tendent à démontrer que l’implant active directement des circuits neuronaux résiduels se trouvant dans la rétine endommagée. Des recherches supplémentaires sont nécessaires pour comprendre exactement comment cette stimulation fonctionne au niveau biologique.
Les auteurs de cette étude restent très optimistes et espèrent pouvoir reproduire chez l’humain les excellents résultats qu’ils ont obtenus sur les rats. Grazia Pertile, l’une des ophtalmologues ayant participé à cette recherche, précise : " Nous prévoyons de réaliser les premiers essais humains dans la seconde moitié de cette année et de recueillir des résultats préliminaires au cours de 2018."
 
 
Source : Nature Materials
 

EN SAVOIR PLUS : Conférence le 28 mars 2017 « Réparer la vue, la fin des commencements » - 5 à 7 de l’Académie des sciences - Cycle Rencontre avec un académicien : Rencontre avec José‐Alain Sahel, membre de l'Académie des sciences, de 17h00 à 19h00, dans la Grande salle des séances de l’Institut de France - Inscription obligatoire avant le 28 mars 2017.

 
 
Add a comment
homme augmenté

Frankenstein et le transhumanisme

Le transhumanisme veut nous séduire. Le mythe de Frankenstein nous prévient qu’il risque bien de nous détruire.

Intelligence ou superintelligence ?

Nous commençons à nous habituer au vocable « transhumanisme » qui peine encore à s’imposer dans les logiciels correcteurs d’orthographe. Derrière ce terme, plusieurs courants porteurs de nuances propres de part et d’autre de l’Atlantique. Cependant, de la Singularity University californienne au Future of Humanity Institute de Grande-Bretagne, chacun s’accorde, semble-t-il, sur un point : le modèle de l’homme est la machine. Plus précisément : le modèle du cerveau, c’est l’ordinateur.

Cerveau machine

Ainsi, Ray Kurzweill vante dans The Singularity Is Near l’expansion des performances du cerveau grâce aux capacités infiniment plus grandes des systèmes de calcul non-biologiques. Quant à Nick Bostrom, il souligne dans Superintelligence, la supériorité du potentiel de l’« intelligence mécanique » par rapport à l’« intelligence organique ».

Pour Kurzweill, l’attractivité de ce modèle est tel qu’il concentre ses recherches et ses investissements sur la possibilité de télécharger les données du cerveau sur un disque dur. Bostrom doute que la complexité du contenu de l’esprit humain puisse permettre que celui-ci soit modélisable et téléchargeable. Reste une fascination partagée pour l’« intelligence artificielle », au sens d’une machine qui « posséderait » une intelligence. Il s’agirait, grâce à des combinaisons algorithmiques, d’augmenter les performances de certains robots informatisés jusqu’à leur permettre d’autoréguler leurs réactions aux stimulations de l’environnement. Autrement dit, souligne Jean-Gabriel Ganascia, il s’agirait de construire un double de l’homme avec une conscience de lui-même et un champ d’action autonome.

Les chercheurs en IA disent leur inquiétude éthique vis-à-vis des conséquences négatives possibles du développement de l’IA. Viktoriya Kralovna, du Future of Life Institute, en a proposé une liste. En bref, n’allons-nous pas vers des formes d’intelligence dont les actions deviendraient incontrôlables par l’homme, voire se retourneraient contre l’homme ?

Bostrom lui-même se dit conscient de ces dangers, mais estimant l’avènement de nouvelles formes d’IA inévitable, il préfère une régulation interne de ces nouveaux systèmes technologiques. La puissance de contrôle et d’action de certains outils technologiques rendent de fait plus que jamais nécessaire la réflexion éthique. L’enjeu est que ces outils restent au service du développement et de la solidarité humaine sans devenir le modèle oppressant de l’activité et des relations humaines.

C’est là où le modèle anthropologique transhumaniste d’un Kurzweill ou d’un Bostrom, lorsqu’il devient moteur d’une fascination pour l’IA pose un problème, dans la mesure où ce qui est dit de la machine se répercute sur la vision de l’homme.

À commencer par la vision même de ce que serait l’« intelligence » et la place qui lui serait donnée. Parler d’« intelligence artificielle » c’est d’ailleurs réduire l’intelligence à n’être qu’une fonctionnalité, en l’occurrence un instrument de calcul très performant. Or, l’intelligence humaine n’est pas qu’un instrument de calcul, elle n’est même pas une simple faculté de pensée, elle est aussi faculté morale, capacité à discerner le bien du mal. Elle s’insère ainsi dans la profondeur de l’intériorité humaine qu’il serait dommageable d’oublier : la conscience, lieu personnel de la moralité ; l’âme qui habite et anime notre être, dans son unité corporelle et spirituelle, depuis les fonctions végétatives jusqu’au questionnement existentiel voire à la vie mystique.

Mieux vaudrait donc parler par exemple de robots à très haute capacité de calcul, pour bien marquer que nous ne parlons que d’un certain type de capacités. Cela permettrait d’éviter la propension à « humaniser » la machine qui se transforme vite en propension à « mécaniser » l’humain avec des conséquences éthiques désastreuses. Nick Bostrom, dans son ouvrage sur la « superintelligence » évoque déjà comme une possibilité envisageable la sélection à grande échelle d’embryons humains. Le but en serait de favoriser des cerveaux humains plus performants comme modèle à des machines plus performantes. Eugénisme libéral, car non-coercitif, mais eugénisme glacial.

Un avertissement bicentenaire

Frankenstein, deuxième édition

L’usage éthique des nouvelles technologies impose une prise de distance par rapport à l’idéologie transhumaniste. N’est-ce pas le message qu’envoyait déjà à l’humanité, sans en soupçonner la portée, la jeune Mary Shelley dans son roman Frankenstein ? La psychanalyste Monette Vacquin et le lettré Jean Duchesne nous invitent à voir dans cette œuvre un mythe prémonitoire effectivement porteur d’une mise en garde. La passion d’arracher la vie à la mort qui habite le Docteur Victor Frankenstein se transforme en cauchemar dès que la créature qu’il a façonnée prend vie.

Le dur prix à payer pour la fabrication de cet être né de la technique et non de l’amour sera la mort : celle des deux principaux protagonistes, et avant cela celle des trois êtres qui sont le plus chers à Victor : son jeune frère, son meilleur ami et son épouse. La prétention à créer une nouvelle humanité hors des méandres du désir charnel, par l’alliance périlleuse de la raison et de l’imaginaire, s’est retournée contre l’amour.

Pour Monette Vacquin, Mary Shelley nous prévient qu’il ne faut pas s’en remettre à la science pour savoir qui est l’homme : c’est une question à laquelle elle ne peut répondre. Aujourd’hui les techniques de fécondation artificielle conduisent à une déstructuration des relations d’engendrement et préparent le terrain à l’eugénisme transhumaniste par la sélection prénatale de masse.

Quant à la quête d’immortalité par le jeu de l’interface homme-machine, elle a pour prémisse l’obsolescence de l’homme. Jean Duchesne voit plutôt dans Frankenstein, ce « Prométhée moderne » pour reprendre le sous-titre du roman de Mary, la projection des transgressions romantiques ou l’ordre surnaturel des classiques et l’ordre rationnel des Lumières sont supplantés par l’ordre existentiel décrété par des individus d’exception, hissés au rang de génie. Les transhumanistes, chercheurs de haut niveau liés pour certains à l’industrie technologique américaine, veulent nous convaincre que Prométhée est heureux. Mais il ne peut l’être, car la puissance de la technique ne peut supplanter l’amour. Frankenstein nous prévient que le bonheur de l’homme ne se trouve pas dans une sortie de l’humanité. L’usage éthique des nouvelles technologies se fonde dans la vulnérabilité de l’incarnation.

Brice de Malherbe, Professeur à la Faculté Notre-Dame de Paris et co-directeur du département de recherche « éthique biomédicale » du Collège des Bernardins, Collège des Bernardins

La version originale de cet article a été publiée sur The Conversation.

The Conversation
Add a comment
intelligence artificielle

Intelligence artificielle : la complexe question de l'éthique

Avec le développement des intelligences artificielles se posent de nombreuses questions sociétales. En particulier, comment définir une éthique de ce domaine ? Armen Khatchatourov, philosophe à Télécom École de Management et membre de la Chaire « Valeurs et politiques des informations personnelles » de l’IMT, observe et analyse avec attention les réponses proposées à cette question. L’une de ses principales préoccupations est de voir comment l’éthique tente d’être normée par un cadre législatif.
 
Dans la course effrénée de l’intelligence artificielle menée par les GAFA, aux algorithmes toujours plus performants ou aux décisions automatisées toujours plus rapides, l’ingénierie est reine, car porteuse de la très convoitée innovation. Quelle place reste-t-il alors au philosophe, dans cet univers technologique mettant le progrès au centre de tout objectif ? Peut-être celle d’observateur critique. Armen Khatchatourov, chercheur en philosophie à Télécom École de Management, décrit lui-même son approche comme celle « d’observer avec un recul nécessaire l’emballement général pour tout ce qui est nouveau ». Travaillant depuis plusieurs années sur les interactions homme-machine et les questions relatives aux intelligences artificielles (IA), il examine les potentiels effets néfastes de l’automatisation.
 
En particulier, il étudie les aspects problématiques de l’encadrement législatif des IA. Ses réflexions portent notamment sur « l’éthique by design ». Ce mouvement consiste à intégrer la prise en compte des aspects éthiques dès les étapes de conception d’un algorithme ou d’une machine intelligente au sens large. Bien qu’au premier abord témoin de l’importance que les constructeurs et développeurs peuvent accorder à l’éthique, « cette démarche peut, paradoxalement, être néfaste » selon le chercheur.
« Le risque c’est de perdre tout esprit critique »
Armen Khatchatourov

Éthique by design : les mêmes limites que la privacy by design ?

Pour illustrer son propos, Armen Khatchatourov prend l’exemple d’un concept similaire dans le domaine de la protection des données personnelles (privacy en anglais) : au même titre que l’éthique, ce sujet pose la question des manières dont nous nous conduisons envers les autres. La « privacy by design » est apparue vers la fin des années 1990 comme une réaction à la difficulté qu’a le droit à encadrer le numérique. Elle se présentait comme une réflexion globale sur l’incorporation des problématiques de protection des données personnelles dans le développement produit ou les processus métiers. « Le principal problème, c’est que la privacy by design prend aujourd’hui l’aspect d’un texte » regrette le philosophe, faisant référence au Règlement général sur la protection des données (RGDP) adopté en avril dernier par le Parlement européen. « Et les réflexions sur l’éthique prennent ce même chemin » ajoute-t-il.
 
D’après le chercheur, le principal biais néfaste d’une telle régulation normée au travers d’un texte est la déresponsabilisation des acteurs. « D’un côté, les ingénieurs et les designers risquent de se contenter d’être en accord avec le texte, explique-t-il. De l’autre, les consommateurs ne réfléchissent plus à leurs actions et font confiance aux labels attribués par les éventuels régulateurs. » Derrière cette banalisation, « le risque est de perdre tout esprit critique. Réfléchissons-nous vraiment au quotidien à ce que nous faisons sur le Web, ou sommes-nous guidés par une normativité qui est en train de s’installer ? » s’interroge le philosophe.
 
Même menace dans le cas de l’éthique. Sa seule formalisation textuelle trahit déjà la réflexivité dont elle est porteuse. « Cela reviendrait à figer la réflexion éthique » avertit Armen Khatchatourov. Il détaille sa pensée en se rapportant aux travaux des développeurs d’intelligences artificielles. Il arrive toujours un moment où l’ingénieur doit en effet traduire l’éthique par une formule mathématique à intégrer dans un algorithme. Concrètement, cela peut prendre la forme d’une décision dans le domaine éthique en fonction d’une représentation structurée de connaissances (ontologie en langage informatique). « Mais si on résume l’éthique à un problème de logique, c’est plus que problématique ! assène le philosophe. Pour un drone militaire par exemple, cela voudrait dire définir un seuil de nombre de morts civils à partir duquel la décision de tir est acceptable ? Est-ce souhaitable ? Il n’y a pas d’ontologie de l’éthique, et il ne faut pas se laisser emmener sur ce terrain là. »
 
Et les drones militaires ne sont pas le seul domaine concerné. Le développement des voitures autonomes est par exemple soumis à de nombreuses interrogations sur comment prendre une décision. Souvent, les réflexions éthiques se traduisent par des dilemmes. Typiquement, une voiture se dirigeant vers un mur qu’elle ne peut éviter qu’en écrasant une foule de piétons doit-elle sauver son passager, ou le sacrifier au détriment des vies des piétons ? Les raisonnements sont multiples. Le penseur pragmatique privilégiera le nombre de vies. D’autres souhaiteront que la voiture sauve quoi qu’il arrive son conducteur. Le Massachusetts Institute of Technology (MIT) a ainsi développé un outil numérique présentant de nombreux cas concrets et confrontant les internautes à des choix : la Moral Machine. Les résultats varient fortement selon les individus. Ils témoignent de l’impossibilité d’établir, pour le cas unique des voitures autonomes, des règles éthiques universelles.

L’éthique n’est pas un produit

Toujours selon l’analogie entre éthique et protection des données, Armen Khatchatourov relève un autre point, s’appuyant sur les réflexions du spécialiste en sécurité informatique Bruce Schneier. Ce dernier décrit la sécurité informatique comme un processus, et non un produit. Dès lors, celle-ci ne peut être assurée complètement ni par une démarche technique ponctuelle, ni par un texte législatif, car tous les deux n’ont de validité qu’à un instant donné. Bien que des mises à jour soient possibles, elles prennent souvent du temps et sont par principe en décalage avec les problèmes actuels. « La leçon de la sécurité informatique est que nous ne pouvons pas nous fier à une solution préfabriquée, et qu’il faut réfléchir en termes de processus et d’attitudes à adopter. Si nous pouvons risquer ce parallèle, il en est de même dans les problèmes éthiques soulevés par l’IA » pointe le philosophe.
 
D’où l’intérêt de penser l’encadrement des processus comme la privacy ou l’éthique à une échelle différente de celle des lois. Pour autant, Armen Khatchatourov reconnaît la nécessité de ces dernières : « Un texte normatif n’est sans doute pas  la solution à tout, mais s’il n’y pas de débat législatif, témoin d’une certaine prise de conscience collective, c’est encore plus problématique. » Cela montre bien la complexité d’un problème auquel personne n’est en mesure d’apporter de solution actuellement.
 
Armen Khatchatourov, philosophe


LIRE AUSSI DANS UP' : Intelligences Artificielles : Quelles promesses ? Quels défis ?

 
Add a comment
Loading...
Loading...