L' innovation va-t-elle trop loin ?

En Chine, le spécialiste du jeu vidéo NetDragon Websoft a confié sa filiale, Fujian NetDragon Websoft, à une femme, Tang Yu. Rien d'étonnant. Ce qui l'est davantage est que cette femme est en réalité un robot dopé à l'intelligence artificielle. Son visage apparaît sur les écrans de la société sous la forme d'un humanoïde : elle est alors capable de s'exprimer, de signer des documents, de gérer des projets... L'idée vous effraie ? Vous voyez-vous bientôt remplacé par un homologue virtuel ? Ou au contraire, l'initiative vous semble-t-elle pertinente, sachant que Tang Yu travaille 24 heures sur 24, sans le moindre salaire ? « L'idée que nos vies puissent un jour être complètement contrôlées par l'hyperconnexion généralisée (objets connectés, environnements intelligents) en inquiète plus d'un, et de nombreux instituts, associations, se sont créés pour réfléchir sur les risques liés à l'IA, surveillant et analysant ses évolutions, proposant des bonnes pratiques et soulevant des questions cruciales », écrit Cécile Dejoux dans son Livre « Ce sera l'IA et moi » (éditions Vuibert). Elle y mentionne des dérives possibles liées à l'usage. Dans le cas de la société Netdragon Websoft, la démarche relève davantage du marketing, le but étant de montrer à ses clients que l'intelligence artificielle qu'elle développe pour ses jeux peut aussi fonctionner dans la vie réelle. Un discours qu'acceptent les salariés de l'entreprise ? Pas sûr, car en matière d'innovation, et notamment d'innovation extrême, la part du subjectif est grande. Qu'est-ce que la société est-elle prête à accepter ? L'actualité regorge de cas d'innovations extrêmes, suscitant à la fois le doute, la fascination, la peur ou encore la polémique. C'est le cas de l'oeuvre « Théâtre d'opéra Spatial », qui s'est distinguée lors d'un concours d'art. Elle n'est pas le fruit d'une création artistique humaine, mais celui d'une programmation numérique. Son "auteur", Jason Allen, a fait appel à Midjourney pour générer automatiquement le visuel en quelques instants.

Un débat qui fait rage.

Avec l'arrivée de tels outils, les détracteurs s'interrogent, à juste titre, sur l'avenir des artistes. Exemple d'un autre genre en Australie, où Philip Nitschke, fondateur de la société australienne Exit International, a imaginé le concept Sarco. Semblable à un cercueil, il s'agit d'une capsule imprimée en 3D, activée de l'intérieur par la personne qui a l'intention de mourir. La machine peut être remorquée n'importe où, dans un cadre extérieur idyllique ou dans les locaux d'une organisation pour le suicide assisté, par exemple. La capsule est posée sur un équipement qui inondera l'intérieur d'azote, afin de diminuer progressivement, en une trentaine de secondes, la présence d'oxygène dans l'habitacle. La personne sera un peu désorientée et pourra se sentir légèrement euphorique avant de perdre conscience...

À l'inverse, l'ex-patron d'Amazon Jeff Bezos travaille, lui, sur la quête de l'immortalité. Il a déversé des millions dans Altos Labs, une start-up américano-britannique de la biotech faisant le pari, désormais plus tout à fait fou, de la médecine régénérative et du rajeunissement cellulaire. Ses chercheurs souhaitent découvrir la clé permettant à des organes entiers (peau, foie, coeur...) de se régénérer et in fine offrir l'immortalité à l'être humain. Ou du moins à ceux qui pourront se la payer. « Les projets de ce type sont destinés à valoriser l'image de tels "entrepreneurs" et le développement de ce qui est coté en bourse, commente Gilles Garel, professeur titulaire de la chaire de gestion de l'innovation au Cnam. Toutefois, quand ces entrepreneurs parlent d'immortalité, ils donnent une direction qui est très exploratoire... mais qu'on retrouve aussi en regardant le passé : les Égyptiens travaillaient déjà sur l'immortalité ! » Des idées qui ne seraient alors que l'expression d'une certaine excentricité ?

Or, le principe de l'innovation, c'est qu'il est difficile de prédire ce que donneront les projets engagés. « Il y a beaucoup de sujets d'innovations pour lesquels les réponses ne sont pas si simples que cela, car elles dépendent beaucoup du contexte. Ce n'est pas évident d'avoir des regards binaires, blancs ou noirs, sur l'innovation, estime pour sa part Nicolas Mottis, professeur à l'École polytechnique. C'est pourquoi il faut créer des débats avec des acteurs variés sur ce que l'innovation peut apporter, ou pas. » Imaginons le cas de chercheurs qui travaillent sur l'ouïe augmentée. D'un côté, ce projet peut permettre à des victimes d'attentat de recouvrer ce sens. De l'autre, il peut donner envie à des personnes très riches de s'offrir la capacité de tout entendre à 500 mètres. Faut-il donc interdire les travaux sur l'ouïe augmentée ? Ça se discute... « Ces questions ne doivent pas être laissées uniquement entre les mains des innovateurs, elles doivent être débattues dans des cadres démocratiques », poursuit Nicolas Mottis.

Une responsabilité accrue.

Tout au long du processus d'innovation, il est donc important d'avoir un regard multi-parties prenantes sur l'innovation. Fixer, en amont, des limites est assez difficile, même si certains secteurs semblent intouchables, comme la bioéthique et le clonage humain. « C'est pour cela qu'il faut un processus d'innovation ouvert avec, au moment critique, le moyen d'ajuster la trajectoire », propose Nicolas Mottis. Avec la possibilité, avant la phase de production ou de commercialisation, de tout stopper si le projet semble dangereux. Et cela commence par l'entrepreneur lui-même qui doit avoir conscience des implications de ce qu'il est en train de développer, selon Arnaud Billion, chercheur et auteur du livre « Sous le règne des machines à gouverner » (éditions Larcier). « Il a, en tant qu'être humain, cette faculté de reconnaissance du souhaitable, mais il a aussi la responsabilité que sa machine à gouverner [son entreprise] survive. Il faut quand même qu'il sorte un résultat. Donc, il a cet arbitrage difficile à faire entre maintenir la rentabilité, tout en prenant les virages et les options tactiques dans la direction du souhaitable. Et que ce soit réellement au service d'une amélioration de l'état du monde », développe-t-il.

Aussi, rien ne sert de fixer des limites en termes éthiques, si cette éthique n'est pas comprise par l'organisme qu'est l'entreprise. « Ce que je trouve intéressant, c'est de se demander : comment cette innovation sera-t-elle vendue ? Sera-t-elle maintenable ? A-t-elle des contreparties qui ne sont pas considérées ? poursuit le chercheur. Les limites sont physiques et concrètes. Elles ne reposent malheureusement pas sur les mots de l'éthique qui, bien souvent, ne sont pas très puissants ni très intéressants dans le dialogue sur le business. » C'est pourquoi, la question des externalités doit être posée. Les externalités, c'est en quelque sorte les contreparties qu'évoque Arnaud Billion : ce ne sont pas seulement les ressources utilisées par le projet, c'est la transformation du monde qu'il induit pour obtenir des résultats.

Une transformation nécessaire ?

Certaines décisions ont un impact considérable sur l'environnement, sur la vie ou la santé de tous : elles ne peuvent être prises sans aucune vigilance. Elles doivent être prises... avec précaution, tout simplement et collectivement. Le principe de précaution ouvre ainsi les conditions d'une décision plus démocratique. « Pour définir ce qui est innovant, il faut regarder si les récepteurs, les destinataires de l'innovation, considèrent bien cela comme tel. Tout dépend des conditions dans lesquelles la société, les consommateurs, les communautés accepteront le projet », confirme Gilles Garel. Alors, la société est-elle prête à vivre dans le metaverse ? À parler à ses morts ? À envoyer son cerveau dans le cloud comme l'envisage Nectome ? Les risques sont-ils plus ou moins forts que la valeur créée ?

La réponse est subjective même si, comme indiqué, tout repose sur la perception des utilisateurs finaux et de la responsabilité de l'inventeur. D'autant plus que l'innovation n'est pas un principe nouveau. Au XIX e siècle, la voiture effrayait et tuait. Il a fallu construire des routes et mettre en place un système de permis pour diffuser un cadre à cette innovation. « En France, le mot "innovation" existe depuis longtemps, d'abord dans le vocabulaire juridique, et avec une connotation négative, précise Gilles Garel. C'est celle qui remet en cause l'ordre établi (un ordre porté par la religion, l'agriculture, le patriarcat, etc.). Ce n'est qu'à partir des deuxième et troisième révolutions industrielles que les hommes prennent conscience que l'innovation peut créer des valeurs considérables jamais connues jusque-là. » Et plus qu'éthique, l'innovation doit être responsable. Jugée sur des critères d'utilité, tournée vers la protection des hommes et de la planète, elle permettrait aussi aux acteurs privés de remettre du sens dans leurs activités.