Gerd Leonhard sur l’impact sociétal de l’IoT

Résident de la Silicon Valley sur la longue durée, futuriste chevronné et ami de votre serviteur, Gerd Leonhard est encore peu connu en France. Je puis vous garantir qu’il vaut la peine d’être écouté. Comme moi, il tente de deviner ce que le futur nous réserve et de contribuer à lui donner forme. Et c’est un des rares futurist qui ne ne regarde pas le futur uniquement à travers les nouvelle technologies.

Je voudrais ici partager avec vous l’une des conférences les plus intéressantes qu’il ait faites. Gerd y parle de l’impact que l’Internet des objets (ci-devant IoT) aura sur notre vie, et pourquoi utiliser la technologie n’est pas devenir la technologie.

Regarder la conférence (en anglais)

Une question d’intention

Si vous vous souciez a minima de l’impact de la technologie sur la vie des gens, vous savez probablement déjà qu’elle a largement impacté ces derniers temps et le fera encore davantage dans le futur. Vous souvenez-vous de la vie sans smartphones, ordinateurs portables et autres objets nomades? C’était il y a vingt ans, et cela semble déjà dater d’un lointain passé. Or, ce phénomène est loin d’être terminé. La vie sera encore bien différente de ce qu’elle est aujourd’hui. Seulement, on pourrait se demander, à quoi bon tout cela?

Dans le monde de la technologie et de l’innovation, rien de plus facile que de rester « la tête dans le guidon », sans véritable recul sur ce qu’on fait. Gerd Leonhard nous invite ici à prendre de la hauteur. Pour cela, dit-il, la meilleure chose à faire est de commencer par nous demander pourquoi telle entreprise, tel projet, telle innovation ou nouvel appareil. Quelle est l’intention de l’entreprise qui la vend? Que veut-on quand on fait de l’informatique, quand on code, ou quand on vit tout simplement?

Si notre but dans la vie est d’être heureux, la question qui vient naturellement au futuriste est celle-ci: pouvons-nous réduire le bonheur à un algorithme? Pouvons-nous calculer, programmer, « computer » comme dit l’anglais, les facteurs du bonheur, et les mettre dans une application pour smartphone? Y a-t-il des choses que les données, peu importe la taille du Big Data ou la sophistication de l’algorithme de traitement utilisé, ne nous dirons pas – à moins que nous ne sachions les interpréter?

L’IoT va nous apporter des changements multiples. Parmi eux, des bénéfices absolument certains. La simple possibilité de recueillir et de digérer automatiquement une masse conséquente de données, partout dans le monde, pèsera lourd dans la résolution de problèmes mondiaux comme le changement climatique, la rareté de l’eau potable, le gaspillage de ressources ou même la prévalence du cancer. Tout cela est à notre portée. Mais si cela venait avec des externalités? S’il y avait des conséquences non prévues, non voulues, et pourtant potentiellement dévastatrices?

Lorsqu’on est passionné par l’innovation et qu’on a « la tête dans le guidon », rien de plus facile que d’oublier ce qui est proprement humain, permanent, et irréductible à la technique. Pour nous aider à comprendre, Gerd Leonhard propose un néologisme, celui d’androrythmes.

Les algorithmes sont la quintessence de la technologie, les processus même qui traitent l’information sur tous les sujets. Seulement, tout ne peut pas être algorithme. Nous autres humains avons des traits qui ne peuvent pas être réduits à des nombres, des règles, ou des catégories. L’émotion, la créativité, la capacité à imaginer ou à négocier sont autant de traits, de capacités, profondément humaines et substantiellement différentes des algorithmes. Certes, il est possible d’émuler certains de ces traits. Mais ce que les robots « dotés d’émotion » présentent et font n’est pas ce que nous sentons.

Nous utilisons des algorithmes. Nous avons des outils, et nous nous en servons pour atteindre des objectifs. Cependant l’outil et la fin sont deux choses différentes. Si nos intentions nous définissent, comme certains le pensent, nous devrions voir d’un œil critique l’idée de reproduire la quintessence de l’humain dans une technologie époustouflante mais, au fond, non-humaine.

La pente glissante de l’abêtissement

Pour beaucoup d’entre nous, le smartphone est un second cerveau. Votre iPhone ou votre Galaxy sont déjà une extension de votre intelligence. Nous mettons dans ces appareils les numéros de nos contacts, des informations à leur sujet, nos emplois du temps, des notes personnelles, de la musique, des livres… tout y est stocké. Et plus les smartphones vont gagner en puissance, plus il sera tentant d’y laisser glisser une part de plus en plus grande de nos capacités cérébrales.

Imaginez que Tinder (que l’on ne présente plus) grandisse un peu. Imaginez un Tinder 2.0 qui vous permette non seulement de faire une rencontre, mais qui puisse aussi organiser ladite rencontre, et si celle-ci se passe bien, organiser votre mariage avec la personne rencontrée. L’appli pourrait tout planifier, tout organiser. Vous n’auriez plus besoin de choisir le lieu de la rencontre, ni, si cela se passe bien, le lieu ou le contenu de la cérémonie de mariage. Tinder 2.0 serait un merveilleux assistant de direction, n’est-ce pas?

Eh bien, pas tant que ça. Car si l’application devient capable de faire tout cela pour vous, vous cessez de penser. Vous déléguez toutes les tâches, tous les choix, à l’algorithme qui les fait à votre place. Vous vous déshabituez à comparer, à choisir, à organiser. Vous devenez intellectuellement paresseux. Vous vous habituez à dépendre complètement des choix de la machine. C’est une expérience de pensée, bien entendu, mais tout cela est proche. Et quand on regarde ce qui est possible à plus long terme, on voit se profiler le même phénomène à une beaucoup plus grande échelle.

À la fin des années 80, des navires et des avions ultramodernes ont été touchés par une série d’accidents. Des marins de l’armée américaine ont confondu un avion de ligne avec un jet F-14 se préparant à les attaquer, et ils ont abattu l’avion, en tuant ses 290 passagers civils au passage. Des avions se sont crashés et les enregistrements des boîtes noires montraient, invariablement, que l’équipage était beaucoup trop confiant dans les informations qu’il recevait et se reposait dessus au lieu de prendre des décisions. On a enquêté sur le phénomène, et on a découvert ce qu’on a appelé le « syndrome du cockpit de verre »: des pilotes, inondés d’informations habituellement fiables, cessent de penser ou de regarder eux-mêmes ce qui se passe au-dehors. Ils vivent dans une bulle d’informations, ne choisissent plus, n’agissent plus en dehors. Le résultat peut s’avérer tragique.

Plus récemment, en avril dernier, un médecin vietnamien prenant l’avion s’est fait taper dessus par plusieurs passagers. (Un autre passager a filmé la scène et la vidéo a fait tache d’huile.) Simple fait divers? Pas tout à fait: l’ordinateur embarqué de l’avion a déterminé que celui-ci était surchargé et que, par conséquent, un passager devait quitter l’avion. L’ordinateur a tiré au sort qui s’en irait. Son choix s’est porté sur ce passager-ci. Le reste, vous pouvez le voir dans la vidéo, et dans le monde anglophone tout le monde l’a vu dans les médias.

Le problème ici n’est pas qu’une machine domine les humains. Les machines n’ont ni la créativité ni l’autonomie nécessaire pour initier un scénario à la Terminator ou Matrix. Non: le problème est que nous devenions de plus en plus semblables aux machines, de moins en moins humains, et du coup plus stupides. Un ordinateur n’a pas à ressentir quoi que ce soit quand il détermine la solution d’un problème. Nous ne pouvons pas demander à un algorithme de faire preuve de compassion pour quelqu’un. En revanche, il paraît plutôt gênant que des humains, eux, ne le fassent pas non plus, et qu’à force de déléguer nos pensées et nos choix à des machines nous finissions par nous comporter comme si nous en étions aussi!

Fusionner avec les machines: une nécessité, vraiment?

Au cœur de la singularité se trouve l’idée que, tôt ou tard, les humains fusionneront avec la technologie. Déjà, les distinctions entre ce qui est vivant et ce qui ne l’est pas, entre l’esprit et la matière, entre l’humain et le non-humain… sont devenues floues. Les objets connectés à Internet ne vont pas seulement nous entourer ou nous accompagner partout: ils continueront à aller au-delà des distinctions que nous faisons encore.

« Être connecté » est un article de foi. La technologie a déjà ses autels, son épopée. Les smartphones ont pris la place des cigarettes. Et pourtant, annonce Gerd Leonhard, « sur une échelle de connectivité de 1 à 100, nous ne sommes encore qu’à 5 ». Bientôt nous aurons des interfaces ordinateur-cerveau. Elon Musk, patron de SpaceX, promeut ce qu’il a appelé un « lacet neuronal », une machine qui connectera notre néocortex avec un « cortex digital » électronique.

Au-delà de l’aspect financier – qui est déjà très important, car si Musk se positionne en premier sur ce marché, le lacet neuronal peut faire gagner à SpaceX des trillions de dollars! – cette avancée marquera un pas décisif dans la tendance à faire fusionner l’homme et la technologie. D’autant plus si l’on considère que le « cortex » électronique aura besoin d’une bonne IA pour traiter la montagne de données qu’il captera de notre cerveau… de ce point de vue, il devient difficile de différentier nettement entre l’utilisateur et la machine. Et ici vient un danger d’abêtissement: « mes enfants, ou mes petits-enfants, » songe Gerd Leonhard, « ne sauront pas conduire une voiture tous seuls ».

Que signifiera être humain dans un monde où l’homme aura fusionné avec les machines? Jusqu’à quel point sommes-nous « computables » ? Nous y sommes déjà: Google finance le projet Global Brain (cerveau mondial) et Facebook a déjà un cerveau électronique qui traite les données de deux milliards d’utilisateurs. Nos smartphones sont déjà des « cortex digitaux », ils ne sont simplement pas (encore!) connectés directement à notre cerveau.

L’évolution vers la singularité nous a mis dans un état très ambigu. D’un côté, nous sommes devenus capables de créer des mondes virtuels très réalistes et immersifs. Nous en avons dans les jeux vidéos, dans la réalité augmentée, et même sur Facebook, qui a réussi à changer ou à tordre notre idée même de l’amitié. Aussi, « nous allons devenir capables de faire individuellement ce qui avait besoin de milliers d’individus pour être fait… » D’un autre côté, finir sans emploi, sans fonction sociale, devenir « inutile » et enfermé dans le monde créé par nos appareils ne semble pas une perspective très réjouissante.

Ces androrythmes qui vont fleurir

Du point de vue de la pure productivité, les humains sont avant tout inefficaces. Nous ne pouvons rien faire sans manger ni dormir. Nous aimons inventer des choses, rêver, exercer notre imagination. Notre intelligence ne peut pas être réduite à une cognition d’ordinateur faite de tâches, de processus segmentés, de règles, de catégories. Nous pourrions remédier à certains traits négatifs de l’humain, par exemple en imposant un usage systématique du détecteur de mensonges pour supprimer ces derniers, ou généraliser la conduite automatique pour éviter les accidents. Mais devons-nous en venir jusque-là?

Les entreprises licencient autant de gens que possible pour automatiser tout ce qui peut l’être. Elles cherchent le profit, la rentabilité, et succombent à la tentation de l’automatisation. Oui, les humains sont inefficaces, coûtent cher, se plaignent. Mais cela ne signifie pas que nous devions être remplacés ou même confondus avec les calculs de nos algorithmes, fussent-ils instantanés et sans erreur.

Un chercheur en intelligence artificielle, Luciano Floridi, affirme que

les algorithmes performent mieux que l’intelligence humaine lorsque les tâches qui leur sont confiées ne touchent pas aux états mentaux, aux états émotionnels, aux intentions, aux interprétations, au contexte, aux sous-entendus… bref, à l’intelligence flexible.

Autrement dit, ce qui est proprement humain et devrait recevoir notre pleine attention.

Gerd Leonhard suggère de penser l’intelligence ainsi: les humains ont une intelligence sociale, émotionnelle, intellectuelle, et les machines ont leur propre forme artificielle d’intelligence. Elles pensent, mais pas comme nous. Elles nous battent à plate couture en calcul, mais elles sont beaucoup moins capables de penser de façon holistique. Avez-vous déjà tenté de programmer un bot pour lire une CAPTCHA? Si vous essayez, bonne chance!

Tous les emplois routiniers sont menacés. La routine peut être automatisée, et elle l’est. Les caissiers disparaissent, les caisses automatiques surgissent. Même les demis au bar peuvent être impeccablement servis par des robots! Cela signifie que nous devons repenser la nature même de notre travail. La culture devra dominer la technologie, nos compétences devront se faire plus humaines, pour que nous fassions ce que les machines ne pourront jamais faire. « On aura besoin, non pas seulement de bons ingénieurs et de programmeurs, mais de bons humains ».

Quelques questions au futur

En conclusion de sa conférence, Gerd Leonhard cite plusieurs problèmes qui devraient selon lui devenir de plus en plus pertinents ainsi que deux solutions.

Perte des capacités: quelles compétences, quelles capacités devons-nous cultiver? Que pouvons-nous déléguer ou non aux machines? Pour reprendre l’exemple ci-dessus, savoir conduire une voiture, est-ce une capacité assez importante pour que l’on interdise la conduite totalement automatisée?
Plus largement, jusqu’où doit-on laisser la technologie faire des choix à notre place? Imaginez un ordinateur capable d’analyser votre génome, celui de votre partenaire, et de vous dire s’il est bon que vous ayez un enfant ou pas. Cela pose un réel problème éthique.
Tandis que de plus en plus de fonctionnalités sont ainsi déléguées aux algorithmes et aux machines, y a-t-il, justement, un impératif éthique de concentrer le pouvoir de l’IoT, de l’AI, des robots… pour le bien de l’humanité? Et si oui, comment?
Un petit nombre d’entreprises concentre presque toutes les innovations essentielles. Les plus riches, qui y possèdent des parts, ne cessent de s’enrichir, tandis que l’immense majorité de l’humanité stagne économiquement ou s’appauvrit. De même, on peut déjà parler d’une fracture digitale entre les pays développés, qui peuvent s’offrir des appareils dernier cri, et les autres. Comment prévenir l’aggravation des inégalités? Et comment, par exemple, équiper des pays africains en objets digitaux (IoT)?
La question de la vie privée va également rester une préoccupation de premier plan.

Tous ces problèmes ne seront pas résolus uniquement par des algorithmes. Quelqu’un, c’est-à-dire un opérateur humain, doit rester en position de contrôle. Quelqu’un doit savoir où se trouvent les données, ce qu’elles disent vraiment, et quelles sont les règles. Les machines ne prendront pas le pouvoir, mais elles amplifieront la portée des erreurs et des négligences humaines.

Dès lors, Gerd Leonhard suggère au moins deux solutions ou axes de réflexion pour répondre à tout cela:

la création d’un conseil mondial d’éthique digitale. Lorsque chacun sur Terre devient de plus en plus interdépendant d’avec le reste du monde, et lorsque des milliers de milliards de gains futurs sont en jeu, il serait irresponsable de penser que tout cela peut s’autoréguler. Les enjeux sont tout simplement trop forts! Un conseil d’éthique, s’assurant que certaines règles sont respectées ou imposées le cas échéant – des règles comme les principes d’Asilomar –, peut nous sauver de problèmes rencontrés en cours de route.
Développer des qualités spécialement humaines, « androrythmiques », irréductibles à la routine et au programmable. Plus la technologie se développera et plus, nous aussi, nous devrons nous développer exponentiellement, quoique sur un plan différent: le quotient émotionnel l’emportera sur le QI et il faut nous y préparer.

Car « encore une fois, ce qui importe le plus n’est pas la technologie même, mais les rêves et les intentions qui la portent ».

Pour en savoir plus sur les travaux de Gerd Leonhard, retrouvez-le sur son site (en anglais).

Gerd Leonhard sur l’impact sociétal de l’IoT