David Friml sur le futur de l’IA
Mon invité du jour est un jeune entrepreneur branché techno. David Friml a co-créé une startup spécialisée dans l’intelligence artificielle (IA) avec une inflexion sur l’automatisation des tâches. À la base, je l’ai rencontré pour en apprendre plus sur son projet ainsi que pour discuter des enjeux économiques et éthiques de l’automatisation, mais notre discussion a rapidement pris un tour philosophique autour de l’évolution du cosmos et de ce que Friml appelle les nouvelles « frontières de la conscience ».
Regarder l’interview (en anglais)
L’idée originale : « supprimer les jobs à la c… »
En 2013, un anthropologiste de la London School of Economics, David Graeber, tirait la sonnette d’alarme sur l’explosion des « jobs à la c… » Le secteur tertiaire est rempli d’emplois à l’intitulé obscur, dont l’activité consiste en des tâches rébarbatives, voire absurdes. Ceux qui les font tendent à les percevoir comme inutiles et dépourvues de sens. Ils les accomplissent toujours, néanmoins, car ils ont bien besoin d’être payés. Eh bien, d’après un autre David, celui que je vois aujourd’hui, une bonne nouvelle pointe à l’horizon : ces emplois peuvent être automatisés.
Songez à tous ces travaux à la fois routiniers et immatériels dont nombre d’entreprises ne peuvent se passer. Ranger un produit dans la bonne catégorie pour le vendre sur Amazon, retoucher des photos sur Photoshop, résoudre des CAPTCHA. Pour rébarbatives et « poussage de bouton » qu’elles soient, les tâches de ce genre sont confiées à des humains pour la simple raison que les machines les font très mal. Si elles étaient automatisées, nous n’aurions plus besoin de les faire, et ceux à qui elles étaient confiées pourraient utiliser leur temps libre nouvellement gagné pour se consacrer à leurs passions.
Depuis l’aube de la révolution industrielle, beaucoup de tâches répétitives et mécaniques sont apparues. Il fallait beaucoup d’ouvriers pour répéter encore et encore les mêmes gestes là où, comme l’écrivait Victor Hugo, « tout est d’airain, tout est de fer » ! Avec le travail sur les machines est venue l’idée de le confier à d’autres machines, de sorte que des machines s’occupent des machines et que les humains se voient libérés de cette besogne. L’économiste Adam Smith, théorisant le taylorisme avant la lettre, a mentionné à la fois la division toujours plus poussée du travail en tâches toujours plus simples et la recherche de solutions pour automatiser lesdites tâches :
[T]out le monde sent combien l’emploi de machines propres à un ouvrage abrége et facilite le travail… Dans les premières machines à feu, il y avait un petit garçon continuellement occupé à ouvrir et à fermer alternativement la communication entre la chaudière et le cylindre, suivant que le piston montait ou descendait. L’un de ces petits garçons, qui avait envie de jouer avec ses camarades, observa qu’en mettant un cordon au manche de la soupape qui ouvrait cette communication, et en attachant ce cordon à une autre partie de la machine, cette soupape s’ouvrirait et se fermerait sans lui, et qu’il aurait la liberté de jouer tout à son aise. Ainsi, une des découvertes qui a le plus contribué à perfectionner ces sortes de machines depuis leur invention, est due à un enfant qui ne cherchait qu’à s’épargner de la peine. (Adam Smith, Richesse des nations, I.1.8)
À la même époque sont apparus les luddites. Des ouvriers, effrayés de perdre leurs emplois à cause de la mécanisation, ont détruit des machines qu’ils voyaient comme construites pour les remplacer. Les travailleurs s’identifient à leurs emplois, et à cet égard, la mécanisation les menace directement : si votre travail est délégué à une machine ou à un algorithme, à quoi servirez-vous ?
Automatiser la reconnaissance visuelle
Sur cette question, mon invité se veut résolument optimiste. Avant que le travail des champs soit automatisé, la majeure partie de l’humanité passait ses journées à manier le soc et la charrue. Avec la révolution industrielle, ce sont des machines de grande capacité quoique plutôt stupides (sans aucune IA !) qui ont pris tout cela en charge. Une moissonneuse-batteuse peut accomplir le travail de 50 paysans de l’ancien temps plus rapidement qu’eux. À l’époque, les fermiers ont réagi avec le même esprit que les luddites. « Qu’est-ce que je vais faire ? J’ai toujours travaillé aux champs ! »
Plus tard, cependant, beaucoup se sont reconvertis. N’ayant plus besoin de travailler la terre de l’aube au crépuscule, ils ont pu faire des études, poursuivre des carrières plus gratifiantes et plus sûres. En parallèles des usines, les villes ont grandi, et avec elles les journaux, les livres, les pièces de théâtre, les films, en un mot la culture. Aujourd’hui tout le monde consomme avec grand plaisir les produits culturels créés par des milliers d’hommes et de femmes dont les ancêtres travaillaient beaucoup plus durement.
Hier, on automatisait les travaux physiques peu exigeants cognitivement. Aujourd’hui, ce sont des tâches immatérielles mais également de bas niveau que l’on peut déléguer aux machines. L’entreprise cocréée par David Friml se spécialise dans l’automatisation de la reconnaissance visuelle. Dans l’e-commerce, dès qu’un magasin atteint une taille respectable, quelqu’un doit voir des images (parfois par milliers) pour les étiqueter et les mettre en vente dans la bonne catégorie, patiemment, une par une. Je dis quelqu’un et non un algorithme car les intelligences artificielles affichent des performances médiocres en terme de reconnaissance visuelle et de catégorisation. Cependant, c’est là quelque chose que Friml et ses collègues s’attellent à changer ! Ils ont programmé un outil de reconnaissance visuelle automatisée que les e-commerces ou autres compagnies de TI peuvent intégrer à leur propre gestion. Un algorithme bien fait peut donc effectuer l’un de ces « jobs à la c… » si souvent perçus comme aliénants.
À leur place, prédit David Friml, on verra arriver d’autres emplois ou occupations. Ceux-ci consisteront à imaginer, à créer, à interpréter. Quand les travailleurs du tertiaire gagneront du temps grâce aux algorithmes, ils pourront développer davantage leur côté créatif. Moins nous avons de besoins et plus nous avons de choix. « Beaucoup des emplois qui existent aujourd’hui peuvent être automatisés, dans l’informatique ou le tertiaire mais aussi, par exemple, dans la logistique et les usines. »
Il y a cinq ans, on considérait la reconnaissance visuelle comme un exemple-type de ce que les machines ne peuvent pas faire, de ce dont seuls de « vrais » cerveaux seraient capables. Les CAPTCHA à recopier sont basés sur l’incapacité des IA à reconnaître un texte tordu ou barré, texte qu’un lecteur humain lit et recopie plutôt facilement. Eh bien, aujourd’hui, les machines peuvent faire cela aussi. (Et les CAPTCHA deviennent de plus en plus compliquées.)
Comment l’IA et ses algorithmes se sont améliorés
Les capacités intellectuelles, si l’on peut dire, des machines se sont grandement améliorées au cours des dernières années. D’après David Friml, cette évolution s’expliquerait par trois facteurs principaux :
- Une puissance de calcul en constante augmentation. Comme l’avait observé Gordon Moore dès 1965, le nombre de transistors intégrés aux circuits électroniques tend à doubler tous les deux ans, et avec eux la puissance de calcul. Aujourd’hui encore, la « loi de Moore » tient bon. Les effets sont multiples : dans les années 2000, les jeux de stratégie comme Age of Empires ou Civilization montraient une IA limitée, tendant à agir de manière linéaire, alors que les jeux de stratégie plus récents nous confrontent à des adversaires virtuels au comportement beaucoup moins prévisible. Cette dynamique vaut aussi pour confier à une IA des tâches compliquées pour elle et simples pour les humains.
- L’émergence du Big Data. Une machine capable d’apprentissage a besoin d’ingérer et de traiter beaucoup de contenus pour en tirer des règles, des patterns, des catégories et ainsi de suite. Dans les années 80, lorsqu’un réseau de neurones devait être nourri de verbes réguliers et irréguliers par une équipe de scientifiques avant d’arriver à formuler des embryons de phrase, c’était une gageure, mais à l’heure où Internet fourmille de contenus « crawlables », la chose est beaucoup plus facile. Même en ce qui concerne un robot domestique, il est toujours possible de l’équiper de multiples capteurs sensoriels et de le faire traiter des millions de captures de son environnement.
- Enfin, les algorithmes se voient perfectionner chaque année. Les IA les plus récentes sont structurées sur le modèle du réseau de neurones convolutif, qui lui-même imite le cerveau humain. Cette nouvelle architecture donnerait à des IA traiteuses d’images une capacité de reconnaissance visuelle meilleure que la nôtre !
« C’est un grand défi », ajoute David Friml. Outre l’ensemble de modules de reconnaissance visuelle sur lequel sa start-up travaille, il s’agira d’intégrer aussi des fonctions de reconnaissance vocale, de précise de décision, et d’autres encore, si l’on veut un programme ou une machine qui ait au moins un semblant d’autonomie. Un frein majeur réside dans l’architecture des ordinateurs actuels, basée sur des processeurs d’il y a 50 ans, et qui brimerait considérablement le potentiel des circuits. Il nous faudrait un nouveau type de hardware, repensé de manière à permettre le maximum aux circuits déjà existants. Selon Friml, les candidats les plus probables pour cela tiennent soit du cerveau artificiel, comme le réseau de neurones déjà mentionné, soit de l’informatique quantique.
Devrons-nous fusionner avec les ordinateurs ?
Jusqu’ici, je gardais en réserve une question aussi polémique qu’inévitable : celle de l’automatisation. Comme les fermiers et les luddites d’hier, beaucoup aujourd’hui voient d’un mauvais oeil l’arrivée de machines capables de faire leur travail à leur place. Néanmoins, je n’ai pas eu le temps d’orienter la conversation dans ce sens, car avant que je ne le fasse, Friml nous a lancé sur un sujet encore plus controversé, la fusion des humains avec les machines.
« Les machines sont comme nos enfants », dit-il. « Elles s’élèvent à des niveaux de complexité toujours plus élevés, et il se pourrait qu’un jour elles se mettent à évoluer d’elles-mêmes. » Un jour, peut-être, des robots ayant fusionné ou non avec les humains s’élanceront à la conquête de la galaxie. L’humanité telle que nous la connaissons aujourd’hui deviendra une simple étape dans une histoire tournée vers le haut. « On a eu nos moments de gloire, et après, l’évolution fait ce qu’elle a à faire. » Après tout, n’avons-nous pas déjà une relation symbiotique avec des machines quand nous passons plusieurs heures par jour penchés sur nos écrans ou acceptons de nous faire greffer une puce RFID sous la peau ?
« Les machines font déjà mieux que les humains » sur des tâches qu’elles ne pouvaient pas accomplir il y a cinq ans, assène Friml. Et elles se perfectionneront encore. La tendance continuera, de façon certaine, et les améliorations tant hardware que software sont d’une nature difficile à prévoir à l’avance.
Fusionner avec les machines pourrait nous donner le meilleur de deux mondes. Nous pourrions gagner le pouvoir de calcul des ordinateurs, ou transverser nos esprits sur des circuits imprimés et échapper au vieillissement de la chair, tout en gardant notre conscience et notre créativité si typiquement humaines. D’un autre côté, l’idée a de quoi faire peur. Même parmi les futuristes elle est loin de faire l’unanimité. Ne risquons-nous pas, en nous objectisant, de perdre notre humanité ?
À cela, David Friml répond que nous devrions cesser de nous identifier à l’humain et tendre davantage vers la conscience et le cosmos. « Il faut arrêter l’humanocentrisme. Tout est en perpétuel changement. Nous nous dirigeons vers une plus grande complexité et un bien plus élevé. » Le processus naturel de l’évolution pourrait bien aller très au-delà de ce que nous appelons nature : « l’humanité actuelle est une étape et l’IA la nouvelle frontière de la conscience. Les grandes civilisations ont émergé de la nature là où, avant, rien n’existait. Le développement de l’IA et la fusion de l’humain avec la machine » relèveraient du même processus à une étape plus tardive.
Si la nature signifie cosmos et évolution, comme Friml le dit, le développement de l’IA serait l’actuelle avant-garde de l’évolution elle-même. « Tout le monde est déjà dans le train. Tout le monde sera content quand on l’aura fait… il y a un siècle, l’iPhone aurait fait peur, aujourd’hui on se l’arrache. » La flèche du progrès (naturel ou technique, les deux étant pour David Friml et pour d’autres la même chose) a sa direction scellée. « On peut toujours tenter de la détourner », mais à long terme ce serait inutile. La meilleure réponse à avoir vis-à-vis de l’IA, de la singularité annoncée et à plus court terme de l’automatisation des tâches serait donc l’optimisme : suivre le processus avec confiance, jusqu’à l’acte de foi, comme diraient les protagonistes d’Inception.
(À 2:40: « vous n’avez pas de garantie, mais vous pouvez faire un acte de foi (leap of faith) »)
La seule partie du processus sur laquelle nous aurions vraiment la haute main serait son organisation. Laissée à elle-même, l’évolution survient avec des essais, des erreurs, du hasard, en un mot du chaos, mais il est aussi possible d’en prendre le contrôle intelligemment. C’est ce que font les éleveurs de plantes et d’animaux depuis la nuit des temps lorsqu’ils sélectionnent les variétés ou spécimens qu’ils laisseront se reproduire. Soit on laisse le processus advenir de lui-même, ce qui peut impliquer des « cygnes noirs » et des désordres d’ampleur inconnue, soit on tente de diriger le processus. Le « dessein intelligent » pourrait alors devenir une réalité.
« L’humanité doit élever ses niveaux de conscience », affirme David Friml. Le principal problème ne serait pas technique, ni même éthique, mais comportemental : « les gens ne sont pas adaptés au rythme très rapide auquel les changements se succèdent. Notre monde va vite. » Des individus peuvent se mettre à nuire aux autres à cause de programmes ou de machines interférant chaotiquement avec leurs idées, leurs habitudes. Néanmoins, « la singularité est déjà là, elle arrive au niveau personnel ». Certains s’impliquent tard et à contrecœur, d’autres se joignent avec enthousiasme. L’évolution arriverait par la technologie, et comme lorsqu’elle se faisait biologiquement, elle est irrésistible. « Nous avons des smartphones, de l’IA, mais aussi un intérêt toujours plus prononcé pour la méditation et la pleine conscience. » Si cette évolution est irrésistible, alors, en effet, autant s’y préparer !
Le ton de David Friml est pourtant loin du fatalisme. Ce qu’il y a à perdre serait peu à côté de ce qu’il y a à gagner. Plus les machines s’occuperont des tâches répétitives et fastidieuses, moins nous aurons besoin de travailler pour vivre et plus nous aurons de temps pour faire ce que nous voulons vraiment. La singularité peut-elle guérir l’humanité de maux antédiluviens comme l’avidité, la jalousie, et d’autres dont on se plaint souvent dans le monde du travail ?
Prêts pour le futur : 3 conseils
Après cette tirade provocatrice quoique plutôt réfléchie, je n’ai guère envie d’engager la controverse. (Si vous voulez voir une perspective plus nuancée sur ces questions, je vous conseille de jeter un œil au travail de Gerd Leonhard, un collègue futuriste dont l’une des devises pourrait se traduire par « embrasser la technologie, oui, devenir la technologie non ».) Du coup, je préfère poser ma traditionnelle question de fin d’entretien. Si vous aviez trois conseils à donner à un adolescent, ou à un plus vieux, qui voudrait se préparer pour le futur, que lui diriez-vous ?
Les conseils de David Friml sont les suivants :
- S’auto-éduquer. Lire beaucoup, puiser à diverses sources, se pencher sur des thèmes aussi vastes que « la nature, la philosophie, les religions (toutes), la technologie, les sciences naturelles… » pour mieux intuitionner le monde.
- Etre ouvert à de nouvelles expériences.
- Le plus important : non seulement accepter, mais même embrasser le changement. Aimer le processus, avoir foi en lui, apprécier le spectacle. « Prenez une perspective cosmique. » Évitez de se laisser limiter par des divisions, des controverses ou des goûts contingents. Friml en appelle à la gratitude : « aujourd’hui est un merveilleux cadeau ! » Que l’on soit tenté ou pas de fusionner avec des machines dotées d’une IA incommensurable, nous devrions être reconnaissants pour le progrès déjà effectué et nous rappeler que davantage reste à venir.
Pour en savoir plus sur les travaux de David Friml en intelligence artificielle et en automatisation de processus cognitifs, retrouvez-le ici.
