De l’autre côté de la machine, Aurélie Jean, Ed. De Facto L’Observatoire

En cette époque connectée où l’instantanéité rythme nos journées, se placer dans des temps longs devient pourtant plus indispensable que jamais pour appréhender notre monde.

Le mathématicien Muḥammad ibn Mūsā al-Khwārizmī. C’est son nom latinisé, Algorithmi, qui sera utilisé pour baptiser l’algorithme.

Images et autres analogies ont une vertu pédagogique indéniable –  et la vulgarisation doit pouvoir se raccrocher à des repères concrets de notre quotidien pour que nous puissions comprendre. Mais les images restent une déformation de la réalité, et il faut prendre garde à ne pas l’oublier.

Pourquoi l’algorithmique ne serait-elle que mathématique  ? Ce n’est ni cet Euclide ni ton mathématicien perse qui ont inventé l’algorithmique, c’est la nature  !  Le ciel, cet amas d’étoiles organisées selon une logique que seule la nature est capable de vraiment comprendre, car c’est elle qui l’a créé… Voir l’algorithmique comme la vie, l’espace, le monde dans lequel nous naviguons.  

Une loi gaussienne est une loi centrée réduite, caractérisée par sa moyenne et sa variance  : plus les événements s’écartent de la moyenne, moins ils sont fréquents –  d’où sa représentation sous forme de cloche.

Le futur s’inscrit dans l’interdisciplinarité, cette capacité à translater ses compétences d’une discipline à l’autre et à travailler avec des gens profondément différents de vous-même.

En créant des tissus directement à partir de cellules souches du patient, on pourrait en finir avec les phénomènes de rejet des greffes  !

Toute modélisation reste une approximation de la réalité  ;

Noam Chomsky parlait d’autodéfense intellectuelle pour combattre toute fabrique du consentement. Je me suis souvenue de ses textes qui me rappelaient notre faiblesse à tous  : croire a   priori sans aucun acte de rébellion intellectuelle ce qu’on nous dit, ce qu’on voit et ce qu’on apprend.

Il  est parfois difficile d’obtenir des données pour certaines catégories de population –  une problématique que connaissent bien les sondages, par exemple (lesquels sont par ailleurs des nids de biais, quand on pense combien la façon de poser une question peut orienter la réponse…).

Les algorithmes sont plus rapides que l’humain pour détecter des modifications dans l’évolution d’une action ou d’un indice économique, voire pour comparer un événement avec d’autres événements passés. L’algorithme est aussi plus rapide pour écrire un article basique sur cette évolution.

L’économie actuelle de la science pousse aussi à la publication rapide de résultats avant de les avoir suffisamment passés au tamis de l’esprit critique. Cette course à la publication et aux résultats exclusifs (publish or perish  : publier ou mourir) tend à affaiblir notre raisonnement critique.

Un algorithme ne fait jamais que ce pour quoi on l’a programmé –  même dans le cas d’une intelligence artificielle apprenante. L’algorithme n’a pas de conscience, il n’a pas d’autonomie, il n’a pas de pouvoirs magiques.

«  L’intelligence artificielle est une alliée pour la presse et les journalistes  », Meta-Media, 23   mai   2019, https:// www.meta-media.fr/ 2019/ 05/ 23/ lintelligence-artificielle-est-une-alliee-pour-la-presse-et-les-journalistes.html

J’ai un niveau de tolérance très bas concernant les pseudo-experts qui propagent avec morgue des contre-vérités évidentes, et tout ce qui contribue à plonger le public dans un complet flou intellectuel. La peur et l’horreur ont toujours plus vendu que le rêve, car notre cerveau, par instinct de survie, enregistre davantage les faits et les idées qui peuvent menacer notre espèce.

un reportage sur l’intelligence artificielle truffé d’anthropomorphismes.

L’éthique manque cruellement dans les formations des scientifiques, des mathématiciens, mécaniciens, chimistes ou encore informaticiens. Pour aller encore plus loin, je dirai qu’il est urgent que les scientifiques (re) deviennent des philosophes  ! Jusqu’à la moitié du XXe   siècle, chaque scientifique était aussi philosophe. Pour n’en citer que quelques-uns  : Euclide, Dirac, Galilée, Copernic, Pascal, Descartes, Canguilhem, Feynman… Certains sont même connus aujourd’hui pour leurs travaux en philosophie et inconnus pour leurs contributions à la mécanique, aux mathématiques ou à la physique. C’est le cas de René Descartes, connu de tous pour son Discours de la méthode, mais moins pour sa géométrie cartésienne. Ou encore Blaise Pascal, dont on connaît les Pensées, mais dont on oublie souvent qu’il fut, avec sa calculatrice mécanique (la pascaline) l’un des précurseurs des machines à calculer. J’ajouterai que l’inverse est tout aussi valable  : il est temps que les philosophes redeviennent scientifiques. Aujourd’hui, pour caricaturer (mais à peine), les philosophes réfléchissent sur un monde qui leur échappe, alors que les scientifiques construisent un monde sur lequel ils ne réfléchissent pas. Je ne suis pas meilleure qu’une autre, mais j’ai conscience de mes limites et je n’hésite pas à sortir de mon monde en discutant avec des sociologues et des anthropologues. J’essaie même d’enseigner ma discipline aux philosophes… et Gaspard Koenig a été pour moi un parfait cobaye.

C’est par un mariage harmonieux entre scientifiques et politiques que l’on créera des textes de loi sans vides technologiques.

Grégory a monté il y a quelques années une équipe qui fonctionne en parallèle de son équipe de développement, et dont le but est de démontrer que l’équipe de développement a tort. Cela peut paraître étrange… Je pense au contraire que c’est plutôt malin. Comment mieux avancer et être plus innovant qu’en essayant systématiquement de démonter son propre travail  ? Cela permet également de conserver un recul et un œil critique sur la qualité de celui-ci, ainsi que sur la mesure éthique de ses développements. Les résultats de xBrain sont impressionnants, ils accélèrent l’innovation même s’ils créent parfois des tensions au sein même de l’équipe de développement. Comme on dit aux États-Unis  : «  There is no free lunch  !  »

Dès qu’un incompétent, ou un imposteur, s’autoproclame, sans fondement, «  expert  » de l’intelligence artificielle, il fournit dans le monde réel des informations déformées, approximatives, voire fausses, du monde virtuel. C’est ce que j’appelle brouiller le miroir, alors qu’aujourd’hui plus encore qu’hier nous avons besoin du meilleur reflet possible. Renvoyer à nos interlocuteurs l’image la plus juste possible du monde virtuel, pour permettre au public d’y accéder, telle est notre mission. Ce livre est lui aussi un miroir, qui essaye au mieux de traduire de façon intelligente et intelligible la notion même d’algorithme. Miroir humain, miroir algorithmique  : tous deux ont leurs imperfections, tous deux doivent être remis en question. Un miroir humain se construit sur ses compétences et ses expériences.

Ignorer qu’on ignore, disait Aristote, c’est ne rien savoir. Mais savoir qu’on ignore, c’est vraiment savoir. Le doute existe, et il existera toujours  ; il est l’essence de l’esprit scientifique. Parce qu’il n’existe pas de miroir parfait, le monde virtuel sera toujours une approximation de la réalité et pourra toujours contenir des biais. Dès lors, quelle que soit la qualité du miroir, l’essentiel est de rester capable de distinguer réel et virtuel.

A force d’établir des parallèles avec des fictions, nous sommes en train d’opérer, doucement et sans nous en rendre compte, une sorte de translation d’une narration fictive vers le monde réel. Nous devons continuer à dire que ces fictions sont réalistes, mais pas réelles.

Le terme «  catégorie  » vient du grec ancien categorein qui veut dire «  accuser  ». Selon Aristote, les catégories seraient des «  modes d’accusation de l’être  ».

Parce qu’elles sont limitées en nombre et statiques dans le temps, les catégories limitent nécessairement notre vision du monde ou des gens. Elles sont aussi «  discriminatoires  » dans le sens où elles classent selon des critères qui discriminent. Cette discrimination n’a aucune connotation négative, elle exprime tout simplement le fait de différencier.

Nous avons des préjugés, des stéréotypes à l’esprit. Nos expériences modèlent notre ego et nous font répondre à chaque situation en allant chercher dans l’une de ces catégories l’élément clé qui déterminera notre réaction.

L’atmosphère est à la révolte, car la révolution technologique en cours est encore largement incomprise. Faute d’avoir cherché à inclure toute la population, elle fait peur et elle divise. Cette fracture numérique n’était certainement pas étrangère à un mouvement comme celui des Gilets jaunes. Car aux inégalités sociales viennent aujourd’hui s’ajouter des inégalités profondes sur l’appropriation et l’usage du numérique.

Contrairement à la révolution industrielle, où l’observation suffisait pour comprendre le mécanisme de base des machines, la révolution numérique est intangible.

Allons-nous accuser les lignes   TGV et les fournisseurs d’accès à Internet d’accélérer le déplacement de manifestants et la circulation d’opinions rebelles  ? Bien sûr que non. Une fois de plus, nous nous enfonçons dans ce flou artistique qui nous aveugle et nous empêche de prendre nos responsabilités.

Comment dépassionner un débat  ? Avec de la pédagogie. Expliquer, expliquer et expliquer encore. La passion et l’incompréhension sont étroitement liées. Il faut réapprendre à sortir de l’agitation  : on avance bien plus vite dans la sérénité.

Risque que nous encourons –  celui de l’obscurantisme intellectuel et du populisme qui appuient sur les instincts et nous fait perdre en conscience et en libre arbitre.

Si nous nous contentons de regarder le monde sous le prisme étroit qui est le nôtre, nous risquons de commettre des erreurs, et d’introduire des biais algorithmiques dans les outils que nous développons. Nous, scientifiques, devons continuer à révolutionner la technologie en évitant d’initier une crise sociale. La seule révolution qui vaille sera une révolution positive  : un chamboulement des habitudes et des conditions de vie qui améliore réellement la qualité de vie des citoyens. Sans cela, c’est notre tête qui est en jeu. Nous devons nous assurer que chaque citoyen ait la liberté de choisir ses outils numériques en connaissance de cause.

Humains contre algorithmes  : telle serait l’alternative devant laquelle se trouverait notre civilisation…

Les algorithmes nous faciliteront la vie de plus en plus à l’avenir, ils nous connaîtront davantage, mais ils ne peuvent pas se substituer à notre libre arbitre, car sans libre arbitre nous ne sommes rien. La vie est le plus vaste des bacs à sable, le grand terrain de jeu de l’expérience.

Applications pour les conducteurs d’Uber en Chine, qui leur indiquent des toilettes ou des lieux de restauration sur leur chemin, en prédisant leurs besoins avant même qu’ils les expriment.

Espérons que les chauffeurs Uber de Chine et d’ailleurs le comprennent et entretiennent leur habileté à discuter avec leurs clients, voire à les faire rire, pour mieux se distinguer de l’algorithme. Au fond, c’est là l’une des opportunités de la révolution algorithmique  : elle nous oblige à miser sur ce qu’il y a de plus humain en nous, et sur notre créativité.

Je ne pense plus, donc je ne suis plus  !

C’est à nous, et à nous seuls, de décider de la forme des évolutions sociales qui accompagneront la révolution algorithmique.

L’ego mal dompté et surdimensionné est le pire ennemi de l’humanité, je l’observe régulièrement.

«  Il faut distinguer ce que l’IA sait faire de ce qu’elle ne sait pas encore faire… et de ce qu’elle ne saura jamais faire  !  »

Le personnage central de ce voyage n’est pas l’algorithme, encore moins ma personne… Le personnage clé de cette histoire, c’est le biais algorithmique. C’est lui qui nous plonge dans une passion nous empêchant de raisonner efficacement. On accuse les algorithmes faute d’avoir d’autres coupables sous la main. On hurle au scandale sans chercher à éviter les scandales. On voudrait en découdre, mais sans le choix des armes. Autrement dit  : on tourne en rond, dans un cercle dont le rayon ne cesse de diminuer, en réduisant au passage nos propres degrés de libertés. Il est grand temps d’en sortir.

.