La Fin de l'Individu, Voyage d’un philosophe au pays de l’intelligence artificielle, Gaspar Koenig Edition DE FACTO L’OBSERVATOIRE LE POINT

LA FIN DE L’INDIVIDU,   Voyage d’un philosophe au pays de l’intelligence artificielle, Gaspar Koenig Edition DE FACTO L’OBSERVATOIRE LE POINT

 ». Entamer une relation affective avec un robot ne représente pas l’avant-garde du progrès, mais au contraire une terrible régression pour notre civilisation.

La discussion sans fin autour des valeurs, la frontière perpétuellement contestée entre les préférences individuelles et l’utilité commune, l’impossibilité de trancher les questions morales une fois pour toutes ne sont pas le signe d’une défaillance de l’esprit humain comme le pense absurdement Bostrom12, mais au contraire une preuve de progrès social et culturel.

Lutter contre deux millénaires de dualisme pour accepter qu’il n’y a pas un esprit recevant les informations du corps et lui donnant des directives en retour, mais un organisme unique s’exprimant sous des modalités diverses. Comme l’écrit Spinoza, «  la substance pensante et la substance étendue sont une seule et même substance, qui se comprend tantôt sous l’un, tantôt sous l’autre attribut17  ».

Les économistes se moquent volontiers de cette «  fin du travail  » fantasmée par les sociologues ou les politologues…./«  la tech crée toujours davantage de jobs qu’elle n’en détruit  ». En imaginant des produits et des services qui n’existaient pas la veille, elle génère automatiquement de nouveaux marchés, multipliant les opportunités

Au fond, nos peurs reflètent notre tendance naturelle à enfermer l’avenir dans les paramètres du présent.

Loin des chambres de bonne auxquelles nous sommes habitués en France, ce sont de véritables institutions, occupant des immeubles entiers, dotés de budgets de plusieurs dizaines de millions de dollars, et mobilisant des chercheurs du meilleur niveau académique. Ils tissent un lien vital entre le monde de la politique et celui de la recherche, lien qui nous manque cruellement dans notre société française, trop confiante en la gestion administrative des affaires publiques.

Un algorithme pour estimer automatiquement l’âge des os, sur la base de milliers de radios labellisées et stockées sur des serveurs informatiques.

Les formes traditionnelles de perception et de savoir restent nécessaires en amont, même si elles deviennent invisibles une fois que l’algorithme a atteint sa maturité.

L’IA ne fera disparaître que les métiers dont la pratique ne demande aucune appréhension du contexte, aucune interaction avec l’environnement extérieur, aucune initiative fondée sur la connaissance d’autrui.

Le système économique actuel comme un capitalisme de rente produisant environ un tiers de fonctions inutiles, destinées à perpétuer des mécanismes bureaucratiques, à entretenir l’illusion d’une activité débordante ou à simplement à conforter des ego.

Quel algorithme pourra jamais produire des rapports inutiles  ? Le FMI s’y est essayé sans succès pour ses papiers d’analyse pays. Pour faire semblant de donner du sens à un document qui par nature n’en a pas, il faut toute l’ingéniosité d’un esprit humain…

La menace n’est pas tant le surgissement de l’IA dans le monde réel que la transformation du monde réel pour accommoder l’IA.

La peur de l’automatisation est devenue la forme contemporaine du mépris de classe.

Les  applications industrielles de l’IA, qui se développent de manière fulgurante, tendent à éliminer le choix individuel de nos existences.

«  la fin du libre arbitre  » caractérisait l’ère de l’IA.

Très forte prédictibilité des utilisateurs de Facebook, se conformant de manière quasi systématique à ce que les data permettent d’anticiper. Dans un monde déterministe, il faut contrôler en amont le comportement du citoyen, plutôt que de le sanctionner en aval.

Impossible d’échapper à soi-même.

Chacun est nudgé en fonction des données qu’il a fournies et qui permettent d’identifier son comportement précis. Le nudge est doublement déterminé par la prise en compte du bien-être de l’utilisateur d’une part et de l’utilité collective d’autre part. C’est en cela qu’il est éminemment politique.

«  Votre cerveau est programmable. Vous avez juste besoin du code.

«  behaviourisme radical  », pour me convaincre que les comportements humains sont le produit de leur environnement par une boucle continuelle d’action et de rétroaction.

Trump n’est pas un président qui twitte, mais un twitto élu président par la logique même du retweet. Les esprits les plus fins s’abîment à proférer des jugements définitifs en 280   signes.

Par le jeu des data, Internet est devenu un espace qui, loin d’accueillir les différences, renforce les ressemblances.

«  Dans l’avenir, les gens seront transparents  », promet également Fan. Les algorithmes de Baihe corrigent la tendance naturelle à la vantardise et à la dissimulation. Bientôt, on comprendra que plus rien ne sert de faire semblant si l’on veut bénéficier des avantages de l’optimisation.

Ceux qui tentent de feinter l’algorithme vont-ils être dénoncés pour comportement antisocial  ?

Henry Kissinger dans The Atlantic considère l’IA comme le début de la fin des Lumières.

Les applications industrielles, telles qu’elles sont conçues aujourd’hui, mettent en péril la capacité de choix individuel en multipliant sur une base utilitariste les techniques de nudge.

La question posée par Foucault est tout simplement celle des Lumières. Penseurs et réformateurs avaient voulu affranchir l’homme de ses tutelles extérieures, qu’elles soient politiques, économiques ou intellectuelles. Ils ont si bien réussi que les technologies issues d’une société libre œuvrent aujourd’hui à rétablir la pire des tutelles, une tutelle intérieure, gouvernant les choix les plus intimes au nom du bien-être individuel et collectif. C’est en ce sens que l’homme pourrait s’effacer, comme à la limite de la mer un visage de sable, comme au milieu du sable le visage consumé du Burning Man.

Adaptation institutionnelle aux technologies.

Des algorithmes de reconnaissance faciale ont pu confondre tragiquement des visages noirs avec des singes, faute d’avoir été entraînés sur une base suffisamment représentative de la population.

L’homme n’est plus un producteur conscient de connaissances mais un récepteur passif d’informations.

L’officier dit  : Ne raisonnez pas, exécutez  ! Le percepteur  : Ne raisonnez pas, payez  ! Le prêtre  : Ne raisonnez pas, croyez  ! Voilà comment Kant décrivait les âges sombres de soumission et d’ignorance, que les Lumières devaient dissiper en donnant à chacun le courage de se servir de son propre entendement. Sapere aude  ! Ose penser  ! Voilà qui augurait d’un avenir meilleur. Sauf qu’aujourd’hui à nouveau le psychologue dit  : Ne raisonnez pas, vous vous trompez  ! Le neuroscientifique  : Ne raisonnez pas, vous vous illusionnez  ! L’économiste  : Ne raisonnez pas, vous vous ruinez  ! Et finalement l’informaticien  : Ne raisonnez pas, laissez-moi faire. Tous ont d’excellents arguments. C’est d’ailleurs le cœur du paradoxe  : la machine a ses raisons que la raison ne connaît plus.

«  C’est parce que je n’étais point un adversaire de la démocratie que j’ai voulu être sincère avec elle  », précise Tocqueville dans son avertissement. J’aimerais en dire autant de l’IA.

«  en quoi sommes-nous uniques  ?  » La création n’est plus l’exaltation du moi mais sa dissipation. Ce n’est plus l’artiste qui fait l’art  ; c’est l’art qui élimine l’artiste.

Sans illégalité, la légalité ne se vide-t-elle pas de son sens  ?

De même que l’âge industriel a donné naissance à la personnalité morale des entreprises, l’ère numérique devrait nous permettre de penser la responsabilité juridique de l’algorithme.

Tout Noir sera mécaniquement jugé à risque. L’algorithme enferme l’individu dans une identité qu’il ne s’est pas choisie.

L’IA est avide par nature  », m’explique-t-il. Pourquoi avide («   greedy  »)  ? Parce qu’elle optimise les données du groupe majoritaire pour dégager des régularités immédiates, en se souciant peu des divergences.

Ainsi l’IA pourrait-elle parvenir à un traitement «  aveugle  » des situations individuelles, qui constitue depuis l’Antiquité un idéal d’équité  : ce n’est pas un hasard si Thémis, déesse de la justice, est représentée les yeux bandés. Appliquée à la gestion des rapports sociaux, l’IA pourrait donc nous aider à surmonter ou du moins à laisser de côté nos préjugés individuels, en phase avec les préoccupations actuelles de l’intelligentsia américaine.

Une question devient véritablement centrale quand elle cesse d’être traitée de manière isolée. On a pu voir ce processus se produire pour l’environnement.

Algorithmes et responsabilité sociale sont les deux facettes d’un inquiétant retour de la morale collective.

Équité algorithmique, explicabilité des décisions, concurrence, vie privée, anonymat, propriété des données  : tous les problèmes soulevés par l’IA sont sur la table.

Par sa capacité à intervenir de manière précise sur nos choix, l’IA contrôle les individus de manière plus intime que la loi et plus efficace que la violence légitime. Nous continuons à faire comme si de rien n’était, entretenant le théâtre d’une délibération collective là où le véritable pouvoir normatif a d’ores et déjà été transféré aux algorithmes. Consciemment ou non, les citoyens ont fait sécession en emportant leurs data avec eux. Ils se sont offerts à un nouveau maître.

L’IA met à mal la notion de représentativité politique  :

Déterminer une volonté générale à la majorité absolue, fût-ce par référendum, semble bien simpliste et imprécis par rapport à l’optimisation des préférences individuelles dont les algorithmes sont capables  : pourquoi ne pas laisser une IA, nourrie par les opinions des citoyens, trancher les questions de politique publique36

Les gouvernements aujourd’hui sont loin d’être tranquilles  ; ils s’affairent en tous sens pour tâcher de démontrer leur légitimité  : mais n’est-ce pas l’agitation du désespoir, le chant du cygne du système représentatif  ?

Une société automatisée, où les citoyens sont de plus en plus pris en charge dans leurs choix par des robots, ne vont-ils pas simplement se retirer du processus démocratique, laissant le terrain libre aux autocrates  ?

C’était déjà l’inquiétude de Tocqueville  : dans une société individualiste où le goût des jouissances matérielles éloigne les citoyens de l’intérêt public, les décisions collectives pourraient être confiées avec insouciance au premier qui voudrait bien s’en charger.

Si mon bien-être est assuré de manière optimale par une myriade d’apps et d’objets connectés, à quoi sert de voter pour un représentant  ?

La tech a fait naître en nous une exigence de service qu’aucune Déclaration des droits de l’homme ne pourrait remplacer.

On voit ainsi comment pourrait naître une forme de gouvernance par l’utilité, assurée de manière diffuse par des IA en réseau. Les plateformes pourraient effectuer bien mieux que les gouvernements le calcul des plaisirs et des peines.

Le rhizome est une tige qui court souterrainement, suivant sa propre logique, en se manifestant aléatoirement sous forme d’orties ou de roseaux. Autrement dit, ce n’est plus l’individu qui se branche sur un réseau, mais le réseau lui-même qui génère une illusion d’individu. Est-ce un hasard si Deleuze décrit la progression du rhizome comme un phénomène «  machinique40  »  ? Le jour où Replika pourra deviner et orienter nos pensées intimes, l’IA aura prouvé que la personnalisation la plus précise s’accompagne d’une désindividuation sans retour  : si mes processus émotionnels et intellectuels deviennent de simples variables agrégées avec des millions d’autres données et traitées par des algorithmes anonymes, que reste-t-il du «  moi  »  ? Loin de constituer une entité autonome, capable de jugement et de décision, le sujet devient une simple émanation provisoire de flux qui le dépassent. La pensée de la multiplicité se substitue à une ontologie de l’arborescence. Mille Plateaux donne ainsi une valeur positive à la mort de l’homme annoncée par Foucault et mise en scène par le Burning Man. Enfin, nous allons pouvoir abandonner notre carapace de subjectivité consciente pour nous laisser entraîner vers des devenirs révolutionnaires, minoritaires, désirants, pour reprendre le vocabulaire deleuzien. En soumettant son corps et son esprit à des agencements inédits, en se laissant dériver le long du rhizome et de ses bifurcations soudaines, on se rapprochera des flux qui forment l’unité du monde, ce «  plan d’immanence  » que Deleuze recherche de livre en livre. Il y a une forme d’authenticité à accepter le désordre, le chaos dans lequel nous sommes plongés.

Dans un monde où le progrès dépend de l’accumulation de données, l’avantage ne passe-t-il pas irrémédiablement aux pays autoritaires  ? La vie privée, autrefois gage de créativité, ne devient-elle pas un obstacle à l’optimisation  ?

L’IA est devenue en Chine le projet d’une société entière, défini comme tel dans la stratégie nationale dévoilée par le gouvernement en juillet   2017.

La Chine, totalement immergée dans la modernité la plus effrénée, mais parcourue de réminiscences discrètes de sa civilisation plurimillénaire.

Améliorer les techniques d’enseignement, en décelant les corrélations entre comportement des enfants, performances scolaires et méthodes du professeur…

L’entrepreneur chinois vient souvent d’un milieu populaire, où le souvenir de l’extrême pauvreté remonte à une seule génération

Des français à Shanghai ou à Pékin se laissent souvent séduire par le modèle chinois. Ils en viennent à se méfier de nos démocraties décadentes, faites de palabres incessantes et de prudence excessive.

Une nouvelle ère, où le «  Made in China  » désignera non plus la production à bas coût, mais le paradigme de la modernité.

 «  le lac des données  », point d’aboutissement des rivières qui jaillissent depuis une infinité de sources logées dans l’industrie, le gouvernement ou les plateformes (une autre interlocutrice me dira  : «  les données sont comme l’eau qui coule  »). C’est une ressource naturelle fondamentale qui permet l’alimentation des algorithmes, le bien-être des citoyens et la communication entre tous les secteurs. Ce lac est unique.

Le paradigme chinois se précise  : un lac de données alimenté par des sources variées, exploité par des géants de l’IA avec la bénédiction du gouvernement et sous le contrôle attentif de la police. Le citoyen, connecté du matin au soir et du soir au matin, y gagne bien-être et sécurité. Qui serait assez fou pour s’en plaindre, dans un pays qui a encore la mémoire vive de la guerre civile et de la famine  ?

Et on doit aux autres de ne pas se refermer en soi-même comme ces ermites condamnés par Confucius. Ne serait-il pas honteux de «  cacher son trésor dans son sein et laisser le pays courir à sa perte  »  ? De même qu’il paraîtrait aujourd’hui égoïste et irresponsable de cacher en son sein le trésor de ses data sans les partager avec le reste de la communauté…Corollairement, la pression sociale est source de perfectionnement  : «  Quand on se promène ne serait-ce qu’à trois, chacun est certain de trouver en l’autre un maître, faisant la part du bon pour l’imiter et du mauvais pour le corriger en lui-même.  » C’est en s’observant les uns les autres que l’on peut s’amender individuellement et progresser collectivement. Comment ne pas y voir une justification philosophique lointaine du crédit social déployé à grand renfort d’algorithmes par le gouvernement, qui encourage les citoyens à se noter entre eux en fonction des services rendus ou de leur contribution au bien commun  ?

CCCC désigne le régime en place  : «  Chine Capitaliste Confucéenne Communiste  ». Voilà qui semble une excellente description de la Chine contemporaine. Capitaliste parce qu’elle permet aux entrepreneurs de s’enrichir dans le jeu de la concurrence. Confucéenne parce qu’elle fait primer le Bien commun sur toute autre considération. Communiste parce que l’État reste le garant suprême de l’ordre social.

«  L’IA aide le Parti communiste à augmenter le temps passé à s’abrutir sur un smartphone.

personne, quelles qu’en soient les conséquences industrielles. Plus de droits, moins d’IA  : l’équation est limpide. La question qui reste ouverte est de savoir si l’on peut dans ces conditions rester dans le jeu de la compétition économique mondiale, ou s’il faut se résigner à devenir à plus ou moins long terme une colonie numérique.

Mes données de santé permettent d’améliorer la recherche. Mes données de consommation électrique, désormais captées par les «  compteurs intelligents  », permettent d’optimiser la gestion du réseau et donc de diminuer la production d’énergie et de sauver la planète. Mes données de recherches Internet permettent de mieux comprendre et prévenir la diffusion de fausses rumeurs. Mes données de comportement sexuel permettent de limiter certaines épidémies et de mieux identifier les discriminations. Et mes données génétiques ne permettraient-elles pas de mieux contrôler l’évolution de la population  ? Quelle est la différence entre le modèle du en même temps et le Bien commun à la chinoise, sinon que la servitude devient volontaire  ?

Passion juive de l’intelligence. Israël se vante ainsi de compter la plus forte proportion au monde de citoyens détenant un diplôme scientifique (1,5  %, contre 0,7  % aux États-Unis). Chacun essaye d’être un «  besserwisser  », comme on dit en yiddish  : celui qui connaît tout mais aussi qui questionne tout, sans être freiné par les tabous de la société américaine ni par la censure du régime chinois.

L’IA répond aux aspirations de la culture hébraïque, d’abord en proposant un nouveau défi à l’intelligence humaine et en repoussant les frontières de la science, mais aussi en esquissant la possibilité d’un savoir universel, capable de résoudre aussi bien les flux de circulation automobile que les démonstrations spinozistes. Si tout langage est réductible à la logique et si la logique ne peut se déployer autrement que par le langage, comme l’envisageait Wittgenstein, alors l’IA pourrait bien achever la connaissance humaine. Mieux que la Torah

Tension à l’œuvre dans tout l’écosystème numérique américain. Plus de data, c’est plus d’efficacité. Moins de data, c’est plus de liberté.

Max Weber avait associé l’esprit du capitalisme, défini par la création de richesses, avec l’éthique protestante, qui fait du travail une véritable mission et de l’ascétisme une règle de vie. Il faut réussir en affaires non pour jouir de sa fortune mais pour obéir aux commandements bibliques.

Google ne peut être à la fois efficace et vertueux  ; pour servir l’individu, il doit le mettre à nu. L’IA oblige à dissocier l’esprit du capitalisme et l’éthique protestante. Voilà pourquoi les États-Unis ont perdu leur vocation, comme je l’ai entendu à de nombreuses reprises. Jakob ne sera jamais Franklin. On comprend mieux le tourment de mes interlocuteurs américains, écartelés entre le souci de bien faire –  moralement  – et l’impératif de faire mieux –  techniquement. La crise de la morale protestante plonge les acteurs de la tech dans un trouble réel et les pousse à chercher des alternatives spirituelles, bouddhistes par exemple.

Mais il faut admettre que l’IA a sorti le capitalisme protestant de l’âge de l’innocence et qu’un malaise profond travaille l’ensemble de la société américaine.

Société divisée entre d’un côté des «  yuppies  » hautement éduqués, conscients des mécanismes technologiques et s’offrant régulièrement des data detox, et de l’autre des «  hippies  » accros aux écrans et subventionnés par une forme plus ou moins aboutie de revenu universel.

Lee Drutman se demandait ainsi avec franchise comment le système politique pourrait survivre à l’abêtissement généralisé des citoyens.

Cybersécurité. Mais celle-ci en cache une autre, plus profonde  : comment ces trois modèles –  confucéen, stoïcien, protestant  – vont-ils interagir à mesure que l’IA va se développer  ?

La Chine a modestement œuvré comme l’atelier du monde pendant des décennies, conduisant les pays occidentaux à saborder peu à peu leur base industrielle, tout en fournissant à leur population des biens de consommation courante à des prix irrésistibles.

Alors que l’IA nous impose de raccourcir la chaîne de valeur et de produire localement, nous nous retrouvons nus.

L’IA remet en cause cette dynamique en reconstituant des pôles impériaux. L’éléphant deviendrait chameau, avec deux bosses correspondant à la Chine et aux États-Unis. Les altermondialistes verraient soudain leur rêve réalisé, mais d’une manière inattendue  : en devenant eux-mêmes des colonisés numériques.

Si l’IA nous permet, par de savantes techniques de nudge, de connaître et de contrôler les individus à distance, pourquoi les conquérants de demain auraient-ils besoin de s’emparer d’espaces physiques  ? Ne serait-il pas plus économique, plus efficace et plus conforme à nos cultures pacifiées de se contenter de manipuler les comportements  ? Mieux vaut orienter des millions de processus d’achat que piller des villes. Le résultat est le même  : un gain économique et une satisfaction d’orgueil.

Le libre arbitre est contesté par la science et balayé par la technologie.

Nos désirs inconscients. Mais au fond, est-ce un problème  ? En me réduisant à un simple sujet biochimique, l’IA me permet de prendre conscience de mon être véritable, avec son lot de dénis et d’addictions.

«  Le meilleur libéralisme, résume-t-il après mes relances, est celui qui nous libère de nos désirs insensés.  »

Spinoza me revient en tête. Au dernier livre de l’Éthique, ne nous promet-il pas la liberté par la prise de conscience des causes et de la nature de nos affects  ? Car «  on ne peut inventer en pensée de meilleur remède aux affects qui dépendent de notre pouvoir, que celui qui consiste dans leur vraie connaissance1  » –  le troisième et ultime stade de la connaissance pour Spinoza. Afin de contrôler nos pulsions et nos émotions, il faut établir leur vérité, comprendre la part d’éternité qu’elles recèlent, plutôt qu’essayer de les réprimer.

En nous livrant à volonté un compte rendu détaillé de nous-mêmes, preuves à l’appui, l’IA ne rendrait-elle pas une telle connaissance plus accessible  ?

Affranchie de ses désirs les plus encombrants, la nouvelle humanité sera pacifiste, écologiste et communautaire. Telle est la signification ultime d’Homo deus  : non pas la conquête de l’autonomie, mais un chemin personnel vers la «  béatitude  », comme dirait Spinoza. Dans la mesure même où elle est capable de nous manipuler, l’IA se met perversement au service de notre libération.

La fin de l’individu crée peut-être des problèmes politiques à court terme, mais elle offre à Homo sapiens une puissante solution métaphysique en lui promettant de dépasser ce qui restait d’animal en lui.

Radical Markets. Ses thèses, qui peuvent sembler à première vue fort éloignées de celles d’Homo deus, me semblent refléter la même conception d’une humanité nouvelle, rompant avec les Lumières et leur idéal d’autonomie.

Mais pourquoi mériterais-tu ta maison à perpétuité, alors qu’elle n’a été payée qu’une seule fois, par toi-même ou pire encore par tes ancêtres  ? Si tu ne l’entretiens pas, si tu n’y investis pas, un autre ne pourrait-il pas en faire un meilleur usage  ?

L’individu n’existe pas sans les échanges qui le façonnent. Pourquoi vouloir à tout prix être unique  ? Regarde aujourd’hui, avec l’économie du partage, combien l’expérience prend le pas sur la possession. On s’affranchit peu à peu du “fétichisme de la marchandise”,

Qui sera à même de faire des choix en lieu et place de l’individu, impuissant et débordé, constamment déplacé d’une habitation à l’autre au hasard du marché  ? Une IA, bien entendu. La boucle est bouclée. Pour Harari, l’IA transforme l’individu en «  dividuel  ». Pour Glen, la disparition de l’individu, privé de son halo patrimonial, ouvre la voie à une organisation optimale des échanges gérée par l’IA. C’est la même vision, illustrée par deux perspectives complémentaires, et fortement imprégnée de bouddhisme.

La propositions de données inadéquates et donc le risque de fausses corrélations augmentent de manière exponentielle avec leur accumulation.

Plus l’on fonctionne en flux tendus, plus l’on doit s’attendre à ce qu’un incident grippe l’ensemble du dispositif.

Un système sous-optimal, laissant davantage de place à la surprise et à l’erreur, s’avère «  antifragile  », capable d’absorber les chocs et de les transformer positivement.

Dans les ports autonomes chinois, la moindre anicroche, ne serait-ce qu’un chewing-gum jeté sur une bande de signalisation, peut avoir des conséquences graves. Il faut donc protéger et sécuriser le port, le mettre sous cloche. Mais ce faisant, on l’empêche d’évoluer et de s’améliorer. N’est-ce pas le comble du paradoxe  : l’optimisation s’oppose au perfectionnement  !

Un monde scrupuleusement soumis à la logique de l’IA serait irrémédiablement entropique, tendant vers une forme de stabilité glacée. Répétition des échanges, immutabilité des métiers, irrévocabilité des amours.

L’esthétique comme la commodité de l’habitat viennent de l’histoire et de son cortège

Les plus grandes découvertes, dans l’histoire des sciences comme dans l’existence d’un individu, se produisent en dehors des objectifs que l’on s’était fixés.

L’imprévisibilité ne représente pas un défaut de connaissance auquel il faudrait remédier, comme semblent le penser les thuriféraires actuels de l’IA5. Elle constitue plutôt un élément fondamental de l’évolution du savoir.

Comment ne pas devenir dividuel

Comment être libre, et responsable, quand notre pensée est le simple produit d’un champ de forces qui la dépasse  ?

En empruntant les concepts des neurosciences, on pourrait dire que l’évolution a construit le chemin d’une synapse à l’autre afin que je puisse forger mon propre jugement d’une manière satisfaisante.

Nous ne sommes pas dotés à la naissance de libre arbitre, comme si une fée s’était penchée sur le berceau de l’espèce humaine  ; contrairement à la formule malheureuse de notre Déclaration des droits de l’homme, nous ne sommes pas «  nés libres  ». En revanche, nous pouvons cultiver et fortifier notre arbitre libre. C’est la clé de notre responsabilité, ni donnée (biologiquement) ni présupposée (intellectuellement), mais objet d’une lente élaboration.

Luther, les humanistes d’aujourd’hui peuvent s’appuyer sur les neurosciences pour maintenir la possibilité du jugement personnel. C’est ainsi que nous pourrons ultimement retrouver l’individu sous les data, en mettant l’IA à notre service.

La décision vaut moins par son résultat que par son processus, qui structure peu à peu notre personnalité. Pour ne pas devenir dividuel à l’ère des algorithmes, pour générer ces déviances qui sont les conditions de l’évolution biologique et sociale, il ne suffit pas de commettre des «  actes gratuits  », aussi éphémères que superficiels. Il faut pouvoir assumer des choix profonds et délibérés, peut-être sous-performants en termes d’utilité, mais indispensables à la formation d’une individualité. Ce faisant, on n’agit pas contre soi-même  : on devient soi-même.

Harari nous explique que l’IA nous connaît mieux que nous-mêmes et qu’il vaut mieux lui déléguer nos décisions faute de libre arbitre, j’estime que l’IA nous empêche de devenir nous-mêmes et de constituer notre arbitre libre dans l’exercice même de la délibération. Là

Laisser l’IA et ses recommandations gérer entièrement nos vies, sous prétexte que les algorithmes, comme Dieu autrefois, pourraient choisir le meilleur des mondes possibles.

Si l’on veut préserver l’individu à l’ère de l’IA, la question qui se pose est désormais bien cernée  : comment exercer techniquement ce droit à l’errance, ce droit à la déconnexion  ?

La volonté de déconnexion est une forme d’ermitage moderne, attirant les contestataires les plus radicaux. Aussi salubre soit-elle d’un point de vue individuel, elle ne pourra jamais tenir lieu de modèle de société.

La caractéristique d’un acte libre n’est pas de rompre avec le cours des choses, mais au contraire de se produire dans la continuité d’une histoire personnelle.

C’est l’ensemble des millions de délibérations que nous avons effectuées au cours de notre existence qui aboutissent à ce résultat. Et ces délibérations reflètent notre personnalité véritable.

La moralité spontanée, instinctive, est la manifestation de nos qualités ou de nos défauts les plus profonds.

Il n’y a aucune raison de se laisser entraîner sur la pente de l’utilitarisme. Chacun doit pouvoir établir ses propres critères d’action.

Unêtre humain doit effectuer en moyenne 35   000   décisions par jour  ! La machine pourrait nous aider à désengorger nos facultés cognitives pour nous concentrer sur les choix les plus importants.

Effets sur l’humanité de cette paresse cognitive.

Il faudrait pouvoir exercer sa prérogative morale en déterminant par avance son nudge, de manière consciente et volontaire. On retrouverait ainsi sa capacité de délibération, son arbitre libre. Mais afin de profiter de l’optimisation des préférences offerte par l’IA, on pourrait enfouir ces choix dans les profondeurs du code comme dans celles du subconscient, quitte à les réexaminer de temps à autre. Chacun deviendrait le nudgeur de ses propres nudges  : on déléguerait à la machine ses décisions quotidiennes, mais non le processus qui a conduit à les prendre…

Délibération, engageant toute notre responsabilité et exprimant notre individualité profonde, dans la conception de la Prime Directive  : le processus d’élaboration du choix cher à Daniel Dennett serait respecté. Mais on laisserait ensuite les algorithmes prendre en charge nos décisions quotidiennes, de manière nécessairement moins performante mais aussi plus respectueuse de la diversité de nos représentations du monde. Il n’est pas question de renoncer à la puissance de calcul de l’IA, mais simplement de la canaliser. Tel Ulysse qui se fait attacher au mât de son bateau pour résister au chant des sirènes, nous effectuerions le travail de délibération avant de nous embarquer dans nos mille aventures journalières. Il s’agit, en quelque sorte, de précharger l’arbitre libre28.

L’idéal de la Prime Directive représente ainsi le triomphe du choix personnel sur l’utilité collective, de la responsabilité individuelle sur le fatalisme biochimique, de J.   S. Mill sur Bentham. C’est le droit à l’errance inscrit au cœur même de l’IA.

J’ai rencontré à New York Alex Elias, fondateur de la start-up Qloo, qui a pour ambition de croiser les préférences individuelles entre différents domaines  : si vous aimez telle musique et tel film, alors vous devriez essayer tel restaurant ou prendre tel rendez-vous galant… Qloo pourrait être le Netflix de la vie, enfermant ses utilisateurs dans une logique de recommandations holistique, à laquelle rien n’échappe. En un sens, cette volonté de «  personnalisation culturelle  » représente tout ce qui m’effraie dans l’IA.

Nous passons notre vie numérique à nourrir sans le savoir des IA qui nous manipulent en retour.

Notre cerveau est soumis à un hacking permanent, rendu possible par cet éparpillement des données. Ouvrir Internet, c’est exhiber son intimité sur la place publique, comme cet empereur du conte d’Andersen qui se croyait vêtu d’une étoffe précieuse alors qu’il était nu.

Comment pourrais-je accéder gratuitement aux services de Facebook ou de Google si je ne donne rien en échange

Aujourd’hui, nous sommes des serfs numériques, abandonnant toute notre récolte de données en échange de services gratuits, d’une valeur discutable, fournis par nos nouveaux seigneurs. Nous postons un milliard de photos par jour sur Facebook. Oui, un milliard. Une fois traité par des algorithmes qui de plus en plus intègrent la reconnaissance faciale, ce trésor de données génère pour Facebook des profits trimestriels de l’ordre de plusieurs milliards de dollars. Quel pourcentage revient au producteur initial

Si Waze m’indique le meilleur itinéraire mais que je refuse de recevoir sur mon écran des publicités pour les restaurants sur ma route, il faut trouver une autre manière de dédommager la plateforme. Sinon, je deviendrais un passager clandestin, bénéficiant des données d’autrui sans rien partager en retour. L’anonymat a un prix.

On ne résout pas la question des sans-abris en abolissant la propriété mais en faisant en sorte que tous y aient accès.

lIntroduction d’un revenu universel permettant de couvrir les besoins de base. Si l’on estime que la vie privée en fait partie, alors le prix moyen des données personnelles devrait logiquement être intégré dans le calcul du montant de ce revenu universel, afin que chacun puisse définir librement les termes de son contrat numérique et choisir son niveau de nudge en toute conscience. Le revenu universel permet de racheter son autonomie tout en continuant à bénéficier des progrès technologiques.

En introduisant une possibilité de divergence individuelle, la propriété des données engendrera des accidents de la circulation, des émissions carbone et des ruptures amoureuses. Elle empêchera la société de tourner parfaitement rond. En cela, elle rétablira la possibilité de l’évolution… comme de la régression. Lourde responsabilité pour le législateur que de tolérer de tels aléas, immédiats et concrets, en échange d’une vague promesse de progrès. Mais c’est sur cette ligne de crête que se jouera la lutte entre le nudge et l’autonomie, entre la servitude bienheureuse et le retour des Lumières.

Pourquoi nous inquiétons-nous de la présence de bisphénol   A dans les biberons et pas des cookies sur les iPad des enfants  ?

La technologie, en changeant tout dans la société, ne change pas grand-chose à nos sentiments.

///