Les Robots
et le Mal, Alexei Grinbaum, Desclée De Brower
Dans une communication
officielle, la Commission européenne va jusqu’à placer la transparence au même
niveau que les valeurs et les droits fondamentaux de l’Union. Or le désir de
transparence absolue dans le numérique ne nous conduirait-il pas à subir le
même sort que les habitants de Sodome ? (p. 8)
.
Contre la transparence.
Comme si, voulant désavouer la Commission européenne, je proposais de violer un
droit fondamental de l’homme.(p. 9)
Tout se passe donc comme
dans le récit biblique. Mais le fruit qu’ils consomment est inattendu. À la
place de la pomme, Ève tient l’autre Apple, un iPhone de la marque éponyme. Et
l’acte de consommation consiste à partager avec Adam la musique qui sort de
l’appareil.
(p. 9).
Une forme de responsabilité
« parentale » appartient également à ceux qui mettent au monde des
connaissances nouvelles et des innovations technologiques. (p. 11).
Il s’agit du paradoxe dit «
de la nouveauté en éthique » : si une technologie disruptive, radicalement
nouvelle, couvre un champ d’action inédit, alors les questions éthiques qu’elle
pose nous semblent tout aussi nouvelles et incommensurables avec la réflexion
morale qui l’a précédée. (p. 12).
Les grandes innovations du
monde numérique sont ambiguës sur le plan éthique. (p. 15).
Comment faire pour que les
concepts du bien et du mal restent purement humains, et que les machines ne se
substituent pas à nous en tant qu’agents moraux. (p. 15)
Les machines doivent être
soustraits à la justice des hommes, par conception. (p. 19
Le hasard occupe une place
de choix parmi les valeurs de la machine : il est le seul à pouvoir l’extirper
des conflits humains. (p. 22).
Quoiqu’il puisse faire peur
ou qu’instinctivement on n’en veuille pas, recourir au hasard est la seule
solution dès lors qu’un système informatique est impliqué dans un dilemme
éthique.(p. 22).
Un jeune geek, issu de cette
« génération Z » dans laquelle on devient utilisateur presque avant la
naissance, écrit à son petit ami : « jtm », à la place de « Je t’aime ». Il
imite en cela les valeurs de la machine, en compressant l’information. Or,
cette compression ultime des phrases ne fait pas partie de l’histoire des
langues ; une valeur nouvelle nous est communiquée par les systèmes
informatiques. Et ce n’est ni bon ni mauvais en soi ; il s’agit d’une évolution
culturelle comme tant d’autres. (p. 26).
Les problèmes éthiques
naissent précisément de cette indistinction fonctionnelle perçue par les
utilisateurs, celle-là même que le concepteur cherche à obtenir. (p. 27).
Satan n’est pas une personne
: son nom désigne une fonction au sein d’un conflit humain. (p. 29).
La religion n’a plus « la
force de détermination de l’âme ». La raison seule serait-elle capable d’innover
en éthique ? (p. 33).
Les catastrophes deviennent
des instruments de pensée employés à construire une éthique. En quittant ce
temps de la pensée, Dupuy s’interroge sur les conséquences morales du progrès
technique. Contrairement à Jonas, il pose la question d’un nouveau sacré,
propre à un monde qui regarde la catastrophe en face, où tout se trouve remis
en jeu, jusqu’à l’existence de l’humanité. Ce nouveau sacré, généré par la
technique, structure et ordonne la société humaine. (p. 35).
L’ingénieur croit souvent
que la technologie dont il s’occupe, parce qu’elle est nouvelle, pose de
nouvelles questions éthiques. La méthode homologique suggère au contraire qu’il
n’existe pas de nouvelles questions éthiques. Le contexte change, pas le motif.
Si une homologie utile se dégage, un motif commun émerge entre la situation
contemporaine et celle que rapportent les grands récits de l’humanité. (p. 39).
Mais une nature qui vit, qui
voit, qui tire d’elle-même le principe de son mouvement, qui discerne ce qui
lui est propre de ce qui lui est étranger, a reçu en elle une émanation de la
beauté et une parcelle de l’intelligence.(p. 49)
L’Un laisse entrevoir les
différents aspects de son être à travers ce que les hommes appellent des «
dieux » en leur donnant des noms divers ; mais ce ne sont que des aspects de
l’Un, et non quelques existences souveraines ou indépendantes. Même si les noms
des dieux sont différents en fonction des peuples, ils s’emploient à la même
tâche et occupent la même fonction dans différents cultes.(p. 51).
Seul un poète dirait qu’une
queue comprenant plusieurs centaines de dévots postés devant une boutique dans
l’attente de la mise en vente du dernier modèle d’un smartphone est la foule
massée devant un sacrifice collectif. (p. 56).
La société ne serait qu’un
ensemble de données dont il serait nécessaire d’extraire le sens afin d’en
déduire les lois du progrès social. (p. 58).
La diffusion du secret crée
une fracture dans la société ; et cette scission redessine les frontières mêmes
de la société. Cette boucle de rétroaction entre en flagrante contradiction
avec l’idée démocratique de la transparence : les relations entre les individus
dépendent désormais de leur situation vis-à-vis du secret, donc vis-à-vis de
quelque chose d’opaque. La croyance, inculquée par le positivisme daté, selon
laquelle « tout sera clair » et que « tout le monde aura compris », se heurte à
la persistance des connaissances voilées, gardées par des experts ou des
initiés. (p. 59).
Pascal Quignard dit que ce
qui fascine est ce qui pointe tout en demeurant voilé, ce dont la présence est
indirecte mais insistante. L’accès au secret voilé est réservé à un prêtre, à
un initié ou à un expert. L’ignorant, faute d’avoir les connaissances requises,
traite la source de sa fascination comme l’objet d’un culte à mystères, que son
origine soit technique ou religieuse. (p. 60).
Sitôt que l’homme reçoit une
information, il l’interprète et lui donne un sens, il en fait une information à
propos de quelque chose. Un ordinateur, au contraire, transforme et communique
l’information sans se préoccuper spontanément de sa signification. (p. 65).
Contrairement au cerveau
humain, la machine apprenante n’attribue à l’information aucun sens, même si
certains systèmes peuvent en modéliser un.
(p. 71).
Spontanément, un système
informatique « n’entend » dans l’information aucune référence à des objets ou à
des concepts. (p. 71).
Le cerveau cherche
spontanément une signification et un pointeur, tandis qu’un système
informatique s’en passe sans difficulté ! (p. 72).
La relation de connaissance
induit dans la cité numérique une structuration anthropologique et sociale
nouvelle. Les divisions qui apparaissent entre agents numériques ne tiennent
pas compte de leur « support » matériel, mais de leur seul niveau de
connaissance. (p. 73).
Le diable est « le père du
mensonge ». Un homme qui ment ne fait que l’imiter. (p. 90)
.
La fonction des anges
éclipse si complètement leur personnalité que l’Ancien Testament ne pose pas la
question de savoir qui ou quoi un ange est, mais de savoir ce qu’il fait. (p.
90).
Les anges dans le mythe, et
les systèmes informatiques dans notre monde technologique, sont définis par ce
qu’ils font, non par leur aspect matériel. (pp. 92-93).
Satan est le sujet absent
des structures de désordre et d’ordre qui résultent des rapports conflictuels
entre les hommes et qui, en fin de compte, organisent aussi bien que
désorganisent ces rapports. (p. 96).
Comment un accusateur peut-il
expulser un accusateur ? Autrement dit, comment un accusateur peut-il
s’affranchir de la fonction qui le définit ? Comment peut-il faire s’il doit
cesser de parler de son propre fonds ? (p. 96)
Celui qui accuse faussement
sera-t-il capable de se défaire du mensonge présent en lui ?
(p. 97).
Blasphémer, « sataniser » ou
dénoncer Dieu signifie accuser faussement, contre la vérité. (p. 98).
L’algorithme de répétition
et d’imitation des contenus sur les réseaux sociaux a « bien » fonctionné, malgré
l’absence totale d’une fonctionnalité d’évaluation de leur vérité. (p. 98).
Quand un utilisateur
interprète une information, elle acquiert un sens et devient connaissance ;
elle acquiert aussi une valeur de vérité ou de fausseté. (p. 100)
Comme si, dans un
mille-feuille, la crème coulait entre les feuilles dans toutes les directions
tout en renforçant le goût du gâteau; ou comme, après une pluie, les petits
ruisseaux s’ouvrent des myriades de chemins sur une terre desséchée qu’ils vont
bientôt transformer en fertile humus. Lors d’un apprentissage profond, chaque
couche réalise l’une de ces trois méthodes générales : apprentissage dit
supervisé, apprentissage non supervisé, ou apprentissage par renforcement. (p.
146)
Un algorithme qui ne fournit
pas d’explications a donc peu de chances d’être utilisé dans le domaine
médical. Imaginez quel scandale ce serait si un « médecin du futur » disait à
son patient : « Vous êtes malade, parce que c’est la machine qui le dit. » (p.
147)
Contrairement, par exemple,
à ce qui se passe en biologie où, depuis au moins le livre de Jacques Monod, on
débat de la valeur du hasard naturel dans la conception, le développement, la
naissance et la mort d’un individu biologique. Les principes de la loi
bioéthique, actuellement en vigueur en France, garantissent que l’homme, même
s’il peut exercer un certain contrôle sur l’embryon, respectera, au moins
partiellement, le rôle du hasard dans le choix de sa progéniture. Cette
accentuation de la valeur du hasard dans les processus naturels ne soulève pas
de grandes protestations au sein de la société française ; au contraire, elle
est perçue avec bienveillance, et c’est aussi le cas dans la majorité des pays
européens plus « bio-conservateurs » que les cultures asiatique ou californienne.
(p. 151)
L’utilisateur a tendance à
croire que le concepteur laisse toujours une backdoor, une « entrée de service
» dans le for intérieur du logiciel, dont il est le seul à posséder la clef, et
que cela lui permet de contrôler le fonctionnement du programme et d’accéder à
toutes les données, même privées, pendant son exécution. Différentes théories
du complot (et cela nous importe peu qu’elles soient justes ou fausses)
attribuent la possession de ces clefs à diverses agences de renseignement
américaine, russe, chinoise, etc. La difficulté réside donc dans le manque de
confiance, dans la cité numérique, en celui qui a le pouvoir, quelle que soit
son origine, pour des raisons politiques qui ne sont pas spécifiques au
numérique. (p. 153)
Le programmeur hérite ainsi
d’un rôle social et politique au sein de la cité numérique, qui outrepasse ses
compétences techniques. Depuis l’époque des Lumières, l’idée que notre société
a de la recherche des connaissances objectives consiste à croire que le monde
obéit aux lois de la nature. Celles-ci sont l’objet des sciences de la nature :
physique, chimie, biologie. (p. 153)
Tandis que l’utilisateur
ignore le mode de fonctionnement interne de l’individu numérique, ce dernier
possède des informations sur l’utilisateur ; il le « connaît ». La source de
cette « connaissance » se trouve précisément dans les données collectées.
Ainsi, la relation de connaissance qui, dans les rapports entre le code source
et le code exécutable, va du programmeur vers l’individu numérique, est
inversée : désormais, c’est l’individu numérique qui connaît l’utilisateur. Par
exemple, tout smartphone contient des données privées de l’utilisateur dont ce
dernier n’est même pas conscient : l’intonation de sa voix, le rythme de sa respiration,
etc. On pourrait dire que, bien trop souvent, le smartphone « connaît »
l’utilisateur mieux que celui-ci ne se connaît. (pp. 164-165)
L’individu numérique n’est
pas un être tout à fait réel pour l’utilisateur, mais il le devient dès lors
qu’il communique. (p. 169)
Selon les néoplatoniciens,
le mal n’est que la privation du bien ; l’existence des choses mauvaises est
donc corrélative, car elle se rapporte nécessairement à celle des choses
bonnes, tout en s’y opposant sur le plan moral, bien entendu (p. 171)
L’utilisateur –, le système
informatique aurait, selon la terminologie des Anciens, un niveau d’existence
affaiblie : l’individu numérique n’est pas un être principal ; il est
corrélatif et subordonné. Si l’on suit Proclus, le dernier des grands
néoplatoniciens de l’Antiquité, l’individu numérique, vu par l’utilisateur, «
contre-existe », car il n’existe qu’à travers son rapport à l’autre, et à
travers sa relation avec ce qu’il n’est pas : une personne humaine. (p. 171)
La machine apprenante est
automobile (sans même connaître l’existence de voitures !), au sens où elle est
automotrice. Cette propriété d’auto-motion a une importance particulière en
éthique, toujours par homologie avec l’âme. (p. 173)
Dieu entendait bien qu’Il
l’avait faite automotrice la nature rationnelle en l’homme mortel afin de
rester soi- même exempt de toute participation au vice.(p. 174)
L’individu numérique serait
donc un être auto-logique ou auto-rationnel : voilà le motif de son homologie
avec l’âme. (p. 174)
Si on donne à une machine,
capable seulement d’appliquer des schèmes préconçus, à analyser un phénomène
totalement nouveau, elle ne sera alors pas en mesure de le décrire aussi bien
que le cerveau humain. (p. 177)
Aucun commentaire:
Enregistrer un commentaire