Chapitre d’ouvrage

XVI. Les dangers de l’IA[D]

Pages 355 à 381

Citer ce chapitre


  • Cypel, A.
(2020). XVI. Les dangers de l’IA[D] Au cœur de l'intelligence artificielle : Des algorithmes à l'IA forte (p. 355-381). De Boeck Supérieur. https://stm.cairn.info/au-coeur-de-l-intelligence-artificielle--9782807331846-page-355?lang=fr.

  • Cypel, Axel.
« XVI. Les dangers de l’IA[D] ». Au cœur de l'intelligence artificielle Des algorithmes à l'IA forte, De Boeck Supérieur, 2020. p.355-381. CAIRN.INFO, stm.cairn.info/au-coeur-de-l-intelligence-artificielle--9782807331846-page-355?lang=fr.

  • CYPEL, Axel,
2020. XVI. Les dangers de l’IA[D] In : Au cœur de l'intelligence artificielle Des algorithmes à l'IA forte. Louvain-la-Neuve : De Boeck Supérieur. Hors collection Sciences, p.355-381. URL : https://stm.cairn.info/au-coeur-de-l-intelligence-artificielle--9782807331846-page-355?lang=fr.

Notes

  • [1]
    Extraite de l’article Les Echos du 15 décembre 2017 « Intelligence artificielle : il est urgent d’y réfléchir ! ».
  • [2]
    Je rajouterais en plus que c’est là le vrai métier des GAFA : Facebook et Google ne sont-ils pas les premières agences publicitaires mondiales ?
  • [3]
    Lorenzi, Berrebi, [29], p. 100 : « Aujourd’hui, une longue liste de termes est employée pour décrire un contexte global de crise, en fait de vérité et de solidité, de l’information : hoax, intox, faits alternatifs, fake news ou encore post-vérité. Tout cela remet en cause le principe de la multiplication des sources d’information et d’un partage illimité de la connaissance s’il n’est pas consolidé, et si des procédures de vérification, d’authentification ne sont pas mise en place. »
  • [4]
    Cité à plusieurs reprises dans ce volume, comment ne pas chaudement recommander la lecture de [15] qui vous apprendra tout, et plus encore, sur cette notion pas si transparente que ça ?
  • [5]
    « L’esclave n’est pas tant celui qui obéit à autrui, – c’est aussi le cas de l’enfant, – que celui qui obéit dans l’intérêt exclusif d’autrui, c’est-à-dire qu’il est inutile à lui-même. » Rolland Caillois, dans l’introduction à L’Ethique de Spinoza, [32] p. 45.
  • [6]
    Voir, cette fois, la citation en exergue de ce chapitre.
  • [7]
    (Re) voir le chapitre IX et [22], bien entendu.
  • [8]
    A moins qu’on ne préfère les emprisonner directement.
  • [9]
    Ou complexes... Quand on regarde les règles fiscales en France, on ne peut pas affirmer que le simplisme soit de mise ; les petits malins sont pourtant là !
  • [10]
    Au sens d’un abaissement des coûts favorisant un usage démultiplié ; le terme « démocratisation » autorisant un jeu de mots, dans un contexte de totalitarisme.
  • [11]
    Puis, plus tard, le cauchemar de capteur ADN, qui existera probablement un jour.
  • [12]
    Laurence Devillers, [4], p. 164 : « Un système de deep learning peut être facilement berné : une étude récente en reconnaissance des images publiée dans une conférence scientifique montre qu’en enlevant des pixels dans l’œil d’un lion, celui-ci n’était plus reconnu et que, par contre, certaines images reconnues avec une grande performance n’avaient pas de sens pour les humains. Des recherches sont menées actuellement pour essayer de rendre plus robustes et un peu plus transparentes les techniques de deep learning. »
  • [13]
    Les choses se compliquent un peu avec l’informatique quantique, moins manichéen. Cf. p. 162.
  • [14]
    Cette remarque vaut en toute généralité.
  • [15]
    Leur ordonnera, en vérité, car quel « ouvrier » prendra sur lui de n’en faire qu’à sa tête alors que la règle de subordination de son employeur aura été de lui intimer l’ordre de suivre la procédure définie par la machine ?
  • [16]
    Et non qui prêche.
  • [17]
    Ce qui donne en français : « Il n’est pas besoin de disposer d’une explication précise de la causalité pour réaliser une prédiction. Tant qu’un motif (la corrélation) perdure dans le temps, il peut être utilisé pour faire des prédictions, qu’il soit compris ou non. »
  • [18]
    Directement, en transparence ! Un sous-ensemble de données coderait parfaitement la réalité des choses... Le lecteur LU leur est toujours à portée de main, sans doute.
  • [19]
    Une donnée est une construction ; il n’y a pas de neutralité ; etc. Il y a, de plus, un monde de malhonnêteté à vouloir faire croire aux gens qu’une modélisation de ML, basée sur des corrélations à partir de données partielles – quand elles ne sont pas, en sus, partiales, c’est-à-dire biaisées – dégagerait une loi véritable valide sur l’ensemble de la population.
  • [20]
    Tout sauf un c...
  • [21]
    Séminaire Droit et mathématiques organisé par l’IHEJ à l’ENM, le 6 décembre 2018.
  • [22]
    Un des grands résultats des probabilités/statistiques : prenez des variables aléatoires de la loi que vous voulez, leur moyenne admet pour loi limite la loi normale, encore appelée « gaussienne » ou « courbe en cloche ». En gros : tout aléa converge vers une sorte de moule unique.
  • [23]
    On retrouve cette idée dans l’article [19], où il est question de la datascience comme mort de la science. Un cri alarmiste qui s’adresse aussi bien aux extrémistes de la discipline (il y en a partout) – pour qui la datascience relègue la science, avec ses modèles, au grenier, puisque les corrélations fournissent directement, sans interprétation, la vérité – qu’aux détracteurs : la datascience telle que prônée par les précédents tue en effet la véritable science !
  • [24]
    L’utilisation d’algorithmes pour faire, par exemple, de la justice prédictive n’est qu’un exemple de plus de passage des faits aux normes, ou encore de la prédiction à la prescription. Un air de déjà vu...
  • [25]
    Sans parler des hypothèses requises qui, dans le monde réel, peuvent n’être pas respectées, comme par exemple le caractère de normalité des processus financiers, hypothèse violée en permanence. On continue pourtant de calculer avec, car c’est plus pratique. Affaire de convention, finalement, l’objectivité n’y ayant part.
  • [26]
    Qui ne sont jamais que les technologies actuelles de l’« époque moderne » dans laquelle nous vivons.

Question : puisque tout le monde sait que cela ne fonctionne pas, qu’est-ce qui pousse à véhiculer toujours plus avant le mythe de l’IA forte, accompagné de son vassal, la pensée computationnelle ? Réponse : car si ce courant et le transhumanisme parviennent à s’imposer, ceux qui seront aux commandes disposeront de deux puissants vecteurs de contrôle des populations, en attendant la puce dans le cerveau...
Plus prosaïquement, il est important de réfléchir aux algorithmes et à la société que nous voulons qu’ils dessinent. Et les légendes – à savoir si c’en sont ? – vont bon train : des robots qui vérifieraient que les détenus ne se suicident pas dans les prisons Singapouriennes aux algorithmes détecteurs de mensonge des aéroports Lettons, en passant, bien sûr, par la reconnaissance faciale à grande échelle chinoise, soyez les bienvenus dans la petite boutique des horreurs de ce livre. Faites attention, parfois les masques bougent ou mordent !
Récemment, le philosophe Nick Bostrom, un des chantres du transhumanisme, faisait paraître un essai intitulé Super intelligence au sein duquel on peut trouver la phrase : « Le potentiel d’intelligence d’un artefact mécanique est infiniment supérieur à ce qu’il est dans un organisme biologique. Les machines présentent nombre d’avantages fondamentaux qui leur donneront une incomparable supériorité et les humains, même “augmentés”, seront dépassés. »
Au moins lui n’avance-t-il pas à visage masqué... Simple exercice de prospective, illumination d’intellectuel en mal de caméras, o…


Date de mise en ligne : 01/07/2024

Ce chapitre est en accès conditionnel

Acheter ce chapitre

5,00 €

27 pages format électronique (HTML, PDF et feuilletage)
Membre d'une institution cliente ?