Conclusion. Une révolution en marche

Et si, s’inquiétait George Dyson, le prix de machines qui pensent était des gens qui ne pensent plus ? Il n’est pas un pan de la société qui ne soit affecté par le numérique, pas un domaine de nos vies sociales et professionnelles dans lequel l’ordinateur, plus ou moins joliment habillé ou masqué, ne se soit immiscé. Si plus aucun chef ou cadre d’entreprise ne prend de décision sans s’appuyer sur des données générées et présentées par des systèmes informatiques, nous dépendons aussi chaque jour un peu plus de nos compagnons numériques, que ce soit pour trouver notre chemin, obtenir un renseignement administratif ou technique, ou encore la réponse à la question de culture générale qui nous obsède. Mais ce confort et cette facilité d’accès à l’information ne risquent-elles pas d’avoir raison de notre raison ?
L’ordinateur étant capable de traiter tout type d’information et excellant dans les calculs répétitifs, nous aurions pu espérer qu’il se contente de s’acquitter de tâches fastidieuses et rébarbatives, qu’il automatise les corvées et nous laisse nous concentrer sur les tâches à plus haute valeur ajoutée : la créativité, le dialogue et l’argumentation, le jugement même. Mais le voilà qui se met désormais à converser, à écrire poèmes et chansons, à dessiner ou composer, le voilà qui se propose de réguler nos vies et même de nous forcer à nous conformer aux règles. Cette nouvelle dictature des algorithmes s’appelle « algocratie » et elle interpelle. Certains y voient un monde plus juste et raisonnable une fois régulé par des algorithmes froids et implacables, d’autres craignent que l’humanité y perde son âme et que forcer une exception (ce qu’on appelle parfois le « system override », c’est-à-dire le pouvoir de forcer une machine à dévier de son exécution normale) devienne impossible, avec toutes les conséquences possibles face aux réalités et aux situations riches, complexes, et… imprévisibles…