6. Mais, est-ce réellement de l’intelligence ?

Imaginons un instant que les futurs systèmes AGI (à l’écran ou chez les robots) fassent jeu égal avec les performances humaines. Auraient-ils pour autant une intelligence réelle, une compréhension et une créativité réelles ? Auraient-ils une personnalité propre, une position morale, un libre arbitre dans leurs choix ? Seraient-ils dotés d’une conscience ? Et si la réponse ici est « non », pourraient-ils avoir l’une des autres propriétés ?
Ce ne sont pas des questions scientifiques, mais philosophiques. Beaucoup de gens ont le sentiment intuitif que la réponse, dans chaque cas, est « évidemment, “non” ! »
Mais les choses ne sont pas si simples. Nous avons besoin d’arguments prudents, pas seulement d’intuitions non validées. De tels arguments montrent qu’il n’y a pas de réponses incontestables à ces questions. Et la raison en est que les concepts en cause sont eux-mêmes très controversés. Ce n’est que s’ils étaient tous compris de manière satisfaisante que nous pourrions être sûrs que l’AGI hypothétique serait, ou ne serait pas, vraiment intelligent. En bref, personne ne le sait avec certitude ce qu’il en est.
Certains pourraient dire que cela n’a aucune importance : ce qui importerait, c’est ce que les AGI feront réellement. Toutefois, nos réponses pourraient avoir une incidence sur la façon dont nous nous y situons, comme nous allons voir par la suite.
Ce chapitre n’apportera donc pas de réponses sans équivoque. Mais il suggérera que certaines réponses sont plus raisonnables que d’autres…