Le mythe de la Singularité. Faut-il craindre l'intelligence artificielle ?

L'intelligence artificielle va-t-elle bientôt dépasser celle des humains ? Ce moment critique, baptisé "Singularité technologique", fait partie des nouveaux buzzwords de la futurologie contemporaine et son imminence est proclamée à grand renfort d'annonces mirobolantes par des technogourous comme Ray Kurzweil (chef de projet chez Google !) ou Nick Bostrom (de la vénérable université d'Oxford). Certains scientifiques et entrepreneurs, non des moindres, tels Stephen Hawking ou Bill Gates, partagent ces perspectives et s'en inquiètent. Menace sur l'humanité et/ou promesse d'une transhumanité, ce nouveau millénarisme est appelé à se développer. Nos machines vont-elles devenir plus intelligentes et plus puissantes que nous ? Notre avenir est-il celui d'une cybersociété où l'humanité serait marginalisée ? Ou accéderons-nous à une forme d'immortalité en téléchargeant nos esprits sur les ordinateurs de demain ? Voici un essai critique et concis sur ce thème à grand retentissement par l'un de nos meilleurs experts des humanités numériques. Jean-Gabriel Ganascia est professeur à l'université Pierre-et-Marie-Curie, où il mène des recherches sur l'intelligence artificielle au Laboratoire informatique de Paris 6 (LIP6). Il est président du comité d'éthique du CNRS et a publié divers ouvrages dont le précurseur L'Âme machine, au Seuil en 1990.

Issues de ta tradition ou de l'air du temps, mêlant idées souvent vrai et faux, les idées reçues sont dans toutes les têtes. L'auteur les prend pour point de départ et apporte ici un éclairage distancié et approfondi sur ce que l'on sait ou croit savoir.

L'informatique est bien une science : la science du traitement de l'information elle ne se réduit pas à un recueil de recettes, de techniques et de savoir-faire, mais elle est au coeur de toute réflexion sur la modernité, car : ? elle joue un rôle central dans de nombreuses disciplines scientifiques et dans la plupart des techniques contemporaines, ? son emprise sur notre environnement quotidien est tous les jours plus grande, ? elle formule en termes neufs et actuels bien des questions scientifiques et philosophiques. Destinés aux non-initiés que nous sommes presque tous, les articles de ce petit Trésor se présentent comme autant de leçons particulières. Pris par la main, le lecteur peut ainsi cheminer sans douleur parmi les notions et les concepts variés auxquels l'informatique fait appel, comme ceux de complexité, d'entropie d'information, de logiques non standard, d'heuristiques, de réseaux de neurones formels... Il pourra saisir avec acuité et discernement les enjeux techniques, sociaux et humains liés aux évolutions des sciences de l'information.

Nous vivons une époque curieuse. Alors que les tenants des neurosciences s'ingénient à démonter les mécanismes du cerveau, les partisans des sciences molles comme la psychanalyse s'attachent à sauvegarder les mystères de l'âme. Au centre, les sciences cognitives détaillent l'intelligence humaine à l'aide de quelques équations mathématiques ou de programmes informatiques sommaires. C'est dans ce débat qu'entend ici se situer J.-G. Ganascia. Réduire le fonctionnement de l'esprit à celui d'un ordinateur est très vraisemblablement erroné. D'ailleurs, les cognitivistes sont loin de posséder eux-mêmes les certitudes qu'ils nous assènent. En revanche les ordinateurs nous apprennent beaucoup sur nos capacités mentales et nos limites. Entreprenant de décrypter les modes d'appropriation des machines modernes par l'esprit humain, J.-G. Ganascia met au jour les différentes impostures et les incertitudes qui nous habitent face à eux. Habituellement, ceux-ci se soumettent plutôt à nos désirs, parfois de mauvaise grâce. Mais rien n'exclut qu'un jour, ils se retournent contre nous, transformant nos machines familières en monstres hostiles. Elfes, démons ou génies, même s'ils empruntent des noms plus modernes, peuplent encore notre cerveau. Dans notre Odyssée de l'esprit contemporain, nous sommes loin du positivisme scientifique auquel certains prétendent.