A l'occasion d'un symposium sur l'avenir de l'humanité qui s'est tenu à l'université de Stanford samedi dernier, Bill Joy, cofondateur de Sun, mettait en garde contre le développement de technologies qui pourraient s'avérer dangereuses pour l'humanité, et préconisait l'arrêt des recherches. " Jusqu'à présent, les technologies de destruction de masse comme la bombe atomique ou les armes biologiques étaient des secrets bien gardés à usage militaire , précisait-il. En revanche, l'algorithmie génétique, la robotique et la nanotechnologie sont des techniques à usage militaire et commercial. Elles sont accessibles à tous. Ce qui fait qu'un petit groupe, voire un utilisateur isolé, est un réel danger pour l'humanité " .

Ces propos, qu'il a détaillés dans un article paru dans la dernière édition du magazine Wired , ont créé la controverse au sein de la communauté scientifique. Il reprenait notamment à son compte certaines des idées du mathématicien Théodore Kaczynski, plus connu sous le nom d'Unabomber, responsable de la mort de plusieurs scientifiques.

Les scientifiques réunis à l'université de Stanford étaient unanimement opposés à l'idée de stopper la recherche, dans quelque domaine que ce soit. " Pour éviter l'utilisation malveillante de la technologie, il faut au contraire un public averti et un programme de recherche actif, affirme Ralph Merckle, expert en nanotechnologie. Car si l'on arrête la recherche publique dans une démocratie, rien n'empêche un pays totalitaire de continuer la sienne secrètement " .

Bien que plusieurs étapes technologiques doivent être franchies avant de pouvoir créer des robots réellement intelligents, il semble que cela ne soit qu'une question de temps. " Avec un Pentium III à 450 Mhz, un réseau neuronal peut apprendre à jouer aux échecs en deux mois et atteindre le niveau du maître en utilisant des techniques d'auto-apprentissage. En 2100, l'humanité pourrait être composée d'êtres hybrides, à la fois biologiques et numériques, conclut Hans Moravec, le fondateur du laboratoire de robotique à l'université de Carnegie Mellon. Cela existe déjà, à un stade primitif, avec les malades d'Alzheimer dotés d'implants qui stimulent leur cerveau. Avec une séparation entre le corps et l'esprit, il sera possible de télécharger les cerveaux vers un ordinateur central, afin de faciliter les échanges entre eux, puis de les renvoyer à leur corps ".