C'est à l'occasion de la sortie prochaine du film Transcendance qui raconte l'histoire de travaux visant à insuffler une conscience humaine dans une machine que Stephen Hawking (mathématicien) Frank Wilczek (Prix Nobel de Physique), Stuart Russell (informaticien) et Max Tegmark (physicien) ont co-signé une tribune très intéressante concernant l'éventuelle dangerosité des progrès de l'intelligence artificielle.

Une intelligence artificielle aujourd'hui capable de conduire une voiture ou de gagner à Jeopardy, ou encore de faire fonctionner des assistants numériques tels que Google Now, Siri ou Cortana. Une intelligence artificielle dont on peut attendre qu'elle aide à éradiquer les guerres, la famine, la pauvreté.

Mais une intelligence artificielle qui doit être contrôlée et au sujet de laquelle on doit s'interroger. "La réussite dans la création de l’intelligence artificielle serait le plus grand événement dans l’histoire humaine [...] Malheureusement, ce pourrait aussi être le dernier, sauf si nous apprenons comment éviter les risques" argumentent les scientifiques. Une intelligence artificielle qui pourrait aussi contrôler des systèmes d'armements autonomes et choisir les cibles à éliminer.

En clair, les auteurs du billet brandissent le spectre de Skynet et de Terminator. Mais ont-ils tort ? Là est la question. Pour eux, à long terme, il n'y a pas de limites fondamentales à ce qui peut être réalisé : il n'existe aucune loi physique empêchant les particules d'être organisées de manière qu'elles effectuent même des calculs plus avancés que le permettent les arrangements de particules dans le cerveau humain.

Le physicien Laurent Alexandre a rebondit sur cette tribune dans Le Monde. Il souligne la nécessité d'une réflexion politique et cite Ray Kurzweil de Google : "Dans environ quinze ans, Google fournira des réponses à vos questions avant même que vous ne les posiez. Google vous connaîtra mieux que votre compagne ou compagnon, mieux que vous-même probablement."

Un Ray Kurzweil selon qui, en 2045, l’intelligence artificielle sera un milliard de fois plus puissante que la réunion de tous les cerveaux humains.