[Au détour d’une terrasse] La probabilité non nulle que l’IA détruise l’humanité.

Petite expérience par la pensée piquée à Nick Bostrom : Soit le premier janvier, supposons une mégaville comme Bruxelles et un service comme Amazon. Ce dernier livrerait des bombes nucléaires prêtes à l’emploi pour un prix modique (disons 1000 euros). Question : Quelle est la probabilité que Bruxelles soit toujours là le 31 décembre de la même année ? Réponse : Clairement zéro.

Pourtant Bruxelles est toujours là. Et là est la question : pourquoi Bruxelles est toujours présent en cette année 2025 ?

La première raison est d’ordre juridique. Croyez-le ou croyez-le pas, il est illégal de vendre des bombes nucléaires (sans dec…). Mais surtout, il y a une autre raison, il est impossible de créer une bombe nucléaire pour 1000 euros. Ouip, faut un peu plus d’argent, voire beaucoup, au point qu’on parle en % de PIB. Par contre, si ces deux contraintes disparaissaient, si on pouvait se faire livrer pour pas grand-chose des outils qui permettent de rayer une ville de la carte, pas sûr qu’il y aurait encore beaucoup de villes sur terre (surtout en Amérique… probablement les premières à disparaitre).

Voilà en gros l’argument de Nick Bostrom. Aujourd’hui toutes les technologies permettant de faire disparaitre l’humanité coutent tout simplement un pont et sont encadrées. Impossible pour le premier clampin venu de l’utiliser.

Mais quid de l’IA ?

Alors oui, aujourd’hui l’IA, c’est drôle et fun. Ça fait des vidéos et des erreurs, mais pourquoi ne serait-il pas possible de créer… facilement un virus qui détruise l’humanité ? Impossible ? Pas sûr.

Pour qu’un clampin lambda puisse détruire l’humanité, il a besoin de deux choses : une IA qui lui crée un virus… théorique et un moyen de rendre ce truc réel, sorte d’imprimante biologique. De là, 3 questions se posent : est-ce que cela existe ? Quel est son coup ? et est-ce légal ?

Pour l’IA, oui, clairement oui. Il suffit de taper IA et biologie pour trouver des articles à qui en veut en voilà.

En fait, il suffit de demander à ChatGPT et lui-même te fournit une liste (que j’avais trop la flemme de lire). Et pour info, le deuxième article est même assez effrayant dans le sens où même des gens sans connaissances y arrivent.

Pris collectivement, ces résultats suggèrent que les LLM [grands modèles de langage, qui alimentent des chatbots comme ChatGPT] rendront les agents de classe pandémique largement accessibles dès qu’ils seront identifiés de manière crédible, et ce même pour des personnes ayant peu ou pas de formation en laboratoire.

Et là, cela parle d’une IA créée pour des tâches globales, pas spécialement conçue pour de la biologie. Créer une IA spécialisée dans les virus coute quoi ? un abonnement Google à 300 euros par mois (ce qui fait disons 3600 euros pour l’année). Bref, là n’est pas le problème.

Juridiquement parlant, il n’y a rien qui empêche quelqu’un de créer sa propre IA. Google ne l’empêche pas, OpenAI n’empêche pas ChatGPT de le faire, pire OpenAI n’empêche pas ChatGPT de dire comment créer une IA pour le faire, c’est ouf. Puis s’il y a des lois qui disent que tuer c’est mal, c’est parce que certains le font. Pas sûr que si une loi dit que c’est pas bien, que tout le monde obéira.

Alors, qu’est-ce qu’il reste ? Eh ben la mise en pratique. Aujourd’hui, créer un virus nécessite du matos de pointe (entre 500 000 euros et plusieurs dizaines de millions), comme par exemple un séquenceur ADN (200 000 euros au minimum). Et il ne faut pas que cela, des électroporteurs, des pipettes, je sais pas quoi… Au-delà du fait que cela coute cher, cela se voit. Un mec qui entreprendrait ce genre d’entreprise aurait les autorités sur le dos dans l’heure.

Malheureusement, qui dit que dans le futur, cela sera toujours le cas ? Nous ne sommes pas loin de pouvoir imprimer notre nourriture nous-mêmes via des imprimantes à bouffe. Pourquoi, dans un futur proche, ne serait-il pas possible de manipuler l’ADN d’un virus/d’une bactérie pour 2 000-3 000 euros ? Combien de temps avant que chacun puisse se faire livrer par Amazon un moyen simple de détruire l’humanité ?

Bref, il est fort probable que dans peu de temps nous n’ayons plus à nous occuper du changement climatique.