Un I.A. médicale détournée crée des milliers de neurotoxines extrêmement mortelles

Cette décennie sera celle des intelligences artificielles. Il n'y a qu'à voir à quel point les I.A. telles que ChatGPT et Midjourney nous émerveille pour déceler le potentiel quasi-infini de ces outils.

Cela paraît complètement futuriste et pourtant, il est déjà possible de leur demander des générer des textes complètement farfelus, de dessiner des concepts qui dépassent complètement notre imagination voir d'inventer des séries qui ne s'arrêtent jamais (oui, on parle de cet épisode infini de Seinfeld qui a eu quelques petits démêlés avec les règles de Twitch). Mais les I.A. peuvent aussi être utilisées dans le domaine du médical... et leur usage peut facilement être détourné, comme vient de s'en rendre compte une petite équipe de chercheurs.

Une Intelligence Artificielle usée à des fins hostiles

Connaissez-vous les lois de la robotique, formulée par l'écrivain Isaac Asimov ? Elles ont été écrites dans le cadre de ses cycles, mais elles pourraient bien servir de modèle dans la vraie vie pour éviter de possibles détournements. En bref, elles stipulent qu'un robot (et par extension, une I.A.) ne doit pas porter atteinte à un être humain, leur obéir, sauf si cela revient à porter atteinte à un être humain, et protéger leur propre existence, sauf si cela... vous l'aurez compris... porte atteinte à un être humain.

Bref, leur objectif premier et de nous protéger et un robot tueur serait donc une aberration ! Mais loin d'appliquer ces principes, une I.A. a été utilisée pour créer de nouveaux poisons.

Petite remise en contexte : MegaSyn est une intelligence artificielle conçue par la société pharmaceutique Collaborations Pharmaceuticals, dans le but de créer de nouveaux médicaments. Mais dans le cadre d'une expérience, des chercheurs lui ont demandé d'oublier cette directive et de l'exploiter pour créer des neurotoxines. Juste pour voir. Et ils ont vu.

À lire également : Les avertissements de Stephen Hawking : ce qu'il a prédit pour l'avenir

40 000 neurotoxines créées en 6 heures

Le résultat ne s'est pas fait attendre : MegaSyn a cogité et leur a proposé pas moins de 40 000 neurotoxines toutes plus mortelles les unes que les autres. Parmi les poisons "découverts" par l'.I.A., on retrouvait notamment l'agent innervant VX (à ne pas confondre avec l'agent chimique X), ainsi que d'autres composés nettement plus efficaces.

Eux-mêmes surpris par ces découvertes, les chercheurs ont assuré ne pas avoir testé les poisons dans la vraie vie. Fabio Urbina, l'un des membres de l'équipe, a en effet déclaré :

"Ce sont des prédictions que nous n'avons pas vérifiées, et nous ne voulons certainement pas les vérifier nous-mêmes. Mais les modèles prédictifs sont généralement assez bons. Donc même s'il y a beaucoup de faux positifs, nous craignons qu'il y ait des molécules plus puissantes là-dedans."

Skynet, les Machines, GladOS... tous ces antagonistes ne paraissent plus si imaginaires que cela finalement...