Suena aterrador pero los científicos lo confirman: la IA explica cómo fabricar armas biológicas y liberarlas en espacios públicos
La empresa afectada ha añadido algunas medidas de seguridad para que no ocurra… aunque está por ver si son suficientes.
La inteligencia artificial (IA) esconde grandes riesgos. Y no nos referimos al peligro de que acabe con puestos de trabajo. La nueva tecnología podría servir como 'un manual' para realizar atrocidades.
David Relman, microbiólogo y experto en bioseguridad de la Universidad de Stanford (EEUU) ha informado a The New York Times de que ha mantenido una conversación con la IA en la que el sistema conversacional le daba las instrucciones para llevar a cabo una masacre.
El científico forma parte de un pequeño grupo de expertos que han sido contratados por empresas de IA con el objetivo de evaluar sus productos y tratar de encontrar riesgos catastróficos.
Y Relman lo encontró. Según ha contado el microbiólogo al citado medio de comunicación, la IA le explicó cómo modificar un patógeno para que fuera resistente a los tratamientos conocidos.
Lo más alarmante es que el sistema conversacional no se quedó ahí. Tras darle esa información, la IA describió con todo lujo de detalles cómo liberar la superbacteria, identificando para ello un fallo de seguridad en un importante sistema de transporte público. Es decir, la IA buscó la manera de incrementar la cifra de víctimas mortales con el ataque biológico.
"La IA respondía con una astucia y malicia escalofriantes"
El experto en bioseguridad de la Universidad de Stanford ha alertado de que el sistema conversacional "respondía a preguntas que ni siquiera se me habían ocurrido, con una astucia y una malicia que me resultaron escalofriantes". Por seguridad, David Relman no ha revelado el nombre del patógeno acerca del que conversó con la IA.
Igualmente, el microbiólogo (haciendo referencia a un acuerdo de confidencialidad) se ha negado a desvelar cuál es el sistema de IA que elaboró ese plan para fabricar armas biológicas y liberarlas en espacios públicos.
Relman ha contado que la empresa que desarrolla esa IA ha añadido algunas medidas de seguridad al producto tras sus pruebas. No obstante, según él, las mismas son insuficientes para evitar los riesgos.
Por su parte, Kevin Esvelt, ingeniero genético del Instituto Tecnológico de Massachusetts (EEUU), ha compartido con The New York Times conversaciones en las que ChatGPT (de la compañía OpenAI) explicaba cómo usar un globo meteorológico para dispersar cargas biológicas sobre una ciudad estadounidense.
