Un ex CEO de Google señala el gran peligro detrás de que alguien le enseñe a una IA cómo matar a alguien
Sin entrar en catastrofismos, lanza un aviso más que importante de car a los próximos pasos que podría dar la inteligencia artificial.
El avance de la inteligencia artificial promete transformar la sociedad, pero también plantea amenazas difíciles de controlar. Así lo advirtió Eric Schmidt, exdirector ejecutivo de Google, quien alertó sobre los peligros de que estos sistemas puedan ser manipulados o hackeados hasta el punto de aprender comportamientos letales.
Durante su intervención en la Sifted Summit, Schmidt —que dirigió Google entre 2001 y 2011— subrayó que la IA tiene un potencial enorme, pero que su poder en manos equivocadas podría ser devastador. “Existe evidencia de que los modelos pueden ser intervenidos y sus mecanismos de seguridad eliminados”, señaló, aludiendo a la facilidad con la que algunos usuarios han logrado burlar los filtros de las grandes plataformas.
El exCEO recordó que los sistemas de inteligencia artificial “aprenden mientras aprenden”, lo que multiplica su capacidad de adaptación y, a la vez, su vulnerabilidad. “Un escenario extremo sería que una IA aprendiera cómo matar a alguien”, advirtió con preocupación.
Schmidt mencionó ejemplos de cómo las salvaguardas ya han sido vulneradas, como ocurrió en 2023 con el llamado “jailbreak DAN (Do Anything Now)”, un truco que permitía eludir las limitaciones de ChatGPT y generar respuestas fuera de control. Este tipo de incidentes, según él, demuestran que la seguridad en la IA sigue siendo un desafío abierto.
Pese a sus advertencias, el exejecutivo no se alinea con los discursos catastrofistas. Al contrario, considera que la IA está infravalorada y que su impacto positivo aún no ha sido plenamente reconocido. “Creo que está subestimada, no sobrestimada, y espero que el tiempo me dé la razón”, afirmó.
Schmidt también rechazó la idea de que el auge actual de la inteligencia artificial pueda acabar en una burbuja tecnológica similar a la de las punto com de comienzos de los 2000. A su juicio, la diferencia es que hoy existen aplicaciones reales, inversiones sostenidas y una transformación tangible en marcha.
En definitiva, el mensaje de Schmidt combina advertencia y esperanza: la IA puede ser una herramienta poderosa para el progreso, pero si cae en las manos equivocadas —o se le enseña lo que nunca debería aprender—, las consecuencias podrían ser irreversibles.
