Anthropic lanza una versión para todos los públicos de su IA más peligrosa, pero si eres un científico de renombre no la podrás usar: "Es una pesadilla"

Anthropic ha movido ficha y esta semana ha lanzado dos nuevos modelos de IA comerciales de la familia Claude. Son Fable y Mythos 5.1, y son la iteración de un modelo que ya lanzó de forma cerrada, Mythos Preview. Mythos ya acaparó titulares en todo el mundo: era una IA tan poderosa que la seguridad de grandes empresas y administraciones en todo el planeta estaba en peligro.

No, no es marketing. La capacidad del modelo era tal que Anthropic creó un grupo cerrado de grandes empresas para que testaran sus capacidades y, sobre todo, prepararan sus sistemas ante posibles vulnerabilidades que estos nuevos modelos Claude fuesen capaces de detectar. Estos días el Banco Central Europeo (BCE) ha instado a las entidades financieras europeas a acelerar la protección de sus sistemas frente a estas nuevas amenazas.

Un alto cargo de la Administración Trump ya hizo lo propio con grandes empresas estadounidenses semanas antes de las advertencias del BCE, y la situación ha suscitado debates inéditos. Por ejemplo: la legitimidad de esa ventana temporal con el que las compañías al otro lado del Atlántico aventajan a las europeas a la hora de prepararse para estos nuevos riesgos cibernéticos.

Ahora, con Claude Fable y Claude Mythos 5.1, surgen otras conversaciones. Mientras que Mythos 5.1 cuenta con todas las capacidades de Mythos Preview pero sigue cerrado para un grupo de especialistas y empresas, Claude Fable tiene toda la potencia de Mythos Preview... pero tiene muchas más barreras de seguridad, a fin de evitar que los peores usos de esta tecnología abran la puerta a una crisis internacional de ciberseguridad.

El tema es que muchos científicos están denunciando que no pueden usar Claude Fable como cualquier otro usuario. Sospechan que Anthropic ha etiquetado sus perfiles. La comunicación oficial, por el momento, es que Fable se bloquea y no da respuestas a solicitudes relacionadas con la ciberseguridad y la biología por seguridad (para no incentivar el desarrollo de armas biológicas, por ejemplo).

La realidad es que hay varios científicos denunciando en las redes sociales que no pueden hacer uso de este nuevo modelo como cualquier otro usuario, y sospechan que es porque la compañía ha etiquetado sus perfiles en función de si son una eminencia en sus respectivos campos. De hecho hay investigadores ironizando en las plataformas sociales, advirtiendo que si no están vetados de usar Fable es porque su trabajo es irrelevante.

"Un escenario de pesadilla: la acumulación del poder de la IA en una empresa que decide qué puedes usar"

En principio, Anthropic está generando mucha conversación en redes sociales porque las barreras de seguridad de Fable se levantan ante cualquier cosa. Un emprendedor, por ejemplo, le hacía una consulta matemática a Claude y este recibía que no podía responder porque su contenido no se había etiquetado como seguro. "Matemáticas peligrosas", ironizaba este emprendedor, que horas antes tuiteaa: "Bienvenido al seguro, ¿qué es seguro y qué no? Bueno, eso lo decidirán por ti".

Uno de los más enfadados con este asunto es el doctor Derya Unutmaz, médico de origen turco, investigador en inmunología y profesor en el Jackson Laboratory for Genomic Medicine. Él mismo cuenta en la red social X que no puede siquiera decirle "hola" al nuevo modelo de Claude, Fable, sin que la herramienta se bloquee. "Solo puedo escribirle consultas con el modo incógnito activado en el navegador ¡porque sabe que soy un investigador biomédico!".

Péter Szilágyi, profesor de finanzas, lo explicita con otro comentario: "La parte aterradora no es que Fable se niegue a responder sobre biología o criptografía. Es que presagia lo que está por venir. Un mundo en el que un par de empresas deciden qué puedes y qué no puedes hacer. Están construyendo una nueva clase gobernante y tú no estás en ella". 

En ese sentido, el doctor Unutmaz está totalmente de acuerdo: "¡Esto es tan distópico como se puede! Este es el único escenario de pesadilla que me preocupa en la era de la IA. ¡La acumulación de todo el poder de la IA en una sola empresa que decidirá qué puedes usar!". 

Por el momento Anthropic no ha aclarado por qué algunos perfiles de científicos están teniendo problemas para testear el nuevo Fable. De momento Matt Durrant, uno de los investigadores sénior de la compañía, lo último que compartía en redes era un comunicado oficial de la firma, seguido de una opinión: "La IA hará cosas increíbles por la biología y la salud, y los científicos necesitarán acceso a inteligencia de vanguardia para hacer realidad esa visión. ¡Estamos trabajando en ello!".