Shoshana Zuboff, profesora emérita de Harvard: "Pedro Sánchez ha comprendido la emergencia democrática tal vez mejor que ningún otro líder político actual"
La investigadora acusa a los gigantes tecnológicos de haber creado un "totalitarismo con ánimo de lucro" basado en la extracción masiva de información personal.
Europa todavía tiene una oportunidad para impedir que la inteligencia artificial y las grandes plataformas digitales terminen debilitando la democracia. Pero deberá abandonar el discurso de la desregulación, recuperar el control del espacio informativo y enfrentarse a unas empresas tecnológicas cuyo poder económico y político no tiene precedentes.
Esta es la advertencia de Shoshana Zuboff, autora de La era del capitalismo de la vigilancia, quien sostiene en una columna de opinión en El País que los gobiernos están repitiendo con la inteligencia artificial el mismo error cometido durante los primeros años de internet: entregar una transformación histórica a compañías privadas que reclaman libertad absoluta para explotar datos, contenidos y comportamientos humanos sin someterse a un verdadero control democrático.
La investigadora y socióloga acusa a los gigantes tecnológicos de haber creado un "totalitarismo con ánimo de lucro" basado en la extracción masiva de información personal. Un sistema que, según su análisis, favorece la desinformación, la polarización y el ascenso de fuerzas autoritarias porque los contenidos más divisivos generan más atención, más datos y, por tanto, mayores ingresos.
El error que comenzó con internet en 1997
Zuboff sitúa uno de los momentos decisivos en 1997, cuando el presidente estadounidense Bill Clinton presentó junto a Al Gore su estrategia para el comercio electrónico.
La Administración estadounidense defendió entonces que internet debía funcionar como una zona global de libre comercio en la que los Gobiernos intervinieran lo menos posible. El sector privado debía autorregularse y quedar libre de impuestos, restricciones y normas consideradas obstáculos para la innovación.
Para Zuboff, aquella decisión dejó vacío el espacio que debería haber ocupado la gobernanza democrática. En lugar de adaptar los derechos y las leyes al nuevo entorno digital, los Estados permitieron que fueran las empresas quienes establecieran las reglas sobre la información, la privacidad y el conocimiento.
Un año después, Eric Schmidt, que posteriormente dirigiría Google, resumió abiertamente esa posición en una entrevista con la BBC: Silicon Valley estaba en contra de los gobiernos, la regulación y el Congreso, y reclamaba libertad para perseguir sus propios intereses.
Google convirtió el comportamiento humano en una mercancía
La nueva lógica económica se consolidó en Google a partir de 2002. La compañía descubrió que cada búsqueda y cada navegación dejaban un rastro de señales que podían recopilarse, analizarse y utilizarse para anticipar el comportamiento de los usuarios.
Zuboff denomina "excedente conductual" a esos datos que no eran necesarios para prestar el servicio solicitado, pero que podían transformarse en predicciones comerciales y venderse a los anunciantes.
El usuario dejó así de ser únicamente el destinatario de un producto para convertirse en la materia prima gratuita de un modelo económico basado en la vigilancia. Cuantos más datos reunía Google, más precisas eran sus predicciones y mayor era su poder económico.
La investigadora sostiene que estas prácticas necesitaban permanecer ocultas porque una mayor transparencia podía provocar el rechazo de los usuarios y la intervención de los legisladores. Aquel modelo terminó extendiéndose por todo el sector tecnológico y se convirtió en intermediario de buena parte de las relaciones sociales, económicas y políticas.
La inteligencia artificial repite el mismo patrón
La llegada de la IA generativa ha abierto, según Zuboff, una segunda fase de esta apropiación. Cuando OpenAI lanzó ChatGPT al mercado de consumo en 2022, lo hizo sin que las instituciones estuvieran preparadas para evaluar sus efectos sociales, económicos o democráticos.
A partir de entonces comenzó una carrera por recopilar cantidades aún mayores de información. Textos, imágenes, vídeos, voces, rostros y obras protegidas por derechos de autor pasaron a utilizarse para entrenar modelos de inteligencia artificial.
La autora considera que esta nueva etapa mantiene la misma lógica del capitalismo de vigilancia: conseguir el máximo volumen posible de datos y recursos, aunque las personas que los generan desconozcan su utilización o no hayan dado un consentimiento efectivo.
La diferencia es que las nuevas herramientas ya no solo predicen comportamientos. También pueden producir información, intervenir en el debate público y condicionar la forma en que los ciudadanos acceden al conocimiento.
Europa corre el riesgo de renunciar a su ventaja
En 2019, Ursula von der Leyen defendió que Europa tenía una posición privilegiada para construir una alternativa digital basada en los derechos, la confianza y el Estado de derecho. Frente a un modelo estadounidense dominado por el mercado y otro asiático caracterizado por el control estatal, la Unión Europea podía situar al individuo en el centro.
Desde entonces, Bruselas ha aprobado normas como el Reglamento General de Protección de Datos, la Ley de Servicios Digitales, la Ley de Mercados Digitales y la Ley de Inteligencia Artificial.
Sin embargo, Zuboff observa ahora un cambio de rumbo. Conceptos como competitividad, simplificación, aceleración y desregulación han empezado a dominar el discurso europeo.
A su juicio, plantear una oposición entre regulación e innovación reproduce la retórica que permitió a Silicon Valley crecer sin controles durante las primeras décadas de internet.
La investigadora cree que las tecnológicas presentan las leyes europeas como una amenaza porque estas pueden poner fin a la extracción indiscriminada de datos y obligarlas a responder por los efectos de sus productos.
"Recuperar el control" de las plataformas
En este contexto, Zuboff destaca las medidas anunciadas por Pedro Sánchez para impulsar una "Coalición de los Dispuestos Digitales" que permita recuperar el control sobre unas redes sociales que el presidente español ha comparado con un "Estado fallido". "Pedro Sánchez ha comprendido la emergencia democrática tal vez mejor que ningún otro líder político actual", ha señalado.
Entre las propuestas citadas se encuentran exigir responsabilidades penales a los directivos por los contenidos ilegales difundidos en sus plataformas, perseguir la manipulación de algoritmos, calcular la denominada "huella de odio y polarización" e investigar posibles injerencias de servicios como Grok, Instagram o TikTok.
La solución, no obstante, tampoco consistiría en sustituir el poder de las empresas por un control absoluto de los Estados. Zuboff propone crear instituciones democráticas capaces de proteger a los ciudadanos tanto del poder privado como del público.
Su conclusión es rotunda: la expansión de las autocracias, la desinformación y la polarización no son fenómenos ajenos al modelo tecnológico desarrollado durante las últimas décadas.
Si las democracias quieren sobrevivir una generación más, deberán dejar de aceptar como inevitable el poder de las plataformas y recuperar la capacidad de decidir cómo debe funcionar el espacio digital.