El miedo, los chips y el control: qué hay detrás de la llamada a frenar la IA

Este es el primero de una serie de artículos. Esta primera entrega analiza por qué los laboratorios y los Estados siguen acelerando, los límites materiales del cómputo y los riesgos que la IA ya está amplificando. La segunda aborda su reverso: quién financiará esa carrera y qué ocurre si el Estado acaba asumiendo una parte del riesgo. La tercera se pregunta quién debería marcar el ritmo de la IA.

Hay algo desconcertante en el debate actual sobre la inteligencia artificial. Las mismas personas que compiten por construir los modelos más potentes advierten de que esos modelos podrían escapar a nuestro control. Piden regulación, coordinación e incluso una desaceleración, pero ninguna parece dispuesta a ser la primera en detenerse.

La explicación fácil es que están mintiendo. La tranquilizadora, que saben perfectamente lo que hacen. Probablemente no sea cierta ninguna de las dos.

Es posible que los responsables de los grandes laboratorios crean sinceramente que la inteligencia artificial entraña riesgos extraordinarios y que, al mismo tiempo, utilicen ese peligro para defender sus empresas, condicionar la regulación y ganar tiempo. No hay contradicción. Los seres humanos somos perfectamente capaces de tener miedo y actuar en nuestro propio interés a la vez.

Para entender lo que está ocurriendo hay que mirar menos a las máquinas conscientes de la ciencia ficción y más a elementos bastante materiales: la carrera entre laboratorios y entre Estados Unidos y China, el coste del cómputo y las amenazas que la IA ya está amplificando.

Nadie quiere ser el único que frene

Jacob Coxon, investigador que trabajó en OpenAI y Anthropic, abandonó esta última acusando a ambas compañías de correr hacia sistemas capaces de contribuir a su propia mejora. Su argumento no era que los modelos actuales puedan conquistar el mundo, sino que la competencia podría llevar a los laboratorios a automatizar la investigación en IA antes de aprender a controlar de forma fiable los sistemas resultantes.

La reacción más llamativa llegó desde la propia Anthropic. Evan Hubinger, responsable de alignment science, respaldó la preocupación y atribuyó una probabilidad subjetiva superior al 10 % a que la IA pudiera acabar con la humanidad durante la próxima década. Esa cifra ha viajado por titulares, vídeos y redes como si fuera el resultado de un cálculo científico. No lo es. Es la valoración personal de un investigador que conoce bien estos sistemas, lo cual merece atención, pero no la convierte en una probabilidad actuarial.

La entrevista de Coxon en WIRED revela el verdadero centro de su razonamiento: el dilema de seguridad. Cada laboratorio considera peligroso que los demás lleguen primero y concluye que su propia victoria es la opción menos mala. Si todos piensan así, todos aceleran, aunque todos prefirieran un mundo en el que la carrera se desarrollara más despacio.

Lo mismo sucede entre Estados. Washington no puede estudiar una hipotética pausa pensando únicamente en Silicon Valley. China forma parte de la ecuación. Estados Unidos conserva una ventaja en el diseño de chips, el software y el acceso a la fabricación más avanzada, pero esa ventaja no es permanente. Sus controles de exportación limitan el acceso chino a determinados aceleradores, memorias de gran ancho de banda, equipos y programas para fabricar semiconductores. La intención explícita es frenar capacidades que también tienen aplicaciones militares.

Desde esa perspectiva, cualquier desaceleración unilateral corre el riesgo de convertirse en una cesión estratégica. No hace falta que los dirigentes estadounidenses crean literalmente en la ley de Moore como una ley física. Basta con que crean que dejar de avanzar durante unos años permitiría al competidor reducir la distancia.

Cuando encoger deja de ser suficiente

La ley de Moore describió durante décadas el aumento periódico del número de transistores que podían integrarse económicamente en un chip. Mantener esa progresión es cada vez más caro: las Academias Nacionales de Estados Unidos sitúan cerca de los 20.000 millones de dólares el coste de una fábrica avanzada, y TSMC ha anunciado inversiones acumuladas de 165.000 millones de dólares solo en Estados Unidos.

La industria ya busca alternativas. Los chiplets dividen un gran procesador en piezas más pequeñas y especializadas, lo que abarata la fabricación, como explica AMD sobre su propia arquitectura. Pero no es un atajo gratuito: cuantas más piezas, más problemas de latencia, memoria, calor y empaquetado. El futuro no será miniaturizar o multiplicar chips, sino combinar ambas cosas con mejor software. Y todo eso sigue costando cantidades que solo unos pocos pueden pagar.

El riesgo no necesita que la máquina «despierte»

La discusión pública se concentra en si una superinteligencia futura desarrollará objetivos propios y decidirá eliminarnos. Es una posibilidad debatida, incierta y difícil de cuantificar. Mientras discutimos sobre ella, la IA ya está transformando amenazas mucho más convencionales.

No necesita odiarnos. Basta con que haga más competente, rápido y barato a alguien que ya quiera causar daño.

Armas que deciden más deprisa que nosotros

La incorporación de IA al armamento no es una hipótesis. La Directiva 3000.09 del Departamento de Defensa estadounidense regula expresamente el desarrollo y uso de funciones autónomas y semiautónomas, incluida la selección automatizada de objetivos. El texto exige niveles apropiados de juicio humano, pruebas realistas, trazabilidad y capacidad de desactivación. La existencia de esas salvaguardas demuestra precisamente que la autonomía militar ya es un problema operativo.

La tentación de retirar al ser humano del circuito es enorme. Un sistema automático puede analizar sensores, reconocer objetivos, coordinar enjambres y reaccionar en milisegundos. Frente a misiles o drones que llegan en masa, esperar una autorización individual puede convertir la supervisión humana en una desventaja táctica.

Pero «mantener a una persona en el circuito» tampoco resuelve por sí solo el problema. Si el sistema presenta cincuenta objetivos en unos segundos y exige confirmar inmediatamente, el operador puede quedar reducido a estampar una aprobación. La velocidad, la opacidad del modelo y la presión del combate pueden convertir el control humano en un ritual sin control efectivo.

La cuestión no es solo quién aprieta el botón, sino quién identifica el objetivo, quién establece el umbral de confianza, cuánto tiempo tiene la persona para revisar la recomendación y quién responde cuando el sistema se equivoca. Quitar completamente al ser humano del proceso de selección y ataque ampliaría el riesgo de errores a gran escala, escaladas involuntarias y guerras iniciadas o aceleradas por interacciones automáticas que ningún dirigente comprende a tiempo.

La democratización de capacidades destructivas

Hasta ahora, desarrollar determinadas armas o ejecutar operaciones complejas requería reunir especialistas, información dispersa y años de experiencia. La IA puede comprimir parte de ese aprendizaje. No entrega automáticamente un arma biológica, química o radiológica a cualquiera que formule una pregunta: siguen haciendo falta materiales, instalaciones, dinero, experimentación y conocimiento tácito. Sin embargo, puede ayudar a buscar literatura, traducirla, diseñar procesos, escribir simulaciones, diagnosticar fallos y conectar conocimientos que antes exigían varios perfiles especializados.

Eso importa especialmente en la franja intermedia. Un lobo solitario sin laboratorio continuará teniendo limitaciones importantes. Una organización criminal, un grupo terrorista, un Estado disfuncional o una institución con personal científico básico ya dispone de recursos sobre los que la IA puede actuar como multiplicador.

Anthropic reconoce en su política de escalado responsable umbrales relacionados con armas químicas, biológicas, radiológicas y nucleares. No es una admisión de que sus modelos sepan fabricar esas armas de forma autónoma; es el reconocimiento de que incluso una mejora marginal en usuarios con recursos suficientes puede tener consecuencias desproporcionadas.

La amenaza, por tanto, no consiste únicamente en que la IA descubra una tecnología destructiva completamente nueva. También puede reducir el número de personas, el tiempo y la cualificación necesarios para utilizar tecnologías peligrosas que ya existen.

La ciberdelincuencia a escala industrial

La ciberseguridad es probablemente el lugar donde la amenaza resulta más inmediata. Un ataque informático puede diseñarse, probarse y desplegarse sin construir una fábrica ni conseguir materiales físicos. Además, el mismo sistema puede repetir el ataque contra miles de objetivos.

El National Cyber Security Centre británico prevé que la IA aumente el volumen y el impacto de los ataques, reduzca la barrera de entrada y acelere la explotación de vulnerabilidades. Google ya ha observado a actores estatales y criminales empleando modelos para reconocimiento, ingeniería social, desarrollo de código, análisis de información robada y evasión de defensas. Su seguimiento más reciente describe el paso desde simples consultas hacia flujos de ataque automatizados y agentes.

La diferencia importante no es que la IA invente el delito informático, sino que industrializa sus partes más laboriosas:

• redacta mensajes de suplantación convincentes en cualquier idioma;
• personaliza fraudes con información pública de cada víctima;
• genera voces, imágenes y vídeos para hacerse pasar por familiares o directivos;
• busca vulnerabilidades y convierte fallos publicados en código utilizable;
• adapta malware al entorno que encuentra;
• clasifica grandes volúmenes de información robada para elegir qué extorsionar;
• mantiene simultáneamente miles de conversaciones fraudulentas.

Europol e INTERPOL ya describen un ecosistema criminal más distribuido, accesible y automatizado. La consecuencia puede ser una asimetría incómoda: atacar resulta barato y repetible; defender cada hospital, ayuntamiento, pyme o infraestructura crítica continúa siendo caro.

La IA también fortalece a los defensores. Puede detectar anomalías, revisar código, priorizar vulnerabilidades y responder con mayor rapidez. El resultado no está decidido. Pero sí parece probable que aumenten la velocidad y el volumen del conflicto digital, dejando menos tiempo para reaccionar y castigando especialmente a las organizaciones peor preparadas.

Propaganda, fraude y debilitamiento de la realidad compartida

La misma capacidad de producir contenido personalizado puede utilizarse para inundar redes, simular apoyo popular, acosar a personas o fabricar pruebas. El problema no es que cada vídeo falso vaya a engañar a todo el mundo. Es que el coste de producir cien mil versiones y probar cuál funciona se aproxima a cero.

Existe además un efecto inverso: cuando cualquier imagen o grabación puede ser falsa, también los hechos verdaderos pueden negarse como una fabricación. La IA no solo permite crear mentiras más convincentes; proporciona a los culpables una coartada permanente frente a documentos auténticos. Esa erosión de la confianza favorece a organizaciones criminales, servicios de inteligencia y movimientos políticos dispuestos a operar en la confusión.

La revolución laboral y el riesgo de ruptura social

La amenaza social más seria quizá no sea un desempleo total y repentino, sino una transición demasiado rápida y mal repartida.

La Organización Internacional del Trabajo calcula que alrededor de uno de cada cuatro empleos presenta algún grado de exposición a la IA generativa. Exposición no significa desaparición. En muchos casos se automatizarán tareas y cambiará el puesto; en otros, una persona con IA producirá lo que antes requería varias. La OCDE señala que todavía existe poca evidencia de una reducción agregada del empleo, pero también observa que los beneficios salariales se concentran en trabajadores con mayores ingresos y cualificación.

Ese matiz es esencial. Una economía puede crear más empleos de los que destruye y provocar, aun así, una crisis social. Las personas que pierden su trabajo no son automáticamente quienes consiguen los nuevos puestos, ni viven necesariamente en la misma región, tienen la misma edad o pueden pasar varios años formándose.

La primera sacudida puede afectar especialmente a los empleos de entrada: redacción básica, traducción, soporte, análisis documental, programación sencilla, diseño de piezas rutinarias y tareas administrativas. Si las empresas eliminan los escalones inferiores, aparece otra dificultad: ¿cómo se formarán los futuros profesionales sénior si desaparece el trabajo con el que antes adquirían experiencia?

También puede cambiar la distribución de poder dentro de las empresas. Si una persona apoyada por IA realiza el trabajo que antes hacía un equipo, parte de la productividad puede traducirse en mejores salarios y jornadas más cortas. También puede traducirse en despidos, concentración del beneficio y vigilancia algorítmica. La tecnología no elige entre esos resultados; lo hacen la propiedad, la competencia, la negociación colectiva y la política fiscal.

Hablar de disturbios sociales no es exagerado, pero tampoco deberían presentarse como una consecuencia automática. El riesgo aparece cuando coinciden velocidad, desigualdad y ausencia de mecanismos de transición. Una población que percibe que sus habilidades han perdido valor, que las ganancias se concentran en unas pocas compañías y que las instituciones no ofrecen una salida puede volverse receptiva a protestas, respuestas populistas, sabotaje tecnológico o violencia.

La historia de la industrialización muestra que la productividad y el conflicto pueden crecer simultáneamente. A largo plazo, las nuevas tecnologías pueden generar riqueza y empleo. El problema político sucede en los años intermedios, cuando las pérdidas son concretas e inmediatas y los beneficios futuros, agregados y desiguales.

El peligro más humano

El debate sobre la extinción plantea una pregunta legítima: ¿seremos capaces de controlar sistemas mucho más inteligentes y autónomos que los actuales? Pero su espectacularidad puede ocultar una pregunta más urgente: ¿qué harán con ellos las personas e instituciones que ya conocemos?

Un ejército querrá decidir más rápido que su adversario. Un servicio de inteligencia querrá penetrar más sistemas. Una organización criminal querrá estafar a más víctimas con menos trabajadores. Un grupo extremista querrá convertir información dispersa en capacidad operativa. Una empresa querrá producir lo mismo con la mitad de la plantilla. Y cada actor podrá justificar su aceleración señalando que los demás harán exactamente lo mismo.

Ese es el hilo que une los chips, las armas, los ciberataques y el empleo: nadie quiere quedarse fuera.

La inteligencia artificial no tiene que desarrollar una voluntad maligna para resultar peligrosa. Puede bastar con que multiplique la voluntad, la competencia y la irresponsabilidad que ya existen. Por eso la cuestión decisiva no es solo hasta dónde llegará la tecnología, sino quién tendrá acceso a ella, qué decisiones podrá delegarle, quién responderá por sus errores y cómo se repartirán sus beneficios.

El futuro de la IA no se decidirá únicamente dentro de un modelo. Se decidirá en los ejércitos que establezcan sus reglas de ataque, en las empresas que repartan o concentren la productividad, en los gobiernos que regulen sin entregar el mercado a tres compañías y en la capacidad de los Estados para cooperar sin fingir que han dejado de competir.

El riesgo existencial quizá llegue algún día. Los riesgos humanos ya están aquí.

La serie

Parte II · Quién pagará la carrera de la IA

La segunda entrega plantea que la IA no es solo una tecnología: si los costes de la frontera siguen creciendo más deprisa que los ingresos, los laboratorios pueden presentar su financiación como una cuestión de seguridad nacional. La hipótesis es una nacionalización encubierta: que el contribuyente asuma parte del riesgo mediante contratos, avales, subvenciones o participaciones públicas, mientras el control y buena parte del beneficio siguen en manos privadas.

Parte III · No basta con frenar: quién marca el ritmo de la IA

La tercera analiza la propuesta de Dario Amodei para condicionar el avance de los modelos de frontera a pruebas de seguridad verificables, y la pregunta política que abre: quién decide ese ritmo y quién recibe el poder que crea ese permiso.