Los medios más influyentes del mundo han dejado de presentar el riesgo de la inteligencia artificial como una especulación distante. Sus titulares describen una industria que avanza con enorme velocidad, mientras quienes construyen los sistemas más poderosos admiten que todavía no saben gobernarlos. Para el derecho, la pregunta decisiva ya no es qué puede hacer la IA, sino quién responde cuando hace más de lo previsto.
Una alarma que llegó a los titulares
Durante años, las advertencias sobre una inteligencia artificial fuera de control pertenecieron a la literatura, al cine y a los márgenes del debate tecnológico. En septiembre de 2026, el lenguaje cambió. La alarma apareció, casi simultáneamente, en algunos de los periódicos más influyentes de Europa y Estados Unidos. La coincidencia no demuestra que una catástrofe sea inevitable, pero sí revela una ruptura de confianza: los riesgos ya no son formulados únicamente por críticos externos, sino por investigadores y directivos situados en el centro de la industria.
Le Monde tituló: «IA : le débat sur l’“IApocalypse” prend de l’ampleur après la démission d’un chercheur d’Anthropic et des incidents de sécurité». El neologismo “IApocalypse” no era un adorno. La nota relacionaba la renuncia del investigador Jacob Coxon, varios incidentes de seguridad y la discusión sobre sistemas capaces de actuar con una autonomía difícil de vigilar. El periódico francés registró así el paso de una inquietud técnica a un debate público sobre riesgo existencial. [1]
The New York Times publicó tres piezas complementarias. El ensayo de Stephen Witt llevó un título deliberadamente desnudo: “This Is Really Bad”. Mike Isaac y Kate Conger describieron las conversaciones internas de las compañías en “Inside the Snowballing Conversations at A.I. Companies About a Doomsday”. Una tercera nota informó, sin metáforas, “Anthropic C.E.O. Calls for A.I. Slowdown”. Leídas en conjunto, las tres publicaciones muestran que la palabra catástrofe dejó de ser una exageración atribuida a observadores distantes y entró en las conversaciones de quienes desarrollan los modelos. [2–4]
Financial Times documentó después el desacuerdo político que convierte la seguridad en un problema geopolítico. Primero informó: “Rivals Altman and Musk rally behind Dario Amodei’s call for an AI slowdown”. Al día siguiente publicó: “Donald Trump rejects calls from tech bosses for AI slowdown”. La secuencia contiene el dilema completo. Algunos de los competidores más poderosos aceptan que el ritmo debe reducirse, mientras el gobierno teme que cualquier pausa permita a China obtener una ventaja estratégica. [5–6]
En España, La Vanguardia resumió la inquietud con una petición directa: “Que alguien nos frene”. EL PAÍS escogió una fórmula todavía más explícita: “Código rojo en la IA: el vértigo paraliza a las tecnológicas y OpenAI suspende la salida a Bolsa”. Los titulares no son equivalentes y cada artículo tiene su propio alcance. Sin embargo, todos describen una misma anomalía institucional: quienes poseen el conocimiento, el capital y la infraestructura para acelerar la inteligencia artificial reclaman controles que no pueden establecer por sí solos. [7–8]
El punto de quiebre
El documento que articuló la reacción inmediata fue escrito por Dario Amodei, director ejecutivo de Anthropic. Su ensayo, “We Must Pace the Frontier”, parte de una afirmación sencilla: las capacidades de los modelos de frontera crecen más rápido que las herramientas disponibles para comprenderlos, evaluarlos y controlarlos. Amodei no pide detener toda investigación ni abandonar las aplicaciones útiles. Propone reducir temporalmente la velocidad con la que aumentan las capacidades más peligrosas, de modo que la seguridad pueda alcanzarlas. [9]
La propuesta se apoya en tres mecanismos. El primero consiste en permitir que evaluadores externos tengan acceso continuo a los laboratorios y revisen modelos, prácticas de entrenamiento, incidentes y medidas de seguridad. El segundo exige que las empresas situadas en países democráticos acuerden estándares comunes, con apoyo estatal, para impedir que la prudencia de una compañía se convierta en ventaja para otra. El tercero traslada la coordinación al plano internacional y exige acuerdos verificables incluso con gobiernos autoritarios. [9]
La importancia jurídica de este planteamiento reside en la palabra “verificable”. Las declaraciones éticas son insuficientes cuando la organización que promete prudencia también obtiene beneficios por acelerar. El control requiere acceso independiente, registros, pruebas adversariales, criterios de suspensión y capacidad para informar a las autoridades. En términos de compliance, la buena intención no reemplaza la evidencia.
La promesa de Elon Musk para 2036
Dos meses antes de esta alarma periodística, Elon Musk había expuesto ante Zanny Minton Beddoes, directora de The Economist, una de sus visiones más ambiciosas sobre la próxima década. La conversación, publicada el 29 de julio de 2026, no fue un manifiesto ni una cronología año por año. Fue una entrevista extensa sobre inteligencia artificial, robótica, economía, China, política y gobierno corporativo. Sus referencias temporales permiten, sin embargo, reconstruir dos predicciones centrales. [10–11]
La primera se sitúa alrededor de 2031. Musk estima que, en unos cinco años, la inteligencia digital podría superar la suma de la inteligencia humana. No se refiere únicamente a un programa que vence a una persona en una tarea delimitada. Habla de sistemas capaces de reunir y ampliar capacidades intelectuales a una escala que ningún individuo ni institución podría igualar. [10–11]
La segunda predicción mira hacia 2036. Musk imagina una economía en la que la inteligencia digital se combine con robots humanoides capaces de actuar en el mundo físico. Si los sistemas pueden diseñar, fabricar, transportar y prestar servicios con costos decrecientes, el trabajo humano podría convertirse en una actividad voluntaria y la producción alcanzaría niveles de abundancia desconocidos. Su frase más difundida fue breve: “Money won’t matter in 2036”. En ese escenario, Musk prevé un ingreso alto universal y una fuerte presión deflacionaria. [10–11]
La promesa contiene su propia advertencia. Cuando la entrevistadora le pregunta si los seres humanos conservarán el control sobre una inteligencia ampliamente superior, Musk responde que probablemente no. Confía en que los sistemas orientados hacia la verdad, la curiosidad y valores favorables a la humanidad produzcan buenos resultados. Esa expectativa puede expresar una preferencia de diseño, pero no constituye un modelo de gobierno. Ninguna junta directiva, autoridad pública o juez puede sustituir controles demostrables por la esperanza de que una inteligencia superior decida tratarnos bien. [10–11]
La carrera y el freno
El debate enfrenta dos riesgos reales. Si una empresa reduce unilateralmente la velocidad, puede perder inversión, mercado y talento frente a sus competidores. Si un país impone restricciones que otros no aceptan, puede ceder capacidad económica, militar y científica. Esa es la objeción de quienes consideran inviable una pausa. La carrera no ocurre en un laboratorio aislado: depende de chips, energía, centros de datos, capital y decisiones estatales.
Pero la alternativa también tiene costos. La presión competitiva puede llevar a liberar sistemas sin evaluaciones suficientes, ocultar incidentes, reducir la intervención humana y trasladar riesgos a usuarios que no participaron en la decisión. Cuando todos los actores justifican su velocidad por la velocidad ajena, el mercado deja de corregir el peligro y comienza a multiplicarlo. La misma lógica que impulsa la innovación puede producir una falla colectiva.
Por eso la coordinación propuesta por Amodei genera una dificultad adicional. Los competidores deben compartir cierta información para mejorar la seguridad, pero no pueden convertir esa cooperación en un acuerdo que restrinja indebidamente la competencia. El derecho tendrá que distinguir entre el intercambio necesario para prevenir daños y la coordinación destinada a cerrar mercados. Esa frontera exige estándares públicos, participación de autoridades y límites precisos sobre la información compartida.
El compliance ante capacidades cambiantes
Los programas tradicionales de cumplimiento suelen partir de una norma relativamente estable, identificar riesgos y establecer controles. La inteligencia artificial altera esa secuencia. Un mismo modelo puede recibir nuevas capacidades, conectarse con herramientas externas y ejecutar tareas que no realizaba cuando fue aprobado. El inventario de ayer puede describir de manera incorrecta el riesgo de hoy.
La primera obligación consiste en saber qué sistemas utiliza la organización, para qué decisiones, con cuáles datos y bajo qué grado de autonomía. La segunda es clasificar el riesgo del uso concreto. Un asistente que mejora la redacción de un correo no exige el mismo control que un agente autorizado para contratar, seleccionar personal, acceder a historias clínicas o modificar infraestructura crítica. La marca del proveedor tampoco define por sí sola el nivel de riesgo.
La tercera obligación es asignar responsabilidades humanas. La organización no puede atribuir una decisión al algoritmo como si el sistema fuera un sujeto independiente. Alguien debe autorizar el uso, examinar al proveedor, definir los límites, revisar las alertas y ordenar la suspensión. La supervisión humana solo existe cuando la persona dispone de tiempo, información, competencia y autoridad para modificar el resultado. Una firma automática al final del proceso es una apariencia de control.
También se necesita evidencia. Deben conservarse la versión del modelo, las instrucciones relevantes, los permisos concedidos, los resultados de las evaluaciones, las intervenciones humanas y los incidentes. Sin trazabilidad, la empresa no podrá explicar por qué confió en el sistema ni demostrar que actuó con diligencia. El registro no es una carga burocrática añadida a la innovación; es la condición que permite reconstruir una decisión cuando sus consecuencias afectan derechos.
Finalmente, todo sistema de alto riesgo requiere criterios de detención. La autorización no puede ser indefinida. Un cambio de versión, una conducta no prevista, una vulnerabilidad grave o la pérdida de calidad de los datos deben activar una nueva evaluación. El compliance eficaz no promete que jamás habrá fallas. Demuestra que la organización buscó señales de peligro, fijó umbrales y estuvo en capacidad de actuar cuando aparecieron.
La decisión que no puede delegarse
Las predicciones de Elon Musk pueden cumplirse solo parcialmente y, aun así, transformar el trabajo, la distribución de la riqueza y la concentración del poder. También pueden equivocarse en los plazos. Ninguna de esas posibilidades reduce la obligación presente de gobernar los sistemas que ya toman parte en decisiones empresariales y públicas. El derecho no necesita esperar hasta 2036 para formular deberes de diligencia.
La coincidencia de los titulares internacionales expresa una advertencia seria, no una sentencia científica sobre el futuro. Su valor consiste en revelar que la incertidumbre ha llegado al centro de la industria. Cuando los propios desarrolladores reconocen límites en su capacidad de control, las organizaciones usuarias no pueden responder con confianza ciega ni con prohibiciones generales. Deben autorizar usos definidos, imponer controles proporcionales y conservar la evidencia que justifique cada decisión.
La inteligencia artificial promete abundancia, productividad y nuevas formas de conocimiento. También puede ampliar la autonomía de sistemas cuyo comportamiento nadie comprende por completo. Entre la aceleración sin límites y la renuncia tecnológica existe un espacio institucional que el compliance debe ocupar. Allí se decide quién puede usar la tecnología, con qué propósito, bajo cuáles condiciones y quién responde si el sistema cruza el límite. Esa decisión seguirá siendo humana, incluso si la inteligencia que la pone a prueba deja de serlo.
Álvaro Rolando Pérez . Abogado y profesor universitario
Referencias:
Los títulos se conservan en su idioma de publicación. Enlaces verificados el 14 de septiembre de 2026.
[1] Morgane Tual. “IA : le débat sur l’« IApocalypse » prend de l’ampleur après la démission d’un chercheur d’Anthropic et des incidents de sécurité”. Le Monde. 11 de septiembre de 2026, 10:00; modificado 14:24. Enlace
[2] Stephen Witt. “This Is Really Bad”. The New York Times, Opinion Guest Essay. 11 de septiembre de 2026. Enlace
[3] Mike Isaac y Kate Conger. “Inside the Snowballing Conversations at A.I. Companies About a Doomsday”. The New York Times. 12 de septiembre de 2026, 5:03 ET. Enlace
[4] Mike Isaac. “Anthropic C.E.O. Calls for A.I. Slowdown”. The New York Times. 12 de septiembre de 2026, 12:03 ET. Enlace
[5] Tim Bradshaw y George Hammond. “Rivals Altman and Musk rally behind Dario Amodei’s call for an AI slowdown”. Financial Times. 12 de septiembre de 2026. Enlace
[6] Financial Times. “Donald Trump rejects calls from tech bosses for AI slowdown”. Financial Times. 13 de septiembre de 2026, 15:42 UTC. Enlace
[7] Lola García. “Que alguien nos frene”. La Vanguardia, Opinión. 14 de septiembre de 2026, 00:05; actualizado 06:00. Enlace
[8] Javier Salas. “Código rojo en la IA: el vértigo paraliza a las tecnológicas y OpenAI suspende la salida a Bolsa”. EL PAÍS, Tecnología. 13 de septiembre de 2026, 19:52 CEST. Enlace
[9] Dario Amodei. “We Must Pace the Frontier”. Sitio personal del autor. 12 de septiembre de 2026. Enlace
[10] The Economist. “The full-length interview with Elon Musk”. Canal oficial de The Economist en YouTube. 29 de julio de 2026; duración 1:25:07. Enlace
[11] Elon Musk. “Transcripción de The full-length interview with Elon Musk”. Reproducción de la transcripción del video. consultada el 14 de septiembre de 2026. Enlace
