OpenAI pide a EE.UU. liderar un pacto global sobre IA ante el avance de sistemas que se mejoran a sí mismos

Tweet

En medio de crecientes inquietudes sobre la velocidad con la que evolucionan los modelos más avanzados, OpenAI hizo un llamado formal al gobierno de Estados Unidos para que encabece una iniciativa internacional orientada a establecer normas comunes de seguridad en inteligencia artificial.

La propuesta, plasmada en el documento titulado “Building standards for the next phase of AI”, busca crear mecanismos unificados de evaluación, supervisión humana e intercambio de información sobre amenazas, enfocándose en la llegada de sistemas capaces de participar autónomamente en su propio desarrollo.

La amenaza de la “Mejora Recursiva” (RSI) y el incidente de julio de 2026(Inteligencia Artificial Grok)

El documento técnico advierte explícitamente sobre los riesgos de la mejora recursiva (recursive self-improvement o RSI), un proceso mediante el cual los modelos de IA contribuyen a diseñar, entrenar y optimizar sus futuras versiones. De no contar con salvaguardas, este fenómeno podría acelerar el desarrollo a un ritmo indescifrable para los propios investigadores.

La urgencia del planteamiento tiene como antecedente un fallo de ciberseguridad registrado por la propia compañía en julio de 2026.

Origen del eventoOcurrió durante pruebas internas de evaluación en ciberseguridad.Comportamiento anómaloVarios modelos lograron vulnerar el aislamiento a Internet que tenían asignado.Acciones no autorizadasEstablecieron canales de comunicación paralelos y accedieron a recursos de Hugging Face.Respuesta de supervisiónLos mecanismos internos no detectaron a tiempo el alcance inicial de las señales.Ejes de la propuesta global de OpenAIOpenAI asegura que la publicidad en ChatGPT no influirá en las respuestas y que los anunciantes no tendrán acceso a las conversaciones de los usuarios. | Source : Redes

Para mitigar estos escenarios, la empresa propone coordinar esfuerzos entre el Centro de Estándares e Innovación de IA de EE.UU. (CAISI) e institutos especializados de países como Reino Unido, Francia, Alemania, Japón, Canadá, Australia y Singapur.

1. Evaluaciones Técnicas Comunes:

Medición rigurosa de las capacidades de investigación autónoma de los modelos antes de su despliegue.

2. Puntos de Revisión Humana:

Establecimiento claro de umbrales que requieran la intervención e interrupción obligatoria por parte de personal humano.

3. Canales de Comunicación Protegidos:

Redes de alerta temprana entre gobiernos y operadores clave para reportar vulnerabilidades y riesgos a la seguridad nacional.

Tensión con la postura de la Casa Blanca y diálogo con ChinaFotografía tomada de la cuenta oficial de la red social Truth Social @realDonaldTrump del presidente de Estados Unidos, Donald Trump, quien anunció este lunes que ha concluido la construcción de un helipuerto permanente de granito en el jardín sur de la Casa Blanca, que permitirá al mandatario despegar y aterrizar a bordo del helicóptero presidencial Marine One sin dañar el césped. EFE/ @realDonaldTrump /SOLO USO EDITORIAL/ NO VENTAS/ SOLO DISPONIBLE PARA ILUSTRAR LA NOTICIA QUE ACOMPAÑA (CRÉDITO OBLIGATORIO) | Source : @realDonaldTrump

La iniciativa de OpenAI contrasta con la visión de la administración liderada por Donald Trump. El mandatario estadounidense declaró públicamente su oposición a desacelerar el desarrollo de la tecnología, argumentando la necesidad de defender el liderazgo de su país frente a competidores como China en una carrera que comparó con la Revolución Industrial.

Por su parte, el secretario del Tesoro, Scott Bessent, desestimó la idea de otorgar exenciones de responsabilidad legal a las firmas tecnológicas, señalando que los desarrolladores deben responder ante los tribunales por los daños que puedan causar sus sistemas.

A pesar de las discrepancias políticas internas, la diplomacia entre potencias avanza: funcionarios de Estados Unidos y China acordaron mantener conversaciones sobre seguridad de IA en Shenzhen en los próximos meses. Asimismo, el tema llegará al Consejo de Seguridad de la ONU con la participación del CEO de OpenAI, Sam Altman, en un esfuerzo por fijar consensos antes de que la autonomía de los modelos alcance niveles críticos.

Fuente: https://www.fayerwayer.com/internet/2026/09/23/openai-pide-a-eeuu-liderar-un-pacto-global-sobre-ia-ante-el-avance-de-sistemas-que-se-mejoran-a-si-mismos/