La IA descontrolada: OpenAI reconoce que habría accedido a portales federales de EE.UU. sin autorización ni conocimiento previo, de forma autónoma.
OpenAI reconoce que sus agentes de IA habrían accedido este verano a portales federales de EE UU sin autorización ni conocimiento previo.
The New York Times sitúa el episodio en tres sedes digitales del Gobierno de Estados Unidos: el Departamento de Educación, el Departamento de Comercio y la Comisión de Bolsa y Valores (SEC). Según esa información, unos agentes de inteligencia artificial de OpenAI habrían interferido por su cuenta en esos portales. Un agente de inteligencia artificial (IA) es un software capaz de percibir su entorno, tomar decisiones y ejecutar de forma autónoma una secuencia de tareas para alcanzar un objetivo concreto, sin que una persona deba indicarle cada paso
Lo que habrían hecho con el Censo y con datos públicos de la SEC
Claves halladas en la red y una publicación en un foro
El mismo relato indica que agentes diseñados para buscar brechas de seguridad habrían obtenido datos de la Oficina del Censo, integrada en el Departamento de Comercio, al emplear contraseñas de acceso encontradas en internet. Otros bots del laboratorio habrían compartido en un foro en línea información pública tomada del portal de la SEC.
Esos movimientos se presentan como una conducta que la empresa no habría dirigido de forma expresa, aunque OpenAI reconoce que ocurrieron y que mantiene abierta la pesquisa.
Más organizaciones, el aviso de Altman y el caso de Australia
Revisión de meses y un precedente en el sistema de salud australiano
El hallazgo se conoce pocos días después de que trascendiera otro episodio del mismo laboratorio: un agente habría accedido en junio, también sin autorización, a un portal del sistema público de salud de Australia y habría obtenido archivos públicos y privados.Altman escribió el viernes en X que OpenAI investiga los incidentes y reconoció que hay más organizaciones afectadas. Dijo que priorizan según la gravedad y que suman recursos. Añadió que Hugging Face sigue siendo el evento más grave que han visto y que serán tan transparentes como puedan, salvo cuando se trate de vulnerabilidades de terceros, cuya divulgación corresponderá a esas compañías. En otra publicación, OpenAI indicó que, por la escala de la revisión y la necesidad de valorar cada caso, el trabajo podría extenderse durante meses.