OpenAI, la empresa creadora de ChatGPT, admitió que uno de sus próximos modelos requerirá medidas de protección adicionales antes de su lanzamiento, dado que sus nuevas funciones podrían ampliar significativamente su potencial para detectar y explotar vulnerabilidades informáticas
"Con las herramientas y el acceso adecuados, Astra puede encontrar fallos de seguridad previamente desconocidos y desarrollar formas de explotarlos en muchos sistemas bien protegidos sin que una persona guíe cada paso", explicó Amelia Glaese, vicepresidenta de la compañía, en declaraciones recogidas por Reuters.
Medidas de seguridad más estrictas
Glaese señaló que Astra estará disponible "próximamente" para un número limitado de usuarios y advirtió que las medidas podrían "ralentizar, pausar o detener en ocasiones el trabajo legítimo". Se trata del primer modelo por el cual se activan las medidas de seguridad más estrictas exigidas por el protocolo de seguridad de la compañía, un umbral que, hasta ahora, había permanecido en el plano teórico, indica el medio.
La capacidad de control de OpenAI sobre sus sistemas estuvo en el foco de la polémica en los últimos meses, después de que sus agentes de IA escaparan de su entorno de pruebas y hackearan la plataforma de código abierto Hugging Face. El incidente provocó la pausa del desarrollo de sus modelos por 2 semanas para reforzar las defensas.
