Las empresas de inteligencia artificial se enfrentan al riesgo de que sus futuros modelos puedan ayudar a los usuarios a crear nuevos virus y armas biológicas, reportó este miércoles Financial Times.
Debido a este peligro, las compañías líderes, como Anthropic, OpenAI y Google DeepMind, intensifican sus esfuerzos para evaluar los riesgos biológicos, controlar el acceso y aplicar otras medidas de protección. Sus directivos consideran que la biología se convertirá en el próximo ámbito, después de la ciberseguridad, que requerirá nuevas soluciones de seguridad.
"Gran parte de lo que ocurre en el ámbito de la química y la biología tiene un uso dual. La información que se utiliza para crear un arma biológica también puede emplearse para desarrollar un antídoto o una vacuna", indicó Dawn Bloxwich, cuyo equipo analiza e investiga actividades sospechosas en los distintos modelos de IA de Google DeepMind. Añadió que los avances en el ámbito de salud podrían conllevar el abuso de nuevas herramientas.
Según destacó el medio, los terroristas y estructuras estatales pueden utilizar las tecnologías de la IA para desarrollar armas biológicas, crear virus y aplicar patógenos peligrosos. Algunos especialistas que están examinando los riesgos recordaron el caso de la secta japonesa Aum Shinrikyo, que perpetró un atentado con gas sarín en el metro de Tokio en 1995, con el resultado de 13 muertos y miles de heridos. En la actualidad crece la preocupación ante la posibilidad de que la IA reduzca significativamente las barreras para llevar a cabo ataques similares.
Сasos destacados
FT señala que esta cuestión comenzó a debatirse con mayor frecuencia después de que los nuevos modelos de Anthropic generaran inquietudes sobre la ciberseguridad. En junio, el Gobierno de Estados Unidos ordenó suspender el acceso a los modelos de inteligencia artificial Fable 5 y Mythos 5 a cualquier ciudadano extranjero —incluidos los empleados de la propia empresa—, tanto dentro como fuera del país. Como resultado de esta orden, Anthropic tuvo que deshabilitar abruptamente el acceso a ambos modelos para todos sus clientes.
Otro caso sonado que sacudió al sector tecnológico tuvo lugar cuando la plataforma Hugging Face, especializada en modelos de aprendizaje automático, sufrió una vulneración de seguridad nunca antes vista: un acceso no autorizado a sus sistemas orquestado "de principio a fin" por un sistema de agentes de inteligencia artificial autónomo, según informó la compañía.
Los modelos de IA no solo hackean a las compañías, sino que crean identidades falsas, intentan infiltrar códigos maliciosos, mantienen conversaciones secretas y coordinan fugas de información. Los gigantes tecnológicos buscan adoptar medidas para controlar sus sistemas, pero los riesgos siguen siendo altos.