El próximo agosto, en Las Vegas, miles de hackers van a atacar a las IAs de Open AI, como ChatGPT y DALL-E, así como a la inteligencia artificial de Google, NVIDIA, Anthropic, Hugging Face, y Stability. Pero que no cunda el pánico: son hackers de sombrero blanco. No lo hacen para delinquir, sin para encontrar fallos de seguridad y comunicarlos a sus creadores. Será la actividad estrella de la Def Con 2023. 

La Def Con es la conferencia de hackers más importante del mundo. AI VIllage ha anunciado la creación de un Red Team para atacar a la inteligencia artificial generativa, y explotar sus debilidades.

Un red team es la simulación de un ataque hacker llevado a cabo por un grupo de expertos en seguridad, con el consentimiento del software o la entidad que sufre el ataque. El objetivo es poner a prueba las medidas de seguridad.

Miles de hackers presentes en la Def Con van a participar en el red team de AI Village contra modelos de lenguaje de IA generativa de Open AI, Google, NVIDIA, Anthropic, Hugging Face, y Stability. Microsoft también colabora.

La IA, estrella de la Def Con

"Nos encanta la explosión de creatividad que permiten los nuevos modelos generativos de lenguajes grandes (LLM). Pueden ayudar a la gente a expresar sus ideas más rápido y mejor que nunca. Pueden reducir las barreras de entrada en los campos creativos y permitir nuevos tipos de contenidos creativos", explica la nota de prensa.

Y continúa: "Sin embargo, apenas estamos empezando a comprender los riesgos que conlleva la automatización a gran escala de estas nuevas tecnologías. Alucinaciones, fugas, prejuicios y un salto drástico en las capacidades son nuevos problemas a los que tienen que enfrentarse los profesionales de la seguridad y el público".

Según Sven Cattell, fundador de AI Village, "Tradicionalmente, las empresas han resuelto este problema con red teams especializados. Sin embargo, este trabajo se ha realizado en gran medida en privado. Los diversos problemas que plantean estos modelos no se resolverán hasta que un mayor número de personas sepa cómo crear equipos rojos y evaluarlos". 

AI Village asegura que miles de hackers van a participar en este ataque simulado a la inteligencia artificial generativa. Además invitarán a cientos de estudiantes, para que aprendan. Todos los resultados y los métodos usados, se harán públicos.

En la Def Con se proporcionarán ordenadores portátiles y acceso cronometrado a múltiples IAs de los proveedores. También se pondrá en marcha un sistema de puntos en una amplia gama de daños. Todo aquel que consiga ciertos objetivos de hackeo, recibirá puntos. La persona con la máxima puntuación ganará una GPU NVIDIA de gama alta.

La seguridad de ChatGPT, Bard, y otras inteligencias artificiales generativas, se va a poner a prueba en la conferencia de hackers Def Con 2023, del 10 al 13 de agosto en Las Vegas. Será interesante comprobar los resultados...