Qué es CoSAI, la alianza creada por Google, Amazon, Microsoft, NVIDIA, OpenAI y otros gigantes
Las compañías tecnológicas se posicionan para intentar dar una imagen de unidad, frente a la posibilidad de que la IA destruya el mundo, o nos convierta en sus esclavos.
CoSAI
La IA tiene un lado oscuro (varios), y eso no es bueno para el negocio. Así que hay que hacer algo para minimizar los daños colaterales. CoSAI es una alianza de las principales compañías de IA, con algunas notables ausencias, que tiene como objetivo asegurarse de que la IA es segura para la humanidad.
CoSAI o Coalición para una IA segura, cuenta con Google, IBM, Intel, Microsoft, NVIDIA, y PayPal como principales promotores. Otros socios fundacionales son Amazon, Anthropic, Cisco, Chainguard, Cohere, GenLab, OpenAI, y Wiz.
Como vemos, están las principales empresas que se dedican a crear inteligencia artificial, con notables ausencias como Meta o Apple.
Qué es CoSAI
CoSAI es una iniciativa de código abierto diseñada para ofrecer a todos los profesionales y desarrolladores la orientación y las herramientas que necesitan para crear sistemas de IA de diseño seguro.
Las compañías de inteligencia artificial más importantes del mundo van a trabajar juntas para compartir metodologías de código abierto, marcos estandarizados y herramientas, que aseguren que la IA no se nos va de las manos.
Aún queda por ver si eso es posible. ¿Cómo "enjaulas" a alguien que puede ser infinitamente más listo que tú? Pero ese es otro tema para otro artículo.
CoSAI va a actuar en tres áreas diferentes. En primer lugar, va a trabajar en la seguridad de la cadena de suministro de software para sistemas de IA. Todos los modelos de lenguaje que estas compañías creen se someterán a un escrutinio que va desde el primer instante de su concepción, hasta el producto final.
Los creadores se someterán a preguntas del tipo: ¿Quién realizó la formación y gestionó el proceso de formación de forma segura y auditable? ¿Ha estado el modelo libre de manipulaciones desde su creación?
Otra función de CoSAI es entrenar a los expertos en seguridad frente a un nuevo escenario de ciberseguridad cambiante: contrarrestar las capacidades ofensivas de ciberseguridad de los modelos de IA actuales y potenciales, así como las técnicas de mitigación y las mejores prácticas. Es decir, que la IA no use técnicas de hackers contra nosotros.
Finalmente, CoSAI desarrollará una guía para comprobar y gestionar la seguridad del IA. Incluirá una jerarquía de riesgos y controles, una lista de comprobación y un cuadro de mando para guiar a los profesionales en las evaluaciones de la IA
CoSAI, la nueva coalición para una IA segura, es un paso tan importante como necesario. Esperemos que sea efectivo y cumpla sus propósitos, por el bien de la humanidad...
Conoce cómo trabajamos en ComputerHoy.
Etiquetas: Open Source, Inteligencia artificial, Microsoft, paypal, Ciberseguridad