En un esfuerzo por autorregular el desarrollo y uso de la inteligencia artificial (IA), empresas líderes como OpenAI, Google, Nvidia y Microsoft han formado la Coalición para una IA Segura (CoSAI).
Un ecosistema colaborativo para la IA segura
La CoSAI, definida como una “comunidad de código abierto”, busca mejorar la confianza y las medidas de protección en el diseño, implementación y uso de sistemas de IA. La iniciativa, respaldada por la Organización para el Avance de Estándares de Información Estructurada (OASIS), ofrecerá a los desarrolladores y profesionales de la IA un “ecosistema colaborativo para compartir metodologías de código abierto, marcos estandarizados y herramientas de diseño”.
Abordando los desafíos de la IA
La Coalición se centrará en tres áreas clave:
- Gobernanza de seguridad: Implementación de metodologías, mejores prácticas y marcos de evaluación de riesgos para la seguridad de la IA.
- Mecanismos de protección para la cadena de suministro: Creación de mecanismos que fortalezcan la gestión de la estructura y procedencia del software.
- Control de riesgos: Esquemas de capacitación para optimizar las inversiones en ciberseguridad y abordar los desafíos de la integración de la tecnología en la cadena de valor.
La creación de la CoSAI responde a la necesidad de “democratizar el conocimiento y los avances esenciales para la integración y el despliegue seguros de la IA”, según David LaBianca, representante de Google y copresidente del comité directivo de la Coalición.
Omar Santos, copresidente de la junta directiva de la CoSAI y delegado de Cisco, asegura que la combinación de experiencia y recursos de los miembros de la nueva entidad permitirá “acelerar el desarrollo de estándares y prácticas de seguridad en beneficio de la industria”.
La CoSAI en el contexto global de la regulación de la IA
El lanzamiento de la CoSAI se produce en un momento en que la comunidad internacional busca establecer marcos regulatorios para la IA. Este año, la Asamblea General de las Naciones Unidas adoptó la primera resolución global sobre IA, con el objetivo de proteger los datos personales, mejorar las políticas de privacidad y defender los derechos humanos. En mayo, la Unión Europea aprobó una ley que modera el desarrollo, producción y uso de algoritmos inteligentes.
Si bien algunos desarrolladores de IA han criticado estas regulaciones por considerarlas excesivas, la CoSAI representa un paso importante hacia la autorregulación de la industria, buscando un equilibrio entre el avance tecnológico y la protección del público.
La CoSAI se encuentra en sus primeras etapas, pero su creación marca un hito importante en la búsqueda de un desarrollo responsable de la inteligencia artificial. Queda por ver cómo evolucionará la iniciativa y qué impacto tendrá en el panorama global de la IA.
