Boston, MA, USA, 15 de octubre de 2024 – La Coalición para la IA Segura (CoSAI), un proyecto abierto de OASIS, ha anunciado la formación de su Comité Técnico de Dirección (TSC), el cual estará a cargo de la salud técnica y dirección general del proyecto. Este comité tendrá la responsabilidad de asesorar a la Junta de Gobierno del Proyecto (PGB), supervisar las versiones y gestionar los esfuerzos de los tres flujos de trabajo iniciales junto con sus respectivos presidentes, colaboradores y mantenedores. El TSC buscará promover iniciativas que coincidan con la misión de CoSAI de fomentar sistemas de IA seguros desde su diseño.
J.R. Rao, de IBM, y Akila Srinivasan, de Anthropic, han sido elegidos como copresidentes del TSC. Ambos jugarán un papel crucial en orientar la dirección de los flujos de trabajo para asegurar que contribuyan a los objetivos generales de CoSAI. J.R. y Akila aportan una rica experiencia y liderazgo desde sus respectivas organizaciones y serán fundamentales para impulsar la dirección técnica de CoSAI.
«Segurar la IA de manera abierta y colaborativa será crítico para inspirar confianza y permitir su aceptación tanto por parte de los consumidores como de las empresas. Como copresidente del TSC, me comprometo a guiar los tres flujos de trabajo de CoSAI para establecer mejores prácticas y marcos que mejoren la seguridad de los sistemas de IA», afirmó J.R. Rao de IBM.
«Como copresidenta del TSC de CoSAI, estoy comprometida a desarrollar marcos y controles que nos ayuden a atestiguar la confiabilidad e integridad de los modelos de IA», mencionó Akila Srinivasan de Anthropic. «Al fomentar la transparencia y el control, empoderamos a las organizaciones para construir sistemas de IA seguros y responsables que protejan a los usuarios y allanamos el camino hacia un futuro seguro e innovador».
El TSC ha lanzado tres flujos de trabajo destinados a avanzar en la seguridad de los sistemas de IA y supervisará sus esfuerzos para establecer mejores prácticas, gobernanza y marcos para la seguridad de la IA.
El primer flujo de trabajo, «Seguridad de la Cadena de Suministro de Software para Sistemas de IA», se centra en mejorar la seguridad de la IA al abordar los desafíos de riesgos de modelos de terceros, procedencia y seguridad de aplicaciones de IA. Este flujo se basa en marcos de seguridad ampliamente reconocidos, como SSDF y SLSA, extendiéndolos para el desarrollo de IA.
El segundo flujo, «Preparar a los Defensores para un Paisaje en Evolución de Ciberseguridad», está diseñado para equipar a los defensores con un marco comprensivo, centrándose en identificar las inversiones de seguridad necesarias para contrarrestar capacidades ofensivas emergentes impulsadas por IA.
El tercer flujo, «Gobernanza del Riesgo de IA», desarrollará un marco comprensivo de taxonomía, lista de verificación y sistema de puntuación para evaluar, gestionar y monitorear la seguridad de los sistemas de IA en toda la industria.
La estructura de gobernanza para estos flujos de trabajo asegura colaboración comunitaria, transparencia y alineación con los objetivos a largo plazo de CoSAI. Para más detalles sobre el modelo de gobernanza, se puede visitar la documentación sobre Gobernanza del TSC y Flujos de Trabajo en GitHub.
CoSAI es un ecosistema de código abierto formado por expertos en IA y seguridad de organizaciones líderes en la industria, dedicado a compartir mejores prácticas para el despliegue seguro de IA y colaborar en la investigación y el desarrollo de productos de seguridad en IA. CoSAI opera bajo OASIS Open, el consorcio internacional de estándares y código abierto. Para consultas de prensa, se puede contactar mediante el correo electrónico proporcionado.
vía: Oasis Open News