ISO 42001: EL SIGUIENTE PASO EN LA GESTIÓN DE LA IA

Desde el lanzamiento de ChatGPT en noviembre de 2022, el mundo ha sido testigo de una enorme afluencia de herramientas de inteligencia artificial. Casi todas las semanas había algo nuevo, alucinante e incluso revolucionario. 

Las empresas se sintieron obligadas a comenzar a experimentar con herramientas y, sumado a un salvaje oeste legal, la situación se volvió un poco caótica.

Después de las primeras semanas, empezaron a surgir las primeras inquietudes: ¿debería introducir los datos de su empresa en ChatGPT?, ¿podría utilizar imágenes generadas por Midjourney?, ¿cuál es la calidad y veracidad de los resultados? Esto requiere un enfoque estructurado y estratégico. Uno de esos enfoques es la norma ISO 42001, que se publicó oficialmente el 18 de diciembre de 2023.

¿Qué es?

La norma ISO 42001 introduce el concepto de un sistema de gestión de la IA (AIMS), que también se menciona en la reciente Ley de IA de la UE. Un AIMS está pensado como un marco para implementar y mantener una política de IA dentro de una empresa, de modo que el uso de la IA pueda realizarse en línea con la estrategia más amplia de la empresa. Este tipo de tecnología no es únicamente responsabilidad del departamento de TI, sino que también debe involucrar a los equipos legales y de seguridad de la información para asegurarse de que la política de IA se ajuste a sus otras políticas.

¿Qué pretende conseguir?

Si bien se podría argumentar que la IA podría gestionarse con una combinación de los sistemas de gestión de calidad introducidos en ISO 9001 y 27001, el estándar específico de IA agrega varios objetivos valiosos, como:

• Introducción de factores de gestión de riesgos que son exclusivos de la IA, como la falta de transparencia, el comportamiento no determinista, la falta de explicabilidad y el sesgo.
• Considerando el uso ético y responsable de la IA, ¿quién es responsable y tiene los conocimientos suficientes para gestionar un sistema tan complejo? ¿Cuándo se puede y se debe utilizar la IA?
• Añadir una capa de gestión de datos. Debe comprobar los datos que se utilizan al entrenar un modelo de IA. ¿La calidad es la adecuada y tiene el permiso adecuado para utilizar estos datos? ¿Cuál es la calidad del resultado generado?
• Un marco para la mejora continua. ¿Cómo se asegura de que el rendimiento del sistema se mantenga constante en las nuevas versiones? ¿El modelo no colapsa cuando continúa iterando sobre sus propios datos?
• Gestión del ciclo de vida de la IA. Especialmente cuando se trabaja con un sistema de IA que puede ser motivo de preocupación ética (es decir, de alto riesgo), es necesario documentar adecuadamente los procedimientos y la ejecución en torno al desarrollo, el diseño, la implementación, el funcionamiento y el seguimiento.

En conjunto, esto supone un complemento necesario a las normas existentes para que las organizaciones puedan adaptarlas a sus necesidades y contextos específicos. Esto garantiza que las tecnologías de IA se utilicen de una manera ética, segura y beneficiosa para la sociedad.

¿Por dónde empiezo a implementar esto?

El primer paso a la hora de implementar una nueva norma ISO es siempre realizar un análisis de su organización para ver qué aspectos se ven afectados. Los factores que se deben tener en cuenta son los siguientes:

• ¿Existen objetivos estratégicos de alto nivel que requieran el uso de IA?
• ¿Qué departamentos se ven afectados o se verán afectados por el uso de la IA? Considere también los departamentos empresariales, por ejemplo, marketing o ventas.
• ¿Quiénes son los principales interesados ​​en la transformación hacia el uso de IA?
• ¿Tiene suficientes recursos para implementar un sistema de gestión de IA? Esto incluye tanto a expertos técnicos, responsables de ciberseguridad y jefes de departamento con conocimientos para patrocinar iniciativas de IA
• ¿Existen sistemas que ya utilizan IA o que se ven afectados por el uso de IA?
• ¿Existen procedimientos existentes que ya utilizan IA o que se ven afectados por el uso de IA?
• ¿Está desarrollando sistemas de IA o planea hacerlo en el futuro?

Estas preguntas revelarán los múltiples niveles de impacto que la IA tendrá en su empresa y que pueden abordarse mediante una implementación exitosa de esta y otras normas ISO.

¿Puedo obtener ayuda adicional para implementar este y otros estándares relacionados?

Si bien la ISO ofrece un marco de alto nivel para su enfoque de la IA, no proporciona plantillas listas para usar ni listas de verificación para la implementación. La implementación de la norma ISO puede ser un proceso largo en el que puede resultar difícil mantener una visión general del progreso. Pero no hacer nada también deja a su empresa expuesta a muchos riesgos y responsabilidades.

Tomado de: https://medium.com/