Fuente: Center of Inclusive Change
Comienza con la definición de usos aceptables (e inaceptables) del sistema y recorre un camino que especifica expectativas hacia la calidad de los datos, los derechos de los datos, la calidad del sistema, la transparencia, la explicabilidad, el monitoreo del sistema, la gestión continua de riesgos y las auditorías e inspecciones técnicas altamente especializadas.
Evaluar y controlar estos factores es esencial en los procesos de adquisición y contratación de IA. Esto es particularmente importante para los sistemas diseñados para abordar las necesidades relacionadas con los derechos humanos, la dignidad humana y las libertades civiles.
Nuestra responsabilidad, como funcionarios encargados de contratar sistemas de alto riesgo, es ejemplificar los valores y expectativas que nuestros semejantes merecen. Esta no es una tarea fácil y los manuales no están bien formulados.
Este manual, basado en gran medida en el trabajo realizado por la ciudad de Ámsterdam, proporciona a la comunidad de adquisiciones un conjunto útil de consideraciones de contratación al evaluar y adquirir cualquier sistema de IA de alto riesgo. Esperamos que comparta esto ampliamente con sus colegas… para lograr un mundo en el que todos los sistemas de IA de alto riesgo cumplan con estándares razonablemente altos de diseño, desarrollo e implementación responsables.
