Conceptualización y diseño de política pública
Conceptualización y diseño del Proyecto
1.Nombre o número del
Proyecto
X
PROYECTO
Objeto de evaluación ética
2.¿Cuál es el problema que intenta resolver mediante este Proyecto?
3.¿Se han explorado casos en los que se hayan utilizado tecnologías de IA o similares para los propósitos establecidos en su caso particular?
4.¿Cuáles son las categorías de personas afectadas por el Proyecto y los grupos que se buscará proteger?
Personas o
grupos vulnerables
X
GRUPOS VULNERABLES
Los grupos vulnerables o grupos protegidos fundamentales, se definen por la pertenencia a ellos de personas que comparten uno o varios de los siguientes atributos protegidos: Niños y ancianos (edad), Tenencia de una discapacidad o una enfermedad física o mental, Género (mujer) o reasignación de género, Orientación sexual (LGTBIQ+), Origen étnico o racial, color de piel, ascendencia, condición nacional o inmigrante u otros datos relativos al origen de la persona (condición racial), Mujeres embarazadas, Creencias u opiniones políticas, religiosas o filosóficas, Afiliación sindical, Información genética, biométrica o relativa a la salud, Propiedad o recursos materiales, situación socioeconómica y clase social (condición socioeconómica), Información sobre condenas e infracciones penales. Esta no es una clasificación exhaustiva, y debe adaptarse o modificarse, en función de cada contexto.
.
Otro/s grupo/s que tiene/n el potencial de ser discriminado/s por el Proyecto (mujeres, etc.).
Otro.
5.Por favor, complete la siguiente frase con una de las opciones que se dan a continuación: El problema para el que se ha diseñado el Proyecto del que hablamos
6.¿Qué tipo de tecnología de IA se va a utilizar en este Proyecto (elegir entre la lista de opciones)?
Rendición de cuentas
Responsabilidad y transparencia
7.¿Qué partes interesadas NO están al tanto del procesamiento de datos personales como parte del Proyecto?
8.¿Dispone el proyecto de canales administrativos de información y consulta sobre datos personales para comunicarse con las partes interesadas?
9.¿Qué persona o departamento asume la
responsabilidad de los resultados
X
RESPONSABILIDAD DE LOS RESULTADOS
Los sistemas de toma/soporte de decisión, incluidos aquellos que utilizan técnicas algorítmicas y de IA, no son entes autónomos, sino que carecen de intencionalidad y de voluntad, no se les pueden atribuir responsabilidades con respecto a las normas sociales, éticas o jurídicas. La responsabilidad sobre estos mecanismos es, por lo tanto, de aquella/s persona/s o grupos de personas u organizaciones involucradas de forma directa en el diseño, desarrollo e implementación del sistema y el Proyecto que han realizado acciones con unas intenciones concretas y unas consecuencias significativas, especialmente cuando estas consecuencias tienen efectos negativos sobre la vida de otro/s. La responsabilidad algorítmica define la relación entre la parte responsable del sistema y la parte afectada por el mismo. La rendición de cuentas se refiere a la asunción de esta responsabilidad por parte de una persona, grupo u organización. Se refiere a la obligación de reconocer y aceptar las consecuencias del funcionamiento de un sistema, así como de reparar y satisfacer a las personas afectadas por el mismo. También se refiere a la responsabilidad de prevenir y evitar posibles consecuencias indeseables en el futuro.
del sistema de soporte/toma de decisión?
Explicabilidad
10.¿Está contemplado en el proceso de desarrollo de su Proyecto con IA contar con un proceso de explicación pública sobre el tratamiento automático de datos personales (módulo de
explicabilidad
X
EXPLICABILIDAD
La explicabilidad de un sistema de toma de decisiones refiere a la posibilidad de que otras personas lo puedan comprender, mediante información accesible, también a que este sea reproducible. El European Parliamentary Research Service lo define como la disponibilidad de explicaciones sobre los Sistemas de Decisión Algoritmica.
)?
Consentimiento y protección de datos personales
11.¿Se confirmó el cumplimiento de las regulaciones nacionales e internacionales en materia de privacidad, protección de datos, transparencia y propiedad intelectual, así como regulaciones sectoriales específicas del país donde se aplicará su sistema de toma/soporte de decisión?
12.¿Qué datos personales se procesarán durante el proyecto?
Datos personales
X
DATOS PERSONALES
); Una persona física identificable es aquella que puede ser identificada, directa o indirectamente, en particular por referencia a un identificador, como un nombre, un número de identificación, datos de ubicación, un identificador en línea o uno o más factores específicos a lo físico, fisiológico, identidad genética, mental, económica, cultural o social de esa persona física
.
Circunstancias sociales (como propiedades, aficiones, inscripciones en clubes o asociaciones, etc.).
Otros.
13.¿Cuál es la fuente de donde se obtienen los
datos personales
X
DATOS PERSONALES
); Una persona física identificable es aquella que puede ser identificada, directa o indirectamente, en particular por referencia a un identificador, como un nombre, un número de identificación, datos de ubicación, un identificador en línea o uno o más factores específicos a lo físico, fisiológico, identidad genética, mental, económica, cultural o social de esa persona física
de los sujetos de datos del Proyecto?
14.¿Se ha verificado si la institución que recoge los datos personales de las personas afectadas y/o desarrolla el Proyecto tiene las facultades legales para utilizar, almacenar y/o analizar los datos personales?
15.¿Brindarán las personas afectadas su consentimiento informado para que se utilicen sus datos?
Sí, darán su
consentimiento informado
X
CONSENTIMIENTO INFORMADO
El consentimiento informado es el proceso mediante el cual los participantes confirman voluntariamente su voluntad de participar en un proyecto en particular, después de haber sido informados de todos los aspectos del proyecto que son relevantes para su decisión de participar. Para que el consentimiento sea informado, el interesado debe conocer como mínimo la identidad del responsable del tratamiento y los fines del tratamiento a los cuales están destinados los datos personales (Considerando 42, RGPD).
Condiciones para el consentimiento: 1.Cuando el tratamiento se base en el consentimiento del interesado, el responsable deberá ser capaz de demostrar que aquel consintió el tratamiento de sus datos personales. 2.Si el consentimiento del interesado se da en el contexto de una declaración escrita que también se refiera a otros asuntos, la solicitud de consentimiento se presentará de tal forma que se distinga claramente de los demás asuntos, de forma inteligible y de fácil acceso y utilizando un lenguaje claro y sencillo. No será vinculante ninguna parte de la declaración que constituya infracción del presente Reglamento. 3.El interesado tendrá derecho a retirar su consentimiento en cualquier momento. La retirada del consentimiento no afectará a la licitud del tratamiento basada en el consentimiento previo a su retirada. Antes de dar su consentimiento, el interesado será informado de ello. Será tan fácil retirar el consentimiento como darlo. 4.Al evaluar si el consentimiento se ha dado libremente, se tendrá en cuenta en la mayor medida posible el hecho de si, entre otras cosas, la ejecución de un contrato, incluida la prestación de un servicio, se supedita al consentimiento al tratamiento de datos personales que no son necesarios para la ejecución de dicho contrato. (Artículo 7, GDPR).
(por vías debidamente documentadas, sean escritas o verbales).
No, pero existe otra base legal de procesamiento para estos datos en la normativa aplicable: indicar cuál (opcional).
No.
Gobernanza y seguridad
Ciberseguridad
16.¿Alguna de estas medidas de estándar de seguridad no se está contemplando?
Gobernanza
17.¿Se prevé el establecimiento de una estructura o proceso específico de gobernanza para la gestión de los datos personales y resultados del Proyecto?
18.El Departamento/Institución/Oficina nacional a cargo del proyecto, ¿ha definido de forma clara la finalidad del tratamiento de los datos personales implicados en el Proyecto?
19.¿Qué persona/entidad será la responsable del uso y procesamiento de los datos?
20.¿Se han alcanzado los acuerdos legales (MOU, Contratos, etc) necesarios para cumplir con las responsabilidades de transferencia/intercambio de información?
21.¿Existen mecanismos por parte del coordinador del Proyecto para responder en tiempo y forma a las
solicitudes ARCO
X
SOLICITUDES ARCO
Definimos como derechos ARCO a una serie de derechos de los sujetos de datos personales contemplados en la normativa europea de protección de datos (GDPR) y en diversas normativas nacionales a nivel mundial. Incluyen el Derecho de Acceso, que supone la garantía del afectado de acceder a su información personal en diversas circunstancias, el Derecho a la Rectificación, que incluye la posible modificación de los datos en poder del controlador o procesador de los datos a solicitud del sujeto de los datos en diversas circiunstancias (por ejemplo, la inexactitud de los mismos), el Derecho a Cancelación (o Supresión), que permite que el titular solicite y obtenga el bloqueo o supresión de aquellos datos que estén en poder del controlador en diversas circunstancias, y el Derecho a Oposición, que permite que el titular solicite y obtenga del controlador del fichero el cese en el tratamiento de sus datos personales en diversos escenarios.
de los sujetos de datos?
22.¿Se ha establecido algún plan de gestión del cambio para facilitar la implementación exitosa de los procesos de transformación tecnológica?
23.¿Hay terceras partes, como servicios de almacenamiento en la nube o servicios de comunicación, implicadas en el procesamiento de los datos personales correspondientes al proyecto? En caso afirmativo. ¿Son nacionales o extranjeros?
Ciclo de vida IA
Manejo de datos
24.¿Cómo se comprobará el posible sesgo de los datos en su recolección (vinculado a problemas como representatividad de la muestra y discriminación histórica)?
Desarrollo del modelo
25.¿Se está considerando la generación de
documentación
X
DOCUMENTACIÓN
Los sistemas de documentación del modelo algorítmico se utilizan para establecer con claridad los casos de uso previstos de los modelos de aprendizaje automático y minimizar su uso en contextos para los que no son adecuados. Con este fin, se recomienda llevar un registro estructurado de las variables sobre el modelo indicadas en la recomendación (objetivos primarios y secundarios, datos de entrenamiento, versiones del algoritmo, etc.) junto con documentación que detalle sus características de rendimiento.
sobre los siguientes elementos de los sistemas algorítmicos utilizados?: 1. objetivos del sistema, 2. datos, 3. aproximación metodológica, 4. descripción del algoritmo y 5. sus parámetros de evaluación de desempeño y errores.
Uso y toma de decisión
26.¿Cómo se comprobarán los posibles problemas de sesgos o discriminación provocados por el algoritmo?
27.¿Existen en el Proyecto planes para monitorizar métricas importantes de funcionamiento del algoritmo?
Impacto social (Interacción seres humanos-IA)
Interacción con operadores
28.¿El sistema propuesto será de toma de decisión o de soporte de decisión?
29.¿Conocen los miembros de su Departamento/Institución/Oficina nacional que adoptarán dicha tecnología los riesgos derivados de su utilización?
30.¿Han trabajado los funcionarios antes con este tipo de tecnología sistema de soporte/toma de decisión (IA o TIC)?
31.¿Tendrán el uso del sistema de soporte/toma de decisión un impacto significativo en las tareas cotidianas de los funcionarios?
32.¿Los funcionarios y las personas afectadas que usan la tecnología (IA o TIC) y/o el sistema de soporte/toma de decisión habrán recibido formación específica (puntual o contínua) con este fin?
33.¿Se realizarán campañas de comunicación que expliquen el uso, alcance y medidas de mitigación de riesgo de los sistemas de soporte/toma de decisión (IA o TIC) dirigidas a las personas afectadas por el Proyecto y/o al público general?