La Unión Europea (UE) ha dado un nuevo paso en la regulación internacional de la inteligencia artificial (IA) con la aprobación del Convenio Marco del Consejo de Europa sobre Inteligencia Artificial, Derechos Humanos, Democracia y Estado de Derecho. La reciente Decisión (UE) 2026/1080 del Consejo formaliza la celebración de este Convenio en nombre de la UE y establece que su aplicación en territorio europeo se realizará, fundamentalmente, a través del Reglamento Europeo de Inteligencia Artificial (AI Act).
El movimiento normativo resulta especialmente relevante para los y las profesionales de la psicología, dado que el Convenio sitúa en el centro cuestiones directamente relacionadas con la protección de derechos, la prevención de la discriminación, la autonomía individual, la privacidad, la participación democrática y la supervisión de tecnologías capaces de influir en el comportamiento humano y en la toma de decisiones.
Un marco internacional centrado en los derechos humanos.
El Convenio Marco parte del reconocimiento de que los sistemas de inteligencia artificial pueden aportar beneficios significativos para el bienestar individual y social, el desarrollo sostenible y la innovación. Sin embargo, también advierte de los riesgos que estas tecnologías pueden generar sobre la dignidad humana, la autonomía individual, los derechos humanos y el funcionamiento democrático.
El texto expresa, además, preocupación por los riesgos de discriminación en contextos digitales y por el posible agravamiento de desigualdades, especialmente en colectivos vulnerables. También alerta sobre usos indebidos de la IA vinculados a vigilancia arbitraria, censura o prácticas represivas que puedan menoscabar la privacidad y la autonomía de las personas.
Según el artículo 1 del Convenio, su objetivo es garantizar que las actividades relacionadas con el ciclo de vida de los sistemas de inteligencia artificial sean plenamente coherentes con los derechos humanos, la democracia y el Estado de Derecho. Para ello, las partes deberán adoptar medidas legislativas, administrativas u otras actuaciones adecuadas para prevenir efectos adversos derivados de estas tecnologías.
Qué entiende el Convenio por inteligencia artificial.
El Convenio define los sistemas de inteligencia artificial como sistemas automatizados que, a partir de la información recibida, generan resultados como predicciones, recomendaciones, contenidos o decisiones capaces de influir en entornos físicos o virtuales. Además, reconoce que estos sistemas pueden variar en sus niveles de autonomía y capacidad de adaptación tras su despliegue.
El ámbito de aplicación del Convenio abarca tanto actividades desarrolladas por autoridades públicas, como aquellas realizadas por agentes privados cuando puedan interferir en los derechos humanos, la democracia o el Estado de Derecho.
Transparencia, supervisión y no discriminación.
Entre los principios recogidos en el Convenio destacan varios aspectos de especial interés para la práctica psicológica y la protección de las personas usuarias de sistemas automatizados.
El artículo 7 establece la obligación de respetar la dignidad humana y la autonomía individual en las actividades relacionadas con sistemas de IA.
Por su parte, el artículo 8 señala que deberán existir requisitos adecuados de transparencia y supervisión, incluyendo medidas relativas a la identificación de contenidos generados mediante inteligencia artificial.
Asimismo, el artículo 10 dispone que las actividades vinculadas a la IA deben respetar la igualdad y la prohibición de discriminación, incluyendo expresamente la igualdad de género. También se contempla la necesidad de adoptar medidas orientadas a superar desigualdades y promover resultados “imparciales, justos y equitativos”.
En relación con la privacidad, el Convenio subraya la obligación de proteger los datos personales y garantizar salvaguardias efectivas para las personas.
Recursos y garantías para las personas afectadas.
Uno de los aspectos relevantes del texto es la incorporación de garantías procesales y mecanismos de recurso para las personas afectadas por decisiones relacionadas con sistemas de inteligencia artificial.
El artículo 14 establece que las partes deberán garantizar vías de recurso accesibles y efectivas frente a posibles vulneraciones de derechos humanos derivadas del uso de sistemas de IA. También prevé que exista documentación e información suficiente para que las personas afectadas puedan impugnar decisiones automatizadas o basadas en dichos sistemas.
Además, el artículo 15 indica que, cuando un sistema de IA influya significativamente en el disfrute de derechos humanos, las personas deberán disponer de garantías procesales efectivas. Igualmente, el Convenio señala que las personas deberían ser notificadas cuando estén interactuando con un sistema de inteligencia artificial y no con un ser humano.
Evaluación de riesgos y posibles prohibiciones.
El Convenio también incorpora obligaciones relativas a la identificación, evaluación y mitigación de riesgos asociados a la IA. Las partes deberán adoptar medidas para prevenir efectos adversos sobre los derechos humanos, la democracia y el Estado de Derecho, considerando tanto los efectos reales como los potenciales.
Entre las actuaciones previstas se incluyen evaluaciones continuadas de riesgos, documentación de impactos, pruebas previas al despliegue de sistemas y seguimiento de posibles efectos adversos.
El texto añade además que las partes podrán valorar la necesidad de establecer moratorias, prohibiciones u otras medidas respecto de determinados usos de la inteligencia artificial cuando estos sean incompatibles con los derechos humanos o el funcionamiento democrático.
Alfabetización digital y participación pública.
El Convenio reconoce igualmente la importancia de la alfabetización digital y del fortalecimiento de capacidades relacionadas con la IA. El artículo 20 insta a promover competencias digitales en toda la población, incluyendo formación especializada para quienes deban identificar y gestionar riesgos asociados a sistemas de inteligencia artificial.
Asimismo, el artículo 19 señala que las cuestiones relevantes vinculadas a la IA deberían abordarse mediante debate público y consultas con múltiples partes interesadas, teniendo en cuenta sus implicaciones sociales, económicas, jurídicas, éticas y medioambientales.
Relación con el Reglamento Europeo de Inteligencia Artificial.
La Decisión (UE) 2026/1080 establece que el Convenio será aplicado en la Unión Europea “exclusivamente” a través del Reglamento (UE) 2024/1689 —conocido como AI Act— y otras normas del acervo europeo relacionadas con protección de datos, igualdad de trato, servicios digitales o responsabilidad por productos defectuosos.
El texto subraya que el Reglamento europeo constituye el principal instrumento jurídico para regular la introducción en el mercado, la utilización y la supervisión de sistemas de inteligencia artificial en la Unión Europea.
La Decisión también indica que la Unión Europea pasa a ser Parte en el Convenio y que la Conferencia de las Partes desempeñará un papel clave en su interpretación y aplicación futura.
Finalmente, aunque la Unión Europea ya ha formalizado su adhesión al Convenio, el documento remitido señala que España todavía no lo ha suscrito como Estado.