La Agencia Española de Supervisión de la Inteligencia Artificial (AESIA), que opera bajo el Ministerio para la Transformación Digital y de la Función Pública, ha establecido una colaboración con el Instituto de las Mujeres, perteneciente al Ministerio de Igualdad. Este acuerdo tiene como objetivo principal combatir la violencia digital y abordar los sesgos de género presentes en los sistemas de inteligencia artificial. La firma del convenio y la declaración institucional sobre la protección de los derechos fundamentales de mujeres y menores se llevó a cabo recientemente.
Durante el evento, el ministro para la Transformación Digital y de la Función Pública, Óscar López, destacó la necesidad urgente de actuar frente a situaciones alarmantes en línea. “Estamos viendo cómo se manipulan imágenes de niñas en plataformas como Grok, creando desnudos falsos que son inaceptables. No permitiremos que las redes sociales y la inteligencia artificial se conviertan en un entorno sin ley”, afirmó López.
Compromiso por la igualdad
La ministra de Igualdad, Ana Redondo, también participó en el acto, que se celebró en conmemoración del 8 de marzo, Día Internacional de la Mujer. Redondo enfatizó que “la igualdad es paz, democracia y derechos humanos; avanzar en igualdad es avanzar en respeto”. Asimismo, subrayó que la violencia digital tiene repercusiones reales: “Si hemos progresado en democracia analógica, debemos hacerlo también en democracia digital”.
En el marco de esta colaboración, AESIA compartirá evidencias técnicas y documentales con la Comisión Europea y la Oficina de IA europea. El objetivo es contribuir a las investigaciones sobre el uso indebido de sistemas de inteligencia artificial en redes sociales que facilitan la creación y difusión no consensuada de imágenes sexualizadas o explícitas. Para ello, han contado con el apoyo del Instituto Nacional de Ciberseguridad (INCIBE).
Informe sobre derechos fundamentales
El Instituto de las Mujeres elaborará un informe sobre la situación en España que incluirá perspectivas y evidencias recogidas por diversas instituciones públicas y privadas. Este documento buscará asegurar el pleno respeto a los derechos fundamentales dentro del marco del Estado de Derecho.
En su declaración conjunta sobre la protección de los derechos fundamentales ante los retos que plantea la inteligencia artificial, ambas entidades reconocen el liderazgo necesario por parte de la Unión Europea en la lucha contra la violencia digital dirigida hacia mujeres y niñas. El texto menciona cómo “la proliferación de contenido misógino y discursos de odio en redes sociales obstaculiza gravemente no solo el liderazgo femenino sino también afecta a nuestra democracia”.
Marco colaborativo entre AESIA e Instituto
El convenio firmado establece un marco colaborativo destinado a integrar principios de igualdad a lo largo del ciclo completo del uso y supervisión de inteligencia artificial en España. Ambas entidades trabajarán conjuntamente para detectar, prevenir y corregir sesgos de género existentes en estos sistemas.
A través de esta coordinación, se espera reforzar los derechos fundamentales durante el despliegue de sistemas considerados como alto riesgo. AESIA asumirá un papel activo al alertar sobre estos sistemas críticos, compartir documentación relevante y capacitar a su personal en temas relacionados con igualdad.
Cultura ética e inclusiva
El acuerdo contempla acciones coordinadas para fomentar una cultura ética y responsable respecto a la inteligencia artificial, alineada con principios igualitarios. Las partes involucradas promoverán iniciativas conjuntas para sensibilizar y formar al público, participando activamente en el Laboratorio de Ideas de AESIA para desarrollar estudios específicos e informes.
Además, se prevé establecer una Comisión de Seguimiento que garantice tanto la planificación como la continuidad de estas actividades durante toda la vigencia del acuerdo.
Preguntas sobre la noticia
¿Qué es la colaboración entre la AESIA y el Instituto de las Mujeres?
La colaboración entre la Agencia Española de Supervisión de la Inteligencia Artificial (AESIA) y el Instituto de las Mujeres tiene como objetivo combatir la violencia digital y corregir los sesgos de género en los sistemas de inteligencia artificial. Se firmó un convenio para proteger los derechos fundamentales de mujeres y menores.
¿Cuáles son los objetivos principales del convenio firmado?
El convenio establece un marco de colaboración para integrar la igualdad de género en todo el ciclo de supervisión y uso de la inteligencia artificial en España, así como para detectar, prevenir y corregir los sesgos de género en estos sistemas.
¿Cómo contribuirá la AESIA a esta iniciativa?
La AESIA compartirá evidencias técnicas con la Comisión Europea, alertará sobre sistemas de alto riesgo, organizará pruebas técnicas, y formará a su personal en materia de igualdad.
¿Qué acciones se prevén en el marco del convenio?
Se llevarán a cabo acciones coordinadas para promover una cultura de IA ética y responsable, incluyendo sensibilización, formación, participación ciudadana, y creación de estudios e informes específicos.
¿Qué impacto tiene la violencia digital según las autoridades mencionadas?
La violencia digital afecta gravemente a la calidad de la democracia y a la igualdad de género, silenciando a mujeres y niñas y provocando situaciones peligrosas que pueden llevar a acecho o violencia física.
¿Qué seguimiento se dará al acuerdo firmado?
Se creará una Comisión de Seguimiento que garantizará la planificación y continuidad de las actuaciones durante la vigencia del acuerdo.
Si (
No(
