Los creadores de la IA refuerzan estereotipos de género en televisión: mujeres jóvenes, guapas y delgadas

Lo que se supone que iba a ser una revolución tecnológica de transformación social puede llegar a convertirse en un atraso, sobre todo para las mujeres.

Alba Renai, creadora digital entrenada por IA y presentadora virtual del programa español ’Supervivientes’. — Instagram / PÚBLICO

MADRID 25/03/2024 ROCÍO CRUZ Público

La Inteligencia Artificial (IA) puede reforzar los estereotipos de género en la sociedad y lo que se supone que iba a ser una revolución tecnológica de transformación social, puede llegar a convertirse en un atraso, sobre todo para las mujeres. "La cosificación femenina en el entorno digital es una evidencia más de que el patriarcado no entiende, en este caso, de fronteras entre lo virtual y la realidad", declara a Público Marina Cortijo, presidenta de la Federación Mujeres Jóvenes en Madrid.

La presidenta de la asociación advierte sobre el riesgo que supone entrenar a la IA con sesgos que perpetúan estereotipos de género. "Ser testigos de referentes de mujeres creadas por IA, puede afectar a las mujeres jóvenes en la construcción de su identidad basada en la presión estética, el ideal de belleza y la perpetuación de los roles de género y la feminización de determinados sectores de la sociedad, así como la idealización de referentes no humanos que, difumina cada vez más la delgada línea entre lo virtual y la realidad".

Además, Cortijo añade que los hombres jóvenes heterosexuales también se pueden ver afectados por esta dinámica. "Al estar expuestos en su proceso de socialización a imágenes de mujeres que no son reales, puede alterarse su conceptualización y relación con el sexo opuesto", asegura.

Este debate no ha surgido por casualidad. La aparición en pantalla de Alba Renai, influencer virtual y nueva presentadora del espacio digital Supersecretos, perteneciente al programa Supervivientes de Telecinco, ha generado múltiples debates en los espectadores. La joven, delgada, bella, seductora y "perfecta" se creó a través de la IA en otoño de 2023, pero su salto a la fama ha llegado ahora. Su creadora es Be a Lion, filial de Mediaset España orientada a la creación y ejecución de estrategias de marketing en nuevos entornos de comunicación.

Un algoritmo machista

La IA no es un organismo autónomo, detrás de ella hay responsables que se encargan de entrenar el algoritmo que crea la personalidad y el físico de los avatares. Es decir, los sistemas de IA reflejan los sesgos y suposiciones de quienes los crean. En el caso de Renai, sus responsables han explicado que su creación fue fruto de estudios de redes, informes sobre comportamiento y gustos de la generación Z y los millennials jóvenes y el resultado de un focus group con 350 jóvenes donde se les preguntó los atributos de personalidad y apariencia física que valoran en sus referentes humanos.

Joaquín Peña, profesor en la Universidad de Sevilla y fundador del Instituto de Digitalización Humanista, asegura a Público que los creadores de este tipo de perfiles se guían por un resultado económico basado en el impacto para maximizar audiencias en lugar de focalizarse en eliminar los sesgos o llevar los contenidos hacia un lugar más equilibrado y estable. "Ahora que podemos generar una persona a nuestro gusto, creo que es una oportunidad maravillosa de transmitir una imagen más realista, de lo que existe en la calle y no irnos a lo contrario, mostrar una persona perfecta que no existe", opina.

Peña asegura que mantener estereotipos de género a través de la IA "es un gran error". Una de las posibles soluciones para combatir esto es la eliminación de sesgos de género en los datos utilizados para entrenar algoritmos. El experto en IA explica que "el objetivo ha de ser aplicar nuevos valores y principios del humanismo digital para que cuando se utilice la IA de manera automática, lo haga siempre pensando en conseguir un resultado más parecido al mundo que queremos construir".

Incluir valores feministas en el entorno digital

En 2021, 193 Estados bajo dirección de la UNESCO desarrollaron un informe de Recomendación sobre la Ética de la Inteligencia Artificial. En él se pide a los gobiernos establecer marcos institucionales y jurídicos para garantizar que la IA contribuya al bien público. La Comisión de la Condición Jurídica y Social de la Mujer (CSW67) propuso un plan para incorporar una perspectiva de género en el diseño de las tecnologías emergentes y adoptar normativas que garanticen la lucha contra los nuevos riesgos y los estereotipos de género.

La presidenta de la Federación Mujeres Jóvenes en Madrid sostiene en declaraciones a este medio, que legislar y educar a través del entorno digital permitiría llegar a las nuevas generaciones de una forma más cercana adoptando sus códigos de comunicación y, bajo su punto de vista, "sería una gran oportunidad aprovechar esta revolución tecnológica para incluir valores como el feminismo e igualdad".

Laura Barrios, presidenta de la Federación en el ámbito estatal, expone a Público que es importante fomentar una cultura mediática más diversa y representativa para promover la autoaceptación y la inclusión.

Sin embargo, Cortijo lamenta que la sociedad está siendo testigo de "cómo la violencia digital contra las mujeres adopta nuevas y tradicionales formas de violencia simbólica, sexual, económica y estructural". Además, añade que "adoptar estas formas de diseño digital y creación de contenido refleja la masculinización de las profesiones (ciencia, tecnología, ingeniería y matemáticas), ya que donde no estamos las mujeres, no existimos; y, si existimos es para complacer los ideales y deseos de los hombres, como es el caso de la nueva presentadora del programa Supervivientes".