“Les presento a OlivIA, una herramienta de ChatGPT que detecta sesgos de género. OlivIA te lee pero no te juzga”, escribió en su perfil de Instagram la abogada y comunicadora feminista Ana Correa, creadora de esa herramienta. Explicó que el objetivo es ayudar a identificar estereotipos de género, desigualdades simbólicas o estructurales y oportunidades para promover mayor equidad. Está pensada para usar en tareas de comunicación, justicia, educación, organización de eventos, recursos humanos, diseño de políticas públicas, investigación o simple curiosidad.

En un mundo atravesado por la inteligencia artificial (IA) hay preocupación por los sesgos de género imperantes, ya que refuerzan la discriminación contra mujeres, niñas, colectivos como la comunidad LGTBIQ+ y otros grupos diversos. De ahí la importancia de buscar mecanismos que fomenten la diversidad y garanticen una IA ética e inclusiva. 

Correa es coordinadora del posgrado sobre violencia de género en entornos digitales de la Facultad de Derecho de la UBA. Contó que decidió crear a OlivIA porque tenía que hacer un proyecto para el trabajo final de otro posgrado que estaba cursando sobre Inteligencia Artificial y Derecho de la UBA. La codirectora del posgrado, Mariana Sánchez Caparrós, le sugirió que trabajara en esta idea, teniendo en cuenta sus intereses. “Por otro lado, estaba cansada de leer respuestas sesgadas en cada prueba que hacía en el ChatGPT. Me pareció que hacía falta”, destacó en una entrevista de Página 12.

OlivIA no reemplaza el análisis humano, lo complementa. Tiene margen de error, como toda la IA Generativa, y al ser una interfaz de ChatGPT, no tiene protección de datos personales, aclaró Correa en su red social. “Su valor está en acercar herramientas y las preguntas necesarias para tomar decisiones más conscientes y responsables desde una perspectiva de igualdad”, explicó.

La abogada y comunicadora busca que las IA no arrastren errores basados en género, sobre información disponible en Internet. “Hay un bucle de retroalimentación de lo que está a mano, y no importa si es una fake news, o si saca el promedio de lo que aparece en la historia. Pensemos que en la mayoría de los países las mujeres votamos hace menos de un siglo. Si alguien pregunta “¿está bien que las mujeres voten?”, si se basa en la historia puede llegar a responder que no, si total en los siglos anteriores no votaban. La idea de esta herramienta es dar una visión más evolutiva, y que no atrase 100 años. Es la paradoja de la IA. Es un salto tecnológico monumental pero se está alimentando de un mundo que quedó atrás. Ojalá OlivIA y otras herramientas similares sirvan para que se entienda que la IA puede ser una gran asistente, pero sin el enfoque humano y de conocimiento, puede ser una trampa”, indicó Correa en la nota de Página 12.

¿Por qué desarrollar este proyecto en una plataforma existente, privada, que no tiene un manejo transparente de los datos personales? 

Por dos razones: primero, hasta mayo de 2025, chatGPT cuenta con más de 400 millones de usuarios activos semanales a nivel mundial. Es la que hoy más se está usando y creo que dotar ese uso de un cruce de visión de género está bueno. Por otra parte, la pude diseñar con ayuda de la vicedirectora del posgrado de IA y Derecho de la UBA, Mariana Sánchez Caparrós. Solo invertí mi tiempo. Cualquier otro desarrollo implicaba una inversión que es imposible afrontar. Por último, hay que tener en cuenta que la IA Generativa no sabe decir que no sabe. Por eso decimos que esta IA te ayuda a reflexionar. Es un granito de arena en el universo del Nadie se salva solo.