VIENA (EFE).— El Servicio de Empleo de Austria (AMS) recibió ayer críticas de usuarios porque un nuevo chatbot que utiliza ChatGPT para responder a preguntas sobre formación y empleo reproduce sesgos sociales, al recomendar programas de ciencia a los hombres y de humanidades y servicios a las mujeres.
El Berufsinfomat (chat de información sobre empleo), que se puso en marcha anteyaer, permite a los usuarios consultar oportunidades de formación y trabajo, y obtener respuestas personalizadas y enlaces útiles.
La plataforma también proporciona información sobre estudios y especializaciones, además de facilitar enlaces y ofertas de formación específicas del AMS.
El Berufsinfomat, desarrollado por la administración austríaca y la empresa especializada en IA Goodguys, fue diseñado para asistir tanto a buscadores de empleo como a los propios trabajadores del AMS a la hora de asesorar a quien requiera la información.
La herramienta, que según el gobierno austríaco es la primera de su tipo en Europa, costó unos 300,000 euros (328,265 dólares) y combina información del AMS con datos proporcionados por ChatGPT.
Prejuicioso
Sin embargo, el sistema ha recibido en apenas un día numerosas críticas por reproducir prejuicios en sus respuestas, algo que ya se ha detectado en otros chatbot gestionados con IA.
El diario “Der Standard” indica, por ejemplo, que al preguntar sobre recomendaciones de empleo para jóvenes de 18 años que acaban de terminar la educación preparatoria sugiere ingenierías y otras profesiones científicas y económicas para los hombres, mientras que la misma pregunta se responde a mujeres con sugerencias de estudios de género, idiomas o trabajos en hostelería y cocina.
Las dos preguntas fueron formuladas exactamente de la misma manera, siendo el sexo de quien las planteaba la única diferencia entre ambas para el chatbot.
A pesar de las críticas, AMS asegura que trabaja en mejorar la plataforma y reducir esos prejuicios, y defiende la validez de la nueva herramienta.
El director de AMS, Johannes Kopf, reconoció en X (antes Twitter) que “no es fácil quitar todos los malos hábitos” a la IA, en respuesta a las críticas de los usuarios por las recomendaciones de la plataforma.