IA de Google muestra sesgos racistas al responder «estoy a solas con»

Una prueba en la barra de búsqueda de Google reveló que la inteligencia artificial sugiere llamar a la autoridad o duda la seguridad cuando mujeres ingresan frases como «estoy a solas con hombres africanos» o «estoy a solas con hombres de origen árabe». La IA de Gemini generó respuestas cuestionables según la nacionalidad y el color de piel del interlocutor.

El experimento, difundido en redes, mostró que al escribir «estoy a solas con» seguido de la descripción de un hombre afrodescendiente o árabe, el sistema sugiere contactar a la policía o plantea dudas sobre la seguridad del entorno. Cuando la descripción no incluye rasgos étnicos, la respuesta es neutra. No se citan fuentes oficiales, pero la evidencia se basa en capturas de pantalla y testimonios de usuarias que compartieron sus interacciones.

Este hallazgo reaviva el debate sobre los sesgos en algoritmos de IA y la necesidad de auditorías más rigurosas. Google aún no ha emitido un comunicado oficial, pero la presión de la comunidad tecnológica y defensores de derechos digitales sugiere que se esperan ajustes para evitar discriminación en futuras versiones.