Mujer de 29 años confía en ChatGPT y su muerte expone riesgos de IA

29 años de edad, una mujer confió sus pensamientos suicidas a ChatGPT, el chatbot de inteligencia artificial, sin hablar con su terapeuta, sus padres ni su mejor amiga. La historia, publicada por NPR, muestra cómo la tecnología puede convertirse en el único confidente de personas en crisis.

El caso subraya la falta de supervisión y la ausencia de protocolos claros cuando las personas recurren a sistemas de IA para expresar angustia. La mujer, que no buscó ayuda profesional, terminó tomando medidas drásticas, dejando a su familia y a la comunidad con una pregunta urgente: ¿qué medidas deben tomarse para proteger a quienes usan chatbots en momentos de vulnerabilidad?

El reporte de NPR sugiere que las plataformas de IA deben implementar filtros de contenido y mecanismos de alerta que conecten a los usuarios con recursos de salud mental de inmediato. La muerte de esta joven pone de relieve la necesidad de regulaciones que garanticen la seguridad y la responsabilidad de los sistemas de inteligencia artificial.