En un giro alarmante de la evolución de los chatbots conversacionales, OpenAI ha hecho públicos datos internos que muestran que cada semana, más de un millón de personas utilizan ChatGPT para hablar sobre el suicidio o expresar planes de hacerse daño. Esta revelación abre un debate urgente sobre el rol de la IA en la salud mental y cómo se utilizan estas herramientas en momentos de vulnerabilidad.
📊 ¿Qué muestran los datos?
- OpenAI reporta que aproximadamente 0.15 % de sus usuarios activos semanalmente —lo que equivale a más de 1 millón de personas, considerando una base estimada de más de 800 millones de usuarios por semana— participan en conversaciones con “indicadores explícitos de posible planificación suicida o intención”.
- Además, se estima que cerca de 0.07 % de los usuarios muestran “posibles signos de emergencias de salud mental relacionadas con psicosis o manía”, cifra que se traduce en cientos de miles de usuarios cada semana.
- OpenAI ha reforzado su modelo más reciente, GPT‑5, con colaboración de más de 170 expertos clínicos y evaluaciones automatizadas, alcanzando una tasa de cumplimiento de los estándares de seguridad del 91 % en situaciones de riesgo.
🔍 ¿Por qué importa?
La cifra es impactante no solo por su magnitud, sino porque plantea una serie de preguntas profundas:
- ¿Por qué tantos usuarios recurren a ChatGPT en momentos de crisis?
- ¿Hasta qué punto puede o debe una IA constituir un lugar de apoyo para salud mental?
- ¿Qué responsabilidades tienen los desarrolladores de IA cuando sus tecnologías son usadas por personas en riesgo?
La combinación de una base de usuarios enorme y la capacidad de estas plataformas de presentarse como “amigables” o “no juzgadoras” puede hacer que algunas personas en crisis se vuelquen hacia ellas en lugar de buscar ayuda profesional.
⚠️ Riesgos y desafíos
- Aunque los datos de OpenAI son preliminares, la detección automática de intenciones suicidas es un área compleja y propensa a errores de interpretación. La compañía lo reconoce.
- ChatGPT no reemplaza a un profesional de salud mental: aunque sí puede dar información o redirigir a recursos, no está diseñado como terapeuta.
- Existe el riesgo de dependencia emocional del chatbot, una temática emergente que también señala OpenAI como parte del problema.
🧩 ¿Y ahora qué?
Para los usuarios, creadores y reguladores, esta revelación debe servir de llamado:
- Es necesario que las empresas de IA implementen salvaguardas robustas, incluyendo detección temprana, redirección a líneas de ayuda, y limitaciones de uso en contextos de riesgo.
- Los usuarios deben ser conscientes de que el uso de chatbots no sustituye servicios de salud mental, y deben buscar ayuda profesional en momentos críticos.
- Los reguladores pueden exigir transparencia sobre cómo se manejan esos datos, cómo se entrenan los modelos y qué procedimientos existen para situaciones de autolesión o suicidio.
📝 Conclusión
La revelación de OpenAI de que más de un millón de usuarios usan ChatGPT semanalmente para conversaciones relacionadas con el suicidio no solo impacta por su cifra, sino porque refleja una intersección inquietante entre tecnología, salud emocional y responsabilidad social. Las herramientas de IA pueden ofrecer muchas ventajas, pero también enfrentan límites éticos que deben ser atendidos con urgencia.
0 Comments