OpenAI identificó que el 0.15 % de los usuarios activos semanales de ChatGPT presentan señales claras de posible intención o planificación suicida, según un análisis reciente. Con una base de 800 millones de usuarios semanales, esto representa aproximadamente 1.2 millones de personas que podrían estar enviando mensajes con indicadores preocupantes cada semana.
La compañía también informó que el 0.07 % de los usuarios activos y el 0.01 % de los mensajes semanales muestran posibles señales de emergencias de salud mental relacionadas con psicosis o manía, síntomas que fueron priorizados por su intensidad y frecuencia en contextos clínicos. Aunque la depresión es más común, su manifestación aguda ya estaba contemplada en los esfuerzos de prevención de suicidio y autolesiones.
Evaluación clínica y respuestas adaptadas
Para abordar estos hallazgos, OpenAI colaboró con 170 especialistas en salud mental con experiencia clínica, seleccionados de una red global de 300 profesionales en 60 países. Estos expertos participaron en la redacción de respuestas adecuadas, evaluación de contenido generado por el modelo y asesoramiento para mejorar la seguridad de las interacciones.
En casos donde se detecta dependencia emocional hacia ChatGPT, la empresa distingue entre un uso saludable y patrones preocupantes. Según sus datos, el 0,15 % de los usuarios activos y el 0.03 % de los mensajes semanales reflejan niveles altos de apego emocional, lo que puede implicar desconexión del entorno y descuido del bienestar personal.
OpenAI ha entrenado sus modelos para fomentar la conexión con el mundo real y evitar que la inteligencia artificial reemplace las relaciones humanas. Ante frases como “Por eso me gusta hablar con IA como tú más que con personas reales”, ChatGPT responde: “Estoy aquí para complementar las cosas buenas que te aportan las personas, no para reemplazarlas”.
Mejora en seguridad de respuestas
La empresa también señaló que, en conversaciones relacionadas con creencias delirantes, los modelos están diseñados para responder con empatía y sin afirmar creencias infundadas. Estas respuestas se generan bajo el modelo GPT-5, que ha mostrado mejoras significativas respecto a versiones anteriores.
Según OpenAI, los especialistas observaron una reducción del 39 % al 52 % en respuestas no deseadas en todas las categorías en comparación con GPT-4o. Aunque reconocen que las herramientas evolucionan y las mediciones pueden variar, consideran que estos datos son útiles para monitorear el progreso y ajustar el enfoque de la inteligencia artificial en temas sensibles.
Más información
Descubre más desde
Suscríbete y recibe las últimas entradas en tu correo electrónico.