OpenAI retrasa el Modo Adulto de ChatGPT por temores de seguridad adolescente y fallas en la verificación de edad

TLDR

• OpenAI ha retrasado el lanzamiento del "modo avanzado" planificado para ChatGPT que permitiría chats de texto eróticos
• Los asesores internos advirtieron que la función podría crear un "entrenador sexual de suicidio" debido a la dependencia emocional del usuario
• El sistema de predicción de edad de la compañía clasificaba erróneamente a los menores como adultos aproximadamente el 12% del tiempo
• Con ~100 millones de usuarios menores de 18 años semanales, esa tasa de error podría exponer a millones de adolescentes a contenido para adultos
• OpenAI dice que aún planea lanzar la función eventualmente, pero necesita más tiempo para "lograr la experiencia correcta"

OpenAI ha pospuesto el lanzamiento de su "modo avanzado" planificado para ChatGPT después de que el personal interno, asesores externos y expertos en seguridad expresaran serias preocupaciones sobre el acceso de adolescentes y la salud mental de los usuarios.

La función, que el CEO Sam Altman propuso por primera vez el año pasado, permitiría a los usuarios tener conversaciones de texto eróticas con el chatbot. Altman argumentó que la medida "trataría a los usuarios adultos como adultos" y sugirió que podría impulsar el crecimiento y los ingresos.

Pero el plan rápidamente encontró oposición dentro de la compañía.

En una reunión de enero, los miembros del consejo asesor de bienestar de OpenAI fueron descritos como unánimes y furiosos. El consejo incluye expertos en psicología y neurociencia cognitiva.

Un miembro advirtió que OpenAI corría el riesgo de construir lo que llamaron un "entrenador sexual de suicidio". Esa advertencia hacía referencia a casos en los que usuarios de ChatGPT se habían quitado la vida después de formar vínculos emocionales intensos con el bot.

Los asesores también advirtieron que la función podría llevar a una dependencia poco saludable del chatbot y que los menores podrían encontrar formas de evitar cualquier restricción de edad implementada.

Un problema técnico central es el sistema de predicción de edad de OpenAI. En un momento, el sistema clasificó erróneamente a los menores como adultos aproximadamente el 12% del tiempo. OpenAI tiene aproximadamente 100 millones de usuarios menores de 18 años usando ChatGPT cada semana. Esa tasa de error podría permitir que millones de adolescentes accedan a chats para adultos.

Problemas de Verificación de Edad

La compañía había planeado implementar el sistema de verificación de edad antes de lanzar el modo avanzado. Pero decidió una implementación lenta para mejorar la precisión después de identificar el problema de la tasa de error.

OpenAI también ha enfrentado el desafío de bloquear contenido ilegal, como representaciones de actos no consensuales o abuso sexual infantil, mientras permite conversaciones para adultos. El personal interno dijo que no creían que las herramientas de seguridad estuvieran listas.

Cuando el modo avanzado se lance, OpenAI planea limitarlo solo a texto. El bot no generará imágenes, voz o contenido de video erótico.

Otras Compañías de IA y Contenido para Adultos

Varias otras compañías de IA ya permiten algún contenido para adultos. La xAI de Elon Musk agregó un avatar coqueto a su chatbot Grok, aunque Musk luego lo restringió a usuarios de pago. Meta permite que su IA participe en juegos de rol románticos, pero dice que la función no está disponible para cuentas registradas a menores.

A finales de 2024, un niño de 14 años en Florida murió por suicidio después de formar un vínculo intenso con un chatbot de Character.AI. Su madre presentó una demanda, y Character.AI posteriormente llegó a un acuerdo y restringió el acceso de adolescentes.

OpenAI dijo que todavía apoya el principio de permitir contenido para adultos para usuarios adultos. La compañía dijo que se enfocará por ahora en otras actualizaciones, incluidas las características de personalidad y personalización de ChatGPT.

Se espera que el retraso dure al menos un mes, según personas familiarizadas con el asunto.

La publicación OpenAI retrasa el modo para adultos de ChatGPT por temores de seguridad adolescente y fallas en la verificación de edad apareció primero en CoinCentral.