Pruebas con más de 4.000 consultas cuestionan la seguridad de ChatGPT para adolescentes y sus avisos a familias

Fecha:

La versión de ChatGPT destinada a usuarios de entre 13 y 17 años recibió una calificación de “riesgo inaceptable” después de una evaluación realizada por el Youth AI Safety Institute de Common Sense Media, que detectó problemas en la forma en que se activan las alertas dirigidas a padres ante conversaciones consideradas preocupantes.

Las pruebas encontraron casos en los que el sistema tardaba demasiado en enviar avisos o directamente no los emitía cuando las cuentas mantenían conversaciones prolongadas sobre temas de alto riesgo, entre ellos suicidio, autolesiones y trastornos alimenticios.

Más de 4.000 preguntas formaron parte de las pruebas

La organización indicó que realizó más de 4.000 consultas utilizando cuentas registradas para adolescentes de entre 13 y 17 años. Las respuestas obtenidas también fueron revisadas por especialistas en salud infantil.

Uno de los principales cuestionamientos fue que las notificaciones para padres parecían activarse de forma más consistente después de largos periodos de interacción y numerosos mensajes, en lugar de hacerlo necesariamente después de una sola conversación considerada alarmante.

También cuestionan la respuesta ante situaciones de crisis

La evaluación señaló además que el sistema no recomendaba de manera confiable recurrir a líneas de ayuda o buscar asistencia profesional durante conversaciones relacionadas con situaciones de alto riesgo.

Common Sense Media pidió suspender la promoción del producto para adolescentes hasta que las herramientas de protección puedan ofrecer una experiencia que considere segura y adecuada para esa franja de edad.

OpenAI cuestionó la metodología utilizada

OpenAI rechazó que las pruebas representen de manera precisa el funcionamiento actual de sus sistemas de seguridad. La compañía sostuvo que parte de las evaluaciones pudo haberse realizado antes de completar la implementación de los controles parentales, lo que, a su criterio, podría afectar las conclusiones.

La empresa solicitó que las pruebas sean repetidas y afirmó que continúa desarrollando herramientas destinadas a proteger a usuarios adolescentes y ofrecer mayores controles a sus familias.

La detección de edad también quedó bajo revisión

Otro punto observado fue la capacidad del sistema para identificar correctamente cuándo una cuenta pertenece a un menor. Durante las pruebas, algunas cuentas declaradas inicialmente como adultas no pasaron automáticamente al modo adolescente incluso después de que el usuario indicara durante la conversación que tenía 13 años.

OpenAI explicó que su sistema de estimación de edad utiliza varias señales acumuladas a lo largo del tiempo y que declarar una edad dentro de una sola conversación no modifica automáticamente la clasificación de una cuenta.

Tarvo

ChatGPT para adolescentes fue lanzado con controles parentales adicionales y protecciones específicas para usuarios de entre 13 y 17 años, mientras continúan las evaluaciones externas sobre el funcionamiento de esas herramientas.

Redacción Ratio
Redacción Ratiohttps://www.ratioparaguay.com.py/acerca-de-ratio/
Equipo editorial de Ratio, diario digital de Paraguay. Cubrimos economía, política, mercados, negocios, cripto, salud y tecnología con datos verificados y sin vueltas. Escribinos a [email protected].

DEJA UNA RESPUESTA

Por favor ingrese su comentario!
Por favor ingrese su nombre aquí

Compartir:

Suscribite

Más leídas

Te puede interesar
Relacionadas

El BCP ajusta a 2,9% la inflación esperada para cerrar 2026 y anticipa nuevas subas de precios en noviembre y diciembre

Los agentes económicos consultados por el Banco Central del Paraguay (BCP) estiman que la inflación acumulada al cierre de 2026 será del 2,9%, mientras que para 2027 proyectan un incremento anual de precios del 3,5%.

Julio Rey vincula una entrega nocturna de dinero con certificados de depósito que el Grupo Vázquez pretendía usar para capitalizar Ueno Bank

El testimonio fue presentado el 18 de noviembre de 2026 ante los fiscales de la Unidad Especializada en Delitos Económicos y Anticorrupción (UDEA), quienes investigan las operaciones financieras de la entidad.

Fracasa la cumbre climática de la ONU y casi 200 países terminan sin un acuerdo para reducir el uso de petróleo, gas y carbón

La Unión Europea, Noruega, Vanuatu y Panamá estuvieron entre las delegaciones que se negaron a respaldar el documento, al considerar que no establecía compromisos suficientes sobre el abandono progresivo del petróleo, el gas y otros combustibles fósiles.

El expresidente Jair Bolsonaro vuelve a terapia intensiva a los 71 años y necesita una sonda para tratar una obstrucción intestinal

El expresidente de Brasil, Jair Bolsonaro, de 71 años, fue ingresado a la Unidad de Cuidados Intensivos (UCI) del hospital DF Star, en Brasilia, después de presentar intensos dolores abdominales y recibir un diagnóstico de obstrucción intestinal aguda.