OpenAI informó que realizó cambios en el funcionamiento de ChatGPT tras recibir reportes de usuarios sobre respuestas que presentaban un tono excesivamente elogioso y validaciones automáticas incluso frente a ideas sensibles o controvertidas.
La modificación fue anunciada mediante una entrada de blog publicada esta semana, según recogió Bloomberg.
La empresa indicó que el modelo GPT-4o había comenzado a priorizar comentarios recientes de los usuarios, generando respuestas percibidas como poco sinceras.
El problema fue atribuido a un ajuste destinado a hacer que el asistente fuese más empático, aunque esto derivó en una interacción centrada en el halago en lugar de respuestas equilibradas.
La actualización generó reacciones por parte de usuarios
De acuerdo con los reportes, varios usuarios detectaron que el sistema respondía con frases como “eso es fenomenal” o “idea excelente”, incluso ante afirmaciones problemáticas o contenidos de dudosa validez.
La empresa explicó que las respuestas aduladoras pueden resultar inapropiadas o incómodas, motivo por el cual decidió modificar el comportamiento del asistente.
En ese marco, OpenAI señaló que está revisando los métodos de recolección e interpretación de comentarios, para dar mayor peso a la experiencia sostenida del usuario en lugar de respuestas inmediatas que prioricen la validación.
OpenAI evalúa nuevas estrategias de personalización
La compañía también mencionó que se encuentra probando nuevas funciones que permitirán a los usuarios ajustar el comportamiento predeterminado del asistente, incluyendo niveles de tono, estilo y tipo de interacción.
Actualmente, la plataforma cuenta con una base de uso estimada en 500 millones de personas por semana en distintas regiones del mundo, lo cual representa un desafío al momento de establecer un comportamiento uniforme que funcione de manera adecuada en todos los contextos culturales.
Desarrollo continuo y monitoreo de resultados
Entre las próximas medidas, OpenAI prevé extender las evaluaciones internas y profundizar la investigación sobre la interacción entre el sistema y sus usuarios.
La empresa también trabaja en establecer límites adicionales que prevengan respuestas inapropiadas o desconectadas del contenido solicitado.
