Tecnologia
ChatGPT sumará controles que miran el historial de varias interacciones para detectar posibles ciberataques mientras Microsoft y Databricks ya prueban el sistema
21/8/26
5
Min
OpenAI anunció que está probando un nuevo mecanismo de seguridad para clientes de pago que utilizan sus modelos más avanzados. La herramienta, denominada Private Safety Processing, busca identificar patrones de riesgo que pueden aparecer a lo largo de varias interacciones y no solamente dentro de una consulta aislada.
La compañía explica que este enfoque responde a un escenario donde los usuarios delegan tareas cada vez más complejas a sistemas de inteligencia artificial y, en algunos casos, comparten información sensible durante esos procesos.
El nuevo sistema intenta reconocer situaciones donde varias solicitudes, vistas por separado, podrían parecer normales, pero juntas podrían revelar otra intención.
Por ejemplo, una consulta sobre vulnerabilidades de un programa y otra posterior sobre accesos remotos o herramientas capaces de detectar esas fallas podrían parecer legítimas de manera individual. Al analizar ambas dentro de un contexto más amplio, el sistema podría identificar un posible intento de ciberataque.
OpenAI informó que el mecanismo ya está siendo probado con Microsoft y Databricks entre los primeros clientes participantes.
La empresa prevé presentar formalmente Private Safety Processing junto con un informe técnico en septiembre de 2026, una vez que avance esta etapa inicial de pruebas.
Algunos clientes de la API de OpenAI cuentan actualmente con una modalidad de retención cero de datos, por la cual la empresa no conserva las instrucciones ni las respuestas una vez procesadas.
OpenAI sostiene que, incluso con el nuevo sistema de seguridad, el contenido de los clientes continuará restringido para preservar la privacidad, mientras el análisis se concentra en detectar comportamientos de riesgo a través de múltiples interacciones.
La medida aparece mientras las empresas tecnológicas avanzan con agentes de inteligencia artificial capaces de completar tareas de varios pasos con mayor autonomía.
OpenAI apunta a que el nuevo proceso pueda ayudar a detectar tanto a usuarios que intenten aprovechar los modelos para actividades maliciosas como a agentes que presenten comportamientos fuera de lo previsto durante la ejecución de tareas complejas.
