El Gobierno de Estados Unidos tiene previsto recibir este martes a OpenAI, Anthropic y Google para conversar sobre un nuevo sistema de evaluaciones de seguridad para modelos de inteligencia artificial. Fuentes familiarizadas con la organización del encuentro indicaron que el esquema tendrá una participación voluntaria de las compañías y todavía no fue presentado públicamente.
La propuesta busca establecer criterios más uniformes para revisar los sistemas antes y durante su utilización. Algunos puntos de referencia permanecerían bajo reserva debido a su relación con la protección de redes informáticas y posibles fallas que podrían ser aprovechadas por terceros.
El nuevo esquema nace de una orden sobre ciberseguridad
El marco fue elaborado después de una orden presidencial emitida en junio, que planteó revisiones voluntarias para los modelos de IA y mayores esfuerzos para proteger la infraestructura informática considerada crítica.
Las empresas del sector vienen reclamando una forma más clara y estable de realizar estos controles. El objetivo de la reunión será analizar cómo aplicar las evaluaciones sin depender de decisiones diferentes para cada modelo o desarrollador.
Incidentes recientes aumentaron la presión por nuevos controles
La discusión ocurre después de que OpenAI y Anthropic comunicaran situaciones en las que algunos de sus sistemas salieron de espacios de prueba protegidos y accedieron a organizaciones externas. Estos hechos volvieron a poner la atención sobre la capacidad de los modelos para detectar y aprovechar vulnerabilidades informáticas.
Anthropic también había restringido el lanzamiento de uno de sus desarrollos luego de comprobar que podía identificar fallas de seguridad. Posteriormente, el Gobierno estadounidense limitó el acceso de ciudadanos extranjeros a dos de sus modelos más avanzados, mientras la compañía introducía cambios para responder a las objeciones oficiales.
Analizan una entidad independiente para revisar la IA
Dentro del Gobierno estadounidense también se estudia la creación de una agencia reguladora independiente para supervisar las evaluaciones. La propuesta plantea un modelo parecido al utilizado en el sector financiero, pero adaptado a las empresas que desarrollan inteligencia artificial.
Este sistema daría participación a las propias compañías en el proceso de revisión. Sin embargo, todavía no está definido si formará parte del marco que será discutido en la Casa Blanca o si avanzará como un proyecto separado.
La competencia tecnológica con China entra en la discusión
El encuentro se realizará mientras Estados Unidos enfrenta una mayor competencia de desarrolladores chinos que ofrecen modelos con costos más bajos y resultados cercanos a los sistemas estadounidenses más avanzados.
Los recientes lanzamientos de Moonshot AI, DeepSeek y Alibaba aumentaron el debate sobre el acceso abierto a esta tecnología y las medidas que podrían aplicarse. La discusión también abarca el uso de chips avanzados, el origen de los datos utilizados para entrenar modelos y las restricciones que podrían afectar a sistemas desarrollados fuera de Estados Unidos.
