Anthropic planteó la necesidad de contar con un mecanismo que permita pausar temporalmente trabajos de inteligencia artificial que puedan generar riesgos difíciles de manejar.
La propuesta fue presentada en una publicación del cofundador de la compañía y de la directora del Anthropic Institute, donde señalaron que la IA avanza hacia capacidades que podrían hacer el trabajo humano miles de veces más eficiente o incluso sustituirlo en determinadas tareas.
Un planteo para empresas y gobiernos
La compañía reconoció que lograr una pausa coordinada sería complejo, debido a la competencia entre empresas y países que desarrollan sus propias tecnologías de inteligencia artificial.
Anthropic sostuvo que un freno individual tendría poco efecto si otros actores continúan avanzando, por lo que el planteo apunta a un esquema coordinado entre los principales laboratorios del sector.
Riesgos por el avance de modelos más potentes
El debate se relaciona con la posibilidad de que futuros sistemas de inteligencia artificial lleguen a participar en la creación o mejora de modelos más avanzados.
La empresa indicó que ese escenario todavía no se concretó, pero consideró necesario definir con anticipación qué condiciones deberían activar una pausa y quién tendría autoridad para supervisarla.
Antecedentes de la compañía
En 2023, Anthropic había establecido límites propios y prometido detener trabajos que pudieran resultar peligrosos. Sin embargo, a comienzos de este año flexibilizó ese compromiso al señalar que no haría una pausa si no contaba con una ventaja significativa frente a un competidor.
