La capacidad que está alcanzando la inteligencia artificial volvió a encender el debate sobre sus posibles riesgos a gran escala. En un adelanto de una entrevista televisiva que será emitida este fin de semana, se planteó que esta tecnología podría llegar a ser utilizada para provocar acontecimientos capaces de causar la muerte de hasta 1.000 millones de personas si herramientas muy avanzadas quedaran en manos de actores con intenciones dañinas.
La advertencia no describe un hecho que esté ocurriendo actualmente ni una proyección considerada segura, sino un escenario extremo de riesgo vinculado al desarrollo de sistemas cada vez más potentes.
El temor está en cómo podría utilizarse la tecnología
Uno de los principales puntos señalados es la combinación entre personas con malas intenciones y herramientas avanzadas de inteligencia artificial.
Entre los usos que ya generan preocupación aparecen los ciberataques, fraudes, campañas de desinformación y posibles acciones contra hospitales, instituciones financieras, redes eléctricas y sistemas gubernamentales.
El planteamiento se suma a un debate que viene creciendo dentro de la industria tecnológica a medida que los modelos de IA adquieren nuevas capacidades y pueden realizar tareas con un nivel cada vez mayor de autonomía.
La autorregulación de las empresas queda bajo discusión
Otro punto central es si las compañías que desarrollan inteligencia artificial deberían ser las únicas encargadas de establecer los límites y mecanismos de seguridad.
La posición planteada es que la autorregulación no sería suficiente y que organismos públicos, fuerzas del orden y autoridades políticas deberían participar en la definición de las medidas de protección y supervisión.
El pedido apunta a que determinadas reglas pasen a ser obligatorias, en lugar de depender exclusivamente de compromisos voluntarios asumidos por las empresas tecnológicas.
Crece el debate dentro del propio sector tecnológico
Las discusiones sobre seguridad se intensificaron durante las últimas semanas. Trabajadores y directivos de compañías dedicadas al desarrollo de IA también manifestaron preocupación por los riesgos que podrían surgir con sistemas de mayor capacidad.
En paralelo, distintas voces del sector reclamaron reducir el ritmo de desarrollo de los modelos más avanzados o establecer mecanismos internacionales para supervisar tecnologías que puedan representar riesgos importantes.
Gobiernos enfrentan presión para definir reglas
La discusión ya salió del ámbito exclusivamente empresarial. Organismos internacionales y compañías tecnológicas plantearon recientemente la necesidad de avanzar hacia normas técnicas, pruebas de seguridad y mecanismos de cooperación entre países.
El debate se concentra ahora en determinar hasta dónde deberían llegar esas reglas, qué sistemas deberían quedar sujetos a controles obligatorios y qué instituciones tendrían la responsabilidad de supervisar una tecnología que continúa avanzando rápidamente.
