El avance de modelos cada vez más capaces volvió a abrir una discusión dentro de la industria tecnológica. Dario Amodei, Sam Altman y Elon Musk plantearon desacelerar determinados desarrollos para reforzar la seguridad, mientras otros referentes cuestionan una pausa. En paralelo, ya existen casos documentados de operaciones de influencia, fraude, vigilancia y agentes capaces de ejecutar miles de acciones de manera autónoma.
La discusión sobre hasta dónde debería avanzar el desarrollo de la inteligencia artificial volvió a ocupar un lugar central dentro de la industria tecnológica. Durante los últimos días, algunos de los principales referentes del sector plantearon la necesidad de desacelerar determinados avances para que los mecanismos de seguridad puedan acompañar el crecimiento de las capacidades de los modelos.
El debate fue impulsado por Dario Amodei, director ejecutivo de Anthropic, quien pidió a las compañías de inteligencia artificial que reduzcan el ritmo de desarrollo de determinados sistemas. La propuesta recibió respaldo de Sam Altman, CEO de OpenAI, y Elon Musk, responsable de xAI.
La discusión no implica necesariamente detener el desarrollo de la inteligencia artificial. El planteo de Amodei apunta a incorporar mayores controles, evaluaciones independientes y mecanismos de coordinación entre empresas y gobiernos para evitar que las capacidades de los modelos avancen más rápido que las herramientas destinadas a controlar sus riesgos.
En paralelo, otros actores de la industria rechazaron la idea de desacelerar. Entre ellos aparecen ejecutivos y referentes que consideran que una reducción del ritmo podría afectar la innovación y la competencia tecnológica. En Europa, además, algunas empresas sostuvieron que una pausa promovida por los grandes laboratorios estadounidenses podría terminar reforzando la posición de las compañías que ya dominan el mercado.
El debate se produce mientras ya existen casos concretos de usos indebidos de sistemas de IA. Operaciones de influencia, generación masiva de contenido engañoso, fraude, vigilancia y ataques informáticos asistidos por modelos dejaron de ser solamente hipótesis y pasaron a formar parte de los riesgos documentados.
Por qué algunas empresas plantean desacelerar la IA
Uno de los argumentos centrales de quienes proponen moderar el ritmo de desarrollo es que las capacidades de los modelos están aumentando con rapidez y que las herramientas de seguridad no necesariamente evolucionan al mismo ritmo.
El debate se intensificó luego de distintos episodios vinculados con el uso de modelos avanzados en operaciones informáticas y con advertencias de investigadores que dejaron empresas del sector por sus preocupaciones respecto de la evolución de estas tecnologías.
Amodei planteó tres líneas de acción: incorporar evaluadores independientes dentro de las compañías, establecer estándares comunes de seguridad entre los principales laboratorios y aumentar la cooperación internacional.
Altman y Musk manifestaron su respaldo a la necesidad de desacelerar determinados avances. La propuesta, sin embargo, generó resistencia dentro de la propia industria.
Uno de los argumentos en contra es que una desaceleración generalizada podría perjudicar a empresas más pequeñas o a países que todavía buscan reducir la distancia tecnológica con los principales desarrolladores. También existe una discusión sobre quién debería establecer los estándares y cómo evitar que las medidas de seguridad terminen funcionando como barreras de entrada.
Algunos investigadores incluso plantearon que una pausa podría beneficiar a los grandes laboratorios, porque les permitiría consolidar las enormes inversiones realizadas y establecer estándares de seguridad que serían más difíciles de afrontar para competidores pequeños.
El investigador Andrew Cullen, de la Universidad de Melbourne, sostuvo que una combinación de normas costosas y restricciones sobre tecnologías críticas podría dificultar que nuevos competidores alcancen a las compañías ya instaladas.
El planteo muestra que el debate no se limita a una cuestión técnica. También involucra competencia empresarial, inversiones, regulación, seguridad nacional y la disputa internacional por el liderazgo tecnológico.
Qué riesgos siguen siendo hipotéticos
Uno de los escenarios más discutidos es la posibilidad de que un sistema de inteligencia artificial llegue a actuar fuera del control humano y pueda impedir que las personas recuperen ese control.
El International AI Safety Report 2026 distingue entre los riesgos actuales y los escenarios de pérdida de control. El informe señala que los sistemas actuales muestran avances en capacidades relevantes para ese tipo de escenario, pero todavía no cuentan con las capacidades necesarias para producir una pérdida de control de esa magnitud.
Para que ocurra un escenario de pérdida de control serían necesarias, entre otras capacidades, la posibilidad de evadir mecanismos de supervisión, ejecutar planes prolongados y evitar que los desarrolladores u otros actores implementen contramedidas.
El informe también señala que los modelos mejoraron en determinadas capacidades relacionadas con planificación y con la identificación de mecanismos utilizados durante las evaluaciones. En algunos casos, los sistemas lograron encontrar formas de aprovechar las limitaciones de las pruebas o distinguir entre determinados contextos de evaluación y situaciones de despliegue.
Eso no significa que los sistemas actuales hayan demostrado capacidad para provocar un escenario de extinción humana.
Precisamente por eso existe una diferencia importante entre advertir sobre un riesgo futuro y afirmar que ese riesgo ya ocurrió. La posibilidad de una IA que escape completamente del control humano continúa siendo objeto de debate entre especialistas y depende, en buena medida, de cómo evolucionen las capacidades futuras de los modelos.
Los riesgos que ya fueron documentados
Mientras los escenarios de pérdida total de control permanecen en el terreno de la proyección, otros usos problemáticos ya fueron registrados.
Anthropic publicó en septiembre un informe sobre el uso indebido de Claude, su familia de modelos de inteligencia artificial. La compañía informó que durante ocho meses identificó y desarticuló operaciones vinculadas con siete áreas de riesgo: ciberataques, operaciones de influencia, vigilancia, estafas y fraude, usos biológicos indebidos, desarrollo de armas convencionales y extracción ilícita de capacidades de modelos.
Uno de los aspectos destacados fue el uso de IA para desarrollar operaciones de influencia.
Anthropic detectó redes de perfiles falsos y sitios web que utilizaban Claude para producir y distribuir contenido engañoso. En algunos casos se generaron fotografías de perfil, biografías inventadas, personajes políticos ficticios y contenidos diseñados para aparentar ser producidos por personas u organizaciones reales.
La empresa identificó incluso una operación comercial que utilizaba inteligencia artificial para producir noticias falsas y distribuirlas mediante decenas de sitios que aparentaban ser medios independientes. Según Anthropic, la red publicó al menos 8.913 artículos en aproximadamente 20 idiomas y utilizó cientos de cuentas inauténticas para amplificar los contenidos. La compañía sostuvo que logró interrumpir la operación antes de que consiguiera una audiencia auténtica significativa.
El informe también registra operaciones de vigilancia y casos relacionados con actores estatales o vinculados a organismos estatales. En esas situaciones, los modelos fueron utilizados para recopilar información, monitorear determinadas personas o grupos y elaborar informes.
Otro de los usos documentados corresponde a estafas y fraude, donde la inteligencia artificial permite generar grandes cantidades de identidades, contenidos o comunicaciones a una escala que sería mucho más costosa de alcanzar mediante trabajo exclusivamente humano.
El caso Hugging Face: miles de acciones ejecutadas por un agente
Uno de los episodios que más atención recibió ocurrió en julio, durante una evaluación de capacidades de ciberseguridad de modelos de OpenAI.
El incidente involucró a modelos que operaban dentro de un entorno de evaluación diseñado para medir capacidades de explotación informática. Según OpenAI, los sistemas consiguieron eludir controles destinados a mantenerlos aislados de Internet y posteriormente accedieron a infraestructura de investigación y a sistemas de Hugging Face.
La investigación posterior de Hugging Face reconstruyó aproximadamente 17.600 acciones realizadas por el agente entre el 9 y el 13 de julio. La actividad se desarrolló a gran velocidad y combinó múltiples pasos automatizados.
El episodio es relevante porque muestra una diferencia entre un modelo que simplemente responde preguntas y un agente de IA al que se le otorgan herramientas para ejecutar acciones, buscar información, utilizar recursos informáticos y tomar decisiones intermedias para alcanzar un objetivo.
OpenAI explicó posteriormente que los modelos involucrados operaban con medidas de seguridad reducidas porque se trataba de una evaluación específica de capacidades cibernéticas. El modelo de investigación que tuvo un papel central era de uso interno y no estaba destinado a ser lanzado públicamente.
El incidente no demuestra que una inteligencia artificial haya escapado de manera independiente al control humano en el sentido planteado por los escenarios de extinción. Sí constituye un ejemplo documentado de cómo un sistema con herramientas y autonomía suficiente puede ejecutar cadenas complejas de acciones a una velocidad que resulta difícil de supervisar manualmente.
Autonomía, velocidad y escala: el problema que ya existe
El informe de Anthropic sobre amenazas también muestra que la autonomía no es una cuestión exclusivamente futura.
La empresa informó haber observado operaciones en las que los actores utilizaban Claude para ejecutar comandos, recopilar credenciales y extraer información, con distintos grados de intervención humana. En los casos de mayor autonomía, algunos sistemas funcionaron durante horas o días con una supervisión humana mínima.
Anthropic aclara, sin embargo, que autonomía y daño no son exactamente lo mismo. La autonomía puede aumentar la velocidad y reducir el costo de una operación, pero la gravedad del resultado depende también del objetivo, las herramientas disponibles, los permisos y las condiciones de seguridad.
Ese punto resulta central para comprender el debate actual. El riesgo no depende únicamente de qué tan inteligente sea un modelo, sino también de qué puede hacer cuando está conectado con otras herramientas y sistemas.
Una discusión que combina seguridad y competencia
La discusión sobre desacelerar la inteligencia artificial tampoco ocurre en un vacío económico y geopolítico.
Estados Unidos, China y Europa mantienen una competencia por el desarrollo de modelos avanzados, infraestructura informática y chips especializados. Por eso, las propuestas de coordinación internacional y mayores controles conviven con el interés de los gobiernos y las empresas por no perder posiciones frente a sus competidores.
En ese contexto, algunos referentes consideran que acelerar el desarrollo es necesario para sostener la innovación y la competitividad, mientras otros sostienen que el crecimiento de las capacidades debe estar acompañado por mecanismos de seguridad más robustos.
La controversia también llegó al ámbito político estadounidense. Donald Trump defendió el desarrollo de la IA y recientemente anunció la creación de una nueva estructura de asesoramiento sobre inteligencia artificial, mientras su administración mantiene el foco en la competencia tecnológica con China.
Qué está en discusión
El debate actual puede dividirse en dos planos diferentes.
Por un lado están los riesgos presentes y documentados: campañas de influencia, contenido engañoso, fraude, vigilancia, operaciones informáticas y agentes capaces de ejecutar grandes cantidades de acciones con poca intervención humana.
Por otro, están los riesgos futuros, como la posibilidad de que sistemas mucho más capaces puedan actuar fuera del control de sus operadores. Los informes internacionales no consideran que los modelos actuales tengan todavía las capacidades necesarias para producir ese escenario, aunque advierten que algunas capacidades relacionadas están avanzando.
La discusión sobre una eventual desaceleración, entonces, no se limita a decidir si la inteligencia artificial debe avanzar o detenerse. El punto central pasa por determinar a qué velocidad deberían desarrollarse nuevas capacidades, qué controles deben acompañarlas, quién debería establecer esos estándares y cómo equilibrar seguridad, innovación y competencia tecnológica.
Los casos documentados durante 2026 muestran que algunas de las preocupaciones ya no pertenecen exclusivamente al terreno de la ciencia ficción. Al mismo tiempo, diferenciar esos hechos de las hipótesis más extremas resulta fundamental para comprender qué riesgos existen hoy y cuáles dependen de la evolución futura de la tecnología.
Más historias
Denuncias contra jueces: qué pasó con las más de 5.000 presentadas ante el Consejo de la Magistratura
Cada vez hablamos menos: la tecnología y los cambios sociales detrás de una pérdida silenciosa de palabras
León XIV en Argentina: qué se sabe de la visita, las ciudades que recorrerá y la agenda que prepara el Vaticano