14 de septiembre de 2026
Londres, Reino Unido.- El acelerado desarrollo de la inteligencia artificial está provocando una nueva ola de preocupación entre investigadores, exempleados de grandes compañías tecnológicas y especialistas en seguridad, algunos de los cuales advierten que los sistemas podrían avanzar más rápido de lo que gobiernos y empresas son capaces de controlar.
Uno de los señalamientos más fuertes provino de Evan Hubinger, investigador especializado en alineación de inteligencia artificial, quien aseguró que existe una probabilidad superior al 10% de que una IA extremadamente avanzada pudiera representar una amenaza existencial para la humanidad durante la próxima década. El propio artículo aclara que se trata de una estimación personal y que, según Hubinger, el riesgo de los sistemas actuales sigue siendo bajo.
La preocupación no se limita a imaginar robots fuera de control. Uno de los principales temores es que los llamados agentes de IA, herramientas capaces de ejecutar tareas de manera independiente, adquieran cada vez más autonomía para tomar decisiones, escribir código, interactuar con sistemas digitales o incluso mejorar otras herramientas de inteligencia artificial.
Dario Amodei, cofundador y director ejecutivo de Anthropic, reconoció que la tecnología ha avanzado mucho más rápido de lo esperado, incluso en su capacidad para contribuir al desarrollo de nuevas generaciones de IA. Entre los escenarios que preocupan a especialistas están el uso de estos sistemas para ciberataques, espionaje, manipulación económica o incluso aplicaciones relacionadas con armas biológicas.
Pero no todos los expertos comparten el mismo nivel de alarma. Algunos consideran que hablar de una posible extinción humana puede exagerar las capacidades actuales de la tecnología y distraer la atención de problemas que ya existen, como los deepfakes, la desinformación, las estafas automatizadas y la creación de imágenes sexuales falsas sin consentimiento.
El debate también llegó directamente a las empresas que lideran esta carrera. Sam Altman, director ejecutivo de OpenAI, y Dario Amodei han pedido mayor regulación y una especie de “desaceleración” en el desarrollo de sistemas más potentes. Sin embargo, ambos han aclarado que no buscan detener por completo el progreso tecnológico.
La propuesta consiste, principalmente, en que las compañías dediquen más tiempo a realizar pruebas de seguridad, permitan evaluaciones externas y aumenten la supervisión antes de lanzar sistemas más poderosos. Altman ha señalado que el progreso continuará, pero que las medidas de seguridad inevitablemente harán que avance de manera más controlada.
En Estados Unidos, sin embargo, el gobierno de Donald Trump ha adoptado un enfoque diferente. El presidente ha defendido el rápido desarrollo de la inteligencia artificial y considera que su país se encuentra en una competencia tecnológica directa con China. Trump ha minimizado algunas de las advertencias más graves y ha insistido en que Estados Unidos debe mantener su liderazgo mundial en este sector.
China, por su parte, también acelera el desarrollo de sus propios modelos, especialmente ante las restricciones estadounidenses para acceder a determinados chips y componentes. Al mismo tiempo, Pekín ha pedido una mayor gobernanza internacional de la inteligencia artificial y ha rechazado las acusaciones que presentan su avance tecnológico como una amenaza.
¿La IA realmente podría acabar con la humanidad?
Por ahora, no existe consenso científico de que esto vaya a ocurrir. Los escenarios más extremos siguen siendo hipotéticos y dependen de tecnologías mucho más avanzadas que las disponibles actualmente.
Lo que sí existe es una preocupación real sobre la velocidad del desarrollo. Las grandes compañías compiten por construir sistemas cada vez más capaces, con la meta eventual de alcanzar una llamada superinteligencia, una tecnología teórica que podría superar a los humanos en numerosas tareas complejas.
La discusión, por tanto, no es únicamente sobre si una máquina algún día podría rebelarse contra sus creadores. El debate actual gira alrededor de una pregunta mucho más inmediata: ¿están avanzando las empresas más rápido de lo que avanzan las reglas y mecanismos necesarios para mantener esta tecnología bajo control?
