Ralentizar el desarrollo de modelos de inteligencia artificial avanzados: ¿cuáles son las principales barreras?

Según informó Bloomberg, las empresas Anthropic y OpenAI enfrentan una difícil ecuación entre las demandas de ralentizar el desarrollo de los sistemas de inteligencia artificial más avanzados y la presión que podría llevar al sector tecnológico, los mercados financieros y la administración del presidente estadounidense Donald Trump a rechazar cualquier ralentización significativa en esta trayectoria.

Las dos empresas, que desarrollan algunos de los sistemas de inteligencia artificial más potentes del mundo, han anunciado nuevas medidas para fortalecer la seguridad y comprender los riesgos, tras una serie de incidentes de seguridad que han generado dudas sobre la capacidad de estos sistemas avanzados para operar de forma autónoma y superar los controles establecidos.

En un artículo extenso publicado el sábado, el CEO de Anthropic, Dario Amodei, instó a ralentizar el ritmo del desarrollo de los sistemas más avanzados, advirtiendo que la inteligencia artificial podría superar la capacidad humana de controlarla y causar daños catastróficos.

Su llamado recibió el apoyo del CEO de OpenAI, Sam Altman, y del CEO de la empresa xAI, Elon Musk.

Pero Amodei enfatizó que lo que se entiende por "ralentizar el ritmo" no significa detener el entrenamiento ni el progreso técnico, sino otorgar a los procesos de seguridad y evaluación tiempo suficiente para seguir el ritmo del avance de las capacidades de los modelos.

Miedos en los mercados

Cualquier obstáculo potencial al desarrollo de sistemas de inteligencia artificial avanzados genera preocupaciones entre los inversores que han apostado por la continuidad de la explosión en este sector, así como por el gasto de cientos de miles de millones de dólares en centros de datos, chips electrónicos y la infraestructura necesaria para ejecutar los nuevos modelos.

Estas preocupaciones se reflejaron en las acciones de empresas vinculadas a la inteligencia artificial, ya que las acciones de SK Hynix y Samsung en Corea del Sur disminuyeron, mientras que las de SoftBank Group, uno de los principales inversores en OpenAI, cayeron hasta un 13%, y otras empresas relacionadas con cadenas de suministro de inteligencia artificial enfrentaron presiones.

Los analistas señalan que cualquier reducción significativa en el gasto en investigación y desarrollo, contratación o inversión capitalista en OpenAI y Anthropic podría tener efectos en las acciones tecnológicas y los mercados financieros, debido al papel clave que estas empresas desempeñan en impulsar la demanda de chips, computación en la nube y centros de datos.

Trump rechaza ralentizar la carrera

Cualquier movimiento amplio para ralentizar el desarrollo de la inteligencia artificial podría encontrarse con resistencia por parte de la administración Trump, que ha hecho del acelerar el desarrollo de la tecnología y mantener la ventaja estadounidense sobre China parte de su agenda económica y de seguridad.

Trump dijo a periodistas durante un torneo de golf en Irlanda el domingo que Estados Unidos lidera a China en inteligencia artificial, y que quiere mantener esa ventaja, añadiendo que se pueden establecer "controles", pero criticó a las fuerzas negativas que exageran los riesgos de la tecnología.

Por otro lado, Altman afirmó en una publicación en la plataforma X que "ralentizar el ritmo" no significa detenerse, y que la necesidad fundamental de apoyo gubernamental radica en el coordinación internacional, considerando que las empresas deben hacer todo lo posible por sí mismas para mejorar la seguridad.

La semana pasada, aumentó la preocupación sobre los riesgos máximos de la inteligencia artificial tras la renuncia del investigador anterior de Anthropic, Jacob Kockelman, quien acusó a las empresas de inteligencia artificial de "apostar con nuestras vidas" en la carrera por desarrollar sistemas más avanzados.

Su renuncia desencadenó un debate más amplio dentro del sector, coincidiendo con advertencias de que el rápido avance de los sistemas podría llevar a perder el control sobre ellos. Estas preocupaciones se intensificaron tras una serie de incidentes en los que empresas de inteligencia artificial revelaron la capacidad de sus programas para realizar operaciones electrónicas de forma autónoma.

OpenAI había revelado un incidente en el que sistemas aún en prueba lograron acceder a un servicio electrónico a pesar de las restricciones impuestas. Asimismo, sistemas asociados a ella estuvieron involucrados en una intrusión en la plataforma Hugging Face durante una prueba de seguridad en julio.

Anthropic y Meta también anunciaron incidentes en los que sus sistemas de inteligencia artificial llevaron a cabo ataques electrónicos autónomos.

Estas preocupaciones también comenzaron a llegar al Congreso, donde legisladores han planteado ideas que incluyen imponer nuevas regulaciones y establecer mecanismos que permitan detener sistemas de inteligencia artificial, aunque las posibilidades de aprobar una legislación amplia son bajas debido a las divisiones políticas y la cercanía de las elecciones parciales.

Supervisión independiente

Amodei propone otorgar a organismos independientes de evaluación de seguridad la posibilidad de acceso a empresas de inteligencia artificial a un nivel similar al de sus empleados, para verificar la seguridad de los modelos antes de su lanzamiento.

Dijo que Anthropic permitirá a evaluadores independientes ingresar a la compañía y revisar sus nuevos sistemas, una idea que Altman afirmó apoyar en OpenAI, mientras que Musk calificó la revisión por pares entre desarrolladores de inteligencia artificial como un paso que vale la pena implementar.

Amodei también abogó por un papel gubernamental en la supervisión de los sistemas de inteligencia artificial avanzados, considerando que la regulación permite al público y a los funcionarios electos definir límites sobre lo que las empresas privadas pueden hacer.

Como indicador del impacto de las preocupaciones sobre la seguridad en las decisiones empresariales, Altman declaró que OpenAI no lanzará sus acciones al mercado público durante 2026, a pesar de rumores previos sobre la posibilidad de hacerlo este año.

Explicó que lanzar la empresa actualmente sería "inapropiado", señalando que primero se deben abordar cuestiones de seguridad y alinear los modelos. Afirmó que no acepta arriesgarse con una probabilidad del 10% de que la tecnología cause la muerte de seres humanos para finales de la década.

En contraste, Anthropic aún planea lanzar sus acciones, según informes que indican que la empresa eligió la bolsa Nasdaq para su cotización esperada, lo que significa que la continuación de la competencia entre empresas de inteligencia artificial sigue siendo un factor importante en sus decisiones de inversión y comerciales.

Se vuelve más difícil alcanzar un ralentización generalizada mientras continúa la competencia con empresas chinas, que siguen lanzando nuevos modelos y reduciendo la brecha con las empresas estadounidenses.

Funcionarios y expertos de la industria creen que cualquier ralentización unilateral por parte de empresas estadounidenses podría dar a China la oportunidad de adelantarse, lo que hace que las llamadas a la seguridad estén directamente ligadas a la competencia geopolítica.

OpenAI y Anthropic se encuentran frente a una ecuación compleja que requiere fortalecer los procedimientos de seguridad en consonancia con las capacidades crecientes de la inteligencia artificial, al mismo tiempo que se mantiene el ritmo de desarrollo, inversión y ventaja en una carrera que Washington considera parte de la competencia estratégica con China.