Entre advertencias y regulación: la reunión de Trump reaviva el debate sobre la seguridad de la IA

El debate sobre la seguridad de la inteligencia artificial ha vuelto al primer plano tras la reunión del presidente estadounidense Donald Trump con varios altos ejecutivos de empresas tecnológicas y de IA en la Casa Blanca, en un momento en que las preocupaciones sobre los riesgos que plantean los modelos avanzados siguen siendo objeto de un amplio debate.

Trump recibió el martes a directivos de Alphabet, Meta, SpaceX, Nvidia, Palantir, Anthropic, OpenAI y otras compañías, después de semanas de un debate nacional sobre la seguridad de la IA, con advertencias de importantes investigadores y ejecutivos del sector sobre los riesgos que podrían suponer los modelos más potentes.

Mientras que los temores expresados por figuras como Dario Amodei, CEO de Anthropic, han llevado a algunos legisladores y expertos de la industria a exigir una regulación gubernamental, Trump se opuso firmemente a estos movimientos, describiendo las preocupaciones relacionadas con la IA como un "engaño".

Durante la reunión, los líderes tecnológicos firmaron un documento de dos páginas titulado "Acuerdo de la Casa Blanca sobre la Superinteligencia Artificial: Un compromiso conjunto con responsabilidades fronterizas", que Trump publicó en su cuenta de Truth Social.

El documento establece que las empresas participantes consideran que "cada empresa es responsable de desarrollar su propia tecnología de forma segura y de manera que genere confianza entre los clientes y el público".

Brad Task, CEO de Task Ventures, señaló que muchos de estos directivos habían abogado por la regulación del sector hace unas dos semanas, explicando que el objetivo, según su opinión, era establecer normas que crearan igualdad de condiciones entre las empresas.

El documento propone cuatro pasos principales, que incluyen la creación de un sistema interno de monitoreo "robusto" para los modelos, la formación de un equipo interno para garantizar el funcionamiento de los controles, la colaboración con auditores o evaluadores externos y el nombramiento de un comité independiente del consejo de administración para supervisar al equipo interno.

El último párrafo del documento indica que podría ser razonable codificar estos pasos en leyes o regulaciones con el tiempo. Cuando se le preguntó fuera de la Casa Blanca si las normas eran vinculantes, Trump respondió que son "vinculantes moralmente".

Trump promociona el acuerdo
La reunión no se limitó al acuerdo de seguridad de la IA, ya que Trump dijo por separado que había firmado un documento que afirmaba cambiar oficialmente el nombre de la Inteligencia Artificial a "Superinteligencia Artificial", en un intento de imponer un cambio de denominación tras una encuesta en redes sociales durante la semana anterior.

Después de la reunión, varios líderes de empresas tecnológicas expresaron su apoyo a los esfuerzos liderados por Trump.

Mark Zuckerberg, CEO de Meta, afirmó que el acuerdo tiene como objetivo "dar al pueblo estadounidense y a nuestros clientes la confianza de que la tecnología funciona de la manera que pretendemos".

Zuckerberg añadió que el acuerdo no es lo único que hará la industria, sino que representa un comienzo y un consenso al que puede llegar toda la industria.

Zuckerberg, junto con Jensen Huang, CEO de Nvidia, estaba más cerca de un enfoque de autorregulación en comparación con Dario Amodei, CEO de Anthropic, y Sam Altman, CEO de OpenAI.

Amodei declaró tras la firma que si el acuerdo se implementa correctamente, trabajando con el presidente y todos los participantes, "podemos ganar con seguridad".

Sundar Pichai, CEO de Alphabet, describió la reunión como "histórica y de suma importancia".

Aumentan los llamados a la regulación
Por el contrario, con el aumento de las preocupaciones relacionadas con las violaciones de seguridad y el cambio en la percepción pública de las empresas de IA a medida que se acercan las elecciones intermedias de noviembre, se espera que crezcan los llamados a la regulación.

Una encuesta nacional realizada por Verasite en septiembre mostró que el 63% de los participantes dijeron que la IA debería ralentizarse, mientras que solo el 5% indicó que debería acelerarse.

El senador Mark Warner, demócrata por Virginia, dijo el martes que había presentado un proyecto de ley que exige "pruebas y evaluaciones rigurosas" de las últimas tecnologías de IA, así como reforzar la seguridad y la notificación antes de desplegar los modelos más potentes.

Warner añadió que las empresas que desarrollan los sistemas de IA más potentes advierten que la tecnología avanza más rápido que las medidas de protección, considerando que cambiar el nombre de la IA y pedir a las empresas que se auto-regulen no aborda los riesgos asociados con los sistemas en constante evolución.