Potencias mundiales y empresas abordan los riesgos de la IA en una cumbre en Reino Unido

El primer Ministro británico Rishi Sunak durante su discurso sobre Inteligencia Artificial (IA). Foto: EFE.

Reunidos en una cumbre de seguridad sobre inteligencia artificial (IA) en el Reino Unido, algunos gobiernos mundiales elaboraron este miércoles una declaración conjunta mediante la cual alertaron sobre las potenciales consecuencias "catastróficas" de esta nueva tecnología.

En este primer encuentro, que durará hasta el jueves, asisten, además de gobiernos, representantes de las principales empresas tecnológicas del área, como OpenAI, Google DeepMind, Anthropic, Meta y Microsoft.

Estados Unidos, China, India y países de la Unión Europea como Francia, Alemania y España están entre los 29 firmantes de un texto que recalca que es "especialmente urgente" analizar los peligros que presenta la nueva tecnología y acordar medidas preventivas tempranas.

Encontrá más vídeos

Según la declaración, los estados partícipes se comprometen a "trabajar juntos de manera inclusiva para asegurar una inteligencia artificial centrada en el ser humano, confiable y responsable". La misma fue pactada previo a la realización de la cumbre, y se destacó que la mejor manera de afrontar los riesgos es la "cooperación internacional".

Te puede interesar:

En busca de que sean "más humanos", Reino Unido suma IA para sus servicios públicos

El "potencial transformador" de la inteligencia artificial 

La reunión se lleva a cabo en Bletchley Park, un museo ubicado 80 kilómetros al norte de Londres el cual se considera "la cuna" de la informática. En este lugar, donde se decodificaban los códigos nazis durante la Segunda Guerra mundial, representantes de las principales potencias globales en el sector tecnológico resaltaron el "potencial transformador" de la IA, que puede impulsar "el bienestar, la paz y la prosperidad".

El dueño de Tesla y la red social X, Elon Musk, presente en la Cumbre de Seguridad de IA. Foto: EFE.

Sin embargo, la declaración reconoce que los posibles beneficios de la IA no representan el único foco de interés al que deben prestar atención: los "riesgos significativos" obligan a velar por que el desarrollo de la tecnología se mantenga bajo "una supervisión humana adecuada".

También se prevé el peligro de que la IA genere "contenido manipulado" o "engañoso", por lo que es sumamente necesario tomar medidas en ese sentido. Principalmente, se teme que la inteligencia artificial sea utilizada como un sistema "de frontera" que pueda exceder las habilidades de los actuales modelos más avanzados.

Además de la desinformación, los gobiernos se declaran especialmente preocupados por las aplicaciones de la IA en terrenos como la ciberseguridad y la biotecnología. "Existe el potencial de que se produzcan daños graves, incluso catastróficos, ya sea de manera deliberada o no intencional", subrayó el comunicado conjunto.

Ian Hogarth, presidente del grupo de trabajo sobre inteligencia artificial en las fronteras del Reino Unido, durante su discurso. Foto: Reuters.

"Dado el rápido e incierto ritmo de los cambios en la IA, y en el contexto de una aceleración de las inversiones en tecnología, afirmamos que profundizar en nuestra comprensión de esos riesgos potenciales y las acciones para mitigarlos es especialmente urgente", agregó.