Informe sobre IA encargado por EEUU advierte que esta tecnología pone en peligro de extinción a la humanidad

Inteligencia Artificial. Foto: Canva.

El Departamento de Estado estadounidense encargó a Gladstone, una empresa de tecnología, realizar un informe sobre los posibles riesgos para la seguridad nacional que puede traer la Inteligencia Artificial (IA). En este reporte, la compañía emitió una sentencia fulminante: si no se actúa de forma "rápida y decisiva" los seres humanos están en peligro de extinción. En sus páginas compara la amenaza para la estabilidad global de esta tecnología con las armas nucleares.

La Time Magazine dio a conocer en exclusiva antes de su publicación los resultados del informe “Un plan de acción para aumentar la seguridad y la seguridad de la IA avanzada”, encargado por Washington en noviembre de 2022 bajo un contrato federal de 250 mil dólares. Para realizar esta estudio, Gladstone AI dialogó con más de 200 empleados estatales y de compañías de IA de vanguardia como Meta, OpenAI y Google DeepMind, así como con otros expertos.

Encontrá más vídeos

En este sentido, varios trabajadores de seguridad de IA en laboratorios plantearon su preocupación por las metas perversas de los ejecutivos a la hora de desarrollar esta tecnología. “El auge de la IA avanzada y la IA general artificial tiene el potencial de desestabilizar la seguridad global de maneras reminiscentes a la introducción de armas nucleares”, indica el reporte.

Mientras los gobiernos del mundo recién comienzan a discutir cómo regular la IA, las empresas tecnológicas ya están poniendo los cimientos de la próxima generación de sistemas que sean más poderosos, elevando exponencialmente su capacidad. Esta situación aumenta el temor en la utilización de esta tecnología que en Estados Unidos aumenta al 80% de la población que cree que la IA puede llevar a una catástrofe, y el 77% de los estadounidenses opina que el Gobierno debería esmerarse más en regularla, según el Instituto de Política de IA.

Inteligencia Artificial. Foto: Unsplash.

El Departamento de Estado no hizo comentarios pedidos por la Time Magazine. Sin embargo, en la primera página del reporte de aclara que los consejos dados “no reflejan las vistas del Departamento de Estado de Estados Unidos ni del Gobierno".

Te puede interesar:

La aplicación de ChatGPT para celulares incorporará una nueva y esperada función: de qué se trata

Recomendaciones del informe al Gobierno de Estados Unidos para regular el uso de la IA

Aunque la Casa Blanca no haya tomado aún una postura pública sobre los consejos de la empresa Gladstone IA, estos son algunos de los que se incluyen en el informe para los gobiernos del mundo:

• Poner límites a la potencia de cálculo que se puede usar para el entrenamiento de modelos de IA.
• Aplicar sanciones legales en caso de sobrepasar este umbral. 
• Si las empresas desean superarlo, que deban pedir un permiso especial.
• Prohibir la publicación de "pesos" (configuraciones internas) de modelos de IA potentes. Castigar la violación a esta regla con una condena en prisión. 
• Mayor control de exportación y manufactura de chips de IA. 
• Aumento de la financiación federal para investigar cómo la IA puede ser más segura.