Gobierno alemán se toma "muy en serio" las advertencias sobre la IA

El Gobierno alemán pidió hoy que se busquen soluciones globales tras las advertencias de varios ejecutivos de empresas tecnológicas estadounidenses sobre los peligros de una inteligencia artificial (IA) fuera de control.

"Nos tomamos muy en serio las advertencias que hemos escuchado", declaró en Berlín el portavoz adjunto del Gobierno, Steffen Meyer, quien precisó que el máximo órgano de seguridad —el Consejo Nacional de Seguridad— ya se ha ocupado dos veces de este tema.

Meyer se refirió a las grandes oportunidades que ofrece la IA en ámbitos como la economía, la productividad o la medicina, por un lado, y a los riesgos y peligros, por otro, y abogó por soluciones, por ejemplo, en el marco del G7.

"Y por eso es importante que hagamos ambas cosas: no pensar solo en escenarios apocalípticos, sino aprovechar las oportunidades y, cuando veamos riesgos, actuar con determinación", comentó.

Advertencias de figuras destacadas de la IA como Sam Altman

"Si los modelos de IA se vuelven cada vez más poderosos, salen de los entornos de prueba y también penetran de manera autónoma en otros sistemas, nos enfrentaremos a un escenario de amenaza completamente nuevo. Se trata de un cambio de paradigma ante el cual este Gobierno federal está reaccionando y tomando medidas", indicó un portavoz del Ministerio de Digitalización (BMDS).

El portavoz hizo referencia al recién creado Instituto Nacional de Seguridad en IA, cuyo objetivo es identificar de manera temprana los riesgos relacionados con la seguridad en el ámbito de la IA.

Durante el fin de semana líderes del sector de la IA en Estados Unidos urgieron frenar el desarrollo de la inteligencia artificial, causando mucho revuelo.

Dario Amodei, director general de la empresa de IA Anthropic, fue uno de los que impulsó esta iniciativa, que también recibió el apoyo de rivales como Sam Altman, máximo responsable de OpenAI, la empresa desarrolladora de ChatGPT, así como del multimillonario tecnológico Elon Musk.

Una y otra vez surgen debates sobre si una IA capaz de mejorarse a sí misma podría, a más o menos largo plazo, llegar incluso a exterminar a la humanidad.