La inteligencia artificial, si no se controla, podría representar un grave peligro para la democracia y la paz, advirtió Naciones Unidas.
El Secretario General de la ONU, Antonio Guterres, hizo estos comentarios mientras un panel de expertos advertía sobre los peligros de las falsificaciones cada vez más realistas, así como sobre la evolución de las armas autónomas y el uso de inteligencia artificial por parte de grupos criminales y terroristas.
El grupo pidió una mayor colaboración global en esta tecnología y dijo que su desarrollo no debería dejarse en manos de las fuerzas del mercado.
El panel de alrededor de 40 expertos de los campos de tecnología, derecho y protección de datos fue creado por Guterres en octubre.
Su informe alertó sobre la falta de gobernanza global de la IA, así como sobre la exclusión efectiva de los países en desarrollo de los debates sobre el futuro de esta tecnología.
El Secretario General de las Naciones Unidas, Antonio Guterres, hace declaraciones a los periodistas antes de la ‘Cumbre del Futuro’ del 18 de septiembre
De los 193 miembros de la ONU, sólo siete forman parte de las siete principales iniciativas vinculadas a la IA, mientras que 118 están totalmente ausentes (en su mayoría naciones del sur global).
“Existe hoy en día un déficit de gobernanza global con respecto a la IA”, que por su naturaleza es transfronteriza, advierten los expertos en su informe.
«La IA debe servir a la humanidad de manera equitativa y segura», dijo Guterres esta semana.
‘Si no se controlan, los peligros que plantea la inteligencia artificial podrían tener graves consecuencias para la democracia, la paz y la estabilidad’.
En el contexto de su claro llamado, los expertos instaron a los miembros de la ONU a establecer mecanismos para facilitar la cooperación mundial sobre esta cuestión, así como para prevenir la proliferación involuntaria.
“El desarrollo, la implementación y el uso de dicha tecnología no pueden dejarse únicamente en manos de los caprichos de los mercados”, afirma el informe.
En primer lugar, pidió la creación de un grupo de expertos científicos sobre IA inspirado en el foro de expertos del Grupo Intergubernamental de Expertos sobre el Cambio Climático (IPCC), cuyos informes son la última palabra sobre la cuestión del cambio climático.
El panel informará a la comunidad internacional sobre los riesgos emergentes, identificará las necesidades de investigación y cómo éstas podrían utilizarse para aliviar el hambre, la pobreza y la desigualdad de género, entre otros objetivos.
El informe alertó sobre la falta de gobernanza global de la IA, así como sobre la exclusión efectiva de los países en desarrollo de los debates sobre el futuro de esta tecnología (foto de archivo)
Esta propuesta está incluida en el proyecto de Pacto Digital Global, aún en debate, que se adoptará el domingo en la “Cumbre del Futuro”.
El informe apoya la creación de una estructura de “coordinación” ligera dentro de la secretaría de las Naciones Unidas.
Pero no llega a ser un organismo de gobernanza internacional plenamente desarrollado, como el que busca Guterres, basado en el modelo del organismo de control nuclear de la ONU, el OIEA.
“Si los riesgos de la IA se vuelven más graves y más concentrados, podría resultar necesario que los Estados miembros consideren la posibilidad de crear una institución internacional más sólida con poderes de seguimiento, presentación de informes, verificación y aplicación de la ley”, señala el informe.
Los autores reconocen que, debido a la vertiginosa velocidad de los cambios en la IA, sería inútil intentar elaborar una lista exhaustiva de los peligros que presenta esta tecnología en constante evolución.
Pero destacaron los peligros de la desinformación para la democracia, las falsificaciones cada vez más realistas (en particular las pornográficas) y la evolución de las armas autónomas y el uso de inteligencia artificial por parte de grupos criminales y terroristas.
“Sin embargo, dada la velocidad, autonomía y opacidad de los sistemas de IA, esperar a que surja una amenaza puede significar que cualquier respuesta llegará demasiado tarde”, señala el informe.
‘La continuación de las evaluaciones científicas y el diálogo sobre políticas garantizarían que el mundo no se sorprendiera’.