Comienza en Bletchley Park la cumbre mundial para abordar los peligros de la IA

Este artículo fue actualizado por última vez el noviembre 2, 2023

Comienza en Bletchley Park la cumbre mundial para abordar los peligros de la IA

Reunión de alto nivel para abordar riesgos y regulaciones de la Inteligencia Artificial

Ocupa un lugar destacado en la agenda de todos los líderes mundiales: ¿cómo podemos controlar la inteligencia artificial? Por un lado, se considera un “peligro para los humanos” que puede crear armas biológicas o influir en las elecciones. Al mismo tiempo, puede ser una poderosa herramienta para el bien, como el desarrollo de nuevos medicamentos y la mejora de la eficiencia en diversos campos.

Políticos, científicos y grandes empresas tecnológicas de todo el mundo se reunirán hoy y mañana en el Reino Unido para abordar estas cuestiones cruciales en la Cumbre de Seguridad de la IA. Esta cumbre, la primera de este tipo a este nivel, tendrá lugar en Bletchley Park, un lugar simbólico donde los descifradores británicos descifraron con éxito el código Enigma alemán durante la Segunda Guerra Mundial.

Se reúnen líderes mundiales y titanes tecnológicos

La lista de invitados a la cumbre es impresionante, incluida la presidenta de la Comisión Europea, Ursula von der Leyen, el multimillonario tecnológico Elon Musk, el director ejecutivo de la ONU, Antonio Guterres, y la vicepresidenta de Estados Unidos, Kamala Harris. A pesar del conflicto en curso con Hamás, el primer ministro de Israel, Benjamín Netanyahu, también participa en las conversaciones. Los Países Bajos envían al Secretario de Estado Van Huffelen para la Digitalización.

El Reino Unido, que es el segundo mercado de IA más grande del mundo después de Estados Unidos y China, aspira a desempeñar un papel importante en la regulación de esta tecnología en rápido desarrollo. Si bien la UE espera finalizar la Ley de IA dentro de unos meses y Estados Unidos emitió un decreto presidencial esta semana, el Reino Unido apenas está comenzando a abordar estas cuestiones.

“Si nos equivocamos, será más fácil para la IA desarrollar armas químicas o biológicas. Los terroristas pueden utilizar la IA para difundir el miedo y la destrucción a una escala aún mayor. En el escenario más improbable, existe incluso el riesgo de que la humanidad pierda completamente el control”, advierte el primer ministro británico, Rishi Sunak, destacando los riesgos potenciales asociados a la IA.

Sunak pretende conseguir acuerdos entre todas las partes implicadas, incluidos China y Estados Unidos, que actualmente están inmersos en un conflicto cada vez mayor por el suministro de chips. El objetivo de estos acuerdos será principalmente abordar los riesgos asociados con la IA, con la intención de obtener un amplio apoyo de países y empresas.

Hacia un destino claro

Si bien la IA está a la vanguardia de los debates en todo el mundo, todavía falta consenso sobre qué es exactamente lo que se debe hacer. Marietje Schaake, directora de política tecnológica de la Universidad de Stanford, destaca la necesidad de una mayor claridad: “La IA está en la agenda en todas partes, todos quieren hacer algo, pero es una carrera hacia un destino poco claro. Porque, ¿qué se debe hacer exactamente?

Mark Brakel, director de políticas del Future of Life Institute, considera la cumbre un hito importante. Su organización, cuyo objetivo es mitigar los riesgos extremos de la tecnología, inició una carta abierta en marzo pidiendo una pausa en el desarrollo de la IA. Sugiere mirar la IA a través de la lente del cambio climático e insta a adoptar medidas más proactivas para abordar las posibles consecuencias de la IA.

La importancia del uso responsable y la regulación

Tanto los formuladores de políticas como los actores de la industria coinciden en que las regulaciones pueden respaldar el desarrollo responsable de la IA. Gary Brotman, representante de la startup británica de IA Second Mind, explica: “La IA en sí misma son simplemente algoritmos informáticos que no tienen intenciones maliciosas. Simplemente ejecutan comandos. Simplemente hay que utilizarlo de forma responsable y la regulación puede ayudar a ello”. El desafío radica en crear directrices que promuevan la innovación y al mismo tiempo garanticen prácticas éticas y seguras.

Virginia Dignum, profesora de IA responsable, establece una analogía entre la IA y el tráfico y afirma: “No todas esas reglas tienen que ser las mismas en todos los países, pero hay que confiar en que ese tipo de reglas existen en todas partes”. Ella enfatiza la importancia de establecer estándares globales para evitar la concentración de poder únicamente en manos de gigantes tecnológicos.

Mecanismos de control y presentación de informes

Además de la cumbre, el Primer Ministro Sunak tiene otras iniciativas en proyecto. Esto incluye el establecimiento de un instituto de seguridad para monitorear y regular el software de inteligencia artificial, así como una red de expertos similar al panel climático IPCC de las Naciones Unidas. El objetivo es contar con un mecanismo de presentación de informes anuales para realizar un seguimiento de la evolución del panorama de la IA. Las Naciones Unidas también están trabajando en esfuerzos similares.

Peligros de la IA