WASHINGTON, DC – Hace casi exactamente 66 años, 22 científicos preeminentes de diez países, incluidos Estados Unidos y la Unión Soviética, se reunieron en Pugwash, Nueva Escocia, para identificar los peligros que planteaban las armas nucleares e idear formas pacíficas de resolver los conflictos entre países. Así nació la organización internacional conocida como Conferencias Pugwash sobre Ciencia y Asuntos Mundiales, o Movimiento Pugwash. Aunque el mundo apenas está libre de armas nucleares, los esfuerzos del Movimiento por avanzar en el desarme fueron lo suficientemente poderosos como para ganarle el Premio Nobel de la Paz en 1995.
Hoy, el mundo necesita un nuevo Movimiento Pugwash, esta vez centrado en la inteligencia artificial. A diferencia de las armas nucleares, la IA es tan prometedora como peligrosa, y su capacidad destructiva es aún más teórica que real. Aun así, ambas tecnologías plantean riesgos existenciales para la humanidad. Por ello, los científicos, tecnólogos, filósofos, éticos y humanitarios más destacados de todos los continentes deben unirse para lograr un amplio acuerdo sobre un marco de gobierno de la IA que pueda obtener apoyo a nivel local, nacional y mundial.
A diferencia del Movimiento Pugwash original, la versión de la IA no tendría que concebir un marco desde cero. Ya hay en marcha decenas de iniciativas para gobernar y guiar el desarrollo y las aplicaciones de la IA. Algunos ejemplos son el Plan para una Carta de Derechos de la IA en Estados Unidos, las Directrices Éticas para una IA digna de confianza en la Unión Europea, los Principios de la IA de la OCDE y la Recomendación sobre la Ética de la Inteligencia Artificial de la UNESCO.
En su lugar, el nuevo Movimiento Pugwash se centraría en gran medida en conectar a los actores pertinentes, alinearse en torno a las medidas necesarias y garantizar su aplicación generalizada. Las instituciones serán vitales para este esfuerzo. Pero, ¿qué tipo de instituciones se necesitan y pueden establecerse o potenciarse de forma realista para afrontar rápidamente el reto de la IA?
El Secretario General de las Naciones Unidas, António Guterres, ha abogado por un “multilateralismo en red”, en el que la ONU, “las instituciones financieras internacionales, las organizaciones regionales, los bloques comerciales y otros” -incluidas muchas entidades no gubernamentales- “colaboren más estrecha y eficazmente”. Pero para ser eficaces, esas redes de múltiples partes interesadas tendrían que estar diseñadas para cumplir funciones específicas.
Un documento publicado este mes por un grupo de destacados estudiosos de la IA y expertos de universidades y empresas tecnológicas identifica cuatro de esas funciones en relación con la IA: difundir una tecnología beneficiosa, armonizar la regulación, garantizar un desarrollo y un uso seguros y gestionar los riesgos geopolíticos.
Es comprensible que muchos consideren que “garantizar un desarrollo y un uso seguros” es la máxima prioridad. Por ello, se está intentando crear una institución que identifique y supervise los daños reales y potenciales derivados de las aplicaciones de la IA, de forma parecida a como el Grupo Intergubernamental de Expertos sobre el Cambio Climático supervisa el riesgo existencial del cambio climático. De hecho, el Observatorio Mundial de la IA, propuesto recientemente por la Iniciativa sobre Inteligencia Artificial e Igualdad, seguiría explícitamente el modelo del IPCC, que es esencialmente una red de redes que funciona muy bien para acumular conocimientos de muchas fuentes diferentes.
Las redes de acumulación -desde el Sistema de Notificación de Incidentes de la Agencia de Ciberseguridad y Seguridad de las Infraestructuras de EE.UU. hasta Wikipedia- tienen un eje central autorizado que puede reunir información y análisis de muchos tipos diferentes de instituciones, algunas de las cuales ya están conectadas en red. Pero un centro de este tipo no puede tomar medidas rápidas basadas en la información que recopila. Para gobernar la IA, sigue siendo necesaria una institución multilateral jerárquica con poder para tomar y aplicar decisiones, como un Consejo de Seguridad de la ONU operativo.
En cuanto a la función de difundir tecnología beneficiosa (que es tan importante para la mayoría de la gente como evitar daños), es probable que una red combinada de innovación y colaboración funcione mejor. Las redes de innovación suelen incluir muchos nodos remotos -para garantizar el acceso al mayor número posible de fuentes de nuevas ideas y prácticas- y un número limitado de centros centrados en transformar las ideas en acción, colaborar en las mejores prácticas y evitar la explotación. Los nodos podrían estar centrados en regiones específicas o tal vez vinculados a Objetivos de Desarrollo Sostenible concretos de la ONU.
La armonización de la regulación -incluida la experimentación con diferentes tipos de regulación- requerirá una estructura más amplia, menos rígida y lo más inclusiva posible. Las tecnologías de la IA son simplemente demasiado amplias y se mueven demasiado rápido como para que una o incluso varias autoridades reguladoras centralizadas tengan alguna posibilidad de canalizarlas y guiarlas por sí solas. En su lugar, proponemos una red multi-hub ampliamente distribuida que apoye lo que llamamos “co-gobernanza digital”.
Nuestro modelo se basa en la arquitectura distribuida y el sistema de cogobierno a los que se atribuye ampliamente el mantenimiento de la estabilidad y resistencia de Internet. Hace décadas, los investigadores tecnológicos, apoyados por el gobierno estadounidense y las primeras empresas de Internet, crearon varias instituciones en una constelación poco coordinada, cada una con sus propias responsabilidades funcionales.
La Internet Society promueve una Internet abierta y conectada globalmente. El Consorcio de la World Wide Web desarrolla normas web. El Foro para la Gobernanza de Internet reúne a las partes interesadas para debatir cuestiones políticas relevantes. Y la Corporación de Asignación de Nombres y Números de Internet (ICANN) coordina y protege los identificadores únicos de Internet.
La clave del éxito de estas instituciones es que funcionan a través de redes de autogobierno distribuidas entre iguales que reúnen a un amplio abanico de partes interesadas para codiseñar normas, reglas y directrices de aplicación. ICANN, por ejemplo, cuenta con docenas de redes autogestionadas que se ocupan del Sistema de Nombres de Dominio -fundamental para que los usuarios puedan navegar por Internet- y coordina otras redes autogestionadas, como las cinco instituciones regionales que gestionan la asignación de direcciones IP para el mundo.
Estas instituciones son capaces de gestionar una amplia gama de cuestiones políticas, desde las técnicas hasta las políticas. Cuando Rusia invadió Ucrania en 2022, las autoridades ucranianas presionaron a ICANN para que eliminara .ru del directorio maestro del Sistema de Nombres de Dominio, conocido como zona raíz, que gestionan 12 instituciones de cuatro países, coordinadas pero no controladas por ICANN. Finalmente, la Autoridad de Asignación de Números de Internet rechazó la petición.
A una conferencia sobre IA del tipo de Pugwash no le faltarían propuestas que estudiar ni socios gubernamentales, académicos, empresariales y cívicos con los que comprometerse. Los participantes en el Pugwash original respondieron a una llamada de gigantes intelectuales como el filósofo Bertrand Russell y el físico Albert Einstein. ¿Quién dará un paso al frente hoy?
Publicación original en: https://www.project-syndicate.org/commentary/institutions-to-govern-artificial-intelligence-new-pugwash-movement-by-anne-marie-slaughter-and-fadi-chehade-2023-07
Lee también:
Gobernar el derecho a la alimentación
Enfoquémonos en la productividad, no en la tecnología
