Autores: MARTIN BERAJA, DAVID Y. YANG, y NOAM YUCHTMAN
TURÍN – El presidente norteamericano George H.W. Bush alguna vez observó que “Ninguna nación en la Tierra ha descubierto la manera de importar bienes y servicios del mundo impidiendo al mismo tiempo el ingreso de ideas extranjeras en la frontera”. En una era en la que las democracias dominaban la frontera tecnológica, las ideas que Bush tenía en mente eran aquellas asociadas con el propio modelo de economía política de Estados Unidos.
Pero ahora que China se ha convertido en un innovador líder en el campo de la inteligencia artificial, ¿acaso la misma integración económica podría mover a los países en la dirección contraria? Esta pregunta es particularmente relevante para los países en desarrollo, ya que muchos de ellos no solo son institucionalmente frágiles, sino que están cada vez más conectados con China a través de comercio, ayuda externa, préstamos e inversiones.
Si bien se ha aclamado a la IA como la base para una “cuarta revolución industrial”, también pone en primer plano muchos desafíos nuevos. Las tecnologías de IA tienen el potencial de impulsar el crecimiento económico en los próximos años, pero también de minar las democracias, favorecer la pretensión de control social por parte de los autócratas y empoderar a los “capitalistas de la vigilancia” que manipulan nuestro comportamiento y sacan provecho de los rastros de datos que dejamos online.
Dado que China ha implementado de manera agresiva el reconocimiento facial accionado por IA para sustentar su propio estado de vigilancia, recientemente nos propusimos explorar los patrones y las consecuencias políticas del comercio de estas tecnologías. Después de construir una base de datos del comercio global en IA de reconocimiento facial de 2008 a 2021, encontramos 1.636 acuerdos de 36 países exportadores a 136 países importadores.
A partir de este conjunto de datos, documentamos tres situaciones. Primero, China tiene una ventaja comparativa en IA de reconocimiento facial. Exporta aproximadamente al doble de países que Estados Unidos (85 enlaces vs 57) y tiene alrededor del 10% más de tratos comerciales (238 vs 211). Asimismo, su ventaja comparativa en IA de reconocimiento facial es mayor que en otras exportaciones de tecnología de vanguardia, como materiales radioactivos, turbinas de vapor y procesos láser y de otro tipo de radiación.
Si bien pueden haber incidido diferentes factores en la ventaja comparativa de China, sabemos que el gobierno chino ha hecho del dominio global en IA un objetivo explícito de desarrollo y estrategia, y que la industria de IA de reconocimiento facial se ha beneficiado de su demanda de tecnología de vigilancia, muchas veces recibiendo acceso a grandes bases de datos gubernamentales.
Segundo, vemos que las autocracias y las democracias débiles tienen más probabilidades de importar IA de reconocimiento facial de China. Mientras que Estados Unidos exporta predominantemente la tecnología a democracias maduras (que representan aproximadamente dos tercios de sus enlaces, o las tres cuartas partes de sus acuerdos), China exporta cantidades más o menos iguales a democracias maduras y a autocracias o democracias débiles.
La IA de vigilancia puede tener externalidades negativas generalizadas, como la pérdida de libertades civiles y derechos políticos. Foto: Pixabay.
¿China tiene un sesgo autocrático o simplemente exporta más a autocracias y democracias débiles en todos los productos? Cuando comparamos las exportaciones de China de IA de reconocimiento facial con sus exportaciones de otras tecnologías de vanguardia, descubrimos que la IA de reconocimiento facial es la única tecnología para la cual China revela un sesgo autocrático. De igual importancia es el hecho de que no detectamos un sesgo semejante cuando investigamos a Estados Unidos.
Una explicación potencial para esta diferencia es que las autocracias y las democracias débiles podrían estar recurriendo específicamente a China para las tecnologías de vigilancia. Esto nos lleva a nuestro tercer hallazgo: las autocracias y las democracias débiles tienen más probabilidades de importar IA de reconocimiento facial de China en años en los que experimentan conflictos domésticos.
Los datos dejan en claro que las democracias débiles y las autocracias tienden a importar IA de vigilancia de China -pero no de Estados Unidos- durante los años de conflicto, y no de manera preventiva o después de los hechos. Las importaciones de tecnología militar siguen un patrón similar. Por el contrario, no detectamos que las democracias maduras importen más IA de reconocimiento facial en respuesta a algún conflicto.
Un interrogante final tiene que ver con los cambios institucionales más amplios en estos países. Nuestro análisis revela que las importaciones de IA de vigilancia china durante episodios de malestar doméstico están efectivamente asociadas con el hecho de que las elecciones del país se vuelven menos justas, menos pacíficas y menos creíbles en general. Y un patrón similar también parece válido para las importaciones de IA de vigilancia estadounidense, aunque la estimación de este dato es menos precisa.
Al mismo tiempo, no encontramos ninguna asociación entre las importaciones de IA de vigilancia y la calidad institucional entre las democracias maduras. En consecuencia, en lugar de interpretar nuestros hallazgos como el impacto causal de la IA en las instituciones, vemos las importaciones de IA de vigilancia y la erosión de las instituciones domésticas en las autocracias y las democracias débiles como el resultado conjunto de la búsqueda de un mayor control político por parte de un régimen.
Curiosamente, también encontramos una evidencia sugestiva de que las autocracias y las democracias débiles que importan grandes volúmenes de IA de vigilancia china durante momentos de conflictividad tienen menos probabilidades de convertirse en democracias maduras que los países equivalentes con bajas importaciones de IA de vigilancia. Esto sugiere que las tácticas empleadas por las autocracias durante tiempos de conflictividad -importar IA de vigilancia, erosionar las instituciones electorales e importar tecnología militar- pueden ser efectivas a la hora de afianzar regímenes no democráticos.
Nuestra investigación se suma a la evidencia de que el comercio no siempre fomenta la democracia o liberaliza a los regímenes. Por el contrario, una mayor integración de China con el mundo en desarrollo puede provocar precisamente lo contrario.
Esto sugiere la necesidad de una regulación comercial más estricta de la IA, que se pueda moldear en base a la regulación de otros bienes que producen externalidades negativas. En la medida que una IA con un sesgo autocrático esté entrenada en base a datos recopilados con el propósito de una represión política, es similar a los bienes producidos a partir de insumos de fuentes poco éticas, como la mano de obra infantil. Y como la IA de vigilancia puede tener externalidades negativas generalizadas, como la pérdida de libertades civiles y derechos políticos, no difiere de la contaminación.
Al igual que todas las tecnologías de uso dual, la IA de reconocimiento facial tiene el potencial de beneficiar a los consumidores y a las empresas. Pero las regulaciones deben estar cuidadosamente diseñadas para garantizar que esta tecnología de vanguardia se propague por el mundo sin facilitar la autocratización.
Andrew Kao colaboró en la redacción de este comentario.
TURÍN – El presidente norteamericano George H.W. Bush alguna vez observó que “Ninguna nación en la Tierra ha descubierto la manera de importar bienes y servicios del mundo impidiendo al mismo tiempo el ingreso de ideas extranjeras en la frontera”. En una era en la que las democracias dominaban la frontera tecnológica, las ideas que Bush tenía en mente eran aquellas asociadas con el propio modelo de economía política de Estados Unidos.
Pero ahora que China se ha convertido en un innovador líder en el campo de la inteligencia artificial, ¿acaso la misma integración económica podría mover a los países en la dirección contraria? Esta pregunta es particularmente relevante para los países en desarrollo, ya que muchos de ellos no solo son institucionalmente frágiles, sino que están cada vez más conectados con China a través de comercio, ayuda externa, préstamos e inversiones.
Si bien se ha aclamado a la IA como la base para una “cuarta revolución industrial”, también pone en primer plano muchos desafíos nuevos. Las tecnologías de IA tienen el potencial de impulsar el crecimiento económico en los próximos años, pero también de minar las democracias, favorecer la pretensión de control social por parte de los autócratas y empoderar a los “capitalistas de la vigilancia” que manipulan nuestro comportamiento y sacan provecho de los rastros de datos que dejamos online.
Dado que China ha implementado de manera agresiva el reconocimiento facial accionado por IA para sustentar su propio estado de vigilancia, recientemente nos propusimos explorar los patrones y las consecuencias políticas del comercio de estas tecnologías. Después de construir una base de datos del comercio global en IA de reconocimiento facial de 2008 a 2021, encontramos 1.636 acuerdos de 36 países exportadores a 136 países importadores.
A partir de este conjunto de datos, documentamos tres situaciones. Primero, China tiene una ventaja comparativa en IA de reconocimiento facial. Exporta aproximadamente al doble de países que Estados Unidos (85 enlaces vs 57) y tiene alrededor del 10% más de tratos comerciales (238 vs 211). Asimismo, su ventaja comparativa en IA de reconocimiento facial es mayor que en otras exportaciones de tecnología de vanguardia, como materiales radioactivos, turbinas de vapor y procesos láser y de otro tipo de radiación.
Si bien pueden haber incidido diferentes factores en la ventaja comparativa de China, sabemos que el gobierno chino ha hecho del dominio global en IA un objetivo explícito de desarrollo y estrategia, y que la industria de IA de reconocimiento facial se ha beneficiado de su demanda de tecnología de vigilancia, muchas veces recibiendo acceso a grandes bases de datos gubernamentales.
Segundo, vemos que las autocracias y las democracias débiles tienen más probabilidades de importar IA de reconocimiento facial de China. Mientras que Estados Unidos exporta predominantemente la tecnología a democracias maduras (que representan aproximadamente dos tercios de sus enlaces, o las tres cuartas partes de sus acuerdos), China exporta cantidades más o menos iguales a democracias maduras y a autocracias o democracias débiles.
¿China tiene un sesgo autocrático o simplemente exporta más a autocracias y democracias débiles en todos los productos? Cuando comparamos las exportaciones de China de IA de reconocimiento facial con sus exportaciones de otras tecnologías de vanguardia, descubrimos que la IA de reconocimiento facial es la única tecnología para la cual China revela un sesgo autocrático. De igual importancia es el hecho de que no detectamos un sesgo semejante cuando investigamos a Estados Unidos.
Una explicación potencial para esta diferencia es que las autocracias y las democracias débiles podrían estar recurriendo específicamente a China para las tecnologías de vigilancia. Esto nos lleva a nuestro tercer hallazgo: las autocracias y las democracias débiles tienen más probabilidades de importar IA de reconocimiento facial de China en años en los que experimentan conflictos domésticos.
Los datos dejan en claro que las democracias débiles y las autocracias tienden a importar IA de vigilancia de China -pero no de Estados Unidos- durante los años de conflicto, y no de manera preventiva o después de los hechos. Las importaciones de tecnología militar siguen un patrón similar. Por el contrario, no detectamos que las democracias maduras importen más IA de reconocimiento facial en respuesta a algún conflicto.
Un interrogante final tiene que ver con los cambios institucionales más amplios en estos países. Nuestro análisis revela que las importaciones de IA de vigilancia china durante episodios de malestar doméstico están efectivamente asociadas con el hecho de que las elecciones del país se vuelven menos justas, menos pacíficas y menos creíbles en general. Y un patrón similar también parece válido para las importaciones de IA de vigilancia estadounidense, aunque la estimación de este dato es menos precisa.
Al mismo tiempo, no encontramos ninguna asociación entre las importaciones de IA de vigilancia y la calidad institucional entre las democracias maduras. En consecuencia, en lugar de interpretar nuestros hallazgos como el impacto causal de la IA en las instituciones, vemos las importaciones de IA de vigilancia y la erosión de las instituciones domésticas en las autocracias y las democracias débiles como el resultado conjunto de la búsqueda de un mayor control político por parte de un régimen.
Curiosamente, también encontramos una evidencia sugestiva de que las autocracias y las democracias débiles que importan grandes volúmenes de IA de vigilancia china durante momentos de conflictividad tienen menos probabilidades de convertirse en democracias maduras que los países equivalentes con bajas importaciones de IA de vigilancia. Esto sugiere que las tácticas empleadas por las autocracias durante tiempos de conflictividad -importar IA de vigilancia, erosionar las instituciones electorales e importar tecnología militar- pueden ser efectivas a la hora de afianzar regímenes no democráticos.
Nuestra investigación se suma a la evidencia de que el comercio no siempre fomenta la democracia o liberaliza a los regímenes. Por el contrario, una mayor integración de China con el mundo en desarrollo puede provocar precisamente lo contrario.
Esto sugiere la necesidad de una regulación comercial más estricta de la IA, que se pueda moldear en base a la regulación de otros bienes que producen externalidades negativas. En la medida que una IA con un sesgo autocrático esté entrenada en base a datos recopilados con el propósito de una represión política, es similar a los bienes producidos a partir de insumos de fuentes poco éticas, como la mano de obra infantil. Y como la IA de vigilancia puede tener externalidades negativas generalizadas, como la pérdida de libertades civiles y derechos políticos, no difiere de la contaminación.
Al igual que todas las tecnologías de uso dual, la IA de reconocimiento facial tiene el potencial de beneficiar a los consumidores y a las empresas. Pero las regulaciones deben estar cuidadosamente diseñadas para garantizar que esta tecnología de vanguardia se propague por el mundo sin facilitar la autocratización.
Andrew Kao colaboró en la redacción de este comentario.
Publicación original en: https://www.project-syndicate.org/commentary/china-exports-ai-surveillance-technology-associated-with-autocratization-by-martin-beraja-et-al-2024-07/spanish
Lea también:
¿Inteligencia Artificial reemplazará al dinero?
Por qué el consumo chino es tan bajo