CAMBRIDGE – Los escritores de ficción llevan mucho tiempo imaginando escenarios en los que todas las acciones humanas están controladas por una autoridad centralizada maligna. Pero ahora, a pesar de sus advertencias, nos encontramos avanzando a toda velocidad hacia un futuro distópico digno de 1984 de George Orwell. La tarea de evaluar cómo proteger nuestros derechos -como consumidores, trabajadores y ciudadanos- nunca ha sido más urgente.
Una propuesta sensata es limitar las patentes sobre tecnologías de vigilancia para desincentivar su desarrollo y uso excesivo. En igualdad de condiciones, esto podría alejar el desarrollo de tecnologías relacionadas con la IA de las aplicaciones de vigilancia, al menos en Estados Unidos y otras economías avanzadas, donde la protección de patentes es importante y donde los inversores de capital riesgo se mostrarán reacios a respaldar a empresas que carezcan de derechos de propiedad intelectual sólidos. Pero incluso si se adoptan estas medidas sensatas, el mundo seguirá dividido entre los países con salvaguardias eficaces en materia de vigilancia y los que carecen de ellas. Por lo tanto, también debemos considerar la base legítima para el comercio entre estos bloques emergentes.
Las capacidades de la IA han dado un salto adelante en los últimos 18 meses, y es poco probable que se ralentice el ritmo de su desarrollo. El lanzamiento público de ChatGPT en noviembre de 2022 fue el disparo de la IA generativa que dio la vuelta al mundo. Pero igual de importante ha sido el rápido aumento de las capacidades de vigilancia de gobiernos y empresas. Dado que la IA generativa destaca en la coincidencia de patrones, ha hecho que el reconocimiento facial sea notablemente preciso (aunque no sin algunos fallos importantes). Y el mismo enfoque general puede utilizarse para distinguir entre comportamientos “buenos” y problemáticos, basándose simplemente en cómo se mueven o se comportan las personas.
Esta vigilancia conduce técnicamente a una “mayor productividad”, en el sentido de que aumenta la capacidad de una autoridad para obligar a la gente a hacer lo que se supone que debe hacer. Para una empresa, esto significa realizar los trabajos en el nivel que la dirección considere de mayor productividad. Para un gobierno, significa hacer cumplir la ley o garantizar de otro modo el cumplimiento de los que están en el poder.
Por desgracia, la experiencia milenaria ha demostrado que el aumento de la productividad no conduce necesariamente a mejoras en la prosperidad compartida. La vigilancia actual impulsada por la IA permite a los gestores autoritarios y a los líderes políticos autoritarios hacer cumplir sus reglas con mayor eficacia. Pero aunque la productividad aumente, la mayoría de la gente no se beneficiará.
No se trata sólo de especulaciones. Las empresas ya están utilizando métodos de vigilancia mejorados con IA para controlar todos los movimientos de sus empleados. Amazon, por ejemplo, exige a los repartidores que se descarguen una aplicación (Mentor) que puntúa su conducción, supuestamente en nombre de la seguridad. Algunos conductores afirman que se les rastrea incluso cuando no están trabajando.
En términos más generales, la consultora Gartner calcula que el porcentaje de grandes empleadores que utilizan herramientas digitales para hacer un seguimiento de sus trabajadores se ha duplicado desde el inicio de la pandemia de COVID-19, hasta el 60%, y se espera que alcance el 70% en los próximos tres años. Aunque las pruebas disponibles sugieren que una mayor vigilancia está correlacionada con una menor satisfacción laboral, incluso muchos empresarios que están de acuerdo en que la vigilancia de sus empleados plantea “problemas éticos” siguen haciéndolo.
Es cierto que la tecnología de vigilancia no es inherentemente antihumana. Al contrario, podría mejorar la seguridad (por ejemplo, mediante la vigilancia de tiradores activos) o la comodidad. Pero debemos encontrar el equilibrio adecuado entre estos beneficios y la privacidad, y debemos hacer todo lo posible para garantizar que las tecnologías de IA no estén sesgadas (por ejemplo, por el color de la piel o el sexo).
Abordar estas cuestiones requerirá nuevas normas y cooperación internacionales. Cualquier IA que se utilice para rastrear o castigar a los trabajadores debe darse a conocer, con total transparencia sobre cómo formula sus recomendaciones. Si te despiden porque una IA considera que tu comportamiento es problemático, debes poder impugnar esa decisión. Sin embargo, como muchas de las nuevas IA son “cajas negras” que ni siquiera sus desarrolladores entienden, limitan automáticamente el alcance del debido proceso.
Incluso en un país tan polarizado como Estados Unidos, es probable que la gente se una a favor de las restricciones a la vigilancia. Todo el mundo, desde la izquierda a la derecha, comparte la preocupación básica de ser vigilado constantemente, aunque sus temores específicos difieran. Lo mismo ocurre en todas las democracias del mundo.
Sin embargo, es poco probable que China coopere con los esfuerzos para frenar el uso sin restricciones de las herramientas de vigilancia. No sólo ha aumentado sistemáticamente la vigilancia nacional para reprimir la disidencia y controlar el comportamiento social hasta un grado sin precedentes, sino que también está exportando su tecnología de vigilancia a otros países. La tecnología de la opresión se ha abaratado en todas partes y al mismo tiempo.
En este mundo bifurcado, es probable que uno de los bandos desarrolle normas sólidas para regular cuándo y cómo puede utilizarse la vigilancia. El tema seguirá siendo controvertido, pero la tecnología estará sustancialmente bajo control democrático. En el otro bando, los líderes autocráticos utilizarán una amplia vigilancia para mantener a sus poblaciones bajo control. Habrá cámaras por todas partes, facilitando tanta represión como el régimen considere oportuno utilizar.
Las democracias del mundo se enfrentan a una gran disyuntiva económica. ¿Debemos seguir comprando productos de países en los que los trabajadores están sometidos a tecnologías de vigilancia que no toleraríamos en nuestro propio país? Hacerlo fomentaría más vigilancia y más represión por parte de regímenes que cada vez intentan socavar más nuestras propias democracias. Sería mucho mejor para la prosperidad compartida que abogáramos por menos tecnología de vigilancia, por ejemplo, estipulando que sólo se permitirá la entrada en nuestros mercados de productos que cumplan plenamente las salvaguardias de vigilancia.
En la década de 1990 y principios de la de 2000, Estados Unidos y Europa concedieron a China un acceso mucho mayor a sus mercados bajo el supuesto de que las exportaciones de países con salarios bajos beneficiarían a los consumidores nacionales y contribuirían a la democratización en origen. En lugar de ello, China se ha vuelto aún más autoritaria, y el crecimiento impulsado por las exportaciones ha reforzado su régimen.
Ya no deberíamos hacernos ilusiones sobre las consecuencias de permitir un acceso sin restricciones al mercado a países que mantienen un férreo control sobre sus trabajadores. ¿Se utilizarán las tecnologías de IA para ayudar a los trabajadores o para robarles su dignidad? Nuestras políticas comerciales y de patentes no deben ser ciegas a estas preguntas.
Publicación original en: https://www.project-syndicate.org/commentary/ai-surveillance-industrialized-democracies-must-act-by-simon-johnson-et-al-2023-06
Lee también:
El mito de la decadencia occidental
¿Quo Vadis, América Latina?
