LONDRES – Con los inversores invirtiendo miles de millones de dólares en empresas emergentes relacionadas con la inteligencia artificial, el frenesí de la IA generativa empieza a parecerse a una burbuja especulativa similar a la manía holandesa de los tulipanes de la década de 1630 y a la burbuja del Mar del Sur de principios del siglo XVIII. Y, al igual que esos episodios, el auge de la IA parece abocado a una quiebra inevitable. En lugar de crear nuevos activos, amenaza con dejar tras de sí montañas de deudas.
El actual auge de la IA está alimentada por la creencia de que los grandes modelos lingüísticos, como el GPT-4 de OpenAI, recién publicado, serán capaces de producir contenidos prácticamente indistinguibles de los producidos por humanos. Los inversores apuestan por que los sistemas avanzados de IA generativa crearán sin esfuerzo textos, música, imágenes y vídeos de cualquier estilo imaginable en respuesta a sencillas instrucciones del usuario.
Sin embargo, en medio del creciente entusiasmo por la IA generativa, crece la preocupación por su posible impacto en el mercado laboral. Un reciente informe de Goldman Sachs sobre los “potencialmente grandes” efectos económicos de la IA estima que hasta 300 millones de puestos de trabajo corren el riesgo de ser automatizados, incluidos muchos empleos cualificados y de cuello blanco.
Sin duda, muchas de las promesas y peligros relacionados con el auge de la IA están aún en el horizonte. Aún no hemos conseguido desarrollar máquinas que posean el nivel de autoconciencia y capacidad para tomar decisiones informadas que se ajusta a lo que la mayoría de la gente entiende por inteligencia. Por eso muchos tecnólogos abogan por incorporar “reglas morales” a los sistemas de IA antes de que superen las capacidades humanas.
Pero el verdadero peligro no es que la IA generativa se convierta en autónoma, como muchos líderes tecnológicos quieren hacernos creer, sino que se utilice para socavar la autonomía humana. Tanto los sistemas de IA “estrechos” como los de “propósito general” que pueden realizar tareas más eficientemente que los humanos representan una oportunidad notable para los gobiernos y las corporaciones que buscan ejercer un mayor control sobre el comportamiento humano.
Como señala Shoshana Zuboff en su libro de 2019 The Age of Surveillance Capitalism, la evolución de las tecnologías digitales podría conducir a la aparición de “un nuevo orden económico que reclama la experiencia humana como materia prima gratuita para prácticas comerciales ocultas de extracción, predicción y venta.” La relación cada vez más simbiótica entre la vigilancia gubernamental y la del sector privado, observa, es en parte el resultado de un aparato de seguridad nacional “galvanizado por los atentados del 11-S” y decidido a alimentar y apropiarse de las tecnologías emergentes para obtener un “conocimiento total” del comportamiento y la vida personal de las personas.
Palantir, la empresa de análisis de datos cofundada por el inversor multimillonario Peter Thiel, es un buen ejemplo. Al parecer, Thiel, un destacado donante republicano, convenció a la administración del expresidente estadounidense Donald Trump para que concediera a Palantir lucrativos contratos para desarrollar sistemas de IA adaptados para uso militar. A cambio, Palantir presta servicios de inteligencia al Gobierno estadounidense y a otras agencias de espionaje de todo el mundo.
En “Viaje a Laputa”, la tercera parte de los Viajes de Gulliver de Jonathan Swift, el capitán Gulliver se encuentra con una isla flotante habitada por científicos y filósofos que han ideado ingeniosos métodos para detectar conspiraciones. Uno de estos métodos consiste en escrutar la “dieta de todas las personas sospechosas”, así como examinar de cerca “sus excrementos”, incluyendo “el color, el olor, el sabor, la consistencia, la crudeza o madurez de la digestión”. Aunque el moderno aparato de vigilancia estatal se centra en sondear correos electrónicos en lugar de funciones corporales, tiene un objetivo similar: descubrir complots y conspiraciones contra el “orden público” o la “seguridad nacional” penetrando en las profundidades de la mente de las personas.
Pero el grado en que los gobiernos pueden espiar a sus ciudadanos depende no sólo de las tecnologías disponibles, sino también de los controles y equilibrios que ofrece el sistema político. Esta es la razón por la que China, cuyo sistema regulador está totalmente centrado en preservar la estabilidad política y defender los “valores socialistas”, ha sido capaz de establecer el sistema de vigilancia electrónica estatal más extendido del mundo. También ayuda a explicar por qué China está ansiosa por posicionarse como líder mundial en la regulación de la IA generativa.
En cambio, el planteamiento de la Unión Europea en materia de regulación se centra en los derechos humanos fundamentales, como el derecho a la dignidad personal, a la intimidad, a no sufrir discriminación y a la libertad de expresión. Sus marcos reguladores hacen hincapié en la privacidad, la protección del consumidor, la seguridad de los productos y la moderación de los contenidos. Mientras que Estados Unidos se basa en la competencia para salvaguardar los intereses de los consumidores, la Ley de Inteligencia Artificial de la UE, cuya finalización está prevista para finales de este año, prohíbe explícitamente el uso de datos generados por los usuarios para el “scoring social”.
El enfoque “centrado en el ser humano” de Occidente para regular la IA, que hace hincapié en proteger a las personas de cualquier daño, contrasta fuertemente con el modelo autoritario de China. Pero existe un peligro claro y presente de que ambos acaben convergiendo. Esta amenaza inminente está motivada por el conflicto inherente entre el compromiso de Occidente con los derechos individuales y sus imperativos de seguridad nacional, que tienden a primar sobre las libertades civiles en épocas de mayores tensiones geopolíticas. La versión actual de la Ley de Inteligencia Artificial, por ejemplo, otorga a la Comisión Europea el poder de prohibir prácticas como la policía predictiva, pero con varias exenciones para usos de seguridad nacional, defensa y militares.
En medio de la feroz competencia por la supremacía tecnológica, la capacidad de los gobiernos para desarrollar y desplegar tecnologías intrusivas supone una amenaza no sólo para las empresas y los regímenes políticos, sino para países enteros. Esta dinámica maligna contrasta fuertemente con las predicciones optimistas de que la IA traerá consigo una “amplia gama de beneficios económicos y sociales en todo el espectro de industrias y actividades sociales”.
Por desgracia, la erosión gradual de los poderes compensatorios y de los límites constitucionales a la acción gubernamental dentro de las democracias liberales occidentales juega a favor de los regímenes autoritarios. Como George Orwell observó con clarividencia, un estado de guerra perpetua, o incluso la ilusión de ella, crea un escenario ideal para la aparición de una distopía tecnológica.
