Aunque la IA tiene un gran potencial para generar cambios apasionantes en la educación, el arte, la medicina, la robótica y otros campos, también plantea riesgos importantes, la mayoría de los cuales no se están abordando. A juzgar por la respuesta que hasta ahora han dado las instituciones políticas y de otro tipo, podemos esperar con seguridad muchos años de inestabilidad.
SAN FRANCISCO – Ya han pasado dos años desde que se inició una transformación comparable en importancia a la primera Revolución Industrial. Pero, con pronósticos de expertos sobre el impacto de la inteligencia artificial que van desde lo panglosiano hasta lo apocalíptico, ¿podemos realmente decir algo sobre lo que presagia? Creo que sí.
En primer lugar, ni el nirvana ni la extinción humana llegarán en un futuro próximo. En cambio, podemos esperar muchos años de inestabilidad. La tecnología de IA seguirá avanzando rápidamente, con capacidades cada vez más notables. Ni siquiera hemos agotado los modelos actuales basados en transformadores (que dependen en gran medida de la computación de fuerza bruta), y se están realizando enormes esfuerzos para desarrollar mejores modelos, tecnologías de semiconductores, arquitecturas de procesadores, algoritmos y métodos de entrenamiento. Con el tiempo, llegaremos a sistemas de inteligencia artificial general que igualen o superen el intelecto humano.
Por ahora, sin embargo, la IA sigue siendo notablemente limitada. Ni siquiera puede cocinar una comida o pasear a un perro, mucho menos luchar en una guerra o gestionar una organización. Una superinteligencia malévola no se apoderará del planeta en un futuro próximo. Pero el desarrollo de la revolución de la IA –y la relación entre progreso y sufrimiento– dependerá de una serie de carreras entre la tecnología y las instituciones humanas. Hasta ahora, la tecnología está dejando atrás a las instituciones humanas.
Soy muy optimista en cuanto a los beneficios potenciales de la IA y veo avances emocionantes y alentadores en la educación, el arte, la medicina, la robótica y otros campos. Pero también veo riesgos, la mayoría de los cuales no se están abordando. Lo que sigue es un breve recorrido, necesariamente simplista.
Es complicado
Como sucedió durante la Primera Revolución Industrial, los efectos de la IA sobre el empleo y los ingresos se distribuirán de manera caprichosa y, a menudo, aparecerán sin previo aviso. La trayectoria general del producto nacional bruto puede parecer maravillosamente positiva y uniforme, pero debajo de esa curva clara habrá mucho dolor y ansiedad para un número considerable de personas, en todos los niveles de la sociedad, junto con nuevas oportunidades para muchos y enormes fortunas para algunos.
En la actualidad, la IA es más adecuada para automatizar actividades muy complejas, pero también muy estructuradas: navegar por las calles, clasificar imágenes, jugar al ajedrez, utilizar lenguajes (tanto humanos como informáticos). Pero el efecto real de la IA en una actividad humana determinada depende de tres variables: la tasa y el grado de automatización; los niveles de habilidad humana asociados con las actividades que pueden (y no pueden) automatizarse; y –lo que es crucial– cuánta demanda adicional creará la disponibilidad de automatización económica con IA.
Lo que esto significa en la práctica puede ser bastante sorprendente. Consideremos algunos ejemplos, empezando por la traducción de idiomas. Hace poco hablé con dos eminentes expertos en IA, uno tras otro. El primero sostuvo que la IA pronto eliminará por completo a los traductores humanos, porque la traducción por IA será esencialmente perfecta dentro de cinco años. Pero el segundo experto sostuvo que necesitaremos más traductores que nunca. A medida que la IA permita la traducción rápida y económica de absolutamente cualquier cosa , habrá una explosión de material traducido, y se requerirá supervisión humana para entrenar y mejorar los sistemas de IA, y también para revisar y corregir los materiales más importantes.
Tras investigar más a fondo, llegué a la conclusión de que esta segunda visión es más acertada. Habrá una enorme explosión de lo que se traduce (de hecho, ya la hay) y, para algunas cosas, seguiremos queriendo la supervisión humana. La traducción no es sólo para los informes meteorológicos y los menús; también es para el FBI, la CIA, las empresas químicas, los fabricantes de dispositivos médicos, los médicos de urgencias, los líderes mundiales, los cirujanos, los pilotos de aviones, los comandos y las líneas telefónicas de prevención del suicidio. Aunque el papel de los traductores humanos se desplazará hacia la formación, el seguimiento y la corrección de los sistemas de inteligencia artificial, probablemente necesitaremos traductores durante mucho tiempo.
En otros campos surgen preguntas similares. Muchos creen que los ingenieros de software tienen sus días contados, porque la IA se está volviendo muy buena en hacer lo que ellos hacen, utilizando únicamente instrucciones humanas no técnicas. Pero otros sostienen que esta tendencia impulsará un enorme aumento en la cantidad y complejidad del software producido, lo que requerirá que muchos especialistas humanos conceptualicen, organicen, verifiquen y monitoreen este enorme cuerpo de código. En este sentido, todavía no hay un consenso sobre los efectos netos de la IA en el trabajo.
Para los abogados, el futuro parece más difícil. Todavía es pronto, pero ya he tenido numerosas conversaciones similares a esta: necesitábamos un acuerdo de empleo/inversión/asociación/adquisición, pero nuestro abogado tardaba mucho, así que le pedimos a Perplexity (un servicio de inteligencia artificial) que lo hiciera en su lugar, y funcionó . Hicimos que un abogado lo revisara y estuvo bien, así que ya no necesitamos abogados, excepto para revisar cosas.
Y, a diferencia de la traducción de idiomas, parece poco probable que la IA provoque una explosión de trabajo legal. Por lo tanto, anticipo que la abogacía sí se verá presionada, y que los humanos se ocuparán solo de casos complejos que requieren expertos altamente capacitados. Por el contrario, en algunas otras profesiones (como la contabilidad y la auditoría, que se mencionan a menudo), la IA aliviará la grave escasez de profesionales capacitados.
Bienvenidos al futuro. Espero que podamos comprenderlo, porque llegará, nos guste o no. Foto: Pixabay.
Ahora pensemos en la conducción. El enfoque actual (y plenamente justificado) en los vehículos autónomos ha eclipsado algo más: la IA ya ha descualificado la conducción como profesión. Hace veinte años, un taxista urbano tenía que ser inteligente, estar alerta y tener una memoria excelente. Pero ahora, el legendario dominio del “conocimiento” de los taxistas londinenses ya no es necesario. La disponibilidad de indicaciones paso a paso impulsadas por IA en todos los teléfonos ha convertido la conducción profesional en un trabajo esporádico sin sentido para las plataformas de transporte. Y cuando la conducción autónoma mejore lo suficiente (y ya casi lo está ), estos trabajos desaparecerán por completo.
A continuación, pensemos en la robótica (de la que los vehículos autónomos son, de hecho, sólo un ejemplo). Con la IA generativa, estamos presenciando una revolución que acabará afectando a todas las actividades físicas, desde el trabajo manual hasta las tareas domésticas y la guerra. La inversión de capital de riesgo en robótica ha aumentado drásticamente hasta miles de millones de dólares este año, lo que sugiere que la industria de capital de riesgo está haciendo grandes apuestas a que los robots empezarán a sustituir a los humanos a gran escala en los próximos cinco años. Las primeras actividades que se automatizarán por completo se realizarán en entornos altamente estructurados y controlados: almacenes, centros de distribución, supermercados, líneas de producción. La automatización llevará más tiempo para las actividades no estructuradas que se realizan cerca de los humanos (como en su casa o en la carretera), pero allí también se están haciendo avances.
Los nuevos sonámbulos
Otro campo en el que la IA ha avanzado a una velocidad alarmante es el armamento. En este caso, la analogía pertinente no es la Revolución Industrial, sino la Primera Guerra Mundial. En 1914, muchos en ambos bandos pensaban que la guerra sería relativamente indolora; en cambio, las nuevas tecnologías (ametralladoras, explosivos, artillería y armas químicas) provocaron una masacre horrible.
Y temo que, en la actualidad, pocos líderes políticos o militares comprendan lo mortal que puede ser la guerra impulsada por la IA. La IA eliminará a los humanos de muchas funciones de combate, pero también significará que cualquier humano que esté en combate será asesinado con extrema eficiencia. ¿Esto dará como resultado guerras higienizadas sin combatientes humanos o una matanza sin precedentes? Los primeros datos de Ucrania no son alentadores.
Los sistemas económicos controlados por IA también están desestabilizando las fuentes de poder militar nacional al hacer que los costosos sistemas controlados por humanos, como los vehículos blindados, los barcos y los aviones, sean extremadamente vulnerables a las armas económicas controladas por IA. Peor aún, esto está ocurriendo al comienzo de una nueva guerra fría y durante un período de mayor inestabilidad política interna en Occidente. ¿Y qué significará la IA para el control de armas? ¿Se interpretará la Segunda Enmienda de la Constitución de Estados Unidos para proteger las armas controladas por IA que se pueden colocar en la ventana de una habitación de hotel y programar para apuntar a todos los que están abajo, o a una persona específica, una semana después?
Una última preocupación es la desinformación. Si bien la IA ya es capaz de producir falsificaciones algo realistas en texto, imágenes, videos cortos y audio, muchos observadores se han consolado con el papel aparentemente menor que las falsificaciones de IA han desempeñado, hasta ahora, en las elecciones y los medios de comunicación. Pero declarar la victoria sería peligrosamente prematuro. Por ahora, es bastante fácil para las organizaciones de noticias respetables, las principales plataformas de Internet y los servicios de inteligencia nacionales determinar qué es real y qué es falso. Pero la tecnología de IA todavía está en su infancia. ¿Qué sucederá dentro de una década (o tal vez antes) cuando nadie pueda decir con certeza qué es real?
Estos problemas se manifestarán en muchos ámbitos. Una implicación obvia es que los países necesitan reinventar y fortalecer sus redes de seguridad social y sistemas educativos para navegar en un mundo en el que habilidades y profesiones enteras aparecerán y desaparecerán rápidamente y con frecuencia. La ira que vemos entre las personas que se quedaron atrás en los últimos 30 años de globalización probablemente parezca leve en comparación con lo que la IA podría generar a menos que nos preparemos para ella. De manera similar, necesitamos una regulación extremadamente estricta de las falsificaciones profundas, incluidos requisitos de etiquetado y duras sanciones penales para producir o distribuir falsificaciones sin etiquetar.
Bienvenidos al futuro. Espero que podamos comprenderlo, porque llegará, nos guste o no.
En primer lugar, ni el nirvana ni la extinción humana llegarán en un futuro próximo. En cambio, podemos esperar muchos años de inestabilidad. La tecnología de IA seguirá avanzando rápidamente, con capacidades cada vez más notables. Ni siquiera hemos agotado los modelos actuales basados en transformadores (que dependen en gran medida de la computación de fuerza bruta), y se están realizando enormes esfuerzos para desarrollar mejores modelos, tecnologías de semiconductores, arquitecturas de procesadores, algoritmos y métodos de entrenamiento. Con el tiempo, llegaremos a sistemas de inteligencia artificial general que igualen o superen el intelecto humano.
Por ahora, sin embargo, la IA sigue siendo notablemente limitada. Ni siquiera puede cocinar una comida o pasear a un perro, mucho menos luchar en una guerra o gestionar una organización. Una superinteligencia malévola no se apoderará del planeta en un futuro próximo. Pero el desarrollo de la revolución de la IA –y la relación entre progreso y sufrimiento– dependerá de una serie de carreras entre la tecnología y las instituciones humanas. Hasta ahora, la tecnología está dejando atrás a las instituciones humanas.
Soy muy optimista en cuanto a los beneficios potenciales de la IA y veo avances emocionantes y alentadores en la educación, el arte, la medicina, la robótica y otros campos. Pero también veo riesgos, la mayoría de los cuales no se están abordando. Lo que sigue es un breve recorrido, necesariamente simplista.
Es complicado
Como sucedió durante la Primera Revolución Industrial, los efectos de la IA sobre el empleo y los ingresos se distribuirán de manera caprichosa y, a menudo, aparecerán sin previo aviso. La trayectoria general del producto nacional bruto puede parecer maravillosamente positiva y uniforme, pero debajo de esa curva clara habrá mucho dolor y ansiedad para un número considerable de personas, en todos los niveles de la sociedad, junto con nuevas oportunidades para muchos y enormes fortunas para algunos.
En la actualidad, la IA es más adecuada para automatizar actividades muy complejas, pero también muy estructuradas: navegar por las calles, clasificar imágenes, jugar al ajedrez, utilizar lenguajes (tanto humanos como informáticos). Pero el efecto real de la IA en una actividad humana determinada depende de tres variables: la tasa y el grado de automatización; los niveles de habilidad humana asociados con las actividades que pueden (y no pueden) automatizarse; y –lo que es crucial– cuánta demanda adicional creará la disponibilidad de automatización económica con IA.
Lo que esto significa en la práctica puede ser bastante sorprendente. Consideremos algunos ejemplos, empezando por la traducción de idiomas. Hace poco hablé con dos eminentes expertos en IA, uno tras otro. El primero sostuvo que la IA pronto eliminará por completo a los traductores humanos, porque la traducción por IA será esencialmente perfecta dentro de cinco años. Pero el segundo experto sostuvo que necesitaremos más traductores que nunca. A medida que la IA permita la traducción rápida y económica de absolutamente cualquier cosa , habrá una explosión de material traducido, y se requerirá supervisión humana para entrenar y mejorar los sistemas de IA, y también para revisar y corregir los materiales más importantes.
Tras investigar más a fondo, llegué a la conclusión de que esta segunda visión es más acertada. Habrá una enorme explosión de lo que se traduce (de hecho, ya la hay) y, para algunas cosas, seguiremos queriendo la supervisión humana. La traducción no es sólo para los informes meteorológicos y los menús; también es para el FBI, la CIA, las empresas químicas, los fabricantes de dispositivos médicos, los médicos de urgencias, los líderes mundiales, los cirujanos, los pilotos de aviones, los comandos y las líneas telefónicas de prevención del suicidio. Aunque el papel de los traductores humanos se desplazará hacia la formación, el seguimiento y la corrección de los sistemas de inteligencia artificial, probablemente necesitaremos traductores durante mucho tiempo.
En otros campos surgen preguntas similares. Muchos creen que los ingenieros de software tienen sus días contados, porque la IA se está volviendo muy buena en hacer lo que ellos hacen, utilizando únicamente instrucciones humanas no técnicas. Pero otros sostienen que esta tendencia impulsará un enorme aumento en la cantidad y complejidad del software producido, lo que requerirá que muchos especialistas humanos conceptualicen, organicen, verifiquen y monitoreen este enorme cuerpo de código. En este sentido, todavía no hay un consenso sobre los efectos netos de la IA en el trabajo.
Para los abogados, el futuro parece más difícil. Todavía es pronto, pero ya he tenido numerosas conversaciones similares a esta: necesitábamos un acuerdo de empleo/inversión/asociación/adquisición, pero nuestro abogado tardaba mucho, así que le pedimos a Perplexity (un servicio de inteligencia artificial) que lo hiciera en su lugar, y funcionó . Hicimos que un abogado lo revisara y estuvo bien, así que ya no necesitamos abogados, excepto para revisar cosas.
Y, a diferencia de la traducción de idiomas, parece poco probable que la IA provoque una explosión de trabajo legal. Por lo tanto, anticipo que la abogacía sí se verá presionada, y que los humanos se ocuparán solo de casos complejos que requieren expertos altamente capacitados. Por el contrario, en algunas otras profesiones (como la contabilidad y la auditoría, que se mencionan a menudo), la IA aliviará la grave escasez de profesionales capacitados.
Ahora pensemos en la conducción. El enfoque actual (y plenamente justificado) en los vehículos autónomos ha eclipsado algo más: la IA ya ha descualificado la conducción como profesión. Hace veinte años, un taxista urbano tenía que ser inteligente, estar alerta y tener una memoria excelente. Pero ahora, el legendario dominio del “conocimiento” de los taxistas londinenses ya no es necesario. La disponibilidad de indicaciones paso a paso impulsadas por IA en todos los teléfonos ha convertido la conducción profesional en un trabajo esporádico sin sentido para las plataformas de transporte. Y cuando la conducción autónoma mejore lo suficiente (y ya casi lo está ), estos trabajos desaparecerán por completo.
A continuación, pensemos en la robótica (de la que los vehículos autónomos son, de hecho, sólo un ejemplo). Con la IA generativa, estamos presenciando una revolución que acabará afectando a todas las actividades físicas, desde el trabajo manual hasta las tareas domésticas y la guerra. La inversión de capital de riesgo en robótica ha aumentado drásticamente hasta miles de millones de dólares este año, lo que sugiere que la industria de capital de riesgo está haciendo grandes apuestas a que los robots empezarán a sustituir a los humanos a gran escala en los próximos cinco años. Las primeras actividades que se automatizarán por completo se realizarán en entornos altamente estructurados y controlados: almacenes, centros de distribución, supermercados, líneas de producción. La automatización llevará más tiempo para las actividades no estructuradas que se realizan cerca de los humanos (como en su casa o en la carretera), pero allí también se están haciendo avances.
Los nuevos sonámbulos
Otro campo en el que la IA ha avanzado a una velocidad alarmante es el armamento. En este caso, la analogía pertinente no es la Revolución Industrial, sino la Primera Guerra Mundial. En 1914, muchos en ambos bandos pensaban que la guerra sería relativamente indolora; en cambio, las nuevas tecnologías (ametralladoras, explosivos, artillería y armas químicas) provocaron una masacre horrible.
Y temo que, en la actualidad, pocos líderes políticos o militares comprendan lo mortal que puede ser la guerra impulsada por la IA. La IA eliminará a los humanos de muchas funciones de combate, pero también significará que cualquier humano que esté en combate será asesinado con extrema eficiencia. ¿Esto dará como resultado guerras higienizadas sin combatientes humanos o una matanza sin precedentes? Los primeros datos de Ucrania no son alentadores.
Los sistemas económicos controlados por IA también están desestabilizando las fuentes de poder militar nacional al hacer que los costosos sistemas controlados por humanos, como los vehículos blindados, los barcos y los aviones, sean extremadamente vulnerables a las armas económicas controladas por IA. Peor aún, esto está ocurriendo al comienzo de una nueva guerra fría y durante un período de mayor inestabilidad política interna en Occidente. ¿Y qué significará la IA para el control de armas? ¿Se interpretará la Segunda Enmienda de la Constitución de Estados Unidos para proteger las armas controladas por IA que se pueden colocar en la ventana de una habitación de hotel y programar para apuntar a todos los que están abajo, o a una persona específica, una semana después?
Una última preocupación es la desinformación. Si bien la IA ya es capaz de producir falsificaciones algo realistas en texto, imágenes, videos cortos y audio, muchos observadores se han consolado con el papel aparentemente menor que las falsificaciones de IA han desempeñado, hasta ahora, en las elecciones y los medios de comunicación. Pero declarar la victoria sería peligrosamente prematuro. Por ahora, es bastante fácil para las organizaciones de noticias respetables, las principales plataformas de Internet y los servicios de inteligencia nacionales determinar qué es real y qué es falso. Pero la tecnología de IA todavía está en su infancia. ¿Qué sucederá dentro de una década (o tal vez antes) cuando nadie pueda decir con certeza qué es real?
Estos problemas se manifestarán en muchos ámbitos. Una implicación obvia es que los países necesitan reinventar y fortalecer sus redes de seguridad social y sistemas educativos para navegar en un mundo en el que habilidades y profesiones enteras aparecerán y desaparecerán rápidamente y con frecuencia. La ira que vemos entre las personas que se quedaron atrás en los últimos 30 años de globalización probablemente parezca leve en comparación con lo que la IA podría generar a menos que nos preparemos para ella. De manera similar, necesitamos una regulación extremadamente estricta de las falsificaciones profundas, incluidos requisitos de etiquetado y duras sanciones penales para producir o distribuir falsificaciones sin etiquetar.
Bienvenidos al futuro. Espero que podamos comprenderlo, porque llegará, nos guste o no.