NUEVA YORK – Nuestros ancestros tenían miedo de la furia destructora de los dioses. Pero en tiempos recientes hemos desarrollado la capacidad de destruirnos solos, con el cambio climático, las armas nucleares, la inteligencia artificial o la biología sintética. La tecnología ha aumentado en forma exponencial nuestra capacidad para causar daño en escala planetaria, pero no han crecido de igual modo nuestras herramientas para manejar en forma responsable estos novísimos poderes. Para que la humanidad sobreviva y prospere, esto tiene que cambiar.
El carácter profundamente interconectado del mundo actual nos obliga a desarrollar una conciencia y un sentido de propósito colectivos para hacer frente a los desafíos compartidos y garantizar que los avances tecnológicos estén al servicio de todos. Hasta ahora, la competencia de suma cero entre países y comunidades ha puesto un obstáculo insuperable a la mitigación de los riesgos globales. Pero las mismas tecnologías que se prestan a un mal uso también tienen potencial para ayudar a fomentar un sentido de responsabilidad compartido.
Los avances tecnológicos han dado forma a las creencias religiosas por milenios. La domesticación de plantas y animales hizo posible la civilización (y con ella, todas las religiones, a excepción del animismo); y la invención de la escritura, seguida por el pergamino y luego el papel, ayudó a estos sistemas de creencias a difundirse por medio de libros sagrados como la Torá, la Biblia, el Corán y la Bhagavad Gita. El éxito del protestantismo es en gran medida atribuible a la imprenta.
Ahora algunas empresas están creando chatbots basados en grandes modelos lingüísticos (como GitaGPT, Quran GPT y BibleChat) que la gente puede usar para recibir consejos personales automatizados, inspirados en los textos religiosos tradicionales. Una interpretación de textos sagrados como es el Talmud se ha vuelto también texto sagrado del judaísmo, de modo que no es inconcebible que algún día textos interpretativos generados por IA puedan alcanzar una condición venerable.
Esto hace pensar que aunque potentes tecnologías como la IA pueden causar daño, también pueden tener una influencia positiva sobre la evolución continua de las tradiciones sociales y de los sistemas de creencias. En concreto, pueden ayudar a la gente a incorporar a sus identidades tradicionales una conciencia global y una mejor percepción de cómo satisfacer las necesidades colectivas de la sociedad. Siguiendo las huellas del animismo, del budismo y del unitarismo (movimientos que, con limitado éxito, siempre han intentado ampliar el concepto de responsabilidad colectiva), los sistemas de IA podrían ayudar a potenciar estos esfuerzos en un mundo hiperconectado.
Las mismas tecnologías que se prestan a un mal uso también tienen potencial para ayudar a fomentar un sentido de responsabilidad compartido. Foto: Pixabay.
En 2016, AlphaGo (un algoritmo desarrollado por la filial de Google DeepMind) derrotó al gran maestro de go Lee Sedol por cuatro partidos a uno en una competencia celebrada en Seúl. Esta hazaña tecnológica sorprendente pone de manifiesto el potencial transformador de la IA. El triunfo de AlphaGo, que había sido entrenado con una base de datos de partidos jugados por miles de maestros de go, fue en realidad una profunda victoria de la humanidad. Fue como si todos esos maestros humanos estuvieran sentados tablero de por medio frente a Lee, y el algoritmo canalizara la sabiduría combinada de todos ellos. Puede decirse que ese día, en muchos sentidos, un programa informático representó lo mejor de nosotros.
Imaginemos si a un futuro algoritmo le pidiéramos que estudie todas las tradiciones religiosas y seculares registradas de la humanidad y redacte un manifiesto que haga referencia a lo mejor de nuestros logros culturales y espirituales y proponga un plan para mejorar sobre esa base. Con todo lo aprendido, el bot tal vez nos aconseje el mejor modo de hallar el equilibrio justo entre nuestras necesidades individuales como miembros de comunidades pequeñas y las necesidades colectivas de la humanidad en un planeta compartido. Incluso es posible imaginar que lo que escriba el algoritmo tenga la misma legitimidad que el Talmud, o que las tablas supuestamente recibidas por nuestros antepasados en la cima de una montaña o desenterradas en sus jardines.
Hoy muchas personas interactúan con bots de IA generativa, por ejemplo al usar la función de texto predictivo en Gmail o consultar a ChatGPT. Sistemas informáticos en los autos avisan al conductor si se desvía hacia el carril opuesto, y en los aviones, advierten al piloto si comete un error. Pronto, fluidas interfaces de lenguaje natural planificarán nuestras vacaciones, escribirán programas informáticos en respuesta a «prompts» de personas que no saben programar, sugerirán a los médicos alternativas de tratamiento y recomendarán estrategias de siembra a los agricultores. Puesto que los sistemas de IA tendrán un papel desmesurado en muchas decisiones vitales críticas, tiene sentido programar en ellos un interés en el bien común.
En el segundo partido entre AlphaGo y Lee, el algoritmo hizo una jugada que para los expertos humanos era un error. Según las estadísticas disponibles, la probabilidad de que fuera útil era uno en 10 000. Pero resultó ser una jugada óptima, que ningún ser humano había tenido en cuenta antes. De modo que en vez de disminuir a los jugadores humanos, AlphaGo terminó mejorándolos, al introducir nuevos modos de jugar al go. El mérito de todo esto es de los seres humanos, que inventaron estas tecnologías y el juego mismo del go. Como son humanos los creadores de AlphaZero, otro programa que derrotó a su predecesor, AlphaGo, tras aprender el juego del go jugando contra sí mismo.
Es decir: en la tecnología estamos nosotros, y por eso, tiene que desarrollarse pensando en nosotros.
Deberíamos pedir a sistemas de IA generales, entrenados con materiales culturales generados por la humanidad durante milenios, que nos ayuden a imaginar mejores trayectorias futuras, así como AlphaGo y AlphaZero mejoraron las estrategias de los jugadores de go.
El reloj avanza; el tiempo para desarrollar un marco global de respuesta a los peligros que nosotros mismos generamos se agota, y es nuestro turno de jugar.
Jamie Metzl , fundador y presidente de OneShared.World , es el autor, más recientemente, de Superconvergence: How the Genetics, Biotech, and AI Revolutions Will Transform Our Lives, Work, and World (Timber Press, 2024).
El carácter profundamente interconectado del mundo actual nos obliga a desarrollar una conciencia y un sentido de propósito colectivos para hacer frente a los desafíos compartidos y garantizar que los avances tecnológicos estén al servicio de todos. Hasta ahora, la competencia de suma cero entre países y comunidades ha puesto un obstáculo insuperable a la mitigación de los riesgos globales. Pero las mismas tecnologías que se prestan a un mal uso también tienen potencial para ayudar a fomentar un sentido de responsabilidad compartido.
Los avances tecnológicos han dado forma a las creencias religiosas por milenios. La domesticación de plantas y animales hizo posible la civilización (y con ella, todas las religiones, a excepción del animismo); y la invención de la escritura, seguida por el pergamino y luego el papel, ayudó a estos sistemas de creencias a difundirse por medio de libros sagrados como la Torá, la Biblia, el Corán y la Bhagavad Gita. El éxito del protestantismo es en gran medida atribuible a la imprenta.
Ahora algunas empresas están creando chatbots basados en grandes modelos lingüísticos (como GitaGPT, Quran GPT y BibleChat) que la gente puede usar para recibir consejos personales automatizados, inspirados en los textos religiosos tradicionales. Una interpretación de textos sagrados como es el Talmud se ha vuelto también texto sagrado del judaísmo, de modo que no es inconcebible que algún día textos interpretativos generados por IA puedan alcanzar una condición venerable.
Esto hace pensar que aunque potentes tecnologías como la IA pueden causar daño, también pueden tener una influencia positiva sobre la evolución continua de las tradiciones sociales y de los sistemas de creencias. En concreto, pueden ayudar a la gente a incorporar a sus identidades tradicionales una conciencia global y una mejor percepción de cómo satisfacer las necesidades colectivas de la sociedad. Siguiendo las huellas del animismo, del budismo y del unitarismo (movimientos que, con limitado éxito, siempre han intentado ampliar el concepto de responsabilidad colectiva), los sistemas de IA podrían ayudar a potenciar estos esfuerzos en un mundo hiperconectado.
En 2016, AlphaGo (un algoritmo desarrollado por la filial de Google DeepMind) derrotó al gran maestro de go Lee Sedol por cuatro partidos a uno en una competencia celebrada en Seúl. Esta hazaña tecnológica sorprendente pone de manifiesto el potencial transformador de la IA. El triunfo de AlphaGo, que había sido entrenado con una base de datos de partidos jugados por miles de maestros de go, fue en realidad una profunda victoria de la humanidad. Fue como si todos esos maestros humanos estuvieran sentados tablero de por medio frente a Lee, y el algoritmo canalizara la sabiduría combinada de todos ellos. Puede decirse que ese día, en muchos sentidos, un programa informático representó lo mejor de nosotros.
Imaginemos si a un futuro algoritmo le pidiéramos que estudie todas las tradiciones religiosas y seculares registradas de la humanidad y redacte un manifiesto que haga referencia a lo mejor de nuestros logros culturales y espirituales y proponga un plan para mejorar sobre esa base. Con todo lo aprendido, el bot tal vez nos aconseje el mejor modo de hallar el equilibrio justo entre nuestras necesidades individuales como miembros de comunidades pequeñas y las necesidades colectivas de la humanidad en un planeta compartido. Incluso es posible imaginar que lo que escriba el algoritmo tenga la misma legitimidad que el Talmud, o que las tablas supuestamente recibidas por nuestros antepasados en la cima de una montaña o desenterradas en sus jardines.
Hoy muchas personas interactúan con bots de IA generativa, por ejemplo al usar la función de texto predictivo en Gmail o consultar a ChatGPT. Sistemas informáticos en los autos avisan al conductor si se desvía hacia el carril opuesto, y en los aviones, advierten al piloto si comete un error. Pronto, fluidas interfaces de lenguaje natural planificarán nuestras vacaciones, escribirán programas informáticos en respuesta a «prompts» de personas que no saben programar, sugerirán a los médicos alternativas de tratamiento y recomendarán estrategias de siembra a los agricultores. Puesto que los sistemas de IA tendrán un papel desmesurado en muchas decisiones vitales críticas, tiene sentido programar en ellos un interés en el bien común.
En el segundo partido entre AlphaGo y Lee, el algoritmo hizo una jugada que para los expertos humanos era un error. Según las estadísticas disponibles, la probabilidad de que fuera útil era uno en 10 000. Pero resultó ser una jugada óptima, que ningún ser humano había tenido en cuenta antes. De modo que en vez de disminuir a los jugadores humanos, AlphaGo terminó mejorándolos, al introducir nuevos modos de jugar al go. El mérito de todo esto es de los seres humanos, que inventaron estas tecnologías y el juego mismo del go. Como son humanos los creadores de AlphaZero, otro programa que derrotó a su predecesor, AlphaGo, tras aprender el juego del go jugando contra sí mismo.
Es decir: en la tecnología estamos nosotros, y por eso, tiene que desarrollarse pensando en nosotros.
Deberíamos pedir a sistemas de IA generales, entrenados con materiales culturales generados por la humanidad durante milenios, que nos ayuden a imaginar mejores trayectorias futuras, así como AlphaGo y AlphaZero mejoraron las estrategias de los jugadores de go.
El reloj avanza; el tiempo para desarrollar un marco global de respuesta a los peligros que nosotros mismos generamos se agota, y es nuestro turno de jugar.
Traducción: Esteban Flamini
Publicación original en: https://www.project-syndicate.org/commentary/ai-chatbot-can-foster-global-consciousness-collective-responsibility-by-jamie-metzl-1-2024-06/spanish