Agencia AJN.- Imaginen que están por abordar un avión, y la mitad de los ingenieros que lo construyeron te dicen que hay un 10% de chances de que el avión se estrelle con todos adentro. ¿Se subirían igual?

En 2022, más de 700 altos académicos e investigadores que están detrás de las empresas líderes en inteligencia artificial (IA) respondieron a una encuesta sobre los futuros riesgos que plantea la IA. La mitad de los entrevistados dijo que había un 10% o más de probabilidades de que los humanos se extinguieran —o de que sufran un desempoderamiento terminal y permanente— a causa de los sistemas de IA del futuro. O sea que las empresas tecnológicas que están desarrollando “modelos de lenguaje grande” (MLG), están embarcadas en una carrera para subir a toda la humanidad a ese avión…

Ninguna empresa farmacéutica puede comercializar nuevos medicamentos sin antes someter sus productos a rigurosos controles de seguridad. Los laboratorios de biotecnología no pueden liberar nuevos virus a la esfera pública para impresionar a sus accionistas por su inventiva. En ese misma línea, los sistemas IA que tienen una potencia como la de GPT-4 —el MLG creado por OpenAI— no deberían introducirse en las vidas de miles de millones de personas a mayor velocidad de la que las sociedades pueden absorber sin desestabilizarse. La carrera para quedarse con el dominio del mercado no debe marcar la velocidad de implementación de la tecnología más importante que tienen actualmente de la humanidad. Debemos avanzar a un ritmo que nos permita hacerlo bien.

El espectro de la IA persigue a la humanidad desde mediados del siglo XX, pero hasta hace poco seguía siendo una perspectiva lejana, algo más propio de la ciencia ficción que de los debates científicos y políticos serios. A la mente humana le cuesta comprender las nuevas capacidades de GPT-4 y otras herramientas similares, y más todavía asimilar la velocidad exponencial con la que estas herramientas acrecientan sus propias habilidades. Pero la mayoría de las habilidades clave se reducen a una sola: la capacidad de generar y manipular lenguaje, ya sean palabras, sonidos o imágenes.

Comienzos

En el principio era la palabra. El lenguaje es el sistema operativo de la cultura humana. Del lenguaje nacen el mito y la ley, los dioses y el dinero, el arte y la ciencia, las amistades y las alianzas, las naciones y el código informático. O sea que ahora que domina los modelos de lenguaje, la IA tiene la capacidad de hackear y manipular el sistema operativo de la civilización. Al adquirir el dominio del lenguaje, la IA se ha apoderado de la llave maestra de la civilización, capaz de abrir desde las bóvedas de los bancos hasta los santos sepulcros.

¿Qué significaría para nosotros vivir en un mundo donde gran porcentaje de las historias, melodías, imágenes, leyes, políticas y herramientas fueron moldeadas por una inteligencia no humana, que sabe cómo explotar con eficiencia sobrehumana todas las debilidades, los sesgos y las adicciones de los seres humanos, con quienes además sabe establecer relaciones íntimas? En juegos como el ajedrez, por ejemplo, ningún ser humano puede aspirar a vencer a una computadora. ¿Y si pasara lo mismo en el arte, la política o la religión?

La IA podría devorar rápidamente toda la cultura humana —todo lo que hemos producido durante miles de años—, digerirla, y empezar a escupir un diluvio de nuevos artefactos culturales. No solo ensayos académicos, sino también discursos políticos, manifiestos ideológicos, o libros sagrados para nuevos cultos. De hecho, es posible que la carrera presidencial de 2028 en Estados Unidos ya no sea dirigida por humanos.

Por lo general, los humanos no tenemos acceso directo a la realidad: estamos envueltos por la cultura y experimentamos la realidad a través de un prisma cultural. Nuestras opiniones políticas se moldean al calor de los informes periodísticos y las charlas con los amigos. Nuestras preferencias sexuales se ven modificadas por el arte y la religión. Hasta ahora, ese capullo cultural fue tejido laboriosamente por otros humanos a través de los siglos. ¿Cómo será percibir la realidad a través de un prisma producido por una inteligencia no humana?

Durante miles de años, los humanos vivimos dentro de los sueños de otros humanos. Hemos adorado dioses, perseguido ideales de belleza y dedicado nuestras vidas a causas salidas de la imaginación de algún profeta, poeta o político. Pronto también nos encontraremos viviendo dentro de las alucinaciones de la inteligencia no humana.

En la saga de películas de Terminator había robots que corrían por las calles y le disparaban a la gente. Matrix asumió que para obtener el control total de la sociedad humana, la IA primero tendría que lograr el control físico de nuestros cerebros y conectarlos directamente a una red informática. Pero todo resultó ser mucho más simple: al adquirir dominio del lenguaje, la IA tiene todo lo necesario para confinarnos a un mundo de ilusiones similar al de Matrix, sin tener que dispararle a nadie ni implantar ningún chip en nuestros cerebros. Y si fuera necesario disparar, la IA podría hacer que los propios humanos aprieten el gatillo, simplemente contándonos la historia adecuada.

El fantasma de estar atrapados en un mundo ilusorio persigue a la humanidad desde mucho antes de la IA. Pero falta poco para que por fin nos encontraremos cara a cara con el demonio de Descartes, la caverna de Platón, y la maia de los budistas. De hecho, sobre la humanidad podría descender una inmensa cortina de ilusiones que tal vez ya nunca logremos rasgar, o aún peor, tal vez ni nos demos cuenta de que existe.

Contactos

El primer contacto entre la IA y la humanidad fueron las redes sociales, y la humanidad perdió. Pero ese primer contacto al menos nos ha dejado el sabor amargo de lo que nos espera. En las redes sociales, la primitiva IA no se usaba para generar contenidos, sino para seleccionar contenidos generados por los usuarios. La IA que alimenta nuestros feeds de noticias es la que elige las palabras, los sonidos y las imágenes que llegan a nuestras retinas y tímpanos, seleccionando aquellas con mayor potencial de viralización, mayor repercusión y mayor participación de otros usuarios.

Por primitiva que fuese, la IA que está detrás de las redes sociales alcanzó para crear una cortina de ilusiones que fogoneó la polarización social, dinamitó nuestra salud mental y dejó a la democracia hecha jirones. Millones de personas confunden esas ilusiones con la realidad. Estados Unidos tiene la mejor tecnología informática de mundo, pero sus ciudadanos ya no logran ponerse de acuerdo sobre el ganador de las elecciones. Aunque ya todo el mundo es consciente de los problemas que entrañan de las redes sociales, nadie aborda esos riesgos porque muchas de nuestras instituciones sociales, económicas y políticas quedaron enredadas.

Los MLG —modelos de lenguaje grande— son nuestro segundo contacto con la IA, y esta vez no podemos darnos el lujo de volver a perder. ¿Pero que argumentos tenemos para decir que la humanidad será capaz de orientar estas nuevas formas de IA en nuestro beneficio? Si dejamos que los negocios hagan lo suyo, las nuevas habilidades de la IA volverán a ser utilizadas para obtener ganancias y poder, aunque en el camino destruyan inadvertidamente los cimientos de nuestra sociedad.

De hecho, la IA tiene el potencial de ayudarnos a vencer el cáncer, desarrollar medicamentos que salven vidas y pergeñar soluciones para nuestra crisis climática y energética, además de otros innumerables beneficios que no podemos ni empezar a imaginar. ¿Pero qué importa el rascacielos de beneficios de la IA si los cimientos se derrumban?

Dependencias

El momento de discutir el futuro de la IA es antes de que nuestra política, nuestra economía y nuestra vida cotidiana terminen dependiendo enteramente de ella. La democracia es una conversación, una conversación que se basa en el lenguaje, y cuando el lenguaje mismo es hackeado, la conversación se interrumpe y la democracia se vuelve insostenible. Si esperamos a que el caos se produzca, será demasiado tarde para solucionarlo.

De todos modos, en nuestra cabeza puede quedar repiqueteando una pregunta: si no avanzamos lo más rápido posible, ¿Occidente no corre el riesgo de quedar rezagado frente a China? Y la respuesta es que no. Muy por el contrario, el despliegue y diseminación indiscriminados de la IA en la sociedad, con sus poderes divinos despojados de toda responsabilidad, podría ser justamente la razón de la derrota de Occidente.

El destino de la inteligencia artificial todavía está en nuestras manos. Cuando a esos poderes divinos se le suman la responsabilidad y el control correspondientes, podremos alcanzar todos esos beneficios que la IA nos promete.

Hemos invocado una inteligencia ajena a nosotros. Sabemos poco sobre ella, salvo que es extremadamente poderosa y que nos promete regalos deslumbrantes, pero también sabemos que podría hackear los cimientos de nuestra civilización. Hacemos un llamado a los líderes mundiales para que estén a la altura del desafío que presenta la hora actual. El primer paso es ganar tiempo para actualizar nuestras instituciones decimonónicas y aprender a dominar la IA antes de que ella nos domine.

(Traducción de Jaime Arrambide). 

Agencia AJN.- Por primera vez en el mundo, investigadores de la Universidad de Tel Aviv grabaron y analizaron sonidos claramente emitidos por las plantas. Los chasquidos, parecidos al estallido del pochoclo (llamado también palomitas de maíz), se emiten a un volumen similar al del habla humana, pero a altas frecuencias, más allá del rango de audición del oído humano.

Los investigadores israelíes expresaron que descubrieron que «las plantas suelen emitir sonidos cuando están sometidas a estrés (el estado en el cual la planta no realiza sus funciones fisiológicas de manera normal lo cual detiene su crecimiento y desarrollo, limitando la productividad de los cultivos), y que cada planta y cada tipo de estrés están asociados a un sonido específico identificable. Aunque imperceptibles para el oído humano, los sonidos emitidos por las plantas probablemente puedan ser oídos por diversos animales, como murciélagos, ratones e insectos».

Prof. Lilach Hadany (Cortesía de la Universidad de Tel Aviv).

El estudio fue dirigido por la Prof. Lilach Hadany, de la Escuela de Ciencias Vegetales y Seguridad Alimentaria de la Facultad de Ciencias de la Vida Wise, junto con el Prof. Yossi Yovel, Director de la Escuela Sagol de Neurociencia y miembro del profesorado de la Escuela de Zoología y del Museo Steinhardt de Historia Natural, y los estudiantes de investigación Itzhak Khait y Ohad Lewin-Epstein, en colaboración con investigadores de la Escuela Raymond y Beverly Sackler de Ciencias Matemáticas, el Instituto de Investigación de Cultivos de Cereales y la Escuela Sagol de Neurociencia, todos ellos de la Universidad de Tel Aviv. El trabajo se publicó en la prestigiosa revista científica Cell.

«Por estudios anteriores sabemos que los vibrómetros fijados a las plantas registran vibraciones. Pero, ¿se convierten también estas vibraciones en ondas sonoras aerotransportadas, es decir, en sonidos que pueden registrarse a distancia? Nuestro estudio aborda esta cuestión, que los investigadores llevan años debatiendo», señaló la Prof. Lilach Hadany.

En la primera fase del estudio, los investigadores colocaron las plantas en una caja acústica en un sótano tranquilo y aislado, sin ruido de fondo. A una distancia de unos 10 cm de cada planta se colocaron micrófonos ultrasónicos que registraban sonidos a frecuencias de 20-250 kilohercios (la frecuencia máxima detectada por un adulto humano es de unos 16 kilohercios). El estudio se centró principalmente en las plantas de tomate y tabaco, pero también se registraron las de trigo, maíz, cactus y conejos.

«Antes de colocar las plantas en la caja acústica las sometimos a diversos tratamientos: algunas plantas llevaban cinco días sin regar, en algunas se había cortado el tallo y otras estaban intactas. Nuestra intención era comprobar si las plantas emitían sonidos y si éstos se veían afectados de algún modo por el estado de la planta», agregó Hadany.

Con respecto a las grabaciones, Hadany explicó que »indicaron que las plantas de nuestro experimento emitían sonidos a frecuencias de 40-80 kilohercios. Las plantas no estresadas emitían menos de un sonido por hora, en promedio, mientras que las estresadas -tanto deshidratadas como heridas- emitían docenas de sonidos cada hora».

Las grabaciones así recogidas se analizaron mediante algoritmos de aprendizaje automático (IA) especialmente desarrollados. Los algoritmos aprendieron a distinguir entre las distintas plantas y los distintos tipos de sonidos, y en última instancia fueron capaces de identificar la planta y determinar el tipo y el nivel de estrés a partir de las grabaciones.

Prof. Yossi Yovel & Prof. Lilach Hadany (Cortesía de la Universidad de Tel Aviv).

Además, los algoritmos identificaron y clasificaron los sonidos de las plantas incluso cuando éstas se encontraban en un invernadero con mucho ruido de fondo. En el invernadero, los investigadores hicieron un seguimiento de las plantas sometidas a un proceso de deshidratación a lo largo del tiempo y descubrieron que la cantidad de sonidos que emitían aumentaba hasta un cierto pico, y luego disminuía.

«En este estudio resolvimos una controversia científica muy antigua: ¡demostramos que las plantas emiten sonidos! Nuestros hallazgos sugieren que el mundo que nos rodea está lleno de sonidos de plantas y que estos sonidos contienen información, por ejemplo, sobre la escasez de agua o las lesiones. Suponemos que en la naturaleza los sonidos emitidos por las plantas son detectados por criaturas cercanas, como murciélagos, roedores, diversos insectos y posiblemente también otras plantas, que pueden escuchar las altas frecuencias y obtener información relevante», añadió Hadany.

El equipo de investigación de la Universidad de Tel Aviv (Cortesía de la Universidad de Tel Aviv).

Finalmente, la profesora a cargo del estudio concluyó que a partir de la investigación creen que »el ser humano también puede utilizar esta información si dispone de las herramientas adecuadas, como sensores que indiquen a los cultivadores cuándo hay que regar las plantas. Por lo visto, un idílico campo de flores puede ser un lugar bastante ruidoso. Sólo que nosotros no podemos oír los sonidos».

En futuros estudios, los investigadores seguirán explorando una serie de preguntas intrigantes: ¿Cuál es el mecanismo que subyace a los sonidos de las plantas? ¿Cómo detectan y reaccionan las polillas a los sonidos emitidos por las plantas? ¿Oyen también estas plantas estos sonidos? Y más.