Predicciones, más artificiales que inteligentes, para un futuro de mierda, por Dante Augusto Palma

 

Un repaso básico por los debates públicos e institucionales, las novedades editoriales y los temas recurrentes en las plataformas de noticias, arroja una presencia cada vez más importante de discusiones en torno a la IA y temáticas afines. 

Es difícil trazar un estado de la cuestión porque hay distintas perspectivas y aristas, algunas primo hermanas, otras no tanto, donde además se mezclan ideologías y posicionamientos políticos. 

Por lo pronto pareciera haber algo así como un grupo de regulacionistas, en general aquellos que temen las consecuencias de la aplicación desenfrenada de la IA, frente a un grupo desregulacionista que, en todo caso, aun advirtiendo ciertos peligros, son solucionistas tecnológicos y consideran que las mismas herramientas tecnológicas que generan los problemas son capaces de solucionarlos. No es lineal pero los primeros, más pesimistas, se identificarían con posicionamientos más bien socialdemócratas o de izquierda, mientras que los segundos, más optimistas, tenderían a enrolarse en las filas liberales/libertarias, a la derecha del espectro. 

Haciendo un recorte arbitrario, es posible citar dos figuras representativas de cada una de estas “corrientes”, los cuales, casualmente, acaban de lanzar nuevas publicaciones en los últimos meses. Uno es Yuval Harari, el historiador israelí multiventas que en Nexus propone una historia de la información y advierte acerca de los peligros de la autonomización de la IA en una suerte de retorno del mito del Gólem; el segundo es Ray Kurzweil, un científico estadounidense cuyas predicciones, algunas décadas atrás, en buena parte se cumplieron, y que regresa con La Singularidad está más cerca. Se trata de un texto donde no solo realiza nuevas ambiciosas predicciones, sino que presenta argumentos para defender su proyecto transhumanista de transformación radical de la especie hacia un nuevo tipo de ser humano capaz de acabar con los grandes males que le aquejan: la enfermedad, la pobreza y la degradación ambiental.

Según Harari, especialmente después de la pandemia, asistimos a una aceleración del uso de la IA para generar sistemas de vigilancia y control, incluso en países democráticos. Sin embargo, Harari va mucho más allá y no solo se pregunta qué sucedería si esa herramienta estuviera bajo el control de una dictadura, sino que considera que hay algo peor que eso: una sociedad gobernada por una inteligencia no humana. Asimismo, en una especie de remake del choque de civilizaciones anunciado por Huntington, Harari plantea la posibilidad del surgimiento de un nuevo muro (invisible), en este caso, un muro de silicio, constituido por chips y códigos informáticos. Esto se produciría porque la IA, al ser capaz de crear, de manera autónoma, toda una red de sentido, dividiría el mundo en redes civilizacionales donde cada una tendría “su” mundo. No hay que ser muy sagaz para darse cuenta que Harari está pensando en lo que ya hoy sucede entre China y el mundo occidental. 

En cuanto al terreno de las soluciones, Harari no aporta nada original y abona esa acusación recurrente de ser una suerte de catastrofista funcional al establishment, cuando pide más y más regulaciones y salidas institucionales globales que incluyan a los Estados y a las compañías. Sin embargo, a propósito de estas últimas, es bastante indulgente cuando, si bien advierte que las grandes tecnológicas son parte del problema, al mismo tiempo las exculpa bajo el argumento cándido de que las tecnologías en sí mismas no son ni buenas ni malas sino que dependen de su uso.      

En cuanto a Kurzweil, su nuevo libro retorna a la idea de singularidad, la cual es definida del siguiente modo:  

“Dentro de un tiempo, la nanotecnología permitirá (…) la ampliación del cerebro humano con nuevas capas de neuronas virtuales en la nube. De esta manera nos fusionaremos con la IA y ampliaremos nuestras habilidades con una potencia de cálculo que multiplicará por varios millones las capacidades que nos dio la naturaleza. Este proceso expandirá la inteligencia y la conciencia humanas de una forma tan radical que resulta difícil de comprender y asimilar. Cuando hablo de “singularidad” me estoy refiriendo a este momento en concreto”.

Aunque en algún pasaje del libro Kurzweil admite que, dependiendo de cómo manejemos este proceso que se alcanzaría hacia el año 2045, tendremos un camino firme y seguro o uno de turbulencia social, el tono del texto es asombrosamente optimista o, en todo caso, parece no tomar en cuenta las consecuencias que este eventual proceso podría ocasionar. 

A lo sumo advierte que habrá un problema con el empleo pero que se solucionaría con una Renta Básica Universal financiada eventualmente con un impuesto sobre las compañías que se hayan beneficiado de la automatización de la IA y ya. En todo caso, si el tiempo libre fuera un problema, Kurzweil indica que para ello ya existe la realidad virtual y, sobre todo, la paciencia necesaria para esperar 10 años a que todos nuestros cerebros estén conectados a una computadora. En cuanto al resto de los problemas, abrazando una suerte de aceleracionismo capitalista, y tomando como fuente los datos de Steven Pinker acerca del fluctuante pero evidente progreso de la humanidad a todo nivel en los últimos siglos, Kurzweil entiende que la “explosión” tecnológica traerá consigo una abundancia de riqueza por la cual los pobres del mañana gozarán de un nivel de bienestar inédito en la historia de la humanidad.   

 

Para Kurzweil, además, ya estamos en condiciones de asegurarnos una expectativa de vida digna de 120 años y el aumento de la misma será exponencial en las próximas décadas a tal punto que adopta la temeraria predicción de que ya habría nacido la persona que vivirá 1000 años. Por último, en un pasaje que me atrevería a afirmar como filosófica y conceptualmente muy débil, para ser elegante, reduce el cerebro y la conciencia a un sistema de información que podría ser extraíble y replicable incluso por fuera del cuerpo, cumpliendo así la fantasía de buena parte de las grandes obras de ficción, aunque pagando el precio de no poder responder a una ingente cantidad de bibliografía filosófica que lo espera en la biblioteca con una mueca risueña: 

“En las décadas de 2040 y 2050 reconstruiremos el cerebro y el cuerpo para superar los límites que marca la biología, lo que incluye la posibilidad de copiar todo su contenido y prolongar la esperanza de vida. Cuando la nanotecnología alce el vuelo, seremos capaces de crear un cuerpo mejorado a voluntad: podremos correr más deprisa y durante más tiempo, nadar y respirar bajo el mar como los peces e incluso dotarnos de unas alas funcionales si así lo deseamos. Pensaremos varios millones de veces más rápido, pero lo más importante, es que no dependeremos de que el cuerpo sobreviva para que nosotros podamos seguir viviendo”.

En un contexto de crispación e indignación diaria, con guerras, disputas tribales y religiosas, tensiones económicas y sociales a todo nivel, me temo que aunque la tecnología avanzara en la línea que auguran los autores, haciéndonos más dependientes de ella todavía, el futuro ofrecerá catástrofes menos conspirativas y avances menos ideales; en todo caso habrá futuros a distintas velocidades, como los ha habido siempre pero, ahora, de manera exagerada. 

Es que mientras Elon Musk plantea aplicar una democracia directa como sistema de gobernanza en Marte y Curtis Yarvin lo critica abogando por una monarquía tecnocrática encarnada en un Rey CEO en los Estados Unidos, los problemas de miles de millones de personas en el mundo es que no tienen agua potable o se contagian enfermedades que se habían erradicado. A propósito, ¿cómo le explicamos a un enfermo de cólera o tuberculosis que no debe temer morir porque su conciencia será alojada en la Nube de Google y que en Marte será parte de los debates de la Asamblea democrática que decidirá la distribución de la propiedad en el lado oscuro de la Luna? 

¿Acaso plantear que el transhumano podrá respirar debajo del agua como un pez es la solución a la inmigración ilegal que llega a Europa a través de las pateras? ¿Habrá un juego de realidad virtual en el que Occidente no se suicida renunciando a sus propios valores?  

¿Y los virus creados en laboratorios? ¿Las tensiones geopolíticas? ¿Las luchas por la redistribución del ingreso? ¿Las migraciones masivas por limpiezas étnicas? ¿El estar a merced de un loco autócrata a tiro de un botón rojo… todo eso se va a solucionar con una app, un Change.org y un nano no sé cuánto? A su vez, ¿estos mismos conflictos son capaces de solucionarse bajo el liderazgo de los burócratas de las instituciones de gobernanza global tal cual las conocemos hasta ahora mientras afirmamos que la tecnología es neutral?

Hoy el mundo entero atraviesa el problema de cómo financiar las pensiones y se nos plantea como una maravilla que la expectativa de vida alcance los 120 años y hasta los 1000. ¿Hasta cuándo se ampliará la edad laboral para darle sustentabilidad al sistema?

 ¿Pasaremos de 60/65/70 años a 110 años? ¿Habrá que aportar unos 70 años al fisco para acceder a la pensión? ¿Quién lo va a aportar si no hay trabajo y si entre los pocos trabajos que van a sostenerse estarán los realizados por migrantes de países no europeos que van a vivir a Europa de manera ilegal cuidando viejos cada vez más viejos para recibir, a cambio, un ingreso informal?  

Al mismo tiempo, se nos dice que el efecto colateral será que habrá menos trabajo pero que se financiará con impuestos y una Renta Básica Universal. ¿Y alguien en su sano juicio puede pensar que ese proceso será aceptado pacíficamente? ¿En serio vamos a creer que miles de millones de personas sin trabajo y con sus eventuales necesidades básicas satisfechas por la redistribución de los impuestos pagados por los ricos, se quedarán en sus casas hipnotizadas entre juegos, porno y viajes virtuales a Venecia? ¿Los ricos, dueños de las compañías que controlarán el mercado tecnológico oligopólicamente, van a aceptar pagar impuestos determinados por los burócratas de la gobernanza global para sostener a más de la mitad de la población mundial que no va a tener trabajo ni nada que hacer? 

O sea, ¿Bezos, Zuckerberg y Musk van a pagar de sus bolsillos a los millones de desocupados de la India, África y Latinoamérica para que puedan sobrevivir, contratar Starlink, comprar por Amazon y ver la publicidad de Instagram? ¿Esos cientos de millones de humanos obsoletos e inútiles, incapaces si quiera de trabajar por un sueldo miserable porque ese trabajo ya ni siquiera existe, tendrán que elegir entre comer y pagar la nube de Google o, ya desposeídos del cuerpo, la Renta Básica Universal alcanzará para el plan básico de almacenamiento de conciencia que no superen tantos gigabytes? Por cierto, ¿si nuestra conciencia es muy pesada tendremos que pagar un plan Premium? 

En síntesis: ¿la posibilidad de pensar más rápido que potenciaría la IA nos permitirá darnos cuenta también más rápido del delirio de irrealidad en el que se encuentran inmersos gobernantes y autores multiventas cuando piensan en cómo solucionar los verdaderos problemas del futuro?    

Preguntas sin respuestas para un futuro de mierda.

Dante Augusto Palma

IA: un nuevo apocalipsis para una vieja burocracia, por Dante Augusto Palma

 

El impacto de Nexus, el nuevo libro del historiador israelí Yuval Harari, el cual incluye un pronóstico apocalíptico respecto a las posibles consecuencias del uso de la Inteligencia artificial (IA) sobre nuestras vidas, ha contribuido a reflotar, en los últimos días, un debate que al público en general le resulta lejano cuando no directamente incomprensible.

Mientras tanto, las compañías que se disputan el mercado de la IA avanzan enloquecidamente ofreciendo, en el mejor de los casos, la dádiva de comités de ética internos como estrategia de marketing de cara a la sociedad, y los gobiernos y las instituciones supranacionales nombran a sus propios expertos con rostros adustos, apasionados por una protocolización de la vida que habla más de sus ideologías que de su rigor técnico. 

El aspecto más polémico del libro de Harari es aquel que indica que la potencial autonomía de la IA supone una amenaza para la democracia y para la supervivencia humana. 

En el fondo de este tipo de afirmaciones está ese temor que es un clásico de mitos, leyendas y cuentos acerca de la posibilidad de que una creación humana devenga contra sus propios creadores. Frankestein, el Gólem de Praga y una lista infinita de casos sirven de ejemplo para graficar un terror humano, demasiado humano, que recae sobre los Hombres cuando "juegan a ser Dios". 

Sin embargo, lo que permanecía en el terreno de la fantasía, parece acercarse cada vez más al terreno de lo posible. De hecho, para Harari, justamente, la gran novedad de esta tecnología es su capacidad para autonomizarse. Este es su diferencial y lo que la hace tan peligrosa porque hasta ahora, incluso el uso de energía atómica para crear una bomba y lanzarla, dependía, en última instancia, de una decisión humana. Pero el gran interrogante es qué sucedería si una inteligencia artificial, es decir, no humana, pudiera tomar esa decisión por sí sola.

Ahora bien, si no queremos ir tan lejos como Harari, aun a riesgo de vender menos libros, claro, podríamos posarnos en las preguntas que la IA plantea para la democracia. Allí no hace falta profetizar tanto porque los resultados ya son palpables. Me refiero al modo en que los algoritmos promueven visiones parciales, burbujas que hacen que acabemos rodeados de aquello que confirma nuestros prejuicios mientras suponemos estar ante una muestra representativa de la complejidad de la realidad. 

Aquí mencionamos el libro de Harari pero donde mejor se explica esto es en el libro Código roto de Jeff Horwitz, el periodista que publicó el escándalo conocido como "Los papeles de Facebook". Se trata de una investigación esclarecedora porque allí se expone el modo en que la empresa de Mark Zuckerberg diseñó algoritmos con el fin de lograr que los usuarios pasen más tiempo navegando en la plataforma. El punto es que una inteligencia artificial que sólo sabe cumplir objetivos, observó que los usuarios se sienten más atraídos por publicaciones, amistades o grupos cuyos posteos fomentan la polémica, las conspiraciones, las fake news y el odio.

Lo interesante del libro de Horwitz y la investigación que allí se revela como producto de una filtración, es que Facebook lo sabía y que todas las medidas que tomaron se realizaron siempre y cuando no afectaran al negocio. Pero sobre todo, algo quizás más preocupante, es que los ingenieros aceptaron que los algoritmos tomaban decisiones que eran completamente imprevisibles. Es decir, los algoritmos habían devenido incontrolables. 

Sirviéndose de ejemplos como este, Harari plantea un escenario donde habría algo así como dos grandes corrientes dominando la discusión pública en torno a qué hacer. Se trata de un planteo simplista y falaz cuya única intención es posarse en un pretendido lugar de neutralidad que no es tal.

Pero lo cierto es que él distingue entre una mirada que sería propia de Silicon Valley y que él denomina "visión ingenua" que considera que, a más información, más cerca se estará de la Verdad y de la democratización de la palabra; y una mirada populista, la cual consideraría que la verdad es relativa y que las instituciones occidentales son solo una mascarada de legitimación del poder de turno. 

La falta de precisión de Harari en este aspecto es espeluznante pero el punto es que él construye estos hombres de paja para justificar su posición, la misma que sostienen los grandes organismos supranacionales, esto es, fortalecer instituciones del statu quo y generar acuerdos globales en nombre de una buena gobernanza, llámese Agenda 2030, Pacto del futuro o el nombre que la burocracia de turno proponga. Es decir: está el cuco de los empresarios libertarios de Silicon Valley, prepotentes opositores a cualquier intervención estatal, y luego está el cuco de los Bolsonaro y los Trump que creen que no hay Verdad y entonces se benefician de los bulos porque la gente que los vota a ellos es idiota y manipulable. En el medio está Harari y toda la vieja burocracia que necesita de un nuevo apocalipsis siempre a punto de llegar para poder legitimar su existencia.

Ahora bien, lo que Harari no menciona es que esas instituciones cuya legitimidad está puesta en cuestión, no sólo por una serie de forajidos conspiranoicos sino por su propia incapacidad, arbitrariedad y sesgo, al igual que los ingenieros de las compañías, tampoco saben bien qué hacer con la IA. Es decir, los encargados de controlar a los diseñadores que impulsan las fantasías tecnocráticas de manual con argumentos de un iluminismo ramplón y adolescente que, por favorecer su negocio, han sido funcionales a la proliferación de conspiraciones, falsedades y delirios, no tienen para ofrecer más respuestas que una maraña de normas de control siempre obsoletas y el sostenimiento de una casta de burócratas solventados con dineros públicos. 

Son los mismos que ensalzaban las redes cuando años atrás favorecían su agenda y ahora las denuncian porque, más allá de que efectivamente son espacio para todo tipo de material cloacal, son también el único canal desde el cual se pueden alzar voces contra la hegemonía cultural progresista.

Sin saber verdaderamente qué hacer, demostrando su incapacidad una vez más, el accionar de esta burocracia obedece más a razones ideológicas y a un temor que se evidencia en la creación de diversos dispositivos que garanticen nuevas y sofisticadas formas de control. 

Si el fanatismo tecnocrático del espíritu emprendedorista de Silicon Valley lleva al mismo descontrol desregulador que un supuesto populismo relativista para el cual los bulos y la Verdad son solo distintas formas igualmente válidas de hacerse con el poder, las actuales instituciones que proponen regulaciones carecen de legitimidad por su propia incapacidad y por los demostrados sesgos de sus intervenciones pretéritas. 

Digamos, entonces que, más allá de los peligros de una tecnología capaz de autonomizarse, un problema más urgente es esta crisis de legitimidad de las instituciones que pretenden limitar dicha tecnología. 

Por ello, es necesario concluir afirmando que nuevas instituciones con visiones más equilibradas y mayor eficiencia técnica no serán suficiente para detener todos los eventuales peligros de la IA, pero serán, sin duda, una condición necesaria.