“Código roto”: la zona oscura de Facebook, por Dante Augusto Palma

Más de veinticinco mil páginas de documentación interna proporcionadas por una exempleada arrepentida, sumado a más de sesenta entrevistas que incluyen a los más altos ejecutivos, constituyen la robusta base documental del libro que narra con exquisito detalle el escándalo conocido como “Papeles de Facebook”.    

Código roto es el nombre de la obra y el autor es Jeff Horwitz, el mismo periodista que publicara la investigación allá por octubre de 2021 en el The Wall Street Journal con unas derivaciones inquietantes. Es que no solo se repasa el modo en que los usuarios de Facebook se encuentran a merced de una real experimentación de ingeniería social que es planificada y, a la vez, peligrosamente improvisada; sino que también se expone el modo en que, una y otra vez, Facebook fue, como mínimo, negligente, al momento de enfrentar las consecuencias de su dinámica expansiva.  

El origen de la investigación de Horwitz probablemente haya sido una pregunta que todos nos hemos hecho alguna vez: ¿cómo determinan los algoritmos qué mensajes priorizar o qué nuevos perfiles de usuarios agregar? Aleatorio no es. Entonces, ¿quién lo decide y con qué fines? Por último, ¿tienen razón aquellos que acusan a Facebook de fomentar la polarización de nuestras sociedades? En otras palabras, ¿es Facebook un simple canal neutral de comunicación entre personas donde se expone lo mejor y lo peor de la naturaleza humana o hay algo inherente al diseño y al plan de negocios de la compañía que estimula determinadas pasiones? 

Con la intención de responder a esos interrogantes digamos, por lo pronto, que la filtración arrojó, entre otras cosas, que a través de la plataforma se facilitó el tráfico de mujeres con fines laborales y/o sexuales en el Golfo Pérsico; se promovió la limpieza étnica contra musulmanes tanto en Birmania como en la India y se desinformó acerca de la vacuna contra la covid-19, entre otras cosas. 

Una vez más, este listado puede hablar simplemente de la naturaleza humana y del uso de una herramienta. Sin embargo, la conclusión del libro es clara: Facebook conocía perfectamente estos hechos y actuó con mayor o menor énfasis para dar cuenta de ello siempre y cuando esas acciones no afectaran la dinámica expansiva de la plataforma. 

Como se ve, la investigación tiene muchas aristas, pero Horwitz hace especial hincapié en XCheck, un programa de Facebook a través del cual se le daba un trato preferencial a usuarios VIP de todo el mundo. Se trataba de una salida para un gran dilema: Mark Zuckerberg quiso ser siempre un paladín de la libertad de expresión, pero sucesos como los de la India o Birmania lo hicieron tomar conciencia de que, a veces, era necesario bloquear contenido. Efectivamente, las redes sociales podían generar una revolución liberal como la primavera árabe pero también ser el canal a través del cual se difundieran bulos para legitimar genocidios. Entonces era necesario actuar. Por ello se establecieron criterios razonables para impedir contenido que fomentara la violencia, el racismo, la trata de personas, la pornografía infantil, etc. Sin embargo, como no se disponía de recursos técnicos ni humanos para controlar todas las publicaciones y, al mismo tiempo, se generaría gran escándalo en caso de que se censuraran cuentas con muchos seguidores, se decidió que unas siete millones de personas en el mundo, políticos, influencers, famosos, etc., serían inmunes a la censura que le cabría a cualquier usuario que incumpliera las normas. “Facebook Casta” podría haber sido el nombre del nuevo programa.  

Pero esto es menor al lado del modo en que se descubrió que Facebook modificó el algoritmo de modo tal que acabó fomentando la proliferación de opciones radicales y violentas.  

Efectivamente, ahora se animaba a los usuarios a hacer clic sobre contenido de gente que no conocen, como así también se les sugería formar parte de grupos con presuntos intereses comunes. Ya en 2016 Facebook sabía que esto generaba interacciones y más usuarios pero era, a su vez, echar fuego hacia grupos fanáticos proclives a difundir noticias falsas. Sin embargo, en 2020, hicieron muy poco para impedir que Facebook sugiriera participar en algunos de los grupos de QAnon, aquellos que estuvieron implicados en la toma del Capitolio. Para tener una idea de lo que la plataforma permite, un solo usuario envió, a lo largo de seis meses, cuatrocientas mil invitaciones a participar en esos grupos. Aunque la violencia, el odio y la información falsa podrían haberse mitigado restringiendo las posibilidades de compartir contenido mediante enlaces, como sucede en Instagram, Facebook, al igual que Bartleby, prefirió no hacerlo.

En esta misma línea, los esfuerzos fueron escasos para revertir aquello que denunciara Eli Pariser en una ya mítica charla TED que resultó viral y luego devino libro. Lo que el autor advierte es que Facebook está sesgando la información que recibimos. Por ejemplo, si eres progresista, el algoritmo te muestra las noticias que coinciden con ese ideario y suprime las entradas de signo contrario.

Para reforzar este punto, Pariser hizo una prueba bastante simple, pero, en este caso, con Google. Le pidió a dos amigos que escriban “Egipto” en el motor de búsqueda. Frente a la opinión intuitiva que suponía que el resultado sería el mismo para los dos, el algoritmo había filtrado automáticamente las noticias que, presumía, podían interesarle más a cada uno. Así, a uno de ellos, activista, le ofreció información sobre las últimas protestas en aquel país, pero, al otro, mucho menos politizado, le ofreció paquetes turísticos para visitar las pirámides. La prueba estaba a la vista: los algoritmos, en su afán de generar interacciones, Me gustas y dopamina, nos conectan con audiencias redundantes que se retroalimentan. Nada bueno puede salir de allí.  

Al condicionamiento del negocio se le debe agregar, a su vez, la ya mencionada improvisación negligente. Para graficarlo con algunos números, antes de bloquear a los ciento cincuenta mil usuarios que desinformaban sobre la vacuna contra la covid-19, notaron que el 5% generaba la mitad de las publicaciones y que solamente mil cuatrocientos eran responsables de invitar a la mitad de los miembros de esos grupos. De haber actuado de otra manera se hubiera evitado que los usuarios de lengua inglesa recibieran unas setecientas setenta y cinco millones de veces al día comentarios escépticos respecto a la efectividad de la vacuna; algo similar sucedió respecto a la incidencia de los rusos, especialmente en el marco de las elecciones de 2016, a pesar de que estos últimos hicieron ciento veintiséis millones de publicaciones. 

En esta misma línea, tragicómico es lo sucedido en Birmania: no pudieron hacer nada para frenar la espiral genocida porque no contrataron a nadie que hablara la lengua local, de modo que los mensajes de odio o los llamados a masacres no fueron detectados porque el algoritmo es bueno para vender cosas y generar cámaras de eco que confirman nuestros prejuicios, pero no es políglota. Por último, una empresa que para 2022 había llegado a un pico de más de ochenta mil empleados, solo tenía un equipo de seis personas en todo el mundo dedicado a controlar la compra y venta de personas a través de su plataforma con fines de explotación laboral y/o sexual, o, incluso, la venta de órganos.   

Para que se comprenda la magnitud del problema que Facebook no quiere/no puede controlar, tengamos en cuenta algunos números más: la desnudez prohibida solo abarca el 0,05% de las publicaciones visualizadas y los discursos de odio el 0,2. Sin embargo, si se incluyen casos fronterizos, el número sube a 10% y si se agregan ciberanzuelos, e información falsa y engañosa, el número escala a cerca del 20%, es decir, una de cada cinco publicaciones es mierda. Una verdadera cloaca. 

Como les indicaba al principio, el libro de Horwitz tuvo como principal protagonista a una exempleada, Frances Haugen, que se ocupó durante meses de copiar todos los documentos posibles con el fin de denunciar lo que ocurría dentro de la empresa.

Curiosamente, en la última búsqueda de información que hizo antes de renunciar, escribió “No odio a Facebook. Me encanta Facebook. Quiero salvarlo”. Luego pulsó “Enter” y apagó el ordenador.

IA: un nuevo apocalipsis para una vieja burocracia, por Dante Augusto Palma

 

El impacto de Nexus, el nuevo libro del historiador israelí Yuval Harari, el cual incluye un pronóstico apocalíptico respecto a las posibles consecuencias del uso de la Inteligencia artificial (IA) sobre nuestras vidas, ha contribuido a reflotar, en los últimos días, un debate que al público en general le resulta lejano cuando no directamente incomprensible.

Mientras tanto, las compañías que se disputan el mercado de la IA avanzan enloquecidamente ofreciendo, en el mejor de los casos, la dádiva de comités de ética internos como estrategia de marketing de cara a la sociedad, y los gobiernos y las instituciones supranacionales nombran a sus propios expertos con rostros adustos, apasionados por una protocolización de la vida que habla más de sus ideologías que de su rigor técnico. 

El aspecto más polémico del libro de Harari es aquel que indica que la potencial autonomía de la IA supone una amenaza para la democracia y para la supervivencia humana. 

En el fondo de este tipo de afirmaciones está ese temor que es un clásico de mitos, leyendas y cuentos acerca de la posibilidad de que una creación humana devenga contra sus propios creadores. Frankestein, el Gólem de Praga y una lista infinita de casos sirven de ejemplo para graficar un terror humano, demasiado humano, que recae sobre los Hombres cuando "juegan a ser Dios". 

Sin embargo, lo que permanecía en el terreno de la fantasía, parece acercarse cada vez más al terreno de lo posible. De hecho, para Harari, justamente, la gran novedad de esta tecnología es su capacidad para autonomizarse. Este es su diferencial y lo que la hace tan peligrosa porque hasta ahora, incluso el uso de energía atómica para crear una bomba y lanzarla, dependía, en última instancia, de una decisión humana. Pero el gran interrogante es qué sucedería si una inteligencia artificial, es decir, no humana, pudiera tomar esa decisión por sí sola.

Ahora bien, si no queremos ir tan lejos como Harari, aun a riesgo de vender menos libros, claro, podríamos posarnos en las preguntas que la IA plantea para la democracia. Allí no hace falta profetizar tanto porque los resultados ya son palpables. Me refiero al modo en que los algoritmos promueven visiones parciales, burbujas que hacen que acabemos rodeados de aquello que confirma nuestros prejuicios mientras suponemos estar ante una muestra representativa de la complejidad de la realidad. 

Aquí mencionamos el libro de Harari pero donde mejor se explica esto es en el libro Código roto de Jeff Horwitz, el periodista que publicó el escándalo conocido como "Los papeles de Facebook". Se trata de una investigación esclarecedora porque allí se expone el modo en que la empresa de Mark Zuckerberg diseñó algoritmos con el fin de lograr que los usuarios pasen más tiempo navegando en la plataforma. El punto es que una inteligencia artificial que sólo sabe cumplir objetivos, observó que los usuarios se sienten más atraídos por publicaciones, amistades o grupos cuyos posteos fomentan la polémica, las conspiraciones, las fake news y el odio.

Lo interesante del libro de Horwitz y la investigación que allí se revela como producto de una filtración, es que Facebook lo sabía y que todas las medidas que tomaron se realizaron siempre y cuando no afectaran al negocio. Pero sobre todo, algo quizás más preocupante, es que los ingenieros aceptaron que los algoritmos tomaban decisiones que eran completamente imprevisibles. Es decir, los algoritmos habían devenido incontrolables. 

Sirviéndose de ejemplos como este, Harari plantea un escenario donde habría algo así como dos grandes corrientes dominando la discusión pública en torno a qué hacer. Se trata de un planteo simplista y falaz cuya única intención es posarse en un pretendido lugar de neutralidad que no es tal.

Pero lo cierto es que él distingue entre una mirada que sería propia de Silicon Valley y que él denomina "visión ingenua" que considera que, a más información, más cerca se estará de la Verdad y de la democratización de la palabra; y una mirada populista, la cual consideraría que la verdad es relativa y que las instituciones occidentales son solo una mascarada de legitimación del poder de turno. 

La falta de precisión de Harari en este aspecto es espeluznante pero el punto es que él construye estos hombres de paja para justificar su posición, la misma que sostienen los grandes organismos supranacionales, esto es, fortalecer instituciones del statu quo y generar acuerdos globales en nombre de una buena gobernanza, llámese Agenda 2030, Pacto del futuro o el nombre que la burocracia de turno proponga. Es decir: está el cuco de los empresarios libertarios de Silicon Valley, prepotentes opositores a cualquier intervención estatal, y luego está el cuco de los Bolsonaro y los Trump que creen que no hay Verdad y entonces se benefician de los bulos porque la gente que los vota a ellos es idiota y manipulable. En el medio está Harari y toda la vieja burocracia que necesita de un nuevo apocalipsis siempre a punto de llegar para poder legitimar su existencia.

Ahora bien, lo que Harari no menciona es que esas instituciones cuya legitimidad está puesta en cuestión, no sólo por una serie de forajidos conspiranoicos sino por su propia incapacidad, arbitrariedad y sesgo, al igual que los ingenieros de las compañías, tampoco saben bien qué hacer con la IA. Es decir, los encargados de controlar a los diseñadores que impulsan las fantasías tecnocráticas de manual con argumentos de un iluminismo ramplón y adolescente que, por favorecer su negocio, han sido funcionales a la proliferación de conspiraciones, falsedades y delirios, no tienen para ofrecer más respuestas que una maraña de normas de control siempre obsoletas y el sostenimiento de una casta de burócratas solventados con dineros públicos. 

Son los mismos que ensalzaban las redes cuando años atrás favorecían su agenda y ahora las denuncian porque, más allá de que efectivamente son espacio para todo tipo de material cloacal, son también el único canal desde el cual se pueden alzar voces contra la hegemonía cultural progresista.

Sin saber verdaderamente qué hacer, demostrando su incapacidad una vez más, el accionar de esta burocracia obedece más a razones ideológicas y a un temor que se evidencia en la creación de diversos dispositivos que garanticen nuevas y sofisticadas formas de control. 

Si el fanatismo tecnocrático del espíritu emprendedorista de Silicon Valley lleva al mismo descontrol desregulador que un supuesto populismo relativista para el cual los bulos y la Verdad son solo distintas formas igualmente válidas de hacerse con el poder, las actuales instituciones que proponen regulaciones carecen de legitimidad por su propia incapacidad y por los demostrados sesgos de sus intervenciones pretéritas. 

Digamos, entonces que, más allá de los peligros de una tecnología capaz de autonomizarse, un problema más urgente es esta crisis de legitimidad de las instituciones que pretenden limitar dicha tecnología. 

Por ello, es necesario concluir afirmando que nuevas instituciones con visiones más equilibradas y mayor eficiencia técnica no serán suficiente para detener todos los eventuales peligros de la IA, pero serán, sin duda, una condición necesaria.