En la primera temporada de la serie Westworld, el protagonista humano visita un parque de diversiones distópico atendido por androides hiper-realistas. Una de las anfitrionas lo saluda y él le pregunta, incrédulo, si es una mujer real. La respuesta llega con una voz misteriosa: "Si no te podés dar cuenta, ¿realmente importa?".
La escena trascurre en un futuro más cercano de lo que
pensamos. La semana pasada la editorial Espasa, con sede en España, tuvo que
salir a desmentir que el ganador de su concurso anual de poesía fuera un robot.
Al enigmático Rafael Caballiere, poeta venezolano, además de ingeniero y
publicista, pocos lo conocían en persona a pesar de que tenía cientos de miles
de seguidores en redes sociales.
"He estado leyendo los textos que publica en redes
sociales Rafael Cabaliere y no pueden ser considerados poesía, ni siquiera mala
poesía", tuitéo el día del escándalo el escritor y crítico cultural
español Jorge Carrión. Por la noche, en conversación con la nacion, sostuvo:
"Es muy extraño lo que está ocurriendo, realmente es difícil determinar si
esos versos fueron compuestos por un humano o por un algoritmo".
Carrión publicó uno de los grandes libros del año sobre el
cambio que está produciendo la pandemia en distintas esferas, Lo Viral (Galaxia
Gutemberg). En uno de sus libros de ficción, Los Huérfanos,
comentaba que "la distopía es utopía más tiempo, y me temo que la historia
de la humanidad da la razón".
Uno de los grandes cambios que le preocupan al profesor de
la Universidad Pompeu Fabra, de Barcelona, es la difusión de contenidos
culturales mediocres a escala masiva. "Vivimos en la época de mayor
alfabetización de la historia de la humanidad y, sin embargo, en la que menos
tiempo y atención dedicamos a discernir lo verdadero de lo falso", dice.
El concepto de "calidad" pasa a ser relativo: "Hay quienes
prefieren ver las series a mayor velocidad, la suficiente que les permita leer
los subtítulos, y no somos quienes para cuestionarlo, es una nueva era".
Carrión selecciona para el New York Times los mejores
"OCVI" (Objetos Culturales Vagamente Identificados) del año, que
pueden ser un podcast, una historia de Instagram, una lista de música o un
video corto de la app Tik Tok.
La mayor polución de contenidos es un fenómeno que se viene
estudiando desde hace años, mucho antes de la pandemia. Pero ahora crece en
varios órdenes de magnitud: "Bienvenidos a un nuevo nivel de bullshit'
(mierda): el algoritmo de lenguaje GPT-3 continúa nuestro descenso en un mundo
de pos-verdad", escribió días atrás Raphael Milliere (nombre muy parecido
al del poeta no-bot venezolano), investigador en el área de la filosofía de las
ciencias cognitivas en Columbia. Milliere hace alusión al impacto de un sistema
de lenguaje natural desarrollado por OpenIA (que ya abordamos en dos columnas
de Álter Eco desde su presentación en el mes de julio), más de cien veces más
poderoso que su versión anterior, GPT-2. Entre otras cosas, GPT-3 puede crear
noticias falsas muy difíciles de detectar, reescribir párrafos en el estilo y
el tono de escritores famosos y generar su propia literatura de ficción.
Hace ya 15 años se publicó un ensayo muy exitoso del
filósofo Harry Frankfurt: On Bullshit (Sobre la mierda).
"La difusión masiva de modelos de lenguaje como GPT-3 tiene el potencial
de inundar internet, incluyendo las interacciones en redes sociales, con
?ruido'. Esto va más allá de las preocupaciones por falsa propaganda. Imaginen
un mundo en el que cada comentario en Twitter o Facebook tenga una probabilidad
no trivial de haber sido escrito por un algoritmo sin consideración intrínseca
por valores humanos", dice Milliere. El científico de datos y tecnólogo
Marcelo Rinesi coincide con esta visión. "Ya veníamos en un contexto de carrera hacia el fondo en contenidos (basta pasar diez minutos en Facebook o
Twitter, o la crisis económica en el periodismo), donde producir y distribuir
contenido de calidad es cada vez más fácil, pero se compite con una masa cada
vez más grande de contenidos mediocres, con pocos actores dominantes. GPT-3
tiene poder de amplificación sobre este escenario. Si ya es complicado ser un
músico de mitad de tabla -ni estrella ni hobbista-, imagínate cuando Spotify
empiece simplemente a generar música por IA en vez de distribuir la de
otros".
La punta del iceberg
Desde distintos puntos de partida, Carrión y Rinesi son dos
de los pensadores más lúcidos y originales sobre la dinámica de cambio en 2020.
Ambos pasaron en el último mes por el ciclo Proxi: Exploraciones sobre
lo Próximo, del Instituto Baikal. Coinciden en señalar que estamos recién
viendo la punta del iceberg del fenómeno de masividad de contenidos falsos y de
bullshit en un sentido amplio.
Y, también muestran su coincidencia en otro punto
interesante: Carrión y Rinesi creen que la del Covid-19 es la crisis más
anticipable y a priori manejable de los distintos escenarios distópicos que uno
se podía imaginar. Y, aun así, la respuesta planetaria fue muy pobre.
Para su investigación de Lo Viral, el autor
español se dedicó a leer cientos de alertas anticipadas por epidemiólogos que
salieron publicadas en notas destacadas de los principales diarios del mundo
mucho antes de la pandemia. Escrito entre el 10 de marzo y el 25 de mayo, Lo
Viral toma varias de estas principales advertencias que fueron bien
obvias. "Cuando me puse a leer sobre epidemias anteriores (ébola, SIDA,
fiebre porcina, etc) me di cuenta de que había miles de personas que sabían que
esto podía pasar de un momento a otro y que hasta había una gran
película, Contagio, de Steven Soderberh, que contaba exactamente lo
que ha pasado", afirma Carrión.
Para Rinesi, de todas las crisis globales que uno podía
imaginarse, esta era la más previsible e imaginable, y la respuesta planetaria
fue muy pobre. "Lo que está saliendo bien y mal es más o menos lo mismo
que en otras crisis más lentas, como la del cambio climático: la ciencia básica
funciona bien en los dos casos, y nada de lo que estamos aprendiendo modifica
el cuadro de situación de manera drástica. E institucionalmente, los
científicos venían avisando con bastante antelación".
En ambos casos (Covid y clima), sigue Rinesi, "las
fallas vienen o por sistemas políticos permeables al lobby masivo (por ejemplo,
el de la industria petrolera), censura sistémica como reflejo (China, al
principio de la pandemia), líderes abiertamente anticientíficos (Estados
Unidos, Brasil) y limitaciones económicas y logísticas estructurales (la
Argentina)".
"También pasa que, habiendo empezado tarde y mal, se
está poniendo el foco en esfuerzos un poco heroicos de desarrollo técnico (en
este caso, las vacunas) que son admirables pero que, al mismo tiempo, hablan
muy mal de nuestra capacidad organizativa, porque con mejor infraestructura
internacional esto lo empezábamos mucho antes", marca Rinesi. "Es una
variante del solucionismo tecnológico, el reflejo de emparchar problemas
sistémicos con una idea rápida de algún billonario o startup, en
vez de coordinar respuestas estructurales".
¿Cuál es el género de esta película que se está viendo?
Según Carrión, "hemos pasado de la ciencia ficción como nuevo realismo a
la nueva normalidad como subgénero de terror".
No hay comentarios:
Publicar un comentario