El Apocalipsis tecnológico, según Jaron Lanier

En el mundo hay un sentimiento de que nada es más importante que la web. Y nadie es responsable de la información que allí circula. Pero la sociedad se puede volver razonable ante la avalancha, advierte Lanier.

Algunos capítulos de la reveladora serie de ciencia ficción Black Mirror, sobre el devenir tecnológico, no serían ni tan ficción ni tan lejanos cuando escuchamos al padre de la inteligencia artificial, Jaron Lanier, hablar sobre el apocalipsis tecnológico. El ‘apocalipsis de Lanier‘ no es solo una perspectiva pesimista de la tecnología, se aproxima a una visión ética del uso responsable del internet y los datos que allí se hospedan. Esto obligaría a las grandes empresas a pagar lo justo (no solo monetariamente hablando) por el uso del bigdata.

En el capítulo ‘Be right back’ de la afamada serie Black Mirror, se demuestra cómo las marcas pueden diseñar perfiles completos con la información que voluntariamente brindamos al ‘aceptar las condiciones‘ de cada aplicación que descargamos en nuestros dispositivos móviles. Allí se puede ver la cantidad de información que reposa sobre nosotros en nuestra huella digital (nuestro comportamiento online).

En el capítulo, al morir el protagonista, la esposa lo revive simulando su voz, sus respuestas, sus intereses, sus gustos y hasta sus acciones mediante la información almacenada en su celular. Una especie de ‘resurrección virtual‘ basada en algoritmos. Este y otros episodios no serían solo ficción si comparamos con los argumentos de Lanier. 

Sobre los algoritmos, por ejemplo, dice que las buenas acciones quedan sin efecto a causa de estos. Cita el caso del movimiento ‘Black Life Matters’ en donde la data referente al tema, por errores algorítmicos, se asoció al Ku Klux Klan o corrientes neonazis. Además, los algoritmos castigan a los usuarios, porque estos identifican los cambios de comportamiento y la consecuencia es que los obligan a actuar en base estos, generando miedo y paranoia, afirma.

Silicon Valley contra los usuarios
“We screw up (nos equivocamos)», dice Lanier, en referencia a la comunidad de científicos de Silicon Valley, de la cual forma parte. Él asegura que hay muchos factores producto del desarrollo tecnológico, más allá del mal manejo de las redes sociales, que pueden afectar el desarrollo social. Cuando se creó internet, se entendía como una herramienta democratizadora; ahora, son monopolios y hay pocos beneficiarios de esa acumulación de poder. Los usuarios evidentemente están lejos de este beneficio e incluso algunas profesiones serían aniquiladas, afirma.

Según Lanier, los usuarios son víctimas del engagement y la persuasión programada. El primero, implica más y más participación de los usuarios, lo que genera una adicción o modificación en los patrones de comportamiento. La persuasión, por su parte, implica maneras simbólicas de crear ‘castigos‘ a través de algoritmos, como los likes o la invisibilidad si no hay tanta participación en las cuentas de redes sociales, por ejemplo.

La solución del científico
Este científico y escritor del libro ¿Quién controla el futuro? (Who owns the future), plantea una solución: en lugar de regular el contenido y la privacidad, propone crear MIDs (Mediators of Individual Data). Estos serían una suerte de mediadores de contenido que pueden determinar la validez justa por dato. Esta sería la parte de responsabilidad que ahora no existe y que aportaría a combatir las noticias falsas, por ejemplo. Según Lanier, esto no destruye la libertad de expresión, por el contrario, asegura la necesidad de una legislación que garantice las libertades pero que obligue a mediar el contenido. Niega además que con esto se destruya Google o Facebook, pero pone a los gobiernos como entidades responsables de controlar que nadie pueda “negociar” con los MIDs. En especial, los monstruos del Internet.