Sean cuales sean los límites exactos del sistema de crédito social, este se fundamenta en un aparato de vigilancia con ramificaciones tanto de seguridad como comerciales, y que envuelve todos los aspectos de la vida. Las cámaras de videovigilancia tienen la capacidad de identificar a cualquier ciudadano en un tiempo récord. El programa de reconocimiento facial nacional recorre en 12 minutos la base de datos que incluye al conjunto de la población. Los rostros de los miembros del Falun Gong —movimiento perseguido por las autoridades— son específicamente detectados cuando se encuentran en lugares públicos concurridos, y el contenido de los mensajes que intercambian comunidades consideradas sospechosas, como los uigures, es analizado para detectar indicios de una potencial hostilidad al régimen. Una vez sistematizada, esta infraestructura “acrecentará la capacidad del Partido de moldear el comportamiento de los individuos”, de acuerdo con el principio de actuar preventivamente “a fin de evitar la aparición de cualquier problema susceptible de amenazar al régimen”, según Samantha Hoffman, investigadora del Mercator Institute for China Studies.
INTRODUCCIÓN
Todo esto ocurrió a plena luz de día, pero no quisimos mirar. Hemos tenido una historia de amor con la tecnología que nos parecía mágica. Y como ocurre con un gran truco de magia, funcionó porque iba atrayendo nuestra atención para que no nos fijáramos en lo que estaba ocurriendo. Sherry Turkle, profesora en el MIT.
Cada época tiende a desarrollar poca autoconciencia de sus propios límites. Por eso es posible que hoy la humanidad no se dé cuenta de la gravedad de los desafíos que llegan, y "que la posibilidad de hacer un mal uso de su poder sea cada vez más grande” cuando "no existen normas de libertad, sino supuestas necesidades: la utilidad y la seguridad”. Papa Francisco, cit. Romano Guardini
Tenía quince años cuando dio comienzo mi vida laboral y no fue como emprendedor ni como escritor, sino como mago. Empecé a actuar en bares y fiestas de cumpleaños para conseguir mis primeros ingresos, persiguiendo una pasión que me movía desde la infancia y que todavía conservo. Siguiendo la cita de la profesora del MIT, Sherry Turkle, una de las principales técnicas del ilusionismo consiste en desviar la atención del público, procurando que la gente sea incapaz de concentrarse en el objeto en el que debería fijar su atención. Los magos sabemos dirigir y condicionar los actos y pensamientos del público. No obstante, cuando hacemos magia, los espectadores suspenden su incredulidad y se predisponen para la ilusión. Sus elecciones son un juego estrictamente limitado al truco de magia. En la actualidad, la realidad se ve afectada por la tecnología digital de un modo similar al ilusionismo, aunque con diferencias fundamentales: no somos tan conscientes de que se nos está engañando, y el influjo de la tecnología no se limita al espectáculo o el divertimento, sino que se extiende a la vida en general, tanto a las pequeñas acciones como a las decisiones más fundamentales.
Hasta hace poco no había relacionado mi pasión por el ilusionismo y la intención de deconstruir la influencia tecnológica sobre nuestro comportamiento y nuestras vidas. Me sorprendió descubrir que otras personas que compartían esta voluntad de esclarecimiento, como Tristan Harris, fundador del movimiento Time Well Spent y del Center for Humane Technology, también eran magos. Con todo, no revelaremos aquí los grandes secretos de la magia; sus trucos nos aportan pistas, pero serían insuficientes para desmitificar la historia de amor entre los humanos y la tecnología. Las preguntas que deberíamos plantearnos seriamente son amplias. Esto nos obliga a recurrir a la información que proporcionan un vasto espectro de disciplinas, desde la filosofía hasta las neurociencias, pasando por las ciencias sociales.
El germen de este libro se remonta a la segunda mitad de los años 1990 — periodo en el que Internet comenzaba a entrar en las casas—. Entonces empecé a preguntarme en qué medida las nuevas tecnologías unían a la gente o por el contrario descomponían el vínculo social. Mi duda se intensificó a medida que la tecnología progresaba y se expandía fuera de los límites del ordenador personal para penetrar en todos los campos de nuestra existencia, entrometiéndose en cualquier experiencia humana, desde lo más íntimo, hasta lo social y lo político. Si la conclusión era que su desarrollo no era el deseable, me preguntaba hasta qué punto la humanidad sería capaz de reorientar la tecnología en una dirección más benéfica, eligiendo qué tipo de innovación queremos y bloqueando sus aplicaciones más perniciosas. Esta cuestión es más pertinente que nunca y recorrerá todo el libro.
¿El desarrollo tecnológico facilita entornos que nos hacen más libres y felices? ¿O debería preocuparnos el giro que está adoptando? Nos preguntaremos si, depositando toda nuestra confianza en la tecnología para resolver problemas individuales y colectivos, organizar nuestras vidas, acciones y pensamientos, así como nuestras relaciones con los demás y con nosotros mismos, nos sentimos más realizados o, por el contrario, entorpecemos la aspiración a la libertad y la felicidad que nos caracteriza como seres humanos. Si esta era nos incita a apoyarnos cada vez más en la máquina para llevar a cabo cualquier tarea o para aprehender la vida e interactuar con el mundo, ¿constituye esto la prolongación de lo que comúnmente llamamos progreso? ¿O acaso la naturaleza diferente de la innovación tecnológica actual encierra un riesgo de alienación que debería preocuparnos?
En 2018, el escándalo Cambridge Analytica reveló la explotación de decenas de millones de perfiles de usuarios de Facebook sin su consentimiento con el fin de construir un programa que influyera en grandes acontecimientos políticos como las elecciones presidenciales estadounidenses. Puede que estos hechos marcaran el comienzo de una era un poco más cautelosa ante la utopía tecnológica en la que estamos inmersos. Tuvieron el mérito de revelar el carácter híbrido de un importante actor tecnológico, el desprecio que muestra por los demás —por sus usuarios, pero también por los Estados— y en la distancia abismal entre su discurso benévolo, supuestamente motivado por el bien común, y sus actos, que demuestran que sus intereses comerciales prevalecen por encima de cualquier principio.
En efecto, la segunda mitad de la década de 2010 estuvo marcada por un incipiente abandono de la fascinación hacia ciertos aspectos de la innovación tecnológica. Antes se insistía en el carácter aparentemente emancipador y democrático de las redes sociales en las primaveras árabes; sin embargo, en la segunda mitad de la década, se levantó el velo acerca del papel de la tecnología y de las redes sociales en la fuerte polarización social y política de los ciudadanos o en la manipulación electoral. Ilustran bien esta bifurcación los dos últimos documentales de la directora Jehane Noujaim: The Square (2013) y The Great Hack (2019). Desde entonces, las primaveras árabes han quedado en gran parte enterradas, mientras que el control de la opinión y del pensamiento por grupos de poder económico y tecnológico sobre el resto, con el respaldo de los medios digitales, parece tener un largo futuro por delante.
No obstante, estaríamos ante una paradoja similar a la que presenta el cambio climático, con el que estableceremos numerosos paralelismos. La concienciación sobre los efectos nocivos de la contaminación no ha implicado un cambio a la altura del reto existencial al que nos enfrentamos. La percepción de lo insostenible que resulta nuestro modelo de producción y de consumo no impide que perpetuemos un inviable modo de vida a costa de los limitados recursos del planeta.
En el caso de la tecnología, cuando en 2018 el mundo "descubría” que aquel puñado de gigantes de la industria tecnológica actuaba por encima de la ley y tras escuchar cómo una comisión del Parlamento británico calificaba oficialmente a Facebook de "gángster digital”, la empresa batía récords financieros con un beneficio neto de 22.000 millones de dólares —un aumento de cerca del 40% con respecto al año anterior—; y Nick Clegg, ex vice primer ministro inglés, se convertía en vicepresidente de Asuntos Globales de la empresa.
Los escándalos ligados a los excesos de Facebook y de otros mastodontes tecnológicos presentan el riesgo de aparecer como accidentes o lamentables casos aislados, cuando en realidad son consecuencias lógicas de su modus operandi y del poder que se les ha conferido para establecer las reglas que rigen el mundo digital —y cada vez más, el mundo en general—. La omnipotencia de estas entidades constituye únicamente una dimensión —sin duda, importante— del vasto problema que abordaremos en este libro: el del desafío sin precedentes que la tecnología, tal y como se está desarrollando, representa para la humanidad. Estas páginas pretenden exponer hasta qué punto la amenaza es real.
1. ¿UN PLANTEAMIENTO TECNÓFOBO?
En teoría, estamos todos dispuestos a reconocer que la máquina está hecha para el hombre, y no el hombre para la máquina; en la práctica, cualquier esfuerzo que tenga como objetivo controlar el desarrollo de la máquina aparece como una ofensa a la ciencia, es decir como una especie de blasfemia. George Orwell
Si discernimos las consecuencias —algunas graves y dañinas— de la tecnología tal y como se desarrolla en la actualidad, algunos podrían calificarlo de manera simplista como una iniciativa tecnófoba. No siempre resulta popular cuestionar la innovación tecnológica y hacer balance general de sus perspectivas. Podríamos reponer, tal y como afirma el periodista Pierre Thiesset, que "los verdaderos tecnófilos son los críticos de la tecnología. Son aquellos que cuestionan sus límites, que se preguntan a partir de qué umbral se les escapa una técnica y cómo recuperar el control de los dispositivos que les rodean. Los que resisten a las tecnologías esclavizantes son los que desean dominar herramientas pensadas para el ser humano”.
En su relevante artículo "Por qué la tecnología no nos necesita”, publicado en la revista Wired en el año 2000, Bill Joy, cofundador y jefe científico de Sun Microsystems, expuso de una forma rigurosa y valiente los numerosos peligros que ya entonces asociaba al giro tecnológico. Y aunque pudiéramos pensar que su riquísimo pedigrí en Silicon Valley, tras una brillante etapa como investigador y una infancia de perfecto geek, le habría protegido de posibles acusaciones de tecnofobia primaria, el autor dedicó once densos párrafos a justificar que no era un ludita. Sorprende ver cómo una persona, en principio tan alejada de toda sospecha de oscurantismo tecnófobo, se siente en la obligación de defenderse de posibles recriminaciones de esta índole.
Durante los veinte años que nos separan de la publicación del artículo de Bill Joy, han terminado por admitirse múltiples aspectos nefastos de ciertas tecnologías actuales; pero al mismo tiempo, un puñado de actores ha difundido con fuerza una ideología según la cual el desarrollo tecnológico nos conduciría de forma inevitable hacia un mundo mejor, por lo que todo cuestionamiento sería, por definición, peligroso y "no constructivo”.
Esta sensación de profundo malestar por el giro tecnológico en los últimos años la comparten numerosas figuras destacadas del propio sector tecnocientífico. Ya no dudan en cuestionar en público la finalidad de las tecnologías digitales y los valores que conllevan, bien porque su utilización tiene un impacto preocupante en el plano psicológico, en el político, porque están bajo el control de entidades cuyo poder no tiene límite o, en síntesis, porque representan un peligro cada vez más evidente para el futuro de la humanidad. Es el caso de Tim Berners-Lee, creador del World Wide Web y extremadamente preocupado por el uso incontrolado de datos en el desarrollo del big data; también de los fundadores de Instagram y de WhatsApp — empresas compradas por Facebook—, que más tarde se irían dando un portazo de su nueva empresa matriz; de Jaron Lanier, otro pionero de la informática que lucha contra las consecuencias liberticidas de ciertos desarrollos digitales fundamentales; o del célebre astrofísico Stephen Hawking, cuando prevenía de que los progresos en inteligencia artificial (IA) presentarían un riesgo sin precedentes para la especie humana. Hoy en día, la principal actitud oscurantista consiste en rechazar cualquier crítica radical de la tecnología con un único argumento: que esta es tecnófoba.
No dedicaremos espacio a las innumerables vidas que la tecnología ha contribuido a salvar o mejorar. Muchos de sus beneficios son evidentes y han sido elogiados con generosidad. En la oposición entre los análisis críticos y la apología de la adopción tecnológica indiscriminada, la segunda sale muy bien parada. La ideología solucionista que defiende que todo problema humano puede ser resuelto mediante la tecnología es alimentada por la misma industria que ofrece las supuestas soluciones y que reinvierte una parte de sus ganancias sin precedentes en actividades de lobbying y legitimación. Lo hacen a menudo en contradicción con las conclusiones científicas que tenemos a nuestra disposición. Tal y como apunta el investigador en neurociencias Michel Desmurget: "En todos estos dominios, la industria dedica medios completamente exorbitantes a sesgar, falsificar y distorsionar las realidades científicas mejor establecidas que pueden perturbarles. Ahí reside, a mi parecer, una verdadera dificultad para nuestras democracias, ya que la gente no puede actuar con conocimiento de causa si no ha sido correcta y honestamente informada”. Parece legítimo que el esfuerzo intelectual contribuya a inclinar la balanza en el sentido contrario.
La IA en especial se presenta como la panacea que resolverá rompecabezas hasta ahora irresolubles, alcanzando así objetivos humanistas, dirigidos al bienestar colectivo, ya sea en términos de avances médicos, de lucha contra el cambio climático o en lacras como la pobreza. Pero la realidad es que el impacto social de un producto o servicio basado en la IA, o las cuestiones éticas que plantean su desarrollo, rara vez son cuestiones prioritarias. Detrás de la inversión en IA observamos más a menudo un afán de dominación en el ámbito económico, en el geopolítico o en el refuerzo del control de la ciudadanía.
Además, cabe insistir en que lo que está bajo escrutinio aquí no es tanto la tecnología en sí misma como (1) el principal rumbo que ha tomado su desarrollo —cuyas aplicaciones se extienden a casi todos los campos de la actividad humana— y (2) nuestra capacidad de canalizar el uso de la tecnología de tal manera que sus aplicaciones se limiten a fines benéficos antes que a los perjudiciales. Una de las tesis que defenderemos sostiene que estamos pagando un precio extremadamente elevado —que solemos subestimar seriamente— en relación con los beneficios obtenidos y esperados, siendo estos inciertos y a menudo mal orientados. También defenderemos que a menudo resulta complejo restringir la aplicación de determinadas tecnologías a fines benéficos.
En definitiva, lejos de tratarse de tecnofobia, aspiramos más bien a situarnos del lado de la tecnocrítica, cuyo enfoque deconstruye el progreso técnico como ideología. Lo haremos además desde una perspectiva radical en su sentido etimológico, una crítica "que pretende llegar hasta la raíz de los problemas”.
2. EVIDENTEMENTE, UNO SIEMPRE PONE ALGO DE SÍ MISMO EN UN LIBRO...
Por mucha objetividad a la que aspire un análisis, siempre es útil comprender los condicionantes del punto de vista desde el que observamos el mundo. Me resulta complicado competir con el currículum tecnológico de Bill Joy si tuviera que defenderme contra acusaciones de tecnofobia, pero puedo alegar que mi segunda experiencia laboral, tras la magia, me llevó a convertirme en un emprendedor del sector digital.
Lejos de los éxitos planetarios de los gigantes tecnológicos, sí he llegado a fundar webs que hoy contabilizan millones de usuarios. Estaba —y sigo estando — convencido de que era posible utilizar la tecnología para unir a las personas y encontrar soluciones que contribuyeran con modestia a la resolución de problemas ambientales y sociales. La primera empresa que ideé cuando tenía 24 años, Amovens, era en sus inicios una plataforma que permitía compartir trayectos en coche. Después se extendió a otras actividades complementarias como el alquiler de automóviles entre particulares a través de Internet y el leasing colaborativo. En 2014, la empresa fue adquirida por el líder del sector en Escandinavia, GoMore, en la que sigo implicado. Desde el principio y hasta ahora, el objetivo es facilitar que la gente use la tecnología para coordinarse, compartiendo sus coches y racionalizando el uso del vehículo individual, reduciendo su huella ambiental. Además de Amovens, he fundado y apoyado la creación de otras empresas en el sector digital y fuera de él.
Aunque la motivación parcialmente altruista de este recorrido fue —así lo espero— algo más sincera que el famoso "Save the World” de todas las start-ups de Silicon Valley, esto no evitó que tuviese que adaptarme a la realidad del mundo digital contemporáneo. Tuve que recurrir a la publicidad en línea, gestionar bases de datos de usuarios y trabajar directamente con Facebook y Google, haciendo uso de la información conductual que proporcionaban sobre los usuarios. Estas tareas me ofrecieron una perspectiva del funcionamiento de aquellas empresas muy distinta de la del usuario final. He podido observar cómo la lógica vigente en el mundo empresarial y digital tiene el poder de poner a prueba los más altos ideales en favor de imperativos de crecimiento, eficacia o, simplemente, en pagar a los empleados a final de mes.
Para terminar de indagar en las circunstancias personales que podrían orientar mi análisis, como joven padre, tengo la impresión de que los niños ofrecen infinidad de ejemplos que nos remiten a lo que podría ser la humanidad de mañana. Una humanidad juzgada tan inferior a la máquina cuando la evaluamos en términos de eficiencia; una humanidad que debería batallar para que la máquina no lo haga todo por ella —como batallan los niños frente a los adultos— y para encontrar su sitio, atribuyendo un valor intrínseco a la búsqueda de realización y autonomía.
Si la tecnología tiene por meta librarnos de todo obstáculo, incertidumbre y dificultad al precio de lo que consideramos constitutivo del ser humano — nuestra libertad, nuestra capacidad de hacer elecciones más o menos acertadas y autónomas, nuestra aspiración a mantener relaciones de todo tipo con otros seres humanos, a experimentar sentimientos profundos, a equivocarnos y a aprender de ello—, ¿querríamos imponerle algunos límites? ¿Por qué dejarnos arrastrar y ceder a la tecnología la carga de una parte cada vez más relevante de nuestra existencia?
3. UNA RESPUESTA A LA IDEOLOGÍA SOLUCIONISTA Y LA SUPUESTA NEUTRALIDAD DE LA TÉCNICA
Podríamos resumir el espíritu de nuestra época diciendo que consiste en la promesa de un mundo "más inteligente”. Esta búsqueda de un mundo inteligente que sería resultado de buscar y multiplicar lo smart —desde teléfonos a frigoríficos inteligentes o smart cities— tiene como principal propósito la búsqueda de confort, de previsibilidad, de seguridad y de entretenimiento. Aumentando nuestra capacidad de predicción y aplicándola en todos los aspectos de nuestra vida, el big data promete iluminarnos, hasta el punto de transmitirnos "la verdad”. Cuestionarla sería renunciar a la razón. Si la máquina se equivocase, sería por falta de perfeccionamiento, mera cuestión de tiempo.
Bajo el disfraz de una base puramente racional, este proyecto solucionista se basa en gran parte en la fe —en una confianza que no tiene otra base que la de querer creer en la inevitabilidad de los beneficios de la tecnificación de todo—. Trataremos de deconstruir este relato desenmascarando la visión del mundo muy particular de la que dimana. Algunos de sus rasgos principales incluyen altas dosis de positividad acrítica o la idea de que la tecnología es neutra, ni buena ni mala, y que correspondería al ser humano orientarla bien. Steve Jobs afirmaba que "los ordenadores son las bicicletas del pensamiento”, como si utilizando un ordenador no hiciésemos más que multiplicar nuestras capacidades mentales y cognitivas, sin más condiciones ni peajes. Pero ¿no resulta ilusorio considerar la tecnología como una herramienta que controlamos por completo y cuyas consecuencias dependerían exclusivamente de la determinación del individuo? En realidad, "los objetos producidos por la técnica no son neutros, porque crean un marco que termina condicionando los estilos de vida y orientan las posibilidades sociales en la línea de los intereses de determinados grupos de poder. Algunas elecciones que parecen puramente instrumentales son, en realidad, elecciones sobre el tipo de vida social que queremos desarrollar”. Defenderemos que nuestras elecciones tecnológicas no son nunca banales ya que siempre conllevan implicaciones psicológicas, sociales, políticas o económicas, aunque no las percibamos de inmediato.
Afirmar esto, y tener por objetivo desvelar las posibles lógicas de dominación o de alienación que una tecnología puede ocultar, no implica una dialéctica marxista, ni tampoco implica que exista una conspiración que haga de estas lógicas algo necesariamente premeditado. No obstante, en capítulos como el séptimo u el octavo podremos observar de qué manera un grupo muy reducido de individuos lleva a cabo una estrategia totalmente consciente con la finalidad de orientar la adopción de ciertas tecnologías en su beneficio.
4. ¿QUÉ SENTIDO TIENE PENSAR EN EL CAMBIO?
En el debate público comienzan a cuestionarse las consecuencias del desarrollo y de la adopción de ciertas tecnologías, pero son críticas insignificantes si las comparamos con su potencial impacto en la humanidad. Aunque algunos temas acaparan atención mediática, reciben un tratamiento superficial. Tal y como explica Tristan Harris, no existen apenas debates de fondo sobre la "ética de la persuasión”, que analizaremos específicamente en el tercer capítulo y que es la principal raíz del problema de control a gran escala de las opiniones a través de la tecnología. Esta vaguedad en la crítica solo puede dar lugar a medidas individuales o colectivas igual de superficiales. No se observan apenas esfuerzos para pensar de forma radicalmente transversal en el actual cambio tecnológico y en el sitio que el ser humano ocupa en esta revolución.
Por esto vale la pena cuestionar brevemente el sentido y el papel actuales que deberían desempeñar la filosofía y la ética. El filósofo belga Mark Hunyadi subraya el carácter cada vez más fragmentado de la ética actual. Las "éticas”, que florecen desde hace años en los negocios, el deporte, la robótica o en tantos otros ámbitos, adolecen de una crítica sistémica de amplio alcance y en la práctica desactivan eventuales y posteriores críticas al sistema. Los "comités de ética”, como el creado por Google tras la adquisición de la empresa de IA Deepmind, legitiman las actividades de las empresas, pero difícilmente impulsará reflexiones capaces de cuestionar las innovaciones de grandes corporaciones como Google.
El verdadero papel que debería desempeñar la ética consiste en cuestionarnos sobre nuestros valores y nuestra idea de lo deseable. La ética es un imperativo que debe servirnos como brújula individual y colectiva para determinar hacia dónde nos gustaría ir y el tipo de sociedad en la que desearíamos vivir; para "entender por qué la innovación nos lleva hacia un modo de vida que no está claro que queramos”. La reflexión ética debe tener en cuenta las posibles incidencias negativas o irreversibles que para el futuro tienen nuestras elecciones actuales.
Este ejercicio no debería ser una tarea reservada tan solo a los centros académicos ni, precisamente, a los comités de ética. Dado que la tecnología moldea lo que Mark Hunyadi llama nuestros "modos de vida” —entendido como un conjunto de expectativas de comportamiento que se imponen de forma duradera sobre los actores del sistema—, resulta fundamental que la base más amplia posible de la población sea consciente de las implicaciones que hay en la adopción de una u otra tecnología, para que pueda determinarse de la manera más democrática posible si se considera deseable y a la hora de diseñar políticas públicas.
Sería ilusorio pensar que estas decisiones son solo individuales, pues del mismo modo que existe un tabaquismo pasivo, existe un ambiente tecnicista que afecta a toda la población, independiente de las decisiones de cada uno — Facebook recopila no solo datos de sus usuarios sino también de sus no- usuarios—. Resulta imperativo que el ciudadano se pregunte cuál es el sitio que la tecnología debe ocupar en nuestra sociedad y no aceptar cualquier innovación como algo dado que debamos aceptar necesariamente. Se trata de una ardua tarea, porque en el ámbito tecnológico todo está concebido para impedir o dificultar que ejerzamos una reflexión ética sobre nuestras decisiones.
Ese bienestar aparente no favorece precisamente la concienciación sobre cuestiones existenciales e irreversibles. Algunas facetas del problema son más reconocibles —como la pérdida de la atención y de la capacidad de concentración—. En contra, otros aspectos vitales como la limitación de nuestra libertad permanecen en el plano de las ideas, más abstractos y relativos, y no se perciben tan fácilmente. Tal y como afirma el filósofo francés Bernard Stiegler, cada vez nos resulta más difícil comprender las lógicas del mundo en el que vivimos. Tomamos más decisiones condicionadas por factores que no están al alcance de nuestro entendimiento y llegamos a albergar la impresión de que el mundo en el que vivimos nos supera.
5. ¿CÓMO NUESTRA IDEA DEL SER HUMANO INCIDE EN LA REFLEXIÓN SOBRE LA TECNOLOGÍA?
Como liberal, defiendo la idea de un individuo autónomo, libre en sus decisiones y responsable de sus actos, y por lo tanto capaz de ejercer su libre albedrío. Gaspard Koenig
El liberalismo se basa en la creencia en la libertad humana. A diferencia de las ratas y de los monos, se supone a los seres humanos un "libre albedrío”. Desafortunadamente, el "libre albedrío” no es una realidad científica. Es un mito heredado de la teología cristiana. Yuval Noah Harari
La potencia y la sofisticación cada vez más elevadas de las máquinas parecen incrementar su capacidad de predecir e influir en el comportamiento humano y, a la vez, de rivalizar con habilidades hasta ahora exclusivamente humanas. Como consecuencia, la evolución tecnológica incide de lleno en cuestiones filosóficas tan fundamentales como la de la libertad y de la especificidad del ser humano. También presenta un reto para las doctrinas que se apoyan en la noción de libertad del individuo y de la sociedad.
¿QUÉ PARTE DE LIBERTAD Y DE DETERMINACIÓN HAY EN EL HOMBRE?
Uno de los propósitos de este libro consiste en analizar en qué medida la innovación tecnológica, especialmente la digital, tiende a hacernos más o menos libres. El historiador israelí Yuval Noah Harari sostiene que los conocimientos en neurociencia y en otras disciplinas evidencian que el hombre no es en absoluto sujeto de sus propias decisiones y de sus actos. Las ciencias sociales, por una parte, y las ciencias de la vida por otra, insisten en todos los factores que actúan sobre el comportamiento humano, de los que este es poco o nada consciente y sobre los que no tiene el control.
Al mismo tiempo, pensadores como Harari son los mismos que deploran distintas consecuencias liberticidas de la tecnología, como la posibilidad de que la tecnología digital permita a terceras personas hackear nuestro cerebro, en especial con fines electorales, anulando nuestra libertad. Él plantea que reconocer que somos en buena medida animales determinados es la condición previa indispensable para defender con más fuerza la recuperación del control de nuestras decisiones.
Pero si el hombre, por naturaleza, careciese de libre albedrío, si estuviera totalmente determinado, ¿tendría sentido preocuparnos por la pérdida de nuestra libertad? En esa hipótesis, la tecnología solo añadiría una capa extra de determinismo y la noción de libertad sería ilusoria. Resulta ingenuo pensar que el libre albedrío constituye una facultad absoluta, pero identificar los condicionantes exteriores a nuestra conciencia, en la línea que apuntaba Harari, constituye una de las etapas para pensar y actuar. La libertad —que difícilmente es total— concede unos márgenes, y puede ganarse, perderse o recuperarse. Por esta razón nos interesa entender cómo los recursos cada vez más sofisticados de la tecnología digital y de la neurociencia pueden condicionar nuestro pensamiento.
¿TIENE EL SER HUMANO UN LUGAR ÚNICO ENTRE LOS VIVOS?
La cuestión de la especificidad del ser humano dentro del mundo, ligada a la idea del libre albedrío, se apoya también en una creencia metafísica o religiosa. ¿No somos más que un animal entre otros, un organismo convertido en amo del mundo por pura casualidad —tal y como sostiene Harari en Sapiens —? ¿O debemos considerarnos seres especiales, dotados de una conciencia y capaces de pensar de forma autónoma? A medida que la IA y los robots parecen capaces de mejorar o reemplazar las habilidades humanas, desafían la idea de la centralidad del ser humano en el mundo. Por otro lado, la tentación transhumanista, cuyo propósito es que, en una o dos generaciones —sorteando un arco evolutivo de miles de generaciones—, hagamos bricolaje con nuestro cuerpo y nuestro cerebro a través de biotecnologías, también pone en entredicho la idea de la integridad del ser humano.
Las tesis defendidas en este libro son favorables a la idea de que el ser humano tiene una naturaleza singular, que debemos intentar preservar. Implica una cierta dosis de modestia respecto a la naturaleza de la que somos fruto, independientemente de concepciones espiritualistas o religiosas; también es una invitación a la prudencia ante la posibilidad de jugar con nuestra propia naturaleza, fruto de una larga y compleja evolución. Subyace la idea de una frontera ontológica insuperable entre el humano y la máquina, sean cuales sean sus habilidades.
EL LIBERALISMO, A PRUEBA DEL CONTEXTO TECNOLÓGICO
El contexto tecnológico sin duda pondrá a prueba las libertades de cada uno de nosotros, y también la libertad en un sentido generacional. En consecuencia, debería matizarse la visión liberal que, en un sentido amplio, defiende como una de las principales aspiraciones políticas la maximización de la libertad de los ciudadanos.
Si estableciésemos con un significativo grado de probabilidad que un tipo de innovación tecnológica, aparentemente limitada a una cuestión de elección personal, podría llevarnos a una forma de sumisión o degradación colectiva y generalizada, ¿sería legítimo prohibir su uso en la esfera privada, del mismo modo que hoy prohibimos algunos pesticidas o las drogas?
Del mismo modo, si la tecnología nos empodera de tal manera que la acción de un único individuo o de un grupo repercute negativamente en el resto de la humanidad —hasta su destrucción—, ¿sería inevitable que las sociedades liberales se vieran obligadas a aceptar un alto grado de vigilancia —de una forma comparable a la crisis de la COVID-19—?
A medida que se desarrollan herramientas de vigilancia cada vez más intrusivas, la ética y el pensamiento liberal deberán acotar lo que es susceptible de vigilancia y lo que debe quedar fuera del campo de control de los Estados y otras entidades.
6. LA AMBICIÓN DE ESTE LIBRO
En la relación entre humanidad y tecnología no estamos ante una especie de fenómeno meteorológico al que no tendríamos más remedio que someternos. Si pensáramos que el cambio tecnológico es totalmente independiente de la voluntad de las personas y que no existe margen de maniobra posible, escribir este libro no tendría sentido. Así, el lugar reservado para el optimismo en estas páginas es tan moderado como necesario: lo que determinará su grado será, por encima de todo, nuestra propia capacidad para alentar el pensamiento crítico frente al reto tecnológico, a pesar de los intentos por anestesiarlo.
En el primer capítulo, "Enganchados”, analizaremos la naturaleza de la hiperconexión y presentaremos la teoría de los tres estados de la tecnología — sólida, líquida y gaseosa—, ilustrando de qué manera la tecnología digital se hace cada vez más invasiva y genera una dependencia que minimiza el sistema crítico del ser humano. En el segundo capítulo, "Modificados”, repasaremos cinco maneras en las que la tecnología digital ha impactado en nuestro comportamiento y las relaciones sociales. Materia del tercer capítulo, "Encerrados”, serán los mecanismos de influencia y de manipulación presentes en el entorno digital. Otra forma en la que nuestra libertad se ve afectada en el entorno tecnológico tiene que ver con la infraestructura de vigilancia que los Estados y las entidades privadas utilizan para controlar nuestros comportamientos, y a ello dedicaremos el cuarto capítulo, "Vigilados”. En el siguiente, "Desorientados”, nos preguntaremos por qué la búsqueda de la verdad se ve dificultada en un entorno tan propicio para las fake news. El sexto capítulo, "Obsoletos”, propone una reflexión sobre la finalidad que se esconde detrás de la optimización ilimitada hacia la que nos empuja la tecnología, cuestionando cuál es el lugar del ser humano. En el séptimo capítulo, "Adoctrinados”, haremos una incursión en la ideología solucionista que emana de los principales centros de producción tecnológica. "Zuckerbizados”, el octavo capítulo, aborda la cuestión de la actual oligarquía digital: recordaremos cómo hemos llegado a un sistema dominado a nivel global por tan pocas empresas gobernadas por un puñado de individuos. En el penúltimo capítulo, "Eliminados”, anticiparemos varios escenarios realistas en los que la utilización malevolente de la tecnología digital, la posible pérdida de control o una dependencia extrema, podrían causar la destrucción de la civilización humana.
El último capítulo, "Retomar el control”, lo reservamos para formular posibles soluciones, en las que deberíamos trabajar individual y colectivamente, enfrentándonos al enorme reto que supone el sistema tecnológico para la supervivencia y libertad de la humanidad.
Trataremos de resaltar la relación sistémica entre los diversos problemas que abordamos en cada epígrafe, así como las consecuencias a veces inesperadas que algunas de nuestras elecciones pueden producir sobre nuestro futuro a corto y largo plazo.
La concienciación que se pretende también implica transmitir al lector que nos encontramos en un punto de inflexión histórico en el que todavía podemos esperar cierto margen de maniobra para forjar parte de nuestro futuro.
Jonathan Haidt, profesor de Psicología Social y de Ética en la Universidad de Nueva York, cuenta un viejo chiste para describir el momento en el que podríamos encontrarnos: alguien llama por teléfono a un optimista que se ha caído del tejado del Empire State Building para preguntarle cómo va. "Hasta ahora, todo bien”, responde el optimista mientras está cayendo. Es muy probable que, hasta ahora, como afirma Haidt, los miles de millones de pequeños efectos positivos que resultan de la mayor interconexión humana a través de la tecnología sigan inclinando la balanza hacia el lado positivo en su conjunto; ni los efectos más nefastos del cambio climático ni los ligados al desarrollo tecnológico son todavía realmente percibidos por el ser humano.
ENCONTRAR AL NIÑO INDONESIO QUE PODRÍA HACERNOS REACCIONAR
A pesar de los informes cada vez más alarmantes del Grupo Intergubernamental de Expertos sobre la Evolución del Clima (GIEC), que nos recuerdan que chocaremos directamente contra el muro del cambio climático, a los gobiernos les cuesta mucho tomar las medidas necesarias para combatir un desastre cada vez más próximo. Nuestros esfuerzos individuales también son muy escasos si los comparamos con la gravedad de la situación. Nuestra falta de respuesta individual y colectiva se explica en parte por una paradoja: ya estamos (casi) todos convencidos de la gravedad del calentamiento global, pero no persuadidos. Nuestro terreno racional sostiene la causa, pero no nuestro terreno emocional profundo. Para la mayoría de nosotros, en materia climática, nada nos ha afectado todavía personalmente y de manera insoportable, y por desgracia, parece que la persuasión emocional es más efectiva que la convicción racional a la hora de movilizarnos.
En cuanto al reto digital, estamos lejos de consensuar que nos encontramos ante un problema de una dimensión, como mínimo, tan grave como el medioambiental —en este libro nos esforzaremos por convencer de que así es. Pero nuestro terreno emocional —ese que podría impulsarnos a tomar conciencia de la amenaza— permanece aún más virgen, ya que son relativamente pocas —de momento— las personas que se han visto concernidas y han sentido en lo más profundo un peligro o una injusticia.
Durante los años en que Edward Snowden colaboraba como consultor en el desarrollo de un sistema de vigilancia global para la Agencia de Seguridad Nacional —NSA—, fue testigo directo de la deriva de la agencia respecto a la privacidad e intimidad de los ciudadanos. Él mismo participó en la construcción de una infraestructura que permitía escrutar prácticamente toda actividad humana a escala mundial. Snowden era consciente del peligro de estas prácticas, y sabía que no cumplían con los estatutos de su propia agencia, ni con ninguna otra norma ética. Aunque conocía y participaba de este hecho, necesitó un detonante emocional que le llevara a dar el siguiente paso y convertirse en el denunciante más importante del planeta.
Un día, mientras trabajaba, Snowden visualizó en una pantalla, en directo, a un niño indonesio sentado en las rodillas de su padre, jugando a un juego en su ordenador, mientras su propia cámara les grababa sin razón aparente. Ese momento de intimidad familiar que un padre y un hijo comparten arrastró a Snowden a su propia infancia. Se identificó con aquel niño. Captando ese instante, en apariencia anodino, que debería ser inviolable, Snowden sintió un inmenso rechazo y desencadenó todos los acontecimientos que siguieron, que ya conocemos y que lo llevaron a huir, a exiliarse y a renunciar a todo lo que tenía para denunciar un espantoso sistema que busca tener a la humanidad bajo control.
Seguramente como a Snowden, a todos nos hacen falta esos momentos o esas imágenes que nos llevan a sentir en lo más profundo de nuestro ser un miedo intenso, una injusticia flagrante o el peligro que podría correr un ser vulnerable, para apropiarnos de lo que nuestra razón tal vez nos había advertido ya. El problema es que estas imágenes suelen aparecer cuando ya es demasiado tarde, cuando comprendemos que deberíamos haber actuado antes. Solo cabe esperar que seamos capaces de reaccionar combinando una serie de evidencias y de argumentos racionales, como los que tratamos de ofrecer en estas páginas, junto con algún acontecimiento que verdaderamente nos afecte y que, puestos a pedir, no resulte irreversible.
Índice
INTRODUCCIÓN
CAPÍTULO 1. ENGANCHADOS. LA DESAPARICIÓN DEL BOTÓN OFF Y EL DESAFÍO DE PONER DISTANCIA
CAPÍTULO 2. MODIFICADOS. CINCO CONSECUENCIAS DE LA TECNOLOGÍA DIGITAL EN LOS COMPORTAMIENTOS Y LAS ESTRUCTURAS SOCIALES
CAPÍTULO 3. ENCERRADOS. INFLUENCIADOS Y ANTE FALSAS OPCIONES
CAPÍTULO 4. VIGILADOS. VIGILAR Y PREVENIR
CAPÍTULO 5. DESORIENTADOS. LA PÉRDIDA DE REFENRENCIAS Y LA DIFÍCIL BÚSQUEDA DE LA VERDA
CAPÍTULO 6. ¿OBSOLETOS? LA PESADILLA DEL HOMO REDUCTUS
CAPÍTULO 7. ADOCTRINADOS. LA IDEOLOGÍA SOLUCIONISTA Y EL SUEÑO DE UN HOMO DEUS
CAPÍTULO 8. "ZUCKED". NUESTRAS VIDAS EN MANOS DE UN PUÑADO DE PERSONAS
CAPÍTULO 9. ELIMINADOS. LOS PELIGROS EXISTENCIALES QUE PLANTEA LA TECNOLOGÍA
CAPÍTULO 10. RETOMAR EL CONTROL. UTILICEMOS LA TECNOLOGÍA SIN QUE ELLA NOS UTILICE A NOSOTROS
CONCLUSIÓN
AGRADECIMIENTOS
BIBLIOGRAFÍA
NOTAS