2. Minuto 2
«Imaginemos a un joven gay de una devota familia mormona que, después de años viviendo dentro del armario, finalmente ha acumulado el dinero suficiente para costearse una operación. Se dirige a la clínica provisto de 100.000 dólares, decidido a salir de ella tan heterosexual como Joseph Smith. De pie frente a la puerta de la clínica, repite mentalmente lo que le dirá al médico: “Doctor, aquí tiene usted 100.000 dólares. Por favor, arrégleme para que nunca más desee a hombres”. Pulsa el timbre y abre la puerta George Clooney en persona. “Doctor --murmura el abrumado chico--, aquí tiene 100.000 dólares. Por favor, arrégleme para que nunca más desee ser heterosexual”» (pp. 333-334).
«En el siglo XXI tres acontecimientos prácticos pueden hacer que esta creencia haya quedado obsoleta: 1. Los humanos perderán su utilidad económica y militar, de ahí que el sistema económico y político deje de atribuirles mucho valor 2. El sistema seguirá encontrando valor en los humanos colectivamente, pero no en los individuos. 3. El sistema seguirá encontrando valor en algunos individuos, pero estos serán una nueva élite de superhumanos mejorados y no la masa de la población» (p. 280). O dicho de otra manera: que es posible que nos estemos abocando hacia un momento en el que los humanos, el Humanismo como discurso, correrán el peligro de perder su valor porque la inteligencia se haya desconectando de la conciencia. Es evidente que los robots y algoritmos no son en absoluto conscientes de la clase de artilugio que son, ni siquiera sospechan que han sido fabricados; sin embargo Harari cree que, en su perfeccionamiento exponencial, podrían llegar a superar a la conciencia en el reconocimiento de pautas o patrones. La (auto)consciencia --en contra de lo que hemos creído-- no posee la exclusiva para determinadas funciones superiores, sino que las inferiores, con un entrenamiento sistemático e infinitamente superior al que podría acumular cualquier ser humano, podrían hacerlo también. Cuando eso pase, las personas no nos autopercibiremos como seres autónomos que guiamos nuestras vidas de acuerdo con nuestros deseos superiores, sino como una colección de mecanismos bioquímicos constantemente supervisados, modelados y guiados por una inmensa red de algoritmos electrónicos.
Lo que amenaza la tecnología hoy día no es tanto idiotizarnos o aislarnos, sino el propio concepto de ser humano autónomo igual en derechos a su semejante: «Dividir a la humanidad en castas biológicas destruirá los cimientos de la ideología liberal. El liberalismo puede coexistir con brechas socioeconómicas. En realidad, puesto que favorece la libertad más que la igualdad, da por sentadas dichas brechas. Sin embargo, el liberalismo todavía presupone que todos los seres humanos tienen igual valor e igual autoridad. Desde una perspectiva liberal, es perfectamente correcto que una persona sea multimillonaria y viva en un lujoso castillo mientras que otra sea campesina, pobre y viva en una choza de paja. Porque, según el liberalismo, las experiencias únicas del campesino siguen siendo tan valiosas como las del multimillonario. Esta es la razón por la que los autores liberales escriben extensas novelas sobre las experiencias de los campesinos pobres» (p. 316-320).
Y de las cenizas del Humanismo surgirá el Tecnohumanismo, que dejará atrás al Homo sapiens tal como lo conocemos y utilizará la tecnología para crear Homo Deus, un modelo humano muy superior. Homo Deus conservará algunos rasgos humanos esenciales, pero también se habrá dotado de capacidades físicas y mentales mejoradas que le permitirán seguir siendo autónomo incluso frente a los algoritmos no conscientes más sofisticados. El Tecnohumanismo busca mejorar la mente humana y darnos acceso a experiencias desconocidas, a estados de conciencia con los que no estamos familiarizados. De la misma manera que los espectros de la luz y del sonido son mucho mayores de lo que los humanos podemos ver y oír, esta nueva ideología ampliará el espectro de los estados mentales más allá de lo que hoy podemos imaginar como meros Homo Sapiens.
El Humanismo siempre dejó bien claro que no es fácil identificar nuestra auténtica voluntad, que hay muchos ruidos que nos impiden escuchar nuestra auténtica voz; el Tecnohumanismo, en cambio, espera que nuestros deseos elijan qué capacidades mentales desarrollar y, por lo tanto, que determinen la forma de las mentes futuras. En realidad, no quiere escuchar esas voces interiores que nos despistan, nos hacen dudar y equivocarnos, sino controlarlas. Cuando comprendamos los fundamentos últimos del sistema bioquímico que produce todas estas voces, podremos jugar con los interruptores, aumentar el volumen aquí, reducirlo allí, y hacer que la vida sea mucho más fácil y cómoda (pp. 331-333). Para el humanismo, solo los deseos humanos imbuyen de sentido al mundo; pero si pudiéramos elegir nuestros deseos, ¿sobre qué base tomaríamos decisiones?
A partir de aquí Harari se mete en el terreno puramente especulativo: mientras sigamos creyendo que la voluntad y la experiencia humanas son el origen supremo de la autoridad y el sentido no se producirá verdaderamente el cambio al paradigma tecnohumanista. Y, visto nuestro conocimiento embrionario actual acerca de los entresijos del cerebro humano, sólo existe una herramienta capaz de emular esa sustitución de deseos y voluntades: la información y la religión del dataísmo. Mientras descubrimos cómo funcionan los algoritmos bioquímicos humanos, los electrónicos (que manejan la información que usamos, ya sea como mero contenido o como decisiones) servirán para saber cómo es el primer eslabón de la actividad intelectual. Los algoritmos electrónicos sin conciencia son los instrumentos mejor cualificados para hacer frente al aluvión de información que nos desborda por todas partes, los únicos capaces de hacer acopio masivo de datos sobre nuestros deseos y capacidades, permitiéndonos, llegado el momento, tomar decisiones por nosotros. La democracia, por ejemplo, no pueden recopilar y procesar datos relevantes con la suficiente rapidez como para hacer frente a cambios urgentes o importantes, ya sean sobrevenidos o no; en cambio los algoritmos electrónicos --y más adelante los biológicos, ya sean artificiales o modificados-- sí podrán hacerlo, proporcionándonos decisiones y opiniones pertinentes. «50 millones de coches colectivos podrían sustituir a 1.000 millones de coches particulares, y también necesitaríamos menos carreteras, puentes, túneles y aparcamientos. Siempre, claro está, que yo renuncie a mi privacidad y permita que los algoritmos sepan siempre dónde estoy y adónde quiero ir» (p. 352). Bienintencionados objetivos sobre el papel como éste, se convierten en algo muy peligroso en manos de políticos y burócratas mediocres, puesto que supone sustituir nuestras nociones --hoy sagradas-- de conciencia, sentimientos, deseos íntimos, libre albedrío... Una revolución del relato intersubjetivo en toda regla.
¿Qué ocurrirá cuando nos demos cuenta de que clientes y votantes nunca toman decisiones libres y, a la vez, dispongamos de tecnología capaz de calcular, diseñar o mejorar sus sentimientos? (p. 254). ¿Qué pasará cuando los algoritmos biológicos y los electrónicos amenacen con hacer a Homo Sapiens lo que hizo a todos los demás animales? (p. 360). La imagen inevitable es la de una sociedad en la que el ser humano está subordinado a las máquinas (que decidirán por él a cambio de controlar sus parámetros vitales con la excusa de la seguridad y el bienestar plenos y garantizados). Este paisaje distópico queda bastante cerca de lo que auguraban películas como Terminator (1984) o Matrix (1999), pero aquí no se trata de recuperar la esencia de ciertos matices del discurso humanista del pasado ni de disputar el control a las máquinas a base de descargas hormonales y amores sinceros, sino de encontrar un Poshumanismo capaz de corregir --aunque sea parcialmente- los terribles efectos del desarrollo científico y técnico entre los grupos humanos.
Leyendo los primeros capítulos de Homo Deus pensé que el propósito de Harari era exponer una teoría que superaría el colapso inminente del Humanismo, sobre cómo es imposible que nuestra civilización occidental siga avanzando tecnológica y socialmente tal como lo usamos ahora. Y que, a cambio, para lograrlo, debíamos desprendernos de algunos lastres enquistados debido precisamente al prolongado uso que hemos hecho del Humanismo. Pero no es así, Harari cree en un Poshumanismo que vendría a ser la extensión farmacológica del placer, una prolongación médica y artificial de la vida... Y todo para acabar con una amarga crítica al dataísmo, la religión de los algoritmos.
Desde mi punto de vista, el verdadero valor del libro de Harari, es cómo presenta razonadamente la gran paradoja del Humanismo: dio lugar a una revolución científica y tecnológica y ahora se resquebraja y entra en contradicción ante el mismo desarrollo que contribuyó a aupar. Para acabar de complicar la cosa, por culpa de esa misma creencia ciega en la sacralidad de la vida humana que nos inculca el Humanismo, mantenemos a personas con vida aunque en un estado lamentable hasta que mueren por sus propios medios, pero con la conciencia tranquila de haber hecho todo lo «humanamente» posible por mantenerlo vivo. ¿Estamos seguros de que esa vida sostenida a toda costa implica un bienestar biológico y mental? Es más, ahora que vemos como una posibilidad real que las máquinas nos dominen, nos planteamos si estamos legitimados para dominar e infligir daño a los seres que hemos considerado inferiores desde el Paleolítico: los animales. Harari se pregunta, como si fuera un silogismo, si acaso el poder produce el derecho (p. 96).
No creo que los algoritmos por sí solos sean capaces de acabar con el Humanismo, al contrario: nuestra inagotable capacidad para el subjetivismo nos llevarán «humanizarlo» más aún, a considerar los algoritmos como una especie de conciencia en la que detectar propósitos, deseos, preferencias... A tomarlos, en definitiva, como Otra Humanidad cuya humanidad --conciencia, libre albedrío-- sólo podemos intuir. Es como esa gente que se empeña en tratar a los perros como bebés o personitas, cuando lo cierto es que son animales incapaces de comportarse tal como sus dueños les tratan. El resultado de esta actitud la podemos observar en cualquier parte donde haya amos y perros, y se parece más a un desastre que a un triunfo: gente infeliz, al borde de la histeria y haciendo las delicias de toda clase de gurús, supuestos expertos y encantadores de perros de toda clase. Si no somos capaces --literalmente-- de comprender que un perro es un animal y como tal hay que tratarlo, cómo vamos a manejarnos con algoritmos, de los que únicamente vemos sus resultados. Si ya hay quien cree ver en ellos, a pesar de sus evidentes limitaciones, una embrionaria instancia humana... Puede que, como dice Harari, como humanos hechos de carbono que somos, por una limitación biológica inapelable, no podamos detectar la clase de conciencia que emanan los ordenadores, hechos de silicio (p. 112). O puede que, el mismo día que demos con la clave para revertir la invisibilidad de la materia oscura esa que al parecer llena el universo pero no la vemos ni a la de tres, entendamos que cada mineral genera su propia conciencia al evolucionar, que entendamos, por fin, qué es la conciencia artificial... hecha de silicio.
No descartemos un futuro próximo en el que los humanos hagan frente a este apogeo de algoritmos dataístas, y que lo hagan con lo único que no podemos enseñar ni transmitir: cambiar de opinión sin motivo; que surjan sectas secretas --al estilo de los cátaros-- que dediquen sus vidas a despistar a los algoritmos, a impedir que las máquinas que nos conozcan a base de elecciones imprevisibles, inmotivadas, caprichosas. Y que, precisamente como resultado de esa incapacidad de ser reconocibles en un patrón previsible, seamos más humanos que nunca, obligando a los algoritmos a equivocarse, a colapsar, a revelar quizá la verdadera naturaleza artificial (fabricada por humanos) que les impusimos hace tiempo. Una secta que se podría autodenominar «azaristas» (que cultivan sistemáticamente el azar), personas anónimas, como las que aprendían libros de memoria en Fahrenheit 451, dedicadas por completo a la sagrada labor de no dejarse pautar por los algoritmos: votando partidos en los que no creen, tomando decisiones perjudiciales para sus economías domésticas, para sus trabajos, para sus relaciones; invirtiendo a sabiendas en negocios ruinosos, comprando lo que no les gusta o no pueden pagar, emparejándose con personas que odian o les repulsan... Una especie de movimiento tecnonihilista, un neonihilismo como el que practicaron los rusos. Da para una novela distópica digna de la mejor ciencia ficción. Y así seguiremos pasando la vida...