Revista Cine

La humanidad deshumanizada: ¿Inteligencia? Artificial

Publicado el 27 marzo 2020 por Enprimera
La crisis del coronavirus supone, no solo una grave pandemia que los investigadores no han sabido predecir y para la que los gobiernos no han sabido estar preparados, sino también un rápido adelanto de las características que nuestra sociedad planteaba como futuro pero que ahora se han convertido en presente. El teletrabajo, el aislamiento social, la soledad de individuos encerrados en sus propias casas, se planteaban como un futuro distópico que autores de ciencia-ficción como Isaac Asimov, Philip K. Dick, J.G. Ballard o E.M. Forster ya habían predicho en sus relatos.

Nuestra sociedad está experimentando estos días una suerte de ensayo de lo que nos llegará en el futuro. Pero documentales como Google and the world brain (Ben Lewis, 2013), The great hack (Karim Amer, Jehane Noujaim, 2019)  o iHuman (Tonje Hessen Schei, 2019) ya nos hablan de esta realidad, mucho más presente de lo que pudiera parecer. Y de las estrategias de compañías millonarias y gobiernos férreos para recopilar el mayor número de datos sobre la población con el objeto de tener un control mayor sobre sus ciudadanos. China utilizó sus recursos de metadatos para controlar la epidemia del coronavirus, otorgando a los ciudadanos diferentes colores a través de una APP diseñada por el gigante tecnológico Alibaba, según la posibilidad de contraer el virus: verde para los ciudadanos sanos que podían moverse con libertad; amarillo para quien había estado cerca de zonas infectadas, obligados a permanecer 7 días en cuarentena; y rojo para quienes hubieran tenido un contacto más cercano con personas enfermas o zonas altamente afectadas por la epidemia, que debían hacer una cuarentena forzosa de 14 días. Otra APP monitorizaba, en muchos casos de forma obligatoria, a los ciudadanos para saber qué grado de afección podrían tener en virtud de sus movimientos. China ha conseguido, al parecer, controlar la extensión del coronavirus en su territorio, y sus ciudadanos, ya acostumbrados a un control férreo por parte de las autoridades, han tomado con buena disposición esta recopilación de datos que en países democráticos sería considerado una violación de los derechos humanos. El problema se plantea cuando la permanencia de estos big data no es una información que se autodestruye, sino que permanece indefinidamente en manos de quienes lo han recopilado. O lo que es lo mismo, en China se ha controlado la enfermedad a costa de perder, aún más si cabe, el derecho a la privacidad. En 2017, el analista David Carroll solicitó a Cambridge Analytica un DSAR (Data Subject Access Request) que, ante la respuesta vaga de la compañía, desembocó en una batalla legal que finalmente no tuvo respuesta, tras la declaración de bancarrota de la compañía ante el escándalo de la utilización de millones de datos personales en favor de la campaña presidencial de 2016.En el documental Google and the world of brain (Ben Lewis, 2013) se plantea cómo la empresa Google decidió hace unos años escanear el mayor número posible de publicaciones (libros, revistas, periódicos...) para construir una supuesta gran biblioteca virtual en la que se podrían encontrar todas las obras escritas a lo largo de la historia en el mundo. Para ello, contó con la colaboración de algunas de las bibliotecas más prestigiosas de Estados Unidos y Europa, aunque en el viejo continente comenzó a encontrarse con dudas sobre las verdaderas intenciones del gigante tecnológico y con serios conflictos con los derechos de autor. Porque, finalmente, Google no estaba diseñando una "biblioteca" virtual, sino una "librería" virtual, otorgándose a sí misma el derecho a cobrar por la consulta o lectura de las publicaciones que había estado escaneando, y que muchas de ellas, una vez desaparecidas físicamente, estarían en exclusiva en poder de Google. 


La humanidad deshumanizada: ¿Inteligencia? Artificial

Se trata de una tergiversación maquiavélica y mercantilista de lo que H.G. Wells desgranaba en su artículo World brain, que publicó en la Encyclopédie Française en 1937, apostando por una gran enciclopedia mundial permanente como una "síntesis mundial de bibliografía y documentación con los archivos indexados del mundo". Pero esto no es nuevo. Recordemos que los coches de la compañía Mountain View que trabajaban para Google en la captación de fotografías de las ciudades para la tecnología de Street View, tenían una segunda función: recopilar datos de redes wifi privadas que estaban situadas en las zonas por las que pasaban los coches. Google afirmó que esta recopilación de datos fraudulenta fue un error, pero tuvo que pagar 5,3 millones de dólares como indemnización en Estados Unidos, y algunas otras multas en diferentes países de Europa. Sin embargo, aunque desde Google se afirmaba que estos datos nunca serían utilizados, lo cierto es que, como suele suceder, poca fiabilidad tienen las intenciones públicas de una compañía como ésta.

Megadatos y geolocalización: Armas de manipulación masiva Ese futuro controlado por la Inteligencia Artificial, en el que el ser humano cada vez juega un papel menos importante, también está planteado en el documental iHuman (Tonje Hessen Schei, 2019). La directora noruega ya se había acercado al peligro de las tecnologías en su anterior película, Drone (Tonje Hessen Schei, 2014), que analizaba la guerra de drones mantenida por la CIA en los países árabes. En iHuman, por su parte, se habla también de la recopilación de datos, los megadatos, del comercio de éstos, de la proliferación de robots capaces de desarrollar actividades humanas, y de este proceso de tecnificación de una sociedad que se deshumaniza por momentos.


La humanidad deshumanizada: ¿Inteligencia? Artificial

Lo interesante de este documental es la presencia de entrevistados de alto calibre, como el alemán Jürgen Schmidhuber, uno de los padres de la Inteligencia Artificial, o Ilya Sutskever, experto en IA que abandonó Google para fundar la empresa OpenAI, que el año pasado desarrolló un par de redes neuronales entrenadas para resolver un cubo de Rubik. Por su parte, en octubre, la Universidad Northwestern en Illinois, presentó una impresora 3D capaz de reproducir un objeto del tamaño de un ser humano sin perder calidad ni resolución. Si combinamos estos dos hallazgos, por ejemplo, ya tenemos a un humanoide que podría resolver complejas pruebas mentales. 

Algunos de estos científicos muestran también, en iHuman (Tonje Hessen Schei, 2019), los peligros que este desarrollo de la tecnología puede implicar en cuanto al control de seres humanos. El psicólogo Michal Kosinski, que desarrolla estudios en los que demuestra que los ordenadores pueden deducir por los rasgos fisiológicos de una persona cuales son sus creencias religiosas, sus ideas políticas o su condición sexual, se convirtió sin pretenderlo en el precursor de la manipulación que llevó a cabo la empresa Cambridge Analytica durante las elecciones de 2016 en Estados Unidos. 

Como se explica con claridad en el documental The great hack (Karim Amer, Jehane Noujaim, 2019), la empresa radicada en Londres utilizaba datos personales de millones de usuarios de Facebook para enfocar campañas publicitarias que trataban de derivar las decisiones de estos usuarios, especialmente de aquellos que se mostraban más indecisos. Así, la empresa se anunciaba de cara a sus clientes como capaz de "cambiar el comportamiento" de miles de personas. Y su participación parecer haber sido decisiva durante el año 2016 en la victoria de Donald Trump en las elecciones presidenciales y en la decisión de los británicos a favor del brexit en el referéndum de junio de ese mismo año. 
La humanidad deshumanizada: ¿Inteligencia? Artificial

Como se demostraría en las investigaciones iniciadas tras la denuncia de algunos ex-trabajadores de Cambridge Analytica, la empresa de Mark Zuckenberg no solo no impidió esta recopilación de datos fraudulenta, sino que participó como cómplice. Durante una investigación con cámara oculta por parte de un periodista de Channel 4, el CEO de Cambridge Analytica, Alexander Nix, afirmaba que su empresa había participado en unas 200 elecciones políticas de países como Nigeria, Kenia, República Checa, Argentina o México. El directivo fue suspendido inmediatamente por la compañía, y poco después Cambridge Analytica se declaró en bancarrota, posiblemente para entorpecer las investigaciones judiciales y para destruir pruebas. Julian Wheatland, antiguo Director Ejecutivo, afirma en el documental que "esto no se trata de una empresa. Esta tecnología no tiene freno y seguirá funcionando.(...) Siempre habrá una Cambridge Anaylitica."

Por ejemplo, la empresa tecnológica Phunware, con sede en Austin, Texas, utiliza la geolocalización de los teléfonos móviles y el uso de las redes WiFi, así como datos de usuario que pueden mostrar sus preferencias de género, edad y estilo de vida, como herramientas potenciales para identificar e influir en los votantes. Esta empresa trabaja actualmente para la campaña de Donald Trump 2020, y recientemente contrató como consultora a Brittany Kaiser, ex-directiva de Cambridge Analytica que colaboró con las investigaciones contra la empresa ofreciendo datos sobre su agenda de trabajo. En The brink (Alison Klayman, 2019), titulada en España Steve Bannon, el gran manipulador, este consejero de extrema derecha que participó en la campaña de Donald Trump afirma haber utilizado datos de geolocalización para seleccionar posibles votantes: "Si su teléfono ha estado en una iglesia católica, estos datos se pudieron obtener. Pudimos saber quiénes iban a las iglesias y con qué frecuencia".  

The Washington Post publicaba esta semana un artículo en el que se describe cómo una empresa tecnológica, Unacast, ha diseñado un "Cuadro de indicadores de distancia social" que califica, condado a condado, cuál es el grado de cumplimiento de las órdenes de distanciamiento social que se están dando desde las autoridades sanitarias norteamericanas. Los datos de ubicación provienen de juegos, compras y aplicaciones de servicios públicos que millones de estadounidenses han instalado en sus teléfonos, que permiten un rastreo de ubicación extremadamente preciso. 

También las empresas tecnológicas Ghost Data y LogoGrab, cuyos ejecutivos son italianos, utilizaron miles de historias y publicaciones de usuarios en Instagram para detectar a aquellos ciudadanos que no estaban cumpliendo las órdenes de cuarentena que impuso el gobierno. El estudio recopiló información de 552.000 perfiles entre el 11 y el 18 de marzo, y se comprobó que los niveles más altos de incumplimiento de la cuarentena se daban en Lombardía (una de las zonas más afectadas por el coronavirus), Campania, Sicilia y Lacio. 

Por su parte, en Noruega la empresa Simula está desarrollando actualmente una APP que el Instituto de Salud Pública quiere que la mayor parte de los noruegos puedan descargársela. Utilizando un sistema de GPS, esta aplicación guarda los datos de geolocalización en una nube durante 30 días, y permite que el Instituto de Salud Pública sepa si un ciudadano ha estado en contacto con alguna persona infectada por el coronavirus. Si dos teléfonos que cuentan con la aplicación instalada han estado a menos de dos metros de distancia durante más de 15 minutos, y una de estas personas está confirmada como portadora del virus, las autoridades sanitarias envían un mensaje a la otra persona para que tome las medidas de cuarentena necesarias. Simula asegura que los datos de geolocalización solo serán utilizados durante 30 días (el plazo necesario para establecer la comunicación con un usuario que ha tenido algún contacto con el virus) y que no se recopilará ningún otro tipo de información privada. 

Escritores que predijeron el futuro

El documental de Tonje Hessen Schei se abre con una pavorosa reflexión de Stephen Hawking: "El éxito en la creación de Inteligencia Artificial sería el mayor evento en la historia de la humanidad. Desafortunadamente, también podría ser el último".  Esta frase, que el científico incluyó en un artículo bastante pesimista publicado en el periódico The Independent en 2014, augura un destino peligroso para nuestro mundo. Un destino que ha sido mostrado en literatura de ciencia-ficción en numerosas ocasiones. En 1920, el escritor Karel Čapek escribió la obra teatral R.U.R. (Robots Universales Rossum), en la que el dueño de una fábrica de criaturas mecánicas utilizadas como mano de obra, decide darles también alma, con la consiguiente rebelión de los androides. En esta obra teatral se utilizó por primera vez el término "robot" asignado a estas criaturas, que proviene de la palabra checa "robota", que significa "trabajos forzados", "esclavitud", en referencia a los trabajadores "alquilados" que vivieron en el imperio austrohúngaro en el siglo XIX. 

En 1909, el escritor E.M. Forster publicó The machine stops, un relato en el que se plantea un futuro en el que las máquinas son las encargadas de realizar todos los trabajos, mientras que los seres humanos viven bajo tierra, aislados en habitaciones individuales, con sus necesidades cubiertas por estas máquinas. Solo pueden comunicarse entre ellos a través de un sistema de videoconferencia (anticipando la posterior llegada de internet). Por su parte, en 1939 Eando Binder (seudónimo utilizado por los hermanos Earl Andrew y Otto Binder) publicó el relato corto I, robot, en torno a la confesión de un robot de servicio que mata a su creador. Este relato influyó notablemente en Issac Asimov para historias como Robbie (1940), el primer cuento sobre androides que escribió el autor norteamericano, y que formó parte de su libro de cuentos futuristas I, robot (1950). 


El gran hackeo se puede ver en Netflix.

Google y el cerebro mundial se puede ver en Filmin. 

Volver a la Portada de Logo Paperblog