Digitalización de la guerra, lo humano, el arte y los espacios urbanos y productivos

Por Raúl Hernández Mar, Joaquín Rodríguez Álvarez, Roser Martínez Quirante y 7 más

La humanidad está cada vez más inmersa en un contexto donde la tecnología, sobre todo la digital, está más presente en el conjunto de nuestras actividades sociales, políticas, económicas y personales. En las últimas décadas, la tecnología digital ha transitado, abruptamente, de ser un instrumento que potencializa la fuerza y capacidades humanas a estar desplazando a la humanidad e influyendo en sus decisiones y acciones. Son múltiples los casos donde grandes empresas y gobiernos aplican estas tecnologías para el reforzamiento de sus intereses particulares y donde el resto de la población otorga sus datos para no estar marginado de esta sociedad digitalizada, sin reconocer, las implicaciones sobre sus vidas actuales, pero sobre todo futuras.
Por lo anterior, es urgente el impulso de abordajes que cuestionen las implicaciones de la sociedad digital en construcción, planteando sus alcances, pero también poniendo en la discusión los riesgos. El presente libro se propone analizar desde diversas posiciones críticas las estrategias tecnológicas predominantes, reconociendo sus potencialidades, pero también poniendo alerta en los riesgos que se estarían gestando. Toma como hilos conductores de esta discusión, que a su vez constituyen cada una de las tres partes de esta obra, algunos de los ámbitos donde la sociedad digital se está desarrollando con particular dinamismo, como la guerra, la salud y el arte y la digitalización de los espacios urbanos y productivos.

• Idioma: Español
• Editorial: Universidad Autonoma Metropolitana
• Fecha de lanzamiento: 24 feb 2022
• ISBN: 9786072822931

Vista previa del libro

PRIMERA PARTE

DIGITALIZACIÓN DE LA GUERRA

LA ENCRUCIJADA TECNOLÓGICA Y EL SURGIMIENTO DE LA INTELIGENCIA ARTIFICIAL: UNA APROXIMACIÓN DESDE EL ANARQUISMO

Joaquín Rodríguez Álvarez*

INTRODUCCIÓN

CONTEXTO: ANTE EL ABISMO

En medio de la creciente mecanización y organización tecnológica, la propaganda es simplemente el medio utilizado para evitar que estas cosas se sientan demasiado opresivas y para persuadir al hombre a someterse con buena gracia.

Ellul (1973)

Vivimos inmersos en un proceso de revolución tecnológica cuyas implicaciones son difíciles de comprender en su totalidad, pero cuya profundidad se asemeja más a la revolución neolítica que a la industrial por cuanto que puede implicar una transformación profunda —radical— de la condición humana (Arendt, 2014). Una transición de lo humano que se produce en medio de un proceso de degradación ecológica sin precedentes, donde la pregunta no reside ya en si llegaremos o no al punto de no retorno, sino más bien cuándo se producirá.

Y es precisamente este caos ecológico, que hoy se configura como uno de los mayores retos, no para los Estados o la economía sino para la totalidad de la vida sobre el planeta, el que contiene en su propio seno el potencial para el surgimiento de una nueva conciencia global que tenga el potencial de aglutinar a la especie bajo un objetivo común: la preservación de la vida, que indefectiblemente choca de manera frontal no sólo con nuestro sistema productivo, sino también con el marco mental e ideológico que lo auspicia. Ya que tal y como lo afirmaba Bookchin:

Hablar de límites al crecimiento en una economía de mercado capitalista tiene tanto sentido como hablar de los límites de la guerra en una sociedad guerrera. Las piedades morales, que hoy expresan muchos ambientalistas bien intencionados son tan ingenuas, como las piedades morales de las multinacionales son manipuladoras. Ya no se puede persuadir al capitalismo para que limite el crecimiento, como tampoco se puede persuadir a un ser humano para que deje de respirar. Los intentos de capitalismo verde, para hacerlo ecológico, están condenados por la naturaleza misma del sistema, como un sistema de crecimiento sin fin (Bookchin, 1991:23).

Nos situamos así ante una crisis sin precedentes producida por la propia superestructura (ideología del sistema) (Bates, 1975; Femia, 1987; Gramsci, 1995) cuya magnitud ya no nos interpela, sino que nos obliga a reconfigurar los pilares básicos del mismo, ya que esta vez el llamado es más profundo que el de socialismo o barbarie, puesto que se trataría de ecología social o extinción. Y aunque el objetivo del capítulo no sea explorar el contexto global que alberga la crisis, sí que es necesario tener en cuenta su existencia como eje vertebrador de la teoría expuesta.

Por lo tanto, el contexto de crisis ecosocial (Bookchin, 1991) es básico para la comprensión del presente trabajo, ya que sería precisamente esta sociedad en crisis la que ha generado las condiciones sociotecnológicas que albergan el nacimiento, penetración y consolidación de la inteligencia artificial (IA), uno de nuestros mayores avances tecnológicos, cuyo futuro y aplicabilidad están en juego y cuya importancia resulta clave a la hora de imaginar y diseñar los futuros que vendrán.

Una inteligencia que, cabe destacar, debe ser reconocida como simulación (Baudrillard, 1994; Rodríguez, 2016; Rodríguez-Álvarez, 2019), en ningún caso como inteligencia real o vida sintética, ya que desvirtúa el objeto de la discusión situándonos en escenarios de ciencia ficción que no encajan con el estado del arte y de la tecnología actual, y donde la prospección de una singularidad (Bostrom, 2005; Chalmers, 2010; Barrat, 2013), al margen de ser un ejercicio teórico interesante, no se ajusta a nuestra realidad material, sino a promover agendas que potencien la humanización de la tecnología.

Pero es precisamente esta simulación de inteligencia, que es capaz de llevar a cabo de forma autónoma tareas que requieren de complejidad, la que está llamada a jugar un papel determinante en el desarrollo de nuestro futuro y el tipo de sociedad en la que viviremos (Rodríguez, 2016; Rodríguez-Álvarez, 2019) una vez se transite la superación de los marcos mentales (paradigmas) impuestos por la cultura capitalista, que hoy empieza a tomar la forma de incipiente sociedad algorítmica.¹

La clave para la comprensión del impacto de la IA reside en la observación de delegaciones de procesos clave sobre entidades no humanas, lo que puede interpretarse también como una transferencia de responsabilidades o dejación de funciones. Es decir, por primera vez en la historia de nuestra especie compartimos nuestra existencia con entes capaces de tomar decisiones críticas sobre aspectos clave de la vida de un ser humano, así como sobre la vida misma a través de un proceso de delegación directa, donde el caso de las armas letales autónomas (Martínez-Quirante y Rodríguez-Álvarez, 2018) es quizá su materialización más aterradora, ya que implica la posibilidad de eliminar vidas humanas sin ningún tipo de control humano significativo. Es decir, estaríamos hablando de una delegación de capacidades letales sobre entes no humanos. Si bien los ejemplos de la influencia que ejerce la IA sobre el sistema actual son múltiples y también aterradores (O’Neil, 2017) desde el credit-scoring (Reserve Board, 2003) o el social-scoring (Allen, 2019) hasta procesos como el acceso a universidades, becas, reconocimiento facial (Sharkey, 2018a) y un largo etcétera que ocupa prácticamente la totalidad de capas o dimensiones del sistema que tradicionalmente ha ocupado lo humano.

Así, el surgimiento de la IA sería sólo comparable a otros hitos de la ciencia contemporánea, como puede ser la decodificación del genoma humano, en cuanto que supondría no ya el surgimiento sino el reconocimiento de una nueva geografía o dimensión de la experiencia humana, genética o digital, que indefectiblemente en el momento actual tiene afectaciones directas sobre la configuración de la realidad material (Bates, 1975), afectando así, de una forma determinante, nuestra propia condición en tanto que trasforma nuestras bases materiales de relación con el entorno.

Así, podríamos entender que la IA se erige como una pieza clave anticipando la configuración de lo poshumano en tanto que superación de los marcos mentales del humanismo tradicional antropocéntrico, referido a las ramificaciones de su representación vitrubiana y que ha sido tradicionalmente comprendido como postulado universal, pese a que esta imagen arquetípica coincide implícitamente sólo con el varón, blanco, urbanizado, hablante de un idioma estándar, heterosexual, inscrito en la unidad reproductiva base, ciudadano de pleno derecho de una comunidad política reconocida (Deleuze y Guattari, 2006). Es decir, es quizá la imagen menos representativa de la realidad contemporánea, y un claro ejemplo de cristalización del sistema de privilegios imperante (Irigaray, 2010; Braidoti, 2015), que auspicia una nueva comprensión holística del entorno a través de una tecnología con un potencial unificador sobre las diferentes dimensiones de lo humano.

El problema residiría, por tanto, no sólo en las potencialidades asociadas a la tecnología sino en el contexto en el que se inserta y se desarrolla, ya que la tecnología debe comprenderse como un amplificador de la voluntad humana que tiene la potencialidad de dar forma a la realidad (Ellul, Wilkinson y Merton, 1964; Marx, 1994, 2000; Wiener y Mohr, 1994), y por tanto no exenta de intencionalidad o ética, hecho que colisiona frontalmente con las metanarrativas estructuradas en torno a la misma y sobre las que se excusa su penetración social masiva, donde cualquier excusa es buena, incluso una pandemia, a fin de garantizar su cristalización social.²

Con esto no pretendemos, ni mucho menos, argumentar que la tecnología es mala o nociva per se, tal y como infieren determinadas aproximaciones de tipo anarco-primitivista (Kaczynski, 1995), sino hacer un llamado al empoderamiento social y comunitario sobre la misma, porque en su seno puede albergar las claves para un futuro ecológicamente sostenible, socialmente justo y políticamente libre.

Los nuevos marcos tecnológicos ofrecen posibilidades de dar vida a modelos institucionales descentralizados/stateless institutions (blockchain), relocalizando el ejercicio de la política en el municipio (Smart Community) a partir de redes extendidas de solidaridad y colaboración (cocreación/coproducción), al mismo tiempo que ofrece el potencial de acabar con las dinámicas del trabajo asalariado (autonomía), auspiciando de esta manera una ecología social (Bookchin, 1991) sustentada por unos avances tecnológicos orientados al bien de la comunidad, en una nueva geografía que diluye los marcos mentales binarios que tradicionalmente han contrapuesto lo rural/urbano, digital/material, natural/artificial, sin que ello comporte el establecimiento de ningún tipo de monismo, sino es para afirmar que sólo en el mantenimiento, protección y potenciación de la diversidad nuestras sociedades pueden progresar.

Si bien el advenimiento de estos potenciales futuros se ve ensombrecido o interferido por la tendencia actual de la tecnología, así como del contexto que la alberga, potenciada por la escasa atención o por las aproximaciones acríticas que determinados colectivos (llamados al cambio social) están prestando a su desarrollo y tendencia, siendo prioritario reestructurar las agendas de investigación para dar prioridad a aquellas aplicaciones orientadas a revertir los patrones de desarrollo de la presente crisis ecológica desde un prisma de la reconfiguración social, al no poder desligar la superestructura del sistema de la determinación u orientación tecnológica del mismo.

De no hacerlo, profundizaremos de una forma dramática en la tendencia actual, que parece avanzar irremediablemente hacia un horizonte donde se manifiestan los peores presagios de Baudrillard (Baudrillard, 1987, 1994). Un paisaje simbólico/ideológico en el que Huxley se encuentra con Orwell, donde el soma se materializa a través de la cultura del entretenimiento (Postman, 2006) potenciada por el rol de las redes sociales digitales (digital social-networks) y donde el control social orwelliano lo llevamos en nuestros propios bolsillos.

Se trata de un contexto en el que la humanidad está protagonizando un proceso de regresión civil y social a través, en primer lugar, de una cesión masiva de datos que fluyen no simplemente hacia el Estado, sino a grandes corporativos privados cuyas agendas, por motivos obvios, no están alineadas con las sociales. Y en segundo lugar, a través de la aceptación de una serie de metanarrativas cuyo único objetivo, podríamos decir, es de tipo propagandístico, ya que intentan edulcorar la actual tendencia opresiva de los marcos tecnológicos a fin de conseguir manufacturar su aceptación social y política.

Es por tanto de vital importancia reconocer la capacidad alienadora de la tecnología, tal y como se ha venido demostrando a través de un gran número de obras y aproximaciones, entre las que podríamos destacar los trabajos de Jacques Ellul, Jean Baudrillard, Neil Postman o Leo Marx, entre otros (Ellul, Wilkinson y Merton, 1964; Marx, 1964; Bimber, 1994; Wiener y Mohr, 1994; Baudrillard, 1995), de la misma forma que debe ser subrayado su potencial para el control y la manipulación social (Veblen, 2009, 2013; Herman y Chomsky, 2010).

Son fuerzas potenciales que nos sitúan no sólo ante un abismo que amenaza nuestras libertadas, sino que pueden propiciar nuestra propia extinción a través de la sustracción directa de nuestra realidad material; una sustracción que se materializa en numerosas ocasiones a través de movimientos negacionistas de la crisis climática o en aquellos sujetos que, si bien no la niegan, minimizan su impacto optando por estrategias de reorganización del sistema productivo. Pero, de hecho, el riesgo no reside aquí, sino en la propia invisibilización de la crisis climática en el imaginario colectivo promovido por un sistema de entrenamiento e información que deforma la prioridad de las agendas. Lo que nos situaría en un contexto en el cual, el hecho de ignorar o rebajar el impacto de la crisis no sólo es síntoma de alienación, sino que en algunas ocasiones puede ser interpretado como una manifestación de los impulsos de muerte (Freud, 1920).

Es decir, la tecnología hoy en día, pese a poseer en su seno potenciales futuros de liberación, se encuentra orientada hacia el establecimiento de futuros de subyugación y alienación dominada por las pulsiones de muerte inherentes a nuestros sistemas productivo-ideológicos. Una tecnología que no sólo erosiona la democracia liberal, tal y como nos muestra el caso de Cambridge Analytica (Berghel, 2018) sino la propia condición humana al desarrollar patrones de inferencia con la llamada realidad material —en plena disolución con la digital en la actualidad— mediante los cuales un software puede tener incidencia real y plena sobre nuestra esfera. Una soledad compartida con simulaciones.

Un abismo distópico donde a la subyugación ya ejercida por las clases dominantes, debemos añadir el potencial opresor y de control de los marcos tecnológicos actuales y en sus presentes líneas de desarrollo, todo ellos en un nuevo espacio simbólico que se configura como una nueva frontera, llena de potencialidades, pero con un domino de los impulsos de muerte.

NUEVAS FRONTERAS

[…] la organización jerárquica no culminó con la estructuración de la sociedad civil en un sistema institucionalizado de obediencia y mandato. A su tiempo, la jerarquía empezó a invadir áreas menos tangibles. A la actividad mental, se le concedió supremacía sobre el trabajo físico; a la experiencia intelectual sobre la sensualidad; al principio de realidad sobre el principio de placer; y finalmente, la razón, la moralidad, y el espíritu fueron penetrados por un inefable autoritarismo, que habría de vengarse tomando el control del lenguaje y de las más rudimentarias formas de simbolización.

Bookchin (1991)

La historia de la humanidad ha venido determinada en gran parte por la conquista de fronteras tecnoespaciales, es decir, revoluciones tecnológicas que nos han permitido alcanzar otras dimensiones de nuestra experiencia sobre el contexto, así la agricultura comportó una ocupación espacial fija del entorno y su recreación simbólica a través de mitos y espiritualidades más o menos complejas que se estructuraron como sistemas interpretativos del entorno (una interpretación intersubjetivada por la representación), de la misma manera que la decodificación del genoma nos permitió expandirnos y expandir nuestra propia naturaleza, generando a su vez nuevos espacios simbólicos y culturales donde algunas teorías, como el transhumanismo, encuentran campo de expresión y crecimiento (Bostrom, 2005; Gelles, 2009). Un proceso de reconfiguración de los espacios físicos y simbólicos, que va asociado a otras muchas tecnologías, tal y como podría ser la máquina de vapor, que nos abrió la posibilidad de fuerzas motrices que transformaron nuestra noción de distancia, nuestros paisajes, proveyéndonos además de una nueva estructura sociojerárquica. Tal y como Marx afirmaba: el molino manual nos da la sociedad del señor feudal; la máquina de vapor, nos da la del capitalista industrial (Marx, 2013)

Espacios conquistados que hemos ido poblando de símbolos, esperanzas y miedos a través de metanarrativas que nos han permitido alcanzar una relativa comprensión sobre el entorno, siempre condicionada por el alcance de nuestros propios instrumentos y la estructura de pensamiento.

Observamos así una relación o vínculo directo claro entre tecnología y cambio social (White, 1973), en lo que podría entenderse como una aproximación monista o determinista de la historia. Podríamos decir que la tecnología ha sido clave para la conquista de nuevos espacios físicos, simbólicos, intelectuales y eróticos, observando la existencia de tecnologías que han expandido nuestros horizontes, y horizontes que han expandido nuestra visión y comprensión del mundo.

El proceso de conquista y expolio de América por parte de Europa, por ejemplo, fue sustentando por unas determinadas tecnologías y técnicas que posibilitaron la navegación transoceánica, así como de un entramado ideológico-simbólico que ofreció cobertura intelectual al mismo (evangelización). Una combinación tecnoideológica al servicio de una causa (el etnoestado católico) que a su vez supuso cambios socioorganizativos en el Viejo Continente, además de en el Nuevo, generando una nueva cosmovisión del entorno que acabaría desembocando en el imperialismo como manifestación más agresiva y también lesiva con el medio, y que perdura hasta la actualidad. Una dinámica de interdependencia compleja que a su vez acabaría transformando el propio etnoestado católico (Mbembe, 2011; Spade y Willse, 2014). Tal y como lo afirmaba Culkin, nosotros damos forma a nuestras herramientas, y luego éstas nos dan forma a nosotros (Culkin, 1967). Surgie así un nuevo orden de tipo jerárquico: el país monocultivo subyugado a los intereses metropolitanos, un balance entre unidad productiva oprimida y centro de explotación institucionalizado que reconfigura ambas sociedades. De la misma forma en que el descubrimiento y conquista del átomo determinó toda una generación basada en el miedo a la destrucción mutua asegurada, dando forma a una nueva percepción de la escala de lo humano.

Con esto se pretende reforzar la idea de que, tan importantes como la tecnología en sí misma, son los marcos ideológicos de la sociedad que la alberga, ya que conjuntamente determinarán el porvenir de las mismas, en un proceso de coproducción (McLuhan, 1994; Jasanoff, 2007; Needham, 2008; Nevens y Frantzeskaki, 2013; Jasanoff, 2016) en el que nosotros damos forma a la tecnología y ésta nos da forma a nosotros, y juntos traspasamos nuevas fronteras siendo otros diferentes a los que comenzaron el viaje, como en el río de Heráclito. En otras palabras, nada tiene de malo el descubrimiento del átomo o de técnicas de navegación avanzadas, el problema reside en el núcleo socioideológico de la sociedad que las alberga, y su capacidad para alinearlas y realinearse en torno a unos objetivos enraizados en la superestructura del sistema.

Un proceso tecnosocial que muchas metanarrativas dibujan sobre parámetros de descubrimiento y conquista (con la implícita y subsecuente relación patrimonialista) sembrando así futuros de subyugación tanto para nosotros como para el resto de las especies, ya que el espacio conquistado nunca puede ser comprendido como libre (conquista de América, conquista del Oeste, conquista espacial…).

Y ha sido esa comprensión patrimonialista del entorno, y de lo común, la que nos ha llevado al abismo actual. Incapaces de reconocer hechos tan simples como los relativos a la producción de lo común, técnicas y tecnologías que no existirían sin una aportación colectiva (Kropotkin, 1977), de datos en el caso de la IA, y que por tanto requieren de modelos comunales de gestión bajo fórmulas de reconocimiento de privacidad/intimidad, que no propiedad, sobre la propia naturaleza de los datos. Es decir, los datos no son de nadie, pero tampoco lo son de todos, modelo en el que la intimidad debería erigirse como vector de gestión.

Este proceso de coproducción sociotecnológico que hoy parece guiado por una mano invisible), que parece seguir influyendo en los últimos grandes avances tecnológicos, los cuales se encuentran en riesgo de monopolización por parte de los grandes gigantes tecnológicos, compañías que en la actualidad trabajan incasablemente por establecer nociones de propiedad sobre los datos (generados por todos), que nutren los algoritmos.

A este respecto cabe destacar la explotación a la que algunos gigantes tecnológicos someten a la población, que se ve obligada a trabajar de forma gratuita, para solventar el propio proceso de aprendizaje de la IA, como es el caso del uso de los captcha³ por algunos gigantes informáticos como Google, en los casos en que utilizan imágenes borrosas (de letras y números) que las máquinas tienen dificultad para interpretar y son sometidas a humanos como peaje previo de acceso a un determinado contenido digital, y que sirve a los intereses de la compañía a fin de mejorar sus algoritmos de reconocimiento de imagen.

Una coproducción de conocimiento que resta patrimonializado en manos de aquellos que tienen el control de medios de producción, hasta aquí nada nuevo (Simkhovitch y Kropotkin, 1903; Kropotkin, 1977; Derrida, 1995; Marx, 2008a). Así, el espacio de la IA se erige para muchos como una nueva frontera por conquistar, y por tanto transformada en producto, huyendo de otros marcos menos convencionales que podrían auspiciar un reconocimiento de la intimidad de los datos, y una dirección y adaptación comunal de la tecnología (Jasanoff, 2007).

El factor clave que diferenciaría el potencial impacto de la IA sobre la configuración de lo humano hacia su transición poshumana, devendría del hecho de que en la actualidad nos situamos frente a una tecnología con capacidad de influencia directa sobre todas las dimensiones de la construcción de una nueva geografía o espacialidad que tiene la capacidad intrínseca y el direccionamiento ideológico necesario para reproducir los sistemas de opresión y marginalización existentes en nuestra sociedad, además de cristalizarlos con base en una codificación algorítmica, donde la reproducción del racismo (Boyd, Levy y Marwick, 2014) o la cristalización de los círculos de pobreza (Reserve Board, 2003) son algunos de los signos que ya permite observar el sistema tal y como refleja la obra de Noble, Algorithms of Oppression: How Search Engines Reinforce Racism (Noble, 2016) y que pronostican la cristalización de las actuales dinámicas de subyugación.

Finalmente, y con el objetivo de acabar de perfilar la nueva frontera ante la que nos sitúa la IA, cabe destacar, tal y como lo hemos mencionado previamente, que cubre o tiene el potencial de inferir de modo directo sobre todas y cada una de las dimensiones que tradicionalmente ha ocupado lo humano y que podríamos identificar con lo físico; referido a la totalidad de nuestra realidad material; lo ideológico referido al sistema interpretativo que configura nuestra comprensión del entorno; lo simbólico referido a nuestros sistemas representativos; lo erótico referido a las pulsiones de vida en el sentido freudiano del término, subrayando la inferencia de la IA sobre las pulsiones sexuales (Freud, 2016) y lo digital entendido como una nueva dimensión de desarrollo de lo humano, donde