Cuando la tecnología deja de ser herramienta y se convierte en instrumento de dominación
Vivimos una época en la que las tecnologías digitales han transformado profundamente nuestra manera de comunicarnos, trabajar, informarnos, relacionarnos y hasta comprender la realidad. Internet, las redes sociales, la inteligencia artificial, los algoritmos y las plataformas digitales pueden constituir herramientas extraordinarias para democratizar el conocimiento y ampliar la participación social.
Pero esas mismas herramientas pueden convertirse en instrumentos de vigilancia, manipulación, disciplinamiento y control. Shoshana Zuboff ha señalado cómo el capitalismo contemporáneo transforma la experiencia humana en materia prima para prácticas de extracción de datos, predicción y modificación de comportamientos.¹
Es allí donde aparece un fenómeno que debemos comenzar a analizar con mayor profundidad: el tecno fascismo al servicio del neofascismo.
No se trata simplemente de afirmar que toda tecnología es autoritaria, ni de caer en una mirada tecno fóbica. El problema está en quién controla la tecnología, con qué intereses, bajo qué reglas y para qué proyecto de sociedad. Como advertía Michel Foucault, las tecnologías de poder no funcionan solamente mediante la represión directa, sino también mediante dispositivos que organizan conductas, producen subjetividades y hacen posible determinadas formas de obediencia.²
Del fascismo histórico al neofascismo digital
El fascismo del siglo XX construyó su poder mediante la propaganda, el control de los medios de comunicación, la persecución del pensamiento crítico, la identificación de un enemigo interno y la construcción de una sociedad basada en la obediencia. Hannah Arendt mostró que la propaganda, la atomización social y la destrucción de los espacios comunes de deliberación fueron elementos centrales de la experiencia totalitaria.³
El neofascismo contemporáneo puede reproducir muchas de esas lógicas, pero dispone de herramientas infinitamente más sofisticadas.
Ya no necesita necesariamente cerrar todos los diarios, controlar físicamente todas las radios o prohibir cada voz disidente.
Puede intentar algo más sutil:
hacer que la propia sociedad produzca, distribuya y reproduzca la propaganda.
Las redes sociales permiten que millones de personas compartan contenidos sin saber quién los produjo, con qué finalidad o qué intereses económicos y políticos existen detrás. La llamada propaganda computacional combina automatización, algoritmos, grandes volúmenes de datos y cuentas coordinadas para intervenir en los debates públicos.⁴
El algoritmo puede determinar qué vemos, qué dejamos de ver, qué nos indigna, qué nos genera miedo y hasta qué enemigo debemos considerar responsable de nuestros problemas.
La propaganda deja entonces de parecer propaganda.
Se presenta como noticia. Como entretenimiento, como opinión, como meme, como indignación espontánea, omo "sentido común".
Umberto Eco advertía que el fascismo puede presentarse bajo formas históricas diferentes y que no debemos buscar únicamente sus símbolos tradicionales, sino reconocer determinadas estructuras culturales: el culto a la tradición, el rechazo del pensamiento crítico, la construcción del enemigo, el nacionalismo exacerbado y la apelación permanente al miedo. ⁵
El algoritmo como nuevo territorio de disputa
Una de las grandes novedades de nuestra época es que el poder no solamente disputa territorios físicos.
También disputa territorios digitales, territorios simbólicos y territorios de conciencia.
Los algoritmos estudian nuestros comportamientos: aquello que miramos, aquello que rechazamos, aquello que compartimos, el tiempo que permanecemos frente a una pantalla y las emociones que determinados contenidos provocan en nosotros.
La tecnología puede utilizar esa información para construir perfiles extremadamente precisos. La economía digital ha convertido los datos y la capacidad de predecir comportamientos en recursos centrales del poder económico.¹
Y cuando esos perfiles son utilizados políticamente, aparece un enorme riesgo:
cada persona puede recibir una realidad diseñada específicamente para ella.
A uno se le muestra miedo. A otro, odio. A otro, nacionalismo. A otro, xenofobia.
A otro, desprecio por los pobres. A otro, rechazo de los movimientos sociales.
A otro, resentimiento contra quienes piensan diferente. No necesariamente todos reciben la misma mentira. Cada uno recibe aquella mentira que tiene mayores posibilidades de convencerlo. La personalización algorítmica puede generar así burbujas informativas y procesos de polarización en los que las personas reciben contenidos compatibles con sus emociones, preferencias y prejuicios.⁶ Ese es uno de los rostros más peligrosos del tecno fascismo.
La fabricación permanente del enemigo
Todo proyecto fascista necesita construir enemigos.
El fascismo histórico señaló a determinados grupos sociales, políticos, étnicos o culturales como responsables de los males de la nación. La construcción del enemigo permite simplificar conflictos complejos y transformar la diversidad social en una confrontación entre un supuesto "nosotros" y un supuesto "ellos".⁵
El neofascismo puede hacer algo semejante mediante las plataformas digitales. El pobre puede ser presentado como responsable de la crisis económica. El migrante como amenaza. El pueblo originario como obstáculo para el desarrollo. El militante social como "enemigo". El sindicalista como privilegiado. El periodista crítico como enemigo del pueblo. El defensor de los derechos humanos como "ideologizado". El ambientalista como enemigo del progreso.
La construcción del enemigo cumple una función fundamental: permite que las causas estructurales de los problemas desaparezcan del debate.
En lugar de discutir quién concentra la riqueza, se discute contra quien recibe una ayuda social. En lugar de discutir la concentración económica, se culpa al trabajador. En lugar de discutir el extractivismo, se acusa a las comunidades que defienden sus territorios. En lugar de discutir la desigualdad, se transforma al pobre en sospechoso.
La lógica es particularmente peligrosa cuando se combina con discursos políticos que Jason Stanley identifica como propios de las dinámicas fascistas contemporáneas: la propaganda, la deshumanización, la apelación al victimismo de un grupo supuestamente amenazado y la construcción de enemigos internos.⁷
El algoritmo puede multiplicar esta operación hasta convertirla en sentido común.
Del ciudadano al usuario
Hay otra transformación profunda. La democracia moderna nació alrededor de una idea fundamental: el ciudadano. El ciudadano tiene derechos. Tiene responsabilidades. Puede organizarse. Puede participar. Puede deliberar. Puede cuestionar al poder.
El capitalismo digital tiende a convertirlo en usuario.
El usuario consume contenidos. Produce datos. Genera información. Compra. Reacciona. Comparte. Y cada una de esas acciones puede transformarse en mercancía.
Byung-Chul Han ha analizado cómo las sociedades contemporáneas han desarrollado formas de poder que ya no necesitan exclusivamente la vigilancia externa, sino que pueden operar mediante la participación voluntaria de los propios sujetos, quienes producen permanentemente información sobre sí mismos.⁸
Cuando esa lógica económica se combina con una lógica autoritaria, aparece un escenario especialmente preocupante: el ciudadano deja de ser sujeto político y se convierte en objeto de administración algorítmica.
Ya no es necesario convencerlo mediante un discurso político elaborado.
Puede bastar con estimular determinadas emociones. Miedo, bronca, frustración, odio, humillación, resentimiento.
La política comienza entonces a funcionar como una ingeniería emocional.
La política del miedo
El miedo ha sido históricamente uno de los grandes instrumentos del autoritarismo.
El tecnofascismo puede multiplicarlo a una velocidad desconocida. Una noticia falsa puede alcanzar millones de personas en pocas horas. Una imagen manipulada puede adquirir apariencia de documento. Una voz artificial puede parecer humana. Un video puede mostrar acontecimientos que nunca ocurrieron. La inteligencia artificial puede generar textos, fotografías, audios y videos capaces de confundir incluso a personas acostumbradas a informarse mediante medios digitales. La cuestión ya no es solamente combatir la mentira. El desafío puede ser todavía mayor:
¿qué ocurre cuando una sociedad deja de saber qué es verdadero?
Cuando todo puede ser falso, incluso la verdad comienza a perder autoridad. Y cuando la verdad pierde autoridad, gana espacio quien tiene mayor capacidad para imponer un relato. La expansión de contenidos sintéticos y manipulados mediante inteligencia artificial introduce una nueva dimensión en esta problemática: la posibilidad de fabricar evidencias audiovisuales aparentemente auténticas, profundizando lo que algunos autores denominan una crisis de confianza epistemológica.⁹
La democracia necesita, por lo tanto, no solamente libertad de expresión, sino también condiciones sociales que permitan distinguir información, propaganda, manipulación y conocimiento.
Vigilancia y disciplinamiento social
El tecno fascismo también puede expresarse mediante la vigilancia. Cámaras inteligentes, reconocimiento facial, bases de datos, geolocalización, sistemas de identificación digital y análisis masivo de información pueden tener usos legítimos. Pero ninguna tecnología es políticamente neutral cuando se encuentra en manos de estructuras de poder sin controles democráticos suficientes.
La pregunta fundamental debería ser:
¿quién vigila a quienes vigilan?
Una sociedad democrática necesita límites claros al poder tecnológico.
Michel Foucault mostró, a través de la figura del panóptico, cómo la posibilidad permanente de ser observado puede producir sujetos que terminan autocontrolándose incluso sin una intervención represiva permanente. ²
Gilles Deleuze posteriormente planteó que las sociedades contemporáneas avanzaban desde los espacios disciplinarios clásicos hacia sociedades de control caracterizadas por mecanismos continuos, flexibles y descentralizados.¹⁰
En el capitalismo digital, estas intuiciones adquieren una dimensión nueva. Una sociedad donde el Estado, las corporaciones o ambos pueden conocer permanentemente nuestros movimientos, preferencias, relaciones y comportamientos corre el riesgo de transformar la vigilancia excepcional en normalidad cotidiana. Y cuando la vigilancia se naturaliza, la libertad comienza a convertirse en excepción.
El mercado y el autoritarismo pueden encontrarse
Una de las características del nuevo escenario es que el neofascismo no necesariamente aparece enfrentado al gran poder económico.
En determinadas circunstancias puede existir una convergencia entre intereses económicos concentrados, plataformas tecnológicas y proyectos políticos autoritarios. El mercado necesita consumidores. El poder político necesita obediencia. Las plataformas necesitan datos. Y un sistema de poder puede encontrar en la tecnología un mecanismo extraordinario para administrar ambos. Wendy Brown ha señalado cómo determinadas formas contemporáneas de neoliberalismo erosionan los fundamentos democráticos al transformar crecientemente la ciudadanía y la vida pública según categorías propias del mercado.¹¹
Por eso debemos abandonar la idea de que el fascismo pertenece exclusivamente al Estado. El poder contemporáneo puede encontrarse distribuido entre gobiernos, corporaciones, plataformas, fondos de inversión, empresas tecnológicas, medios de comunicación y redes de influencia. El nuevo autoritarismo puede ser menos visible precisamente porque no tiene un único centro.
La guerra contra el pensamiento crítico
Todo proyecto neofascista necesita debilitar la capacidad de pensar críticamente. Una sociedad permanentemente saturada de información puede paradójicamente estar cada vez menos informada. Miles de mensajes, miles de imágenes. Miles de opiniones, miles de escándalos, miles de polémicas. Todo sucede al mismo tiempo. La consecuencia puede ser una sociedad agotada, fragmentada y emocionalmente manipulable.
Byung-Chul Han ha descrito el "enjambre digital" como una forma de agregación social caracterizada por la dispersión, la reacción inmediata y la dificultad para constituir un verdadero espacio público deliberativo.¹²
Por eso el pensamiento crítico se convierte en una forma de resistencia.
Leer, comparar fuentes, preguntar, investigar, escuchar al otro, reconocer la complejidad, aceptar que podemos equivocarnos. Distinguir información de propaganda. Todo esto constituye hoy una verdadera práctica democrática.
La deshumanización como condición del neofascismo
Pero existe una dimensión todavía más profunda. El neofascismo necesita transformar personas concretas en categorías abstractas.
"Los pobres", "Los vagos", "Los inmigrantes", "Los indígenas", "Los piqueteros", "Los zurdos", "Los ambientalistas", "Los delincuentes". Cuando dejamos de ver personas y comenzamos a ver etiquetas, la violencia se vuelve más fácil de justificar. La tecnología puede acelerar esa deshumanización. Una persona puede convertirse en un dato. Una comunidad puede convertirse en un obstáculo para una inversión. Un territorio puede convertirse en un recurso. Un trabajador puede convertirse en un costo. Un anciano puede convertirse en una carga. Un migrante puede convertirse en una amenaza. La racionalidad neoliberal tiende a traducir dimensiones de la existencia humana a categorías de rendimiento, costo, eficiencia y rentabilidad.¹¹
Y cuando la persona desaparece detrás del dato, detrás del algoritmo o detrás de la etiqueta, desaparece también parte de nuestra capacidad de compasión.
Frente al tecnofascismo: recuperar la comunidad
La respuesta no puede ser rechazar la tecnología. Necesitamos disputar su sentido. La tecnología debe estar al servicio de la vida y no la vida al servicio de la tecnología. Debe ampliar derechos y no reducirlos. Debe democratizar conocimiento y no concentrarlo. Debe fortalecer la participación y no sustituirla. Debe ayudar a construir comunidad y no aislamiento.
Debemos defender una soberanía tecnológica democrática, donde los pueblos tengan capacidad para comprender, discutir y decidir sobre las tecnologías que atraviesan sus vidas.
Necesitamos educación digital crítica, regulación democrática de los algoritmos, protección de datos personales, transparencia de las plataformas, libertad de prensa, pluralidad informativa. Protección de periodistas, investigadores y defensores de derechos humanos. Y, sobre todo, recuperar espacios comunitarios donde podamos encontrarnos físicamente y reconocernos nuevamente como personas. La tecnología no debería reemplazar la comunidad política, sino ampliar las capacidades humanas para organizarse, deliberar y construir alternativas.
Una lectura desde los pobres
Desde una perspectiva de opción por los pobres, el problema adquiere otra dimensión.
La pregunta no debería ser únicamente: ¿qué puede hacer la tecnología?
La pregunta fundamental es: ¿para quién trabaja la tecnología?
Esta pregunta remite a una tradición crítica latinoamericana que entiende la realidad desde la perspectiva de quienes sufren las consecuencias de la desigualdad y la exclusión. En la teología de la liberación, la opción por los pobres no constituye solamente una actitud asistencial, sino una perspectiva desde la cual se interpreta la realidad y se disciernen las estructuras que producen sufrimiento.¹³
Si la inteligencia artificial sirve para mejorar la salud, democratizar conocimientos, facilitar la educación y proteger la vida, estamos ante una herramienta extraordinaria. Pero si se utiliza para perseguir comunidades, manipular elecciones, destruir reputaciones, vigilar ciudadanos, precarizar trabajadores o profundizar la concentración económica, debemos cuestionarla políticamente. La tecnología no puede convertirse en un nuevo ídolo. Porque cuando la técnica se transforma en absoluto, el ser humano termina subordinado a ella. Y cuando la tecnología se pone al servicio de un proyecto neofascista, puede convertirse en una maquinaria de dominación mucho más sofisticada que las formas autoritarias del pasado.
La esperanza como resistencia
Frente a este escenario, la respuesta no puede ser solamente denunciar. También necesitamos construir: Construir comunicación popular. Construir redes solidarias. Construir comunidades. Construir pensamiento crítico. Construir memoria. Construir participación. Construir alternativas económicas. Construir democracia desde abajo.
El desafío de nuestro tiempo es lograr que la revolución tecnológica no sea apropiada por quienes pretenden convertirla en una nueva forma de dominación. Porque la tecnología puede servir para vigilar o para cuidar. Puede servir para manipular o para educar. Puede servir para dividir o para encontrarnos. Puede servir al poder concentrado o puede ponerse al servicio de los pueblos. Por eso la disputa tecnológica es, en última instancia, una disputa por el modelo de humanidad que queremos construir.
Frente al tecno fascismo que pretende convertirnos en datos, consumidores y objetos de manipulación, necesitamos afirmar nuevamente que detrás de cada dato existe una persona; detrás de cada territorio existe una comunidad; detrás de cada estadística existe una historia; y detrás de cada algoritmo debe existir una pregunta ética: ¿Esto sirve para la vida?
Esa debería ser la pregunta fundamental porque si la tecnología deja de estar al servicio de la dignidad humana, deja de ser progreso; y si el progreso se construye sobre la exclusión, la vigilancia, el miedo y la deshumanización, entonces no estamos frente a un futuro más humano. Estamos frente a una nueva forma de barbarie, revestida de tecnología.
NOTAS Y REFERENCIAS
¹ Zuboff, Shoshana. The Age of Surveillance Capitalism: The Fight for a Human Future at the New Frontier of Power. New York: PublicAffairs, 2019.
² Foucault, Michel. Vigilar y castigar: nacimiento de la prisión. Buenos Aires: Siglo XXI Editores, 2002.
³ Arendt, Hannah. Los orígenes del totalitarismo. Madrid: Alianza Editorial, 2006.
⁴ Woolley, Samuel C., y Philip N. Howard, eds. Computational Propaganda: Political Parties, Politicians, and Political Manipulation on Social Media. Oxford: Oxford University Press, 2018.
⁵ Eco, Umberto. "Ur-Fascism". En Five Moral Pieces. San Diego: Harcourt, 2002.
⁶ Calvo, Ernesto, y Natalia Aruguete. Fake News, Trolls y otros encantos: Cómo funcionan (para bien y para mal) las redes sociales. Buenos Aires: Siglo XXI Editores, 2020.
⁷ Stanley, Jason. How Fascism Works: The Politics of Us and Them. New York: Random House, 2018.
⁸ Han, Byung-Chul. Psicopolítica: Neoliberalismo y nuevas técnicas de poder. Barcelona: Herder, 2014.
⁹ Sobre la expansión de contenidos sintéticos, desinformación y manipulación audiovisual mediante inteligencia artificial, véase también: UNESCO. Guidelines for the Governance of Digital Platforms. París: UNESCO, 2023.
¹⁰ Deleuze, Gilles. "Post-scriptum sobre las sociedades de control". En Conversaciones 1972-1990. Valencia: Pre-Textos, 1999.
¹¹ Brown, Wendy. In the Ruins of Neoliberalism: The Rise of Antidemocratic Politics in the West. New York: Columbia University Press, 2019.
¹² Han, Byung-Chul. En el enjambre. Barcelona: Herder, 2014.
¹³ Gutiérrez, Gustavo. Teología de la liberación: Perspectivas. Salamanca: Ediciones Sígueme, 1975.
*Gerardo Duré, Comunicador Social, miembro del consejo Directivo de SICSAL, Coordinador de Sicsal Argentina.
BIBLIOGRAFÍA
Arendt, Hannah. Los orígenes del totalitarismo. Madrid: Alianza Editorial, 2006.
Brown, Wendy. In the Ruins of Neoliberalism: The Rise of Antidemocratic Politics in the West. New York: Columbia University Press, 2019.
Calvo, Ernesto, y Natalia Aruguete. Fake News, Trolls y otros encantos: Cómo funcionan (para bien y para mal) las redes sociales. Buenos Aires: Siglo XXI Editores, 2020.
Deleuze, Gilles. "Post-scriptum sobre las sociedades de control". En Conversaciones 1972-1990. Valencia: Pre-Textos, 1999.
Eco, Umberto. "Ur-Fascism". En Five Moral Pieces. San Diego: Harcourt, 2002.
Foucault, Michel. Vigilar y castigar: nacimiento de la prisión. Buenos Aires: Siglo XXI Editores, 2002.
Gutiérrez, Gustavo. Teología de la liberación: Perspectivas. Salamanca: Ediciones Sígueme, 1975.
Han, Byung-Chul. En el enjambre. Barcelona: Herder, 2014.
Han, Byung-Chul. Psicopolítica: Neoliberalismo y nuevas técnicas de poder. Barcelona: Herder, 2014.
Stanley, Jason. How Fascism Works: The Politics of Us and Them. New York: Random House, 2018.
UNESCO. Guidelines for the Governance of Digital Platforms. París: UNESCO, 2023.
Woolley, Samuel C., y Philip N. Howard, eds. Computational Propaganda: Political Parties, Politicians, and Political Manipulation on Social Media. Oxford: Oxford University Press, 2018.
Zuboff, Shoshana. The Age of Surveillance Capitalism: The Fight for a Human Future at the New Frontier of Power. New York: PublicAffairs, 2019.