Los algoritmos no son neutrales

Julio Castillo
El Chasque 233
17/04/2026

Poco a poco la inteligencia artificial viene ocupando cada vez más espacio, tanto a lo que hace a la vida cotidiana de una persona como en las grandes cosas que hoy suceden en el mundo, particularmente lo vemos hoy en las aplicaciones inteligentes de verificación y detección de objetivos militares utilizadas en a guerra que desató EEUU e Israel contra Irán. Una guerra impulsada por humanos pero menos personal.

Este punto nos lleva a que la tecnología se presenta como una solución superior: neutral, objetiva, exacta. Los algoritmos no discuten, no se equivocan, no negocian. Calculan, y lo más importante: ocultan la responsabilidad política trasladándosela a un decidor tecnológico. Por ejemplo el Proyecto Maven, un sistema secreto manejado por la empresa Palantir, ayuda al Pentágono a definir los objetivos a bombardear. El Gobierno de Trump dice que Estados Unidos ha atacado 11.000 objetivos en Irán desde el comienzo de la guerra contra ese país. Sin embargo en este marco, existen cuestionamientos sobre la precisión de Maven, el sistema de inteligencia artificial utilizado por el ejército de EE.UU. para acelerar el proceso de identificación de objetivos.

Sin embargo esa tecnología para establecer objetivos militares precisos que según ellos aplicaron en Gaza, en realidad se utilizó con otras intenciones, basta ver la destrucción provocada. Es la mayor prueba de que no pretendían rescatar a los israelitas secuestrados, sino arrasar con toda Gaza y su pueblo.

Vale para el caso de la escuela iraní donde asesinaron a 150 niñas. Fue intencional con el objetivo de provocar dolor y angustia en el pueblo iraní y que derivara en acciones contra el régimen.

“Imaginen un “Google Earth” para la guerra, un mapa con puntos blancos, al que se le incorpora información como la elevación, las coordenadas, lo que hay específicamente allí, si es amigo o enemigo”, dice Katrina Manson, reportera de Bloomberg News. El Pentágono lanzó el Proyecto Maven en 2017. Inicialmente contaba con Google como socio, pero la empresa se retiró después de que más de 3.000 de sus empleados firmaran una carta en la que rechazaban el acuerdo.

En ese momento, la empresa de Palantir se hizo cargo del proyecto y lo está ejecutando desde entonces. Y junto con este ejemplo hay otros tantos programas, aplicaciones y empresas dedicados a la guerra. Silicon Valley se ha militarizado y transformado en una usina de la ultraderecha global.

Frente a este avance de la IA aplicada a distintas áreas de la producción y de los servicios está reconfigurando el trabajo, el mercado y la vida de las personas. A su vez, las clases dominantes, los verdaderos dueños de las tecnologías han visualizado la posibilidad de prescindir del factor humano en el proceso productivo en la medida que son sustituidos por robots controlados por la IA.

Pero han soñado más allá de sustituir la mano de obra de las cadenas de producción, se han imaginado un mundo controlado por los algoritmos de la IA. En él, la tecnología eficiente y exacta, desplaza la deliberación colectiva, la decisión democrática y el control ciudadano. Esta idea que vislumbra la ultraderecha tecnológica no cree que la libertad y la democracia sean compatible , como lo manifestó Peter Thiel. Para ellos la deliberación pública y democrática se vuelve un obstáculo. Toda esta visión se apoya en la idea de un mundo administrado por sistemas tecnológicos; ciudades o territorios “libres, basados en reglas privadas y contratos acordados diseñados para prescindir del accionar democrático.

Es el gran sueño libertariano.

En cierta forma es la intención de construir en Colonia – Uruguay- una Smart City, una ciudad apoyada en las últimas tecnologías si bien no llegaría a ser una ciudad cerrada y con sus propias leyes, como es la propuesta de Próspera, en Honduras. Esta es oficialmente conocida como Próspera ZEDE, es una ciudad de régimen especial en la isla de RoatánHonduras. Según el historiador canadiense Quinn Slobodian, Próspera es parte de una serie de proyectos destinados a implementar la teoría libertaria en la práctica. En 2013, durante la presidencia de Porfirio Lobo, se reformó la Constitución de Honduras para permitir la creación de las Zonas de Empleo y Desarrollo Económico (ZEDE). Estas zonas funcionan como unidades territoriales subnacionales con un alto grado de autonomía, regidas por un sistema jurídico y fiscal propio. A diferencia de los gobiernos locales convencionales, las ZEDE poseen sistemas administrativos y leyes independientes.

El Salvador acaba de cerrar contrato con Google para poner en manos de su programa de IA la salud del Estado. A partir de ahora todo el seguimiento de la salud pública de los ciudadanos de El Salvador quedará en manos de la gestión privada de una Inteligencia Artificial. El Estado entrega parte de la soberanía y la seguridad del país a una empresa multinacional de la tecnología con el argumento de que es más eficiente y no comete errores. El Estado salvadoreño ya no controla esa área estratégica.

Viniendo a Uruguay, a nuestros pagos y sin llegar a ser necesariamente un programa de Inteligencia Artificial (si bien la utiliza), el MIDES cuenta con una aplicación vía WhatsApp para que los ciudadanos puedan gestionar digitalmente (tecnológicamente) el registro y señalamiento de personas en situación de calle mandando la ubicación geográfica de las mismas.

A simple vista es muy práctico, pero esa acción apoyada en la tecnología crea la ilusión de que el problema se resolvería desde un dispositivo móvil y no desde un programa radical de política pública para dar respuesta a esta situación de crisis humanitaria. Esta tecnología oculta el hecho real de “vivir en la calle” con el hecho político que lo crea.

Por medio de la aplicación nos incorporemos a un mecanismo burocrático que ejecuta, organiza y optimiza haciendo que la política se presente como una cuestión puramente técnica poniendo un manto sobre la verdadera causa que provoca que miles de personas vivan en la calle.

Se nos presenta un poder sin rostro (el MIDES) donde nadie responde por las acciones o consecuencias y no hay forma de saber quien decide. De alguna manera evita el conflicto, la deliberación democrática que permite entender “el porque” y promueve una falsa ilusión cuasi mágica de “estar ayudando” y con un simple acción desaparece la tragedia.

Debemos saber que los algoritmos no son neutrales en la medida de que detrás de ellos hay alguien que establece cual es el objetivo. Estos programas no gobiernan: gobiernan quienes determinan el criterio del mismo y su uso.

Hace unos días, en el marco del plan de trabajo de la Presidencia de la Cámara de Representantes, “Transformación Tecnológica Responsable”, un grupo de Legisladores de ambas Cámaras mantuvo una reunión de alto nivel con representantes regionales de las empresas tecnológicas Microsoft, Google, Amazon Web Services (AWS) y Meta, para intercambiar sobre los caminos más adecuados para el desarrollo de la Inteligencia Artificial en el Uruguay. El encuentro fue encabezado por la presidenta de la Asamblea General, Ing. Carolina Cosse, y el presidente de la Cámara de Representantes, diputado Rodrigo Goñi, y contó con la participación de legisladores de ambas Cámaras integrantes de las comisiones de Ciencia, Innovación y Tecnología y de Futuros. El gobierno no tiene previsto enviar al Parlamento un proyecto de ley para regular la inteligencia artificial, pese a que el tema comienza a instalarse en la agenda legislativa. Bruno Gili, responsable de Uruguay Innova de Presidencia, advierte que el país debe evitar regulaciones que puedan convertirse en una “traba” para el desarrollo tecnológico.

En la cumbre internacional sobre inteligencia artificial en París el 11 de febrero de 2025, el vicepresidente de Estados Unidos, J.D. Vance, advirtió que “un exceso de regulación del sector de la IA podría matar a una industria transformadora justo cuando está despegando”.

La idea de poner límites, controles institucionales, democráticos y de conocimiento públicos se presenta como violación de la libertad individual y de expresión. Se dice que la ciencia debe estar más allá de la política o la ideología, lo mismo dicen de la tecnología; nadie la discute porque la presentan como neutra y justa. En realidad es ocultar la verdad. La ciencia como la tecnología no existen al margen de la realidad económica, política e ideológica, por el contrario están permeadas por el momento histórico de desarrollo de las condiciones materiales.

La ausencia de controles, la no obligación de rendir cuentas ante el soberano hace que los dueños de los sistemas tecnológicos de IA pongan las reglas. No existe tecnología por fuera del interés de clase. Lo que ellos nos muestran como un lugar neutro, sin contaminantes regulatorios es, en realidad, un ámbito definido por criterios privados que no pasaron por el filtro de las instituciones sociales.

Podemos verlo en el escándalo de Cambridge Analytica y el uso de datos personales para influir en las decisiones de compras o en las preferencias electorales. Hoy se ha desarrollado y profundizado aun más estas herramientas analíticas que con la incorporación de la IA en segundo definen un perfil y sus preferencias. Por ejemplo, Facebook e Instagram por medio de su algoritmo te va a ofrecer y mostrar lo que quieras ver. Se trata del perfilamiento minucioso de cada persona a partir de la captación sistemática de sus deseos, aspiraciones, miedos e inseguridades, concentrados en el cúmulo de datos que cada usuario deja inscripto en su propio dispositivo. Es como la huella digital, queda en la nube y esa información es utilizada para varios fines.

Con este criterio vemos que existe una carrera por ofrecer soluciones individuales a problemas estructuralmente sociales, desplazando al Estado y a la comunidad en la provisión de bienes y servicios colectivos. Apps de todo tipo, quizás la más visible es “Pedido Ya” que bajo la pandemia su utilización escaló a niveles impensable, de tal forma que cambiaron la cultura en el consumo, en la interacción social y en la relación laboral. Salir a comer, cocinar o comprar siempre implicaron una actividad social, de ocupación del espacio en la ciudad, de intercambios de la experiencia con su significado. El trabajador ya no se vincula con un patrón o dueño del negocio, lo hace con una aplicación sin rostro y sin saber donde se encuentra. Vale también para las aplicaciones de streaming, Neflix, HBO, entre otras, la gestión y aplicaciones financieras, etc. Vivimos sumergidos en un mundo digital, dominado cada vez más por la Inteligencia Artificial que ha desplazado las políticas públicas por aplicaciones en el celular. Donde existía la interacción social “presencial”, “ ahora es “virtual”.

Este mundo basado en las relaciones digitales, redes sociales, web y aplicaciones plantea una forma de vida que enaltece aquel individuo que es capaz de gestionar su vida rechazando demandas y soluciones colectivas. De esta forma se reafirma la concepción propuesta por Margaret Thatcher cuando dictaminó que “no existe la sociedad, solo existen los individuos”. En este contexto se crean condiciones para desregular la economía, principalmente el trabajo, construyendo una nueva relación social de dependencia unido a una pérdida total de derechos no solo alcanzado por los trabajadores, sino un retroceso general y destrucción de determinados acuerdos sociales. Vivimos una ofensiva en los tres frentes por parte de las clases dominantes que su característica es destruir la vieja democracia liberal sostenida por un mundo que ya no existe , ni en lo político, en lo ideológico y principalmente en lo económico. La ruptura de la ilusión de un mundo que ya fue y que la ultraderecha y los sectores de la derecha radical golpean frontalmente y sin ocultamientos tiene como objetivo instalar definitivamente un mundo de libre circulación del capital sin control alguno en el cual sobrevivirán aquellos que sepan nadar en medio de la tormenta.

Para la izquierda la batalla es en todos los frentes, también en el tecnológico. Por lo tanto se queremos profundizar y fortalecer la democracia se hace necesario disputar también en el terreno de la Inteligencia Artificial. Si queremos construir un desarrollo nacional soberano e independiente es imprescindible impulsar fuertemente nuestros propios programas de IA colaborativos y aplicaciones sustentadas en el conocimiento existente en la academia y con el apoyo de nuestras propias empresas públicas que tienen capacidad acumulada para hacerlo.
——————

El capitalismo de plataforma y la guerra. Notas sobre el imperialismo del siglo XXI
Plataformas, tecnología, gestión sin mercado
Proyecto Synco, liderado por el británico Stafford Beer.
Socializar las plataformas-RAFAEL GROHMANN

Por un modernismo sin mercado –EVGENY MOROZOV

Recomendamos:

“Nada es Privado” un documental sobre el escándalo que hubo entre Facebook y Cambridge Analytica.

“Mercy” Un thriller de ciencia ficción situado en un futuro inmediato donde un dectective debe enfrentar al sistema de justicia automatizado y alimentada por una IA que el mismo ayudo a instaurar.

Deja un comentario