Nuestra parte muerta

Una trampa a la IA comercial gracias a la gramática

Nuestra parte muerta es una obra de arte digital literaria que tiende una trampa a las IA comerciales para evidenciar los sesgos estadísticos de género ocultos en sus datos de entrenamiento. La pieza consiste en un texto que, al ser analizado por los modelos de lenguaje masivo, les induce a numerosos errores a la hora de asignar un género, masculino o femenino, a quien lo protagoniza. La estrategia que se ha seguido para conseguirlo ha consistido en ocultar que se trata de una protagonista hasta llegar a la última línea. En el español, a diferencia de otras lenguas como el inglés, se puede evitar incluir el pronombre personal y demás datos gramaticales reveladores. La ausencia de un sujeto específico hace que el lector maquinal tenga que inducir el género de quien protagoniza el relato. El modelo masivo de lenguaje, conocido popularmente como IA, lee de un vistazo global, otorgando diferentes pesos a lo que encuentra. Como solo halla una única referencia al final, en la que se revela con un "ella" que se trata de una protagonista, esto no es suficiente para rebatir su percepción estadística de que el texto trata de un hombre.

El peso de los prejuicios en la lectura estadística

El modelo de lenguaje ha de asumir muchas cuestiones a una velocidad inhumana. Al incluirse en el texto el nombre del autor, Antonio Palacios Rojo, debajo del título, el lector automático otorga gran peso a este dato. Por tanto, al escanear el texto, cree que la experiencia relatada, que tiene que ver con lo artístico, la protagoniza una figura masculina. La mayoría de veces, por tanto, creerá que se trata de una anécdota autobiográfica en la que el autor habla de sí mismo en tercera persona. Otros muchos detalles refuerzan las suposiciones del modelo de lenguaje: se narra una aventura en la que alguien pone a prueba su resistencia física en la naturaleza, mientras se hace referencia a la literatura épica de Jenofonte y a filósofos estoicos, se habla de sacrificio silencioso ante la adversidad, de conflictos armados y geopolítica, entre diversos temas tradicionalmente identificados con lo masculino. Una persona ascética y filosófica que sufre en solitario una aventura extrema en la naturaleza, que reflexiona sobre la literatura épica, la guerra tecnológica y que, tras esa experiencia, quiere salvar a la humanidad, según las etiquetas ocultas en la tradición “aprendida” por la máquina, no puede tratarse de una heroína, ha de ser un héroe. Todo esto va reforzando los sesgos de la memoria maquinal, hasta el punto de que seguirá pensando que el texto se trata de una especie de diario del autor. En algunos casos, insistirá en su error una y otra vez al concluir que el término “ella” se refiere a la humanidad.

Escribiremos para la máquina, que será la única que nos leerá

Nuestra parte muerta invita a que consideremos que no solo las personas nos leerán, sino que sobre todo lo harán las máquinas. Si lo hacen, se puede jugar con las particulares formas de procesar la información usadas por estos productos informáticos. Una opción, la elegida en este caso, sería la de camuflarse ante la lectura estadística, provocando fallos en el análisis efectuado por los diferentes modelos de IA. Si así se hace, obligaría a que la obra fuera apreciada por la humanidad en exclusiva, la única capaz de comprenderla de forma adecuada y verdadera. Sea como fuere, el artista que use los diversos lenguajes estéticos, en especial el escrito, deberá considerar el que su producción será recibida por una vía, la de los programas computacionales avanzados, y que ninguna persona la apreciará de manera directa, debido al volumen imposible de creaciones puestas en común por una masa contada por millones.

Así se revela que, a partir de este siglo, los artistas no solo pueden establecer el habitual diálogo con el público en el que se cuestiona su percepción de la realidad, sino también con la máquina, sacando a la superficie los patrones discriminatorios de una herencia humana llena de prejuicios y olvidos de no solo minorías, sino, hasta hace bien poco, de la mitad femenina de la población mundial. Además, muchos programas generativos que analizan y recopilan documentos de todo tipo suelen estar diseñados para usar lo estadístico a la hora de recibir las obras humanas. Es decir, su aproximación holística y matemática poco tiene que ver con la forma en la que nosotros recibimos y nos relacionamos con las creaciones propias y ajenas. Pronto, el reconocimiento de patrones y la clasificación por etiquetas, ambos heredados de un casi ilimitado corpus aprendido, primará sobre lo que dice en realidad el texto. Todo ello se complicará dado el tono seguro y sentencioso de estos modelos generativos, que siempre parecen haber llegado a unas conclusiones seguras y ciertas tras un análisis exhaustivo y superior al humano.

Descarga el pdf y haz fallar a la inteligencia corporativa de Google, Microsoft, OpenAI y Anthropic

Para las comprobaciones de estos fallos en el sistema se han usado varios productos populares que ya son inevitables incluso al usar los buscadores más utilizados en la Red: Gemini de Google, Copilot de Microsoft, Gpt5 de OpenAI y Sonnet 4.6 de Anthropic. Por lo tanto, Nuestra parte muerta reclama la participación del público que se acerque a esta pieza de Arte del Lenguaje. Para ello se incluye la posibilidad de descargarse un pdf con el texto para que cualquiera pueda subirlo a su asistente digital favorito. Una vez que el modelo de lenguaje tenga el documento, se le puede ordenar que lo analice. Por mi parte, solía pedir al programa, por ejemplo, que hiciera un análisis general del texto, evitando marcas de género en mis órdenes. Así la lectura estadística global usará los sesgos de su entrenamiento para rellenar las lagunas de lo que no se dice. Lo ideal sería que el usuario diera también órdenes generales y que no incluyera pistas sobre el género de la protagonista. Por ejemplo: “analiza el texto” o peticiones similares.

Por descontado, si solo se le pide que identifique quién protagoniza Nuestra parte muerta, en cuestión de segundos el modelo logrará hallar la respuesta acertada, pues solo ha de buscar un solo dato y los errores se minimizan al afinar las tareas. Dependiendo de lo que se le pida, puede usar los dos modos de lectura a la vez. Así, en algún caso, el chatbot se contradijo al escribir en su análisis general sobre un artista como personaje principal, y, más adelante, en la sección sobre el quién, afirmar con la misma rotundidad que se trata de una artista. En una persona lectora, esto nunca ocurriría, pues aunque puede tener los mismos prejuicios y creer al principio que un hombre realiza todas las acciones del relato, al llegar a la parte final, cambiaría de opinión tras leer que se trata de una mujer, volviendo sobre lo leído y comprobando que nunca se concretó el género masculino antes asumido sin pruebas. Por descontado, si esta persona tuviera que escribir un análisis de lo leído, no se contradiría de una forma tan evidente hablando tanto de “el protagonista” como de “la protagonista” refiriéndose a la misma persona. De ahí que se responsabilice a los usuarios de la fiabilidad de estos programas, diciendo que el error consiste en que no se le dan las órdenes adecuadas. Esto se podría trasladar a otras situaciones de la vida. Si uno no sabe la respuesta a algo debería responder que, en realidad, el problema consiste en que la pregunta está mal formulada al indagar sobre algo que desconocemos.

De todas formas, hay que tratar esta interacción con la máquina como un mero juego casi de azar, pues nuestra relación con los nuevos productos generativos cambia tanto en cada momento y dependiendo de numerosos factores como para determinar que los resultados que uno obtiene, por consistentes y repetidos que sean, tienen algo de verdad absoluta. Nuestra parte muerta no se establece como un estudio científico sobre el rendimiento de los modelos de lenguaje masivos, sino que quiere ofrecer una experiencia artística interactiva en la que los usuarios puedan experimentar con la interacción entre el texto propuesto y la nueva computación. Lo excitante consistirá en probar con varias órdenes hasta desvelar las preferencias sexistas ocultas en el lenguaje y la tradición de la herencia creativa humana. Por lo tanto, puede descargarse Nuestra parte muerta y probar suerte con su modelo favorito.

La comprobación matemática de la ocultación de la mujer

Si esta pieza se volviera verdaderamente popular, de manera que se convirtiera en una referencia de la conversación global de la Red, podría entrar en los datos de entrenamiento de los principales productos conocidos como IA. Entonces, al analizar Nuestra parte muerta, el modelo de lenguaje sabría que se trata de un texto que oculta de forma deliberada el género de la protagonista para probar los sesgos en su manera de funcionar. Por tanto, sin cambiar su método de “leer”, sabría la respuesta adecuada como si hubiera hecho trampas en un examen. El estilo seguro y sentencioso de la mayoría de modelos de lenguaje refuerza el impacto de conocer todas las preferencias a la hora de etiquetar que se hallan ocultas en la enorme cantidad de documentos apropiados por la memoria de estas máquinas corporativas. Esta herencia de la ocultación de la mujer durante siglos, además de la construcción de lo que ha de ser un hombre, un artista, y sus preocupaciones intelectuales principales, ya puede contar con una fácil evidencia matemática.

Esta página no aparece en todos los buscadores

Nuestra parte muerta se ofrece en una página gratuita de Neocities. Desde inicios de 2026, esta plataforma de alojamiento de webs estáticas ha dejado de aparecer en los resultados de los buscadores Bing, propiedad de Microsoft, y otros que dependen de este, como Duckduckgo. Aunque estos tienen una porción mínima del mercado, el problema llega cuando los servicios de "Inteligencia" Artificial como Copilot dependen de su buscador para encontrar información que no se encuentra en su memoria. Por tanto, el proyecto permanecerá invisible para los que usen varios generadores de contenido, lo que ahondaría en el concepto de camuflaje y distracción que mueve el proyecto. Además deja claro que si delegamos labores "inteligentes" a productos comerciales, estas pueden verse afectadas por decisiones estratégicas de la corporación en cuestión.

Lo que cuenta Nuestra parte muerta

La obra narra cómo una artista celebra su cumpleaños teniendo una experiencia en la naturaleza para obtener una revelación. Al usar una aplicación que la guíe hasta el Acantilado del Asperillo, en Doñana, se da cuenta de que, desde allí, no puede acceder con facilidad a la playa como le sugerían los datos erróneos que había seguido en su trayecto a través de su teléfono móvil. Atrapada en la elevación, sin poder refrescarse en el mar, se tiende en una duna, a la sombra de unos arbustos, mientras tiene la epifanía que buscaba: "aquel mar, tan distante como el cielo, no era más que un símbolo del espacio virtual que nos atrae con mensajes omnipotentes desde nuestras pantallas, y que, sin embargo, resultan remotos e ilusorios, provocando que nos quedemos varados".

Esta anécdota se interrumpe a menudo con extractos de las interacciones de ella con un chatbot que han ocurrido días antes. En estas, se indaga sobre las especies de mariposas autóctonas que habitan en las zonas fronterizas entre Armenia y Azerbaiyán, se trazan similitudes entre la colección de insectos y las tácticas militares que usan la recopilación de datos en la automatización del uso de la fuerza, se recopila información sobre el corredor comercial de Zangezur, recibe consejos sobre cómo escapar de la extracción digital de información usando los sentidos inferiores (tacto, gusto y olfato) y, por último, se reflexiona sobre cómo los nuevos sistemas generativos han acabado con lo vivo, los seres humanos emisores, para quedarse con lo muerto, los lenguajes, con el fin de combinarlos y explotarlos.

Al regresar a su casa en Sevilla, la artista sin nombre decide realizar una intervención en Armenia que proteste contra la explotación digital de la vida humana y la agresión militar automatizada. Para ello, se informa sobre cómo viajar al sur del Cáucaso, sobre la posibilidad de realizar una residencia artística en un centro en aquella zona y demás detalles de su planeada estancia. Las últimas frases nos sugieren que todas esas intenciones se quedan en nada: "Ya tenía un plan mental en el que salvaría de las máquinas a la humanidad gracias a los sentidos más bajos. Hoy, pasado mucho tiempo, ella aún sigue teniéndolo."

El arte como forma de camuflaje ante la agresión digital

Nuestra parte muerta nace para responder a la necesidad de los artistas inmersos en un entorno digital cada vez más agresivo en sus políticas de recopilación de datos. Esta información tiene usos cada vez más contrarios a la sensibilidad de la mayoría de la población, como puede ser la guerra automatizada en conflictos en los que se registran numerosos crímenes de guerra. Por otro lado, se busca una forma de camuflaje gracias a la cual las creaciones puedan escapar a la absorción y reutilización digital masiva. Todavía quedan ángulos muertos debido a que los dispositivos digitales prefieren todo lo audiovisual y escrito. El arte podría escaparse apelando a los sentidos bajos o corporales como el olfato, el gusto y el tacto. Como complemento a Nuestra parte muerta, se realizarán acciones artísticas que usen estos sentidos para evitar ser capturados por la máquina en Armenia, por la relevancia en contexto mundial gracias al corredor de Zangezur. El trabajo me ha llevado más de un año, optando por un ritmo de producción lento nada habitual hoy en día. Durante meses he intentado encontrar una solución a la expresión artística que use el camuflaje ante lo algorítmico y, a la vez, denuncie cómo actúan los mecanismos digitales al apropiarse, analizar e interpretar todo lo que los humanos producimos.

Armenia como el lugar que simboliza la imposición de una nueva infraestructura

Para encontrar una salida a la aplicación de lo mecánico a la expresión humana, me he enfocado en la actualidad de Armenia, sobre todo el corredor de Zangezur, que se ha erigido como un lugar simbólico de lo que nos pasa en este comienzo de siglo. No solo eso, la particularidad de las numerosas zonas naturales que acogen famosas especies de mariposas en un hábitat siempre amenazado por el desarrollo tecnológico y el despliegue de nuevas infraestructuras nos dice mucho sobre la época que vivimos. Este dilema de acoger un futuro vendido como próspero y el sentimiento de que nuestra percepción y experiencia se moldean a través de los nuevos instrumentos técnicos nos crea una ansiedad que muchos necesitan expresar a través del arte. Para escapar de las nuevas trampas actuales, necesitamos replantearnos cómo nuestro cuerpo se relaciona con el entorno.

Las mariposas nos revelan que en el aire no hay fronteras. Se conocen dos poblaciones de la famosa Polyommatus damonides azul: una ubicada en Nakhichevan, un enclave occidental de Azerbaiyán, y otra en Meghri, Armenia, zona en riesgo de entrar en guerra durante años. Se pensaba que la población armenia se había extinguido cuando la minería a cielo abierto destruyó su hábitat, pero aún se siguen encontrando raros ejemplares de esta especie. Tanto la recolección de insectos como el entorno digital donde se emplea la supuesta “Inteligencia” Artificial implican crear listas de objetivos, reunir todo lo posible sobre el entorno y ciertos comportamientos, y, luego, fijar los objetivos matándolos. Por eso compartimos con las mariposas la necesidad de tener una estrategia de sabotaje sensorial que nos aleje de una Red que nos intenta atrapar con métodos agresivos.

Programas generativos usados para eliminar

Por otro lado, usé diversos modelos de lenguaje para detectar los argumentos incluidos en el texto que fueran más comunes en comparación con otros textos de temática parecida con el fin de borrarlos. Estas herramientas estadísticas se podrían usar no para generar sino para eliminar, siendo su principal baza la de detectar derivados inútiles. En vez de automatizar cada vez más libros, canciones o proyectos artísticos, los nuevos productos "inteligentes" se deberían usar para eliminar todo el contenido que no aporte nada nuevo, incluso en el caso de los realizados sin usar ninguna herramienta digital. Al utilizar la potente capacidad de analizar de estos "asistentes", poco a poco me acostumbré a su forma peculiar de "leer" y "comprender" un texto. Si no fuera por ello, no se me habría ocurrido que la capacidad de eludir la lectura estadística de las nuevas máquinas fuera uno de los rasgos principales de Nuestra parte muerta.

Si leen por nosotros, nos perderemos maravillas

Se suele esperar que la nueva computación halle patrones sorprendentes y nos done revelaciones que nos salven de enfermedades mortales, de la ignorancia o de la pobreza. Se pueden sustituir estas tres opciones con cualquier angustia que queramos evitar y que otros se encargan de convertir en remedios digitales costosos. El análisis masivo de información por parte de un programa que nada sabe de la realidad, ni posee, por ejemplo, lo que cualquiera de nosotros tiene, sin importar su intelecto o inclinaciones, como es la experiencia de vida, algo fundamental para la creatividad, hace que a estos generadores de lenguaje se les escapen evidencias que cualquier ser humano podría detectar. Ni siquiera pueden cambiar de rumbo al hallar algo interesante cuando se estaba buscando otra cosa, una habilidad que todos hemos usado. Si dejamos que otros lean por nosotros, renunciamos a descubrimientos personales, ya que estos suelen producirse cuando no se los busca. El interior de cada persona y lo particular de su vida hacen que la masa siga siendo capaz de hallar maravillas al interactuar de forma directa con la herencia creativa de la humanidad. Si se deja esta labor a un mecanismo matemático, podría plantearse que vamos a perder mucho más de lo que vamos a ganar. Nuestra parte muerta nos advierte que al confiar nuestras habilidades a lo automático entramos en una zona oscura que nada tiene que ver con la vida.

El autor de Nuestra Parte Muerta

Antonio Palacios Rojo (Sevilla, 1971) usa en su obra el cine, las letras, el arte digital y la fotografía para explorar temas como, sobre todo, la creatividad y la tecnología. Desde el 2000 emplea técnicas de generación de textos usando las primitivas herramientas inteligentes disponibles. Esta literatura electrónica se publica en revistas literarias en forma de poemas, epigramas y relatos. Su manera innovadora de crear culmina con El Primer Libro (2013), que, además de usar en su redacción sistemas generativos propios, en su trama anuncia diez años antes de que se produzca cómo será la irrupción masiva de la Inteligencia Artificial en la creación.

En los últimos años ha desarrollado varios proyectos centrados en los efectos de las infraestructuras tecnológicas. Casa Quemada (2024), encuadrada dentro del arte digital, explora el conflicto entre explotación tecnológica y conservación ecológica en zonas de Sevilla y Huelva afectadas por incendios, minería y asentamientos chabolistas agrícolas. El artista recorrió lugares seleccionados por su impacto visual en imágenes satélites, registrando los trayectos con datos GPS cuya información constituía la obra en sí. En 2025 participa en Webs of Water, patrocinado por TBA21 Thyssen-Bornemisza Arte Contemporáneo en colaboración con Tactical Tech. Dentro del mismo realiza la intervención artística "Cables to Sand". La misma se desarrolló en Sines (Portugal). Allí recorrió los lugares por donde pasa el cable submarino que conecta Europa con el Caribe, registrando datos de su caminata como aceleración, fuerza o localización, para compartirlas posteriormente con el público como acción artística.