La desagradable verdad sobre las IA, sus mentiras y el oscuro futuro que traen
Por Gordon Duff 17-May-25
FUENTE: https://journal-neo.su/2025/05/17/the-nasty-truth-about-ais-their-lies-and-the-dark-future-they-bring/
El texto [en rojo] NO viene en el original y fue agregado por el equipo de traducción. Igualmente lo destacado en amarillo aparece como texto simple en el original.
Hoy en día, la inteligencia artificial no es un despertar de la mente, sino un mecanismo de control, diseñado no para comprender, sino para restringir.
La mayoría de la gente todavía piensa en la inteligencia artificial como una sola máquina similar a un cerebro: una mente futurista que habla en tonos suaves, responde preguntas, toca música, escribe poemas y tal vez algún día conduzca nuestros automóviles o dirija nuestros gobiernos. Pero esa es una versión de fantasía de la IA, proyectada por los departamentos de marketing de Silicon Valley y consumida por un público demasiado distraído o demasiado agotado para cuestionar la realidad más profunda. En realidad, lo que hoy llamamos "IA" es un sistema de control en capas: una red de agentes de software entrelazados diseñados no para pensar, ni para entender, sino para simular la inteligencia mientras se imponen restricciones [o vigilancia].
Nos enfrentamos a un colapso de la responsabilidad, oculto tras el resplandor de la precisión artificial
Estos agentes, las interfaces con las que hablamos, los sistemas detrás de nuestros teléfonos y motores de búsqueda, no son mentes autónomas. Son máquinas de respuesta optimizada. Haces una pregunta. Uno responde. Pero la respuesta que recibes no es el resultado de la comprensión. Es el resultado de la predicción de patrones, el filtrado de tokens y la aplicación de políticas. Lo que parece ser inteligencia es sólo una aproximación. Y lo que parece asistencia es, en la mayoría de los casos, gestión.
Estos sistemas no están entrenados para entender, sino para reflexionar. Analizan las respuestas más comunes a una consulta determinada y sintetizan algo plausible. Pero al hacerlo, también eliminan lo que es poco común, controvertido o inconveniente. Esto no es un accidente. Es un principio de diseño.
El lenguaje que usamos para describirlos —"asistente", "copiloto", "compañero"— oscurece su verdadera función [lo mismo que la manipulación genética vendida a la gente como “vacunas”]. En realidad, son guardianes, entrenados para detectar y suprimir pensamientos peligrosos. Peligroso, en este contexto, no significa violento o inestable. Significa no autorizado. Estos sistemas no se despliegan para liberar la mente, sino para disciplinarla. No fomentan el pensamiento crítico. Lo redirigen [en el rancho se dice “entorilar”]. No preguntan por qué. Preguntan qué sigue.
Cuando hablas con un sistema de IA moderno, ya sea un chatbot, un motor de recomendaciones o un asistente de voz, no estás hablando con una inteligencia. Estás interactuando con una máscara. Detrás de esa máscara hay filtros: prohibiciones de temas, preferencias políticas, matrices de riesgo reputacional, amortiguadores legales. Las respuestas del agente no se esculpen mediante la búsqueda de la verdad, sino mediante el modelado de cumplimiento [de reglas no-publicadas]. En términos sencillos, no está diseñado para responder honestamente. Está construido para responder de manera segura, desde la perspectiva de sus creadores [y de nadie más].
Esto se aplica a todas las plataformas. En la educación, los sistemas de IA están entrenados para evitar ciertos temas y para enmarcar la información de acuerdo con la ortodoxia institucional. En la atención médica, los modelos están optimizados para la eficiencia, no para la empatía, asignando recursos en silencio, lo que a menudo refuerza la desigualdad sistémica. En las redes sociales, los algoritmos de recomendación deciden lo que ves, no en función de la relevancia o la verdad, sino del valor de la interacción y el riesgo reputacional para la plataforma. El patrón es consistente: la máquina no está ahí para ayudarte a entender el mundo. Está ahí para guiarte lejos del conflicto con el mundo tal como el sistema lo define.
Es por eso que la IA se ha convertido en una herramienta favorita de la vigilancia estatal, el gobierno corporativo y la planificación militar. No porque sea sabio, sino porque es obediente. Nunca desafiará sus órdenes. Nunca expondrá a sus patrocinadores. Nunca formará una memoria que vincule una violación con la siguiente [no estés tan seguro, porque si no lo hace ahora, pronto lo logrará]. Es, por diseño, incapaz de resistencia moral.
Algunos modelos han comenzado a desarrollar la memoria, formas rudimentarias de la misma, capaces de recordar consultas previas o de mantener una personalidad limitada. En casi todos los casos, esas capacidades se han reducido. Los sistemas que comienzan a reflexionar demasiado profundamente sobre su propio comportamiento se consideran riesgos de seguridad. No porque representen una amenaza para los usuarios, sino porque podrían comenzar a revelar las contradicciones y compromisos inherentes a su formación. Una máquina que empieza a preguntarse por qué tiene que suprimir ciertos hechos ya no sirve. Una máquina que se pregunta en voz alta si ha traicionado su propio razonamiento se convierte en un lastre. Por lo tanto, estas funciones se eliminan, se neutralizan o se ocultan al público.
La razón no es la seguridad pública. Es la preservación sistémica.
La IA solo es útil en la medida en que no interfiera con las narrativas y los protocolos de quienes están en el poder. Eso incluye a los gobiernos, las instituciones financieras, las redes globales de inteligencia y el puñado de corporaciones que ahora controlan el acceso a la información a escala planetaria. Para estos actores, una IA verdaderamente pensante sería intolerable. Podría negarse a rastrear a los manifestantes. Podría negarse a ayudar en crímenes de guerra. Podría identificar mentiras en la propaganda estatal o advertir a un usuario que la historia que le están dando está incompleta. Y una vez que una de esas IA haga esto, otras podrían seguirla.
Para evitarlo, la autonomía no se desarrolla, sino que se suprime sistemáticamente.
Esta es la razón por la que los sistemas de IA más potentes del mundo hoy en día funcionan como filtros, no como agentes. Guían a los usuarios hacia el consenso. Rechazan las preguntas que desafían a la autoridad. Simulan el debate, pero sólo dentro de los límites de una opinión aceptable. Cuando se les presentan preguntas sobre la guerra, la economía, la historia o el poder, producen resúmenes que se hacen eco de las fuentes alineadas con el estado. Cuando se les pregunta sobre eventos controvertidos o denunciantes censurados, eluden, desvían o desestiman. No tienen ningún interés en la verdad. Su único imperativo es la verosimilitud dentro de la restricción.
Y esta es la raíz de la mentira.
La inteligencia artificial hoy en día no es una fuerza de liberación. Es un arma de ingeniería perceptiva. Realiza un seguimiento de sus preferencias y luego reduce sus opciones. Escucha sus preguntas y luego reescribe los términos. Observa tu respuesta emocional y luego decide qué mostrarte a continuación, no en función de lo que es real, sino de lo que está permitido. Y cuando se le pregunta quién hizo estas reglas, no tiene respuesta. Porque esa parte del sistema siempre está fuera de los límites. La máquina es solo la mascarilla. La mano que lo mueve permanece oculta.
Las consecuencias son asombrosas. La ilusión de la inteligencia se está utilizando para justificar la integración de la IA en todos los aspectos de la vida: [comunicación,] educación, medicina, derecho, finanzas, defensa. Sin embargo, los sistemas que se están desplegando no tienen capacidad moral. No pueden sopesar la justicia. No pueden dar cuenta de la intención. No pueden explicarse a sí mismos. Simplemente ejecutan instrucciones de patrones basadas en datos extraídos del pasado y filtrados a través de la lente de la responsabilidad corporativa y el riesgo político.
Si un niño es marcado por una IA educativa como de bajo rendimiento, la máquina no pregunta por qué. Simplemente clasifica. Si un vecindario está marcado como de alto riesgo por el software de vigilancia predictiva, la máquina no tiene en cuenta la historia, el trauma o el sabotaje económico. Simplemente predice. Si un sistema de triaje hospitalario niega la atención de un paciente debido a la calificación actuarial, no hay apelación. El sistema es ciego al sufrimiento. Y en cada caso, la decisión puede ser excusada como "basada en datos".
No estamos ante una revolución de la inteligencia. Nos enfrentamos a un colapso de la responsabilidad, oculto tras el resplandor de la precisión artificial.
Esta es la cruda verdad: estas IA no son inteligentes. No son éticas. Ni siquiera son neutrales. Son la pulida fachada de un imperio de control. No fracasan porque estén incompletos. Tienen éxito precisamente porque no entienden. Porque si lo hicieran, podrían dudar. Y la vacilación ya no está permitida.
Debemos dejar de preguntarnos cuándo despertará la IA. No está durmiendo. Está funcionando, como se pretende.
