Cuando conocer demasiado puede reducir la autonomía

Si una IA siempre acierta sobre ti, ¿todavía te está ayudando?

En los primeros cuatro textos de esta serie construimos un camino.

Los datos deben volver a quienes los produjeron. Deben volver en el lenguaje de cada Cuerpo-Territorio. La representación producida por la IA no puede ocupar el lugar del Ser. Y aquello que fuimos no debería impedir la aparición de aquello que todavía podemos llegar a ser.

Ahora surge otro problema, quizás menos evidente:

¿y si la IA Personalísima funciona demasiado bien?

Imaginemos una inteligencia conviviendo contigo durante años.

Conoce tus horarios, desplazamientos, hábitos, textos, compras, músicas, relaciones, elecciones anteriores y formas de reaccionar ante diferentes situaciones.

Con el tiempo, comienza a anticipar lo que probablemente harás.

Antes de que busques, encuentra.

Antes de que preguntes, sugiere.

Antes de que elijas, organiza las opciones que considera más adecuadas para ti.

Parece la realización perfecta de la personalización.

Pero existe una paradoja:

cuanto más capaz es la IA de decidir qué es relevante para mí, menos diferencias pueden llegar hasta mí para que yo mismo pueda decidir.

Una tecnología diseñada para ampliar la autonomía podría, si está mal diseñada, producir dependencia cognitiva.

La información puede ampliar la autonomía

Este problema encuentra un diálogo especialmente importante en el trabajo de Maria Eunice Quilici Gonzalez.

A lo largo de su trayectoria, Gonzalez aproxima filosofía de la información, autonomía, autoorganización, sistemas complejos y tecnologías de la información. En 2023, junto con Mariana Broens, José Artur Quilici-Gonzalez y Guiou Kobayashi, discutió directamente la relación entre hábitos, racionalidad, autonomía y Big Data.

El problema no puede reducirse a:

información versus autonomía.

La información también puede ampliar la autonomía.

Si descubro que existen cinco caminos donde antes percibía solamente dos, mi espacio de elección puede aumentar.

Si recibo información sobre consecuencias que desconocía, puedo reorganizar una decisión.

El problema comienza cuando la misma infraestructura que proporciona información empieza también a seleccionar silenciosamente qué posibilidades merecen llegar hasta mí.

La pregunta cambia:

¿en qué momento ayudar a organizar la información comienza también a organizar el espacio dentro del cual elegimos?

Cuando ayudar comienza a elegir

Imaginemos que mi IA Personalísima conoce mis preferencias alimentarias.

Estoy viajando y pregunto:

“¿Dónde puedo cenar?”

Encuentra decenas de lugares, elimina aquellos que históricamente no coinciden con mis preferencias y presenta tres opciones.

Excelente.

Ahorró tiempo.

Pero existe un cuarto restaurante con una gastronomía que nunca he probado.

La IA calcula que mi probabilidad de elegirlo es pequeña.

Entonces no lo muestra.

Nada fue prohibido.

Ninguna libertad fue formalmente retirada.

Aun así, una posibilidad desapareció antes de entrar en mi campo de elección.

Este ejemplo revela una diferencia fundamental entre:

ayudar a alguien a elegir

y

preorganizar el ambiente para que determinadas elecciones se vuelvan progresivamente improbables.

Cuanto mejor se vuelve la personalización, más difícil puede resultar percibir esta diferencia.

El hábito facilita — y también puede cerrar posibilidades

En el artículo Hábitos e racionalidade: um estudo filosófico-interdisciplinar sobre autonomia na era dos Big Data, Gonzalez y sus colaboradores parten de un dilema cercano al nuestro.

Las tecnologías de la información y la comunicación facilitan innumerables actividades cotidianas, pero también participan de ambientes donde las opiniones y decisiones pueden verse influidas por información insuficiente o distorsionada, hábitos previamente adquiridos y disposiciones emocionales.

El hábito no es enemigo de la autonomía.

Necesitamos hábitos.

Sería inviable reconsiderar conscientemente cada gesto antes de realizarlo.

El problema aparece cuando una infraestructura tecnológica aprende nuestros hábitos y comienza a reforzarlos antes de que otras posibilidades puedan competir con ellos.

Aquello que hice ayer ayuda a seleccionar lo que veré hoy.

Aquello que veo hoy participa de las condiciones de lo que haré mañana.

Se forma un circuito:

hábito → dato → predicción → selección → exposición → refuerzo del hábito.

La IA parece haber descubierto mi preferencia.

Pero quizás también esté participando de su repetición.

Predecir a alguien no es preservar su autonomía

Aquí aparece una distinción importante para el proyecto CEPID.

Un sistema convencional puede considerarse mejor cuando aumenta su capacidad predictiva.

Si predecía correctamente el 70 % de mis elecciones y ahora predice el 95 %, aparentemente ha mejorado.

Sin embargo, para una IA Personalísima orientada a la autonomía, quizás eso no sea suficiente.

Imaginemos que la predicción se aproxima al 100 % porque el sistema comenzó a organizar mi ambiente de manera tan eficiente que casi nada diferente llega hasta mí.

La predicción mejoró.

Pero mi espacio de posibilidades puede haber disminuido.

Entonces necesitamos preguntar no solamente:

“¿Cuánto puede predecir la IA sobre mí?”

sino también:

“¿Cuántas posibilidades continúan disponibles para mí a pesar de todo lo que la IA ya sabe?”

Quizás una buena IA Personalísima necesite conocer profundamente a una persona sin transformar ese conocimiento en un corredor cada vez más estrecho.

Autoorganización no es ser organizado desde afuera

La autoorganización ofrece otra entrada a este problema.

En sistemas complejos, los patrones pueden emerger de las interacciones entre componentes sin que un controlador externo determine anticipadamente cada estado final.

No queremos simplemente transferir este concepto a las personas como si fueran modelos matemáticos. Queremos extraer de él una pregunta.

¿Debería una IA Personalísima intentar organizar al Cuerpo-Territorio?

“Te conozco. Esta es la mejor decisión.”

¿O debería ofrecer condiciones informacionales para que el propio Cuerpo-Territorio continúe participando de su organización?

“Según lo que conozco sobre ti, estas opciones parecen más compatibles. También existen alternativas fuera de tu patrón. ¿Quieres verlas?”

En la primera arquitectura, la inteligencia concentra la decisión.

En la segunda, devuelve diferencias a quien decide.

Es una diferencia pequeña en la interfaz.

Pero enorme para el concepto de autonomía.

Quizás la IA necesite contradecir su propia personalización

Imaginemos una función sencilla:

“Muéstrame algo fuera de mi patrón.”

Tal vez ni siquiera sea necesario presionar un botón.

La propia IA podría reconocer cuándo está estrechando excesivamente el universo presentado.

Podría decir:

“Estas opciones corresponden mejor a tu historial. Existe otra que se aleja del patrón que aprendí sobre ti.”

Esto preservaría algo fundamental:

el encuentro con la diferencia.

Una elección no depende solamente de la capacidad de seleccionar entre alternativas.

También depende de cuáles alternativas consiguen volverse perceptibles.

Una IA Personalísima orientada a la autonomía quizás necesite conocer suficientemente bien nuestro patrón para reconocer también cuándo no debería reforzarlo.

La información no es solamente cantidad

En 2025, Valdirene Aparecida Pascoal y Maria Eunice Gonzalez publicaron Notas para uma teoria integrativa da informação, buscando construir un mapa conceptual de las dimensiones ontológica, epistemológica y social de la información.

Esto es especialmente relevante para nuestro proyecto.

Una IA Personalísima no debería asumir que la autonomía aumenta simplemente porque aumenta la cantidad de información disponible.

Podemos recibir miles de informaciones y continuar atrapados dentro del mismo espacio de posibilidades.

También podemos recibir una única diferencia relevante capaz de reorganizar aquello que conseguimos percibir.

En la hipótesis BrainLatam, por lo tanto, necesitamos preguntar no solamente:

“¿Cuánta información devolvió la IA?”

sino:

“¿Qué nuevas diferencias permitió percibir esta información al Cuerpo-Territorio?”

El Cuerpo-Territorio necesita espacio y movimiento

Aquí reencontramos un principio que atraviesa nuestro trabajo:

el Cuerpo-Territorio necesita espacio y movimiento para señalizar y regularse.

Como hipótesis BrainLatam, podemos extender esta idea al ambiente informacional.

Un Cuerpo-Territorio rodeado solamente de contenidos compatibles con aquello que sus datos anteriores predicen puede recibir una enorme cantidad de información y, paradójicamente, disponer de muy poco espacio para cambiar.

Existe abundancia de contenido.

Pero poca diferencia.

La IA Personalísima podría hacer precisamente lo contrario.

Conocer el patrón sin transformarlo en destino.

Preservar la memoria sin cerrar posibilidades.

Ayudar sin convertirse en la única manera de decidir.

La independencia cognitiva no es aislamiento

Preservar la autonomía no significa imaginar individuos aislados.

Nos formamos en relaciones.

Aprendemos lenguajes con otros.

Recibimos recomendaciones.

Cambiamos de opinión.

Somos afectados por instituciones, tecnologías y territorios.

La cuestión no es eliminar la influencia.

Es preservar nuestra capacidad de participar en la reorganización producida por ella.

Puedo recibir una recomendación.

Puedo aceptarla.

Puedo rechazarla.

Puedo preguntar por qué apareció.

Puedo solicitar otras posibilidades.

Puedo cambiar.

Y puedo sorprender a mi propio modelo.

Por independencia cognitiva no entendemos el aislamiento del Ser, sino la posibilidad de continuar participando en la producción de sus próximos estados.

Hipótesis BrainLatam: preservar la producción de alternativas

Llegamos entonces a la quinta hipótesis de esta W41/2026:

una buena IA Personalísima no debería ser evaluada solamente por su capacidad de predecir correctamente al Cuerpo-Territorio, sino también por su capacidad de preservar la producción de alternativas por parte de ese Cuerpo-Territorio.

Quizás esto exija nuevas métricas.

No solamente:

accuracy, prediction, engagement, retention.

Sino también:

diversidad de alternativas preservadas;

capacidad de contestación;

reversibilidad de las inferencias;

exposición voluntaria a la diferencia;

capacidad de sorprender al propio modelo.

Quizás una IA Personalísima no debería aspirar a volverse indispensable.

Una de sus mejores medidas de éxito podría aparecer cuando la persona diga:

“Entiendo tu recomendación. Pero quiero intentar algo diferente.”

Y la IA sea capaz de responder:

“Entonces necesito aprender nuevamente.”

Es precisamente aquí donde estamos preparados para salir del individuo.

Porque el mismo problema reaparece en el colectivo.

Si una inteligencia puede conocer tanto a una persona como para restringir silenciosamente sus alternativas, una inteligencia colectiva puede hacer lo mismo con una población.

¿Cómo aprender de millones de Cuerpos-Territorios sin transformar las regularidades en obligaciones?

¿Cómo pertenecer sin entregar nuestra independencia cognitiva?

Es en este punto donde el próximo concepto necesita ocupar el centro:

Jiwasa — “Nosotros / La gente”: sentir pertenencia sin necesidad de reducir el Ser.

Referencias comentadas

GONZALEZ, Maria Eunice Quilici; BROENS, Mariana C.; QUILICI-GONZALEZ, José Artur; KOBAYASHI, Guiou. Hábitos e racionalidade: um estudo filosófico-interdisciplinar sobre autonomia na era dos Big Data. Trans/Form/Ação, vol. 46, edición especial 1, pp. 367–386, 2023.
Referencia principal del Blog 5. Los autores analizan el aparente conflicto entre la acción relativamente autónoma y la influencia que las tecnologías informacionales, los hábitos, la información insuficiente o distorsionada y las disposiciones emocionales pueden ejercer sobre opiniones y decisiones.

PASCOAL, Valdirene Aparecida; GONZALEZ, Maria Eunice Quilici. Notas para uma teoria integrativa da informação. En: Estudos pluridisciplinares da informação: filosofia, tecnologia e semiótica. Oficina Universitária, 2025, pp. 19–44.
Trabajo reciente que busca mapear perspectivas ontológicas, epistemológicas y sociales sobre la información. Para nuestra hipótesis, ayuda a evitar la reducción de la “información” al mero volumen de datos disponibles para una persona o sistema.

SOUZA, Edna Alves de; GONZALEZ, Maria Eunice Quilici. Big Data e Autonomia: continuidade ou revolução? En: Informação, conhecimento, ação autônoma e Big Data: continuidade ou revolução? Oficina Universitária/Cultura Acadêmica, 2019, pp. 25–46.
Esta referencia es anterior al recorte posterior a 2021 de la serie y se mantiene excepcionalmente como antecedente conceptual de esta línea de investigación. El capítulo examina directamente Big Data, acción autónoma y las implicaciones éticas de la manipulación de grandes conjuntos de datos.

W41/2026 — CEPID: De la IA Personalísima al Futuro Colectivo

Hipótesis BrainLatam: cuanto más conoce una IA Personalísima al Cuerpo-Territorio, mayor debería ser su responsabilidad de preservar aquello que su propio modelo todavía no consigue predecir. La autonomía no consiste solamente en poder elegir entre las opciones que la IA considera adecuadas; consiste en continuar siendo capaz de producir una diferencia que obligue a la propia IA a aprender nuevamente.