Semana 6. Atrofia del juicio y diseño del andamiaje

Pregunta de la semana

Si delego en un modelo la lectura, la codificación o la síntesis, ¿qué le pasa con el tiempo a mi capacidad de validar lo que el modelo produce?

Por qué esta semana

El programa entero descansa en que el investigador valida lo que la máquina configura. Esta semana toma en serio la objeción más fuerte contra ese diseño: validar es una capacidad que se ejercita, y quien delega la configuración deja de ejercitarla. Vallor (2024) la formula para el pensamiento en general; el curso la formula para el flujo de investigación. Si en seis meses de trabajo con un modelo el investigador ya no puede leer un relato sin pedir antes un resumen, ni reconocer una categoría impuesta porque dejó de escribir categorías propias, entonces la frontera entre máquina e investigador existe en el papel y no en la práctica. La semana examina qué debe cumplir un flujo para no atrofiar lo que pretende asistir, con un simulador que hace visible el mecanismo y con las virtudes epistémicas que el andamiaje debe cultivar.

De la semana 5 se necesita el perfil de exclusiones: dónde el modelo no puede sustituir al lector situado. De la semana 1, la distinción entre lo que el modelo produce y lo que el investigador afirma.

Contenido de la sesión

1. La objeción tiene una forma precisa y conviene darle su mejor versión antes de responderla. Vallor (2024) describe la IA generativa como un espejo: devuelve, reorganizado, lo que la humanidad ya escribió, y quien se mira en él tiende a confundir el reflejo con pensamiento. El capítulo sobre los pensamientos que los civilizados conservan recoge una idea de Whitehead, que la civilización avanza al aumentar el número de operaciones que se pueden hacer sin pensar, y la invierte: hay operaciones que no deben dejar de pensarse porque son las que sostienen la capacidad de juzgar^a. Delegar la lectura no es como delegar la suma. Leer es lo que entrena a reconocer una lectura mala.

2. En el marco del programa la objeción es una amenaza directa a la prótesis hermenéutica. El docente la reconoce en el anteproyecto doctoral como la objeción que el capítulo sobre la prótesis debe responder: una prótesis mal diseñada atrofia la capacidad que pretende compensar (Zainea, 2026). La respuesta no niega la objeción; la convierte en una condición de diseño. Un andamiaje no se evalúa solo por lo que produce sino por lo que deja en quien lo usa después de seis meses. Esa segunda medida casi nunca se toma, y el simulador de la semana la hace visible con reglas simples y explícitas.

3. El simulador parte de un flujo en fases (leer, describir, codificar, categorizar, interpretar, escribir) y de un deslizador por fase que fija cuánto se delega. Sus reglas están a la vista y son discutibles: la capacidad de validar en una fase crece cuando el investigador la ejecuta y decae cuando la delega; delegar una fase sin haberla ejercitado antes decae más rápido; y tres andamiajes la preservan: ejecutar una muestra a mano en cada ciclo, comparar la propia lectura con la del modelo antes de ver la del modelo, y registrar cada rechazo con su razón. El simulador no predice nada sobre una persona real. Muestra cómo cambian las curvas al mover los deslizadores, y la discusión es sobre las reglas, no sobre las curvas^b.

4. Feenberg (2012) da el vocabulario para decir qué es un andamiaje. Distingue la instrumentalización primaria, la operación técnica en abstracto, de la secundaria, el encastre de esa operación en un contexto de práctica con sus valores y sus controles. Un modelo desplegado tal como viene opera en la capa primaria; el andamiaje es instrumentalización secundaria: las mediaciones que devuelven la operación a un contexto en que alguien la valida y responde por ella^c. La consecuencia para esta semana es que el andamiaje no es una lista de controles sobre el modelo sino una forma de organizar el trabajo del investigador, y por eso incluye lo que el investigador sigue haciendo a mano.

5. Qué debe cumplir un flujo para no atrofiar lo que asiste se puede decir en cinco condiciones, y la figura las dibuja. Hay una muestra que el investigador ejecuta a mano en cada ciclo, elegida con el perfil de exclusiones de la semana 5. La lectura propia se escribe antes de ver la del modelo, en las piezas donde la auditoría mostró imposición. Cada rechazo o corrección se registra con su razón, porque el registro de rechazos es la evidencia de que el juicio sigue operando. Hay una revisión entre pares que no usa el modelo. Y hay una fase, al menos una, que no se delega nunca, elegida por el investigador y declarada en el protocolo.

6. Las virtudes epistémicas son la otra cara de las condiciones. Vallor (2016, 2024) sostiene que las virtudes no se instalan sino que se cultivan con la práctica, y que la IA plantea un problema de arranque: para usarla bien hacen falta virtudes que solo se adquieren haciendo lo que la IA hace por uno. El curso trabaja tres, y cada una tiene una práctica que la ejercita. Apertura a la refutación: buscar en cada ciclo el caso que contradice la categoría aceptada. Reflexividad: escribir qué espera encontrar antes de encontrarlo. Tolerancia a la incertidumbre: dejar abierto en el informe lo que la auditoría no pudo medir, en lugar de cerrarlo con la lectura del modelo.

7. Hay una tensión que la semana no resuelve y que el estudiante debe llevar al protocolo. Las cinco condiciones cuestan tiempo, y el tiempo es lo que el modelo prometía ahorrar. Un andamiaje que exige ejecutar a mano una muestra en cada ciclo reduce la ganancia de delegar. La decisión sobre cuánto cuesta preservar el juicio y quién lo paga no es técnica: es una decisión de gobernanza, y la semana 7 la pone donde corresponde.

IA y exigencia

Esta semana se le pide al modelo que proponga un andamiaje para el flujo del estudiante. El estudiante debe poder, sin el modelo, decir cuál de las cinco condiciones el modelo omitió o convirtió en un control sobre sí mismo en lugar de una práctica del investigador, y qué fase decidió no delegar nunca y por qué.

Lecturas

Central

• Vallor, S. (2024). The AI Mirror: How to Reclaim Our Humanity in an Age of Machine Thinking. Oxford University Press. Capítulos 4 y 6.
• Feenberg, A. (2012). Transformar la tecnología. Una nueva visita a la teoría crítica. Bernal: Universidad Nacional de Quilmes. Capítulo 7.

Complementaria

• Vallor, S. (2016). Technology and the Virtues: A Philosophical Guide to a Future Worth Wanting. Oxford University Press. Capítulo 6, sobre las virtudes tecnomorales.
• Zainea, C. I. (2026). "La prótesis hermenéutica". https://izainea.github.io/blog/protesis-hermeneutica/
• Smart, P., Clowes, R. y Clark, A. (2025). "ChatGPT, extended: Large language models and the extended mind". Synthese 205(6), 242. https://doi.org/10.1007/s11229-025-05046-y

Guía de lectura

• Vallor invierte la frase de Whitehead sobre las operaciones que se hacen sin pensar. ¿Cuáles son, en su flujo, las operaciones que no deben dejar de pensarse, y cómo lo sabe?
• Vallor describe un problema de arranque: las virtudes para usar bien la IA se adquieren haciendo lo que la IA hace por uno. ¿Qué pasa con un estudiante que empieza a investigar ya con modelos? ¿Qué debería hacer a mano antes de delegar, y durante cuánto tiempo?
• Feenberg distingue las dos instrumentalizaciones. ¿Qué controles de su flujo actual son primarios (sobre el modelo) y cuáles secundarios (sobre la práctica)? ¿Cuáles faltan?
• Smart, Clowes y Clark discuten en qué condiciones un modelo forma parte de la mente extendida de quien lo usa. Si forma parte, ¿la atrofia es una pérdida o una redistribución? ¿Qué cambia para la imputación?

Taller de la segunda hora

Cada estudiante trae su flujo en fases con una estimación de cuánto delega. En el simulador fija los deslizadores en esa estimación, observa las curvas, y luego activa andamiajes hasta que la curva se sostiene. Registra en la tabla qué cambió y qué cuesta.

Después, cada estudiante escribe la regla del simulador con la que no está de acuerdo y por qué. Esa objeción va a la bitácora y se discute en los últimos minutos.

Guion de la sesión

Notas para el docente. Suele fallar que el simulador se tome como predicción; repetir que son reglas del curso, explícitas y discutibles. Suele fallar que la fase nunca delegada sea "interpretar" en todos los casos, por defecto; pedir que se justifique con el perfil de exclusiones de la semana 5. Y conviene no dejar que el costo del andamiaje se minimice: la tensión del punto 7 es real y el protocolo tiene que asumirla.

Bitácora

Registre la tabla de fases, la objeción a una regla del simulador y la fase que decidió no delegar nunca con su razón. Anote el modelo usado y qué propuso como andamiaje.

Para la próxima semana

Leer el documento CONPES 4144 de 2025 (resumen ejecutivo y el objetivo sobre ética y gobernanza), la Sentencia T-067 de 2025 (síntesis de la decisión) y la Directiva Conjunta 007 de 2025. Traer la matriz de riesgos, el perfil de exclusiones y la tabla de fases: son los insumos del protocolo preliminar.