Carlos Isaac
Zainea Maya

Tunjos para la IA
Programa de cursos

Razonamiento, validación e inteligencia artificial en ciencias sociales y humanidades.

Curso 1 · Fundamentos · ocho sesiones · híbrido

Semana 8. La prótesis hermenéutica

Si la máquina configura sin poder validar ni responder, ¿cómo se organiza un trabajo de investigación en el que esa carencia no se convierta en engaño?

Pregunta de la semana

Si la máquina configura sin poder validar ni responder, ¿cómo se organiza un trabajo de investigación en el que esa carencia no se convierta en engaño?

Por qué esta semana

El curso termina donde empieza el oficio. Siete semanas de teoría de la inferencia llevan a una conclusión de diseño: lo que le falta al modelo no se arregla con un modelo más grande, se construye desde afuera. La prótesis hermenéutica es el nombre de esa construcción. Un sistema en el que el modelo opera como extensión cognitiva del investigador en la configuración, el investigador preserva y ejerce la validación, y un andamiaje hace visible y auditable la frontera entre ambosa.

El mapa inferencial que cada estudiante ha construido es, en pequeño, el plano de su propia prótesis: dice qué pasos configura la máquina, cuáles valida el investigador y dónde está la frontera. La sesión lo pone a prueba ante pares, que es la forma práctica de la imputación: responder por la frontera ante alguien que puede preguntar por qué está ahí y no un paso antes o después. No hay otra manera de evaluar el tercer sentido de validación de la semana 1.

Contenido de la sesión

  1. La recapitulación cabe en una página y la sesión la hace en diez minutos. Tres inferencias con tres regímenes de validez. Un proyecto formal que encontró sus límites desde adentro. Un giro que situó la validez en prácticas y comunidades. Un modelo que ejecuta las tres inferencias y solo puede ser validado en dos. Un criterio que no puede ser interno. Lo que se sigue de ahí no es una tesis sobre la máquina sino una decisión sobre cómo trabajar con ella.

  2. La prótesis hermenéutica se define por lo que no es. No es el modelo aislado sino el sistema andamiaje-modelo acoplado al investigador. No es supervisión humana convencional: el investigador no aprueba outputs al final, cierra el arco que el sistema deja truncado. No es un retroceso a la imagen del instrumento pasivo: el modelo conserva su agencia operativa y esa agencia queda acoplada, mediante el andamiaje, al circuito de imputación del investigador. Clark explica por qué el acoplamiento es posible, la mente extendida; Varela por qué la validación no se delega, la enacción; Feenberg qué condiciones políticas debe cumplir, la instrumentalización secundariab.

  3. Vallor formula la objeción seria. Delegar atrofia el juicio que la validación requiere; una prótesis mal diseñada compensa una capacidad y destruye la que la sostiene. El curso la toma como condición de diseño: un andamiaje debe cultivar en quien lo usa las virtudes epistémicas que hacen posible validar, apertura a la refutación, reflexividad, tolerancia a la incertidumbre. Las tres entregas del curso están diseñadas para ejercitarlas, y la guía de lectura pide al estudiante juzgar si lo lograron.

  4. La frontera no es una barrera sino una interfaz. Sin andamiaje es invisible y el riesgo es aceptar outputs como si ya fueran validaciones; con andamiaje, cada output lleva su procedencia, sus límites declarados y las condiciones bajo las cuales debería rechazarse. El registro de frontera de la semana 7 es la forma mínima de ese andamiaje, una tabla. En Codificación cualitativa con IA en ciencias sociales, el curso del programa en el que un modelo propone códigos y categorías sobre un material cualitativo, ese registro se lleva por código: cada código queda con su definición, sus fragmentos de anclaje, su origen, modelo o investigador, y la decisión que lo sostiene, de modo que el libro de códigos resultante es una aserción del investigador y no un output. Allí la tabla se convierte en arquitectura.

  5. La exterioridad se abre y no se desarrolla. Un modelo entrenado en otra parte lee un archivo situado con una precomprensión ajena, la Mímesis I que no es la de la comunidad cuyo material interpreta. Qué excluye esa lectura, qué injusticia hermenéutica puede producir y qué gobernanza exige son el tema de Exterioridad y gobernanza de la IA en ciencias sociales, el curso del programa que trata la ética del trabajo con modelos en tres frentes: los derechos sobre el material, la exterioridad del modelo frente a un archivo situado y la gobernanza que devuelve la responsabilidad a quien despliega el sistemac. Aquí basta con nombrar que la frontera del mapa tiene también ese lado.

  6. Las presentaciones ocupan la segunda hora y son la evaluación. Cada estudiante presenta su mapa inferencial en ocho minutos y recibe dos preguntas de pares. La pregunta obligatoria es una sola: por qué pusiste la frontera ahí y no un paso antes o después. Responderla es demostrar que la frontera fue argumentada y no postulada, y que quien la trazó puede responder por ella.

CORPUS · PREGUNTA · TRASFONDO DEL INVESTIGADOR MÁQUINA · configura (Mímesis II) · agente operativo pasos deductivos: verifica por forma pasos inductivos: generaliza, se evalúa por tasas candidatos de hipótesis con procedencia y límites declarados FRONTERA · auditable INVESTIGADOR · valida (Mímesis III) · agente imputable decide qué hipótesis perseguir, con qué criterio, a qué costo y responde por la frontera ante una comunidad de pares retroalimentación El mapa inferencial del estudiante es el plano de esta arquitectura para su propio proyecto.
Figura 1. La prótesis hermenéutica. La máquina configura; el investigador valida; la frontera entre ambos está marcada, no fusionada, y por eso puede auditarse.

IA y exigencia

Esta semana no se le pide nada nuevo al modelo. Se le puede pedir que critique el mapa inferencial final del estudiante, y la crítica suele ser útil; lo que el estudiante hace con ella queda registrado como cualquier otra decisión. La exigencia es la presentación: ocho minutos sin la máquina, con el proyecto en una frase, el flujo en pasos, la frontera y su argumento, un caso en que corrigió al modelo y uno en que lo aceptó, y la respuesta a la pregunta obligatoria. Quien no puede responder por qué la frontera está ahí no ha terminado el mapa; quien puede, ya hizo lo que el curso enseña.

Lecturas

Central

Complementaria

  • Clark, A. y Chalmers, D. (1998). "The Extended Mind". Analysis, 58(1), 7-19. https://doi.org/10.1093/analys/58.1.7
  • Varela, F., Thompson, E. y Rosch, E. (1992). De cuerpo presente. Capítulos 8 y 9. Barcelona: Gedisa.
  • Feenberg, A. (2012). Transformar la tecnología. Capítulo 7. Bernal: Universidad Nacional de Quilmes.
  • Ricœur, P. (1995). Tiempo y narración I. Capítulo 3, "Tiempo y narración: la triple mímesis". México: Siglo XXI.
  • Ricœur, P. (1996). Sí mismo como otro. Décimo estudio, sobre la imputabilidad. Madrid: Siglo XXI.
  • Fricker, M. (2017). Injusticia epistémica. Barcelona: Herder.

Guía de lectura

  • La sección sobre la prótesis distingue configurar, Mímesis II, de refigurar, Mímesis III, y sitúa al modelo en la primera. Cada momento corresponde a un tipo de inferencia del curso. ¿Qué inferencia corresponde a configurar y cuál a refigurar, y dónde queda la inducción?

  • Vallor teme que delegar el juicio lo atrofie, y pide tecnologías que lo cultiven. El curso que acaba de hacer delegó mucho en el modelo y registró cada delegación. ¿Es este curso un ejemplo de lo que ella teme o de lo que ella pide? Argumente con un caso de su propio registro de frontera.

  • Clark y Chalmers sostienen que un cuaderno puede ser parte de la mente de quien lo usa si el acoplamiento es fiable y fluido. Un modelo cumple la fluidez y falla la fiabilidad. ¿Qué condiciones tendría que cumplir el andamiaje para que el acoplamiento con un modelo fuera legítimo en el sentido de Clark?

  • Ricœur, en el décimo estudio de Sí mismo como otro, define la imputabilidad como la capacidad de ser tenido por autor de las propias acciones y responder por ellas. ¿Qué de su mapa inferencial podría imputársele a usted y qué no, y coincide eso con la frontera que trazó?

Taller de la segunda hora

Presentaciones y cierre. Cada estudiante dispone de ocho minutos y recibe dos preguntas de pares, una de ellas la obligatoria. Formato de presentación:

  1. El proyecto en una frase.
  2. El flujo en pasos, con el tipo de inferencia de cada uno.
  3. La frontera: dónde está y por qué.
  4. Un caso concreto del registro de frontera en que el estudiante corrigió o rechazó al modelo, y uno en que lo aceptó y puede responder por ello.
  5. Qué cambiaría del propio proyecto después del curso.
Estudiante Frontera en el paso Pregunta obligatoria respondida Pregunta del par Nota del docente

Los pares no evalúan; preguntan. La única regla para quien pregunta es que la pregunta debe poder responderse con el mapa en la mano.

Guion de la sesión

Momento Docente Estudiante Material
0 a 10 min Recapitulación del curso en una página Verifica que su mapa use los tres regímenes Figura 1 de la semana 6
10 a 30 min La prótesis hermenéutica con la Figura 1; Clark, Varela, Feenberg Ubica su mapa en la arquitectura Figura 1
30 a 45 min La objeción de Vallor y la exterioridad Responde si el curso atrofió o cultivó su juicio Vallor, capítulo 4
45 a 55 min Reglas de las presentaciones y orden Prepara su frase inicial Tabla de presentaciones
55 a 60 min Pausa
60 a 115 min Modera las presentaciones; hace la pregunta obligatoria cuando ningún par la hace Presenta en ocho minutos; pregunta a los demás Mapas finales
115 a 120 min Cierre: qué sigue en el programa Anota qué cambiaría de su proyecto Bitácora final

Notas para el docente. Con más de siete estudiantes las presentaciones no caben en una hora; dividir en dos grupos paralelos con un par de cada grupo como relator, o extender la sesión con acuerdo previo. La pregunta obligatoria debe hacerse siempre, aunque el estudiante ya la haya respondido en la presentación, porque la segunda respuesta suele ser más honesta. No permitir que la presentación sea un informe de uso de IA: el eje es la frontera, no la herramienta. La discusión sobre Vallor tiende a volverse confesional; devolverla al registro de frontera, que es donde está la evidencia.

Entrega final

Mapa inferencial final, con las correcciones de la versión preliminar explicadas a partir de las semanas 5 a 7 y la justificación de la frontera con su prueba de desplazamiento. Se entrega con la bitácora completa y los dos productos anteriores como anexos. Plantilla en plantillas/mapa-inferencial.md; rúbrica en evaluacion.md.

Para la próxima semana

No hay próxima semana del curso; hay programa. Las rutas Texto e Imagen continúan con la construcción del corpus, en Corpus de textos con procedencia en ciencias sociales, donde un conjunto disperso de documentos se convierte en un corpus con procedencia, reproducible, en el que cada pieza lleva el criterio por el que entró, o en Descripción auditada de imágenes en investigación social, donde imágenes dispersas se catalogan y describen con ayuda de modelos multimodales y cada afirmación sobre una imagen tiene origen conocido. Siguen con Codificación cualitativa con IA en ciencias sociales, donde el modelo propone códigos y categorías y el investigador decide cada uno con un criterio nombrado, porque la máquina configura y no valida. Terminan con Validar y defender investigación social asistida por IA, donde lo configurado se valida en los tres sentidos que este curso distinguió y se escribe como hallazgo por el que alguien responde. El mapa inferencial de este curso es el documento de entrada de todos ellos. Quien no siga el programa se lleva lo mismo: un plano de su propio trabajo con la frontera marcada, y la obligación de responder por ella.