Carlos Isaac
Zainea Maya

Tunjos para la IA
Programa de cursos

Razonamiento, validación e inteligencia artificial en ciencias sociales y humanidades.

Curso 6 · Juicio · ocho sesiones · híbrido

Semana 8. Defensa ante pares

Si validar en el tercer sentido es que alguien responda por lo afirmado ante una comunidad, ¿qué forma tiene esa respuesta, y qué cambia en el investigador cuando la da?

Pregunta de la semana

Si validar en el tercer sentido es que alguien responda por lo afirmado ante una comunidad, ¿qué forma tiene esa respuesta, y qué cambia en el investigador cuando la da?

Por qué esta semana

El curso termina donde el tercer sentido de validación se ejerce y no solo se nombra. Durante siete semanas el estudiante validó procesos, trianguló, eligió hipótesis, interpretó y escribió un informe con sección de validación y declaración de uso. Nada de eso es todavía imputación, porque la imputación no es una propiedad del documento sino una relación entre quien afirma y quienes pueden interpelarlo. Esta semana la pone en escena: cada estudiante presenta su informe ante el grupo con una sección de validación explícita y responde a las preguntas de sus pares, incluidas las dos obligatorias. La presentación es la forma práctica del tercer sentido, y por eso es parte de la evaluación. Lo que el curso espera que ocurra en ella, y que Ricœur describe como refiguración, es que el investigador salga entendiendo de otro modo su propio trabajo: no porque el modelo haya cambiado, sino porque él respondió.

Contenido de la sesión

  1. Peirce describió la verdad como aquello en lo que una comunidad ilimitada de investigación acabaría por coincidir, y Habermas tomó de ahí la idea de que la validez se redime en un discurso en el que cualquiera puede objetar. La presentación ante pares es la versión finita de ese discurso: una comunidad pequeña, un tiempo corto, pero la misma estructura, alguien afirma y otros pueden pedir razones.a Lo que la distingue de una exposición es que las preguntas no son de cortesía. El formato del curso fija dos preguntas obligatorias por presentación: "¿qué hallazgo se sostiene sobre una sola pata, y por qué lo presentas?" y "¿qué frase de tu informe no pudiste firmar, y qué hiciste con ella?".
  1. Ricœur, en Sí mismo como otro, describe al sujeto capaz de reconocerse autor de sus actos y de responder por ellos, y la ascripción de la acción a un agente como una operación que el agente mismo puede asumir en primera persona. El anteproyecto del docente lee la refiguración a la luz de esa imputabilidad: apropiarse de lo configurado es poder decir "respondo de lo que afirmo". La presentación es el momento en que esa frase se dice en voz alta ante quien puede ponerla a prueba. Vale la pena notar lo que no se pide: no se pide que el estudiante tenga razón, ni que sus hallazgos sean definitivos. Se pide que ocupe el lugar del que responde, con el alcance declarado, y que sepa qué parte de su informe es hallazgo, cuál conjetura y cuál output retirado.c
  1. La sección de validación de la presentación tiene cuatro bloques, y el orden importa. Primero, el mapa mimético: dónde estuvo la máquina y dónde el investigador, en una lámina. Segundo, la matriz de triangulación leída por columnas: qué hallazgos se sostienen sobre varias patas, cuáles sobre una, y qué se declaró antes de correr. Tercero, la hipótesis elegida con sus cuatro criterios y la prueba que pasó o no pasó. Cuarto, la declaración de uso de IA en una lámina: modelos, tareas, qué se aceptó, corrigió y rechazó, quién responde. Un par que escuche esos cuatro bloques debe poder formular la pregunta obligatoria sin haber leído el informe.

  2. La objeción que el curso toma en serio es la de Vallor (2024): delegar la configuración puede atrofiar el juicio que la validación requiere, de modo que el investigador llegue a la defensa sin haber ejercitado lo que defiende.b El curso no responde con una tesis sino con su propio diseño: el estudiante configuró con la máquina y, en cada semana, hizo con sus manos lo que la máquina no podía, clasificar sentidos, declarar independencia, formular el hecho sorprendente, leer el nivel que faltaba, reescribir sin marcadores. Si al final de la defensa el estudiante puede responder por qué puso la frontera donde la puso, el juicio no se atrofió. Si no puede, el curso falló en eso, y conviene decirlo.

  1. La imputación cambia a quien la ejerce, y ese cambio es lo que Ricœur llama refiguración: el lector que se apropia del texto se entiende a sí mismo de otro modo ante él. Aplicado al informe, quien responde por sus hallazgos ante pares vuelve a su proyecto con una prefiguración distinta, sabe qué pregunta no pudo contestar, qué pata le faltó, qué categoría impuso el modelo sin que lo notara. El cierre del curso pide escribir eso en una página: qué cambia del proyecto después de la defensa. Esa página es la última sección del informe final, y es la que el docente lee primero.

  2. El balance del curso se dice en tres frases. Validar tiene tres sentidos, y la mayoría de los errores de la investigación asistida vienen de confundirlos. Los criterios de la tradición cualitativa se reparten entre el registro, la relación y la posición, y la frontera entre máquina e investigador se demuestra criterio por criterio. Escribir hallazgos es convertir outputs en aserciones propias, y la declaración de uso es el documento que dice qué fue de quién. Lo que el curso deja abierto se declara abierto: la tipología completa de criterios es materia del doctorado del docente, y la pregunta por lo que un andamiaje excluye, por la prefiguración ajena como problema político, es materia de Exterioridad y gobernanza de la IA en ciencias sociales, el curso del programa que pregunta qué excluye, a quién expone y a quién exime un flujo de investigación asistido por modelos, y que termina en un protocolo de gobernanza epistémica.

SECCIÓN DE VALIDACIÓN · CUATRO LÁMINAS 1. Mapa mimético dónde estuvo la máquina, dónde el investigador 2. Matriz por columnas patas por hallazgo, expectativa declarada 3. Hipótesis cuatro criterios, prueba y resultado 4. Declaración qué fue de quién, quién responde PARES · PREGUNTAS OBLIGATORIAS ¿Qué hallazgo tiene una sola pata? ¿Qué frase no pudiste firmar? "Respondo de lo que afirmo, con este alcance."
Figura 8. La sección de validación de la defensa y las dos preguntas obligatorias. Lo que hay que ver es que las preguntas apuntan a los bloques donde la imputación se juega: la pata única y la frase retirada.

IA y exigencia

Esta semana se le pide al modelo que haga de par: que lea el informe final y formule las cinco preguntas más incómodas que un jurado haría. El estudiante debe poder responder a cada una, o decir con precisión por qué no puede y qué le falta. Las preguntas del modelo se adjuntan a la bitácora con las respuestas; lo que se evalúa es que el estudiante distinga las preguntas que apuntan a algo de las que solo tienen la forma de una objeción.

Lecturas

Central

  • Ricœur, P. (1996). Sí mismo como otro. Madrid: Siglo XXI. Estudios sobre la ascripción de la acción y la imputación.
  • Vallor, S. (2024). The AI Mirror: How to Reclaim Our Humanity in an Age of Machine Thinking. Oxford University Press. Capítulo 4.

Complementaria

Guía de lectura

  • Ricœur distingue la ascripción, atribuir una acción a alguien, de la imputación, que el agente la asuma como propia y responda. ¿Qué de su informe le es ascribible porque lo firmó, y qué le es imputable porque puede responder? ¿Coinciden?
  • Vallor sostiene que el espejo de la IA devuelve lo ya pensado. Revise su matriz: ¿qué hallazgo habría encontrado sin el modelo, cuál no, y cuál el modelo le impidió ver?
  • En "El concepto de responsabilidad", Ricœur rastrea el paso de la imputación jurídica a la responsabilidad por lo frágil. ¿Ante quién es responsable un investigador por un hallazgo sobre personas que no leerán su informe?
  • Peirce sitúa la verdad en el acuerdo final de una comunidad. ¿Qué valor tiene entonces la coincidencia de un modelo, que no pertenece a ninguna comunidad, con el investigador?
  • En la entrada sobre la prótesis hermenéutica, el docente dice que el investigador no es un supervisor que aprueba outputs sino quien cierra el arco que el sistema deja truncado. Después de ocho semanas, ¿en qué momento concreto de su proyecto cerró usted el arco, y qué habría pasado si solo hubiera aprobado?

Sobre el orden de las presentaciones. Conviene que presenten primero quienes tienen más hallazgos de una sola pata, porque sus respuestas fijan para el grupo lo que significa presentar una conjetura como conjetura. El docente lo decide con las matrices entregadas en la semana 5.

Taller sobre presentaciones y cierre

Formato de presentación, diez minutos y cinco de preguntas:

  1. El proyecto y el material configurado, en una frase cada uno.
  2. Las cuatro láminas de la sección de validación: mapa mimético, matriz por columnas, hipótesis con criterios y prueba, declaración de uso de IA.
  3. Un hallazgo que se sostiene, con su aserente y su alcance.
  4. Un hallazgo que cayó, se restringió o se retiró, y por qué.
  5. Qué cambia del proyecto después del curso.

Los pares hacen las dos preguntas obligatorias y una libre. El docente no pregunta primero.

Guion de la sesión

Momento Docente Estudiante Material
0 a 5 min Fija el orden y recuerda las preguntas obligatorias
5 a 65 min Modera cuatro presentaciones de quince minutos Presenta o pregunta Láminas
65 a 75 min Pausa
75 a 110 min Modera las presentaciones restantes Presenta o pregunta Láminas
110 a 120 min Cierra con el balance en tres frases y recibe los informes finales Entrega Informe final

Con grupos de más de ocho estudiantes, las presentaciones se reparten en dos sesiones o se hacen en dos salas con un par de preguntas registrado por escrito.

Notas para el docente. Lo que suele fallar: los pares preguntan por el tema y no por la validación, y la sección de validación pasa sin interpelación; sostener las preguntas obligatorias aunque parezcan rituales. Segundo fallo: el estudiante defiende el hallazgo de una sola pata como si tuviera varias, en vez de presentarlo como conjetura; recordar que presentarlo como conjetura es la respuesta correcta. Tercero: la página de "qué cambia" se escribe como propósito y no como cambio; pedir un cambio concreto en el protocolo del proyecto.

Entrega final

Informe analítico con sección de validación, declaración de uso de IA y declaración de responsabilidad, con la página de cierre sobre qué cambia del proyecto. Se entrega con la bitácora completa, el protocolo de validación y la matriz con ficha como anexos. Rúbrica en evaluacion.md.

Después del curso

Exterioridad y gobernanza de la IA en ciencias sociales toma la prefiguración ajena como problema político y pregunta qué excluye un andamiaje que no fue diseñado para incluir; su producto es un protocolo de gobernanza epistémica para el propio proyecto, equipo o institución, y el informe analítico de este curso, con su declaración de uso, es su documento de entrada. Para quien termina aquí su recorrido por el programa, el protocolo de validación y la plantilla de declaración son instrumentos para seguir usando en el propio proyecto y en los equipos en que trabaje.