Curso 7. Exterioridad y gobernanza de la IA en ciencias sociales

Curso corto de ocho sesiones en modalidad híbrida, adaptable a formatos de microcredencial o de educación continua. Es el curso que cierra el programa Tunjos para la IA. Capa: Juicio.

Pregunta del curso. ¿Qué excluye, a quién expone y a quién exime un flujo de investigación asistido por modelos, y qué reglas debe darse un investigador, un equipo o una institución para que el uso de IA sea defendible ante quienes estudia y ante quienes lo leen?

Respuesta que el curso construye. La ética del trabajo con modelos no es un apéndice que se redacta al final. Son tres frentes concretos con reglas distintas. El primero es el de los derechos y el cuidado del material: autoría, datos personales, imágenes sensibles y consentimiento en plataformas. El segundo es el de la exterioridad: un modelo entrenado en otra parte lee un archivo situado con una precomprensión ajena, y cuando impone sus categorías produce una injusticia hermenéutica que ninguna tasa de acierto detecta. El tercero es el de la gobernanza: la metáfora de la alucinación exime de responsabilidad a quien despliega el sistema, y un protocolo explícito devuelve esa responsabilidad a su lugar. El producto del curso es un protocolo de gobernanza epistémica escrito para el propio proyecto, equipo o institución.

Contenido

Productos del estudiante

1. Matriz de riesgos y derechos del propio material (semana 3): para cada tipo de pieza del corpus, qué derechos pesan sobre ella, qué daño puede causar su uso, a quién, con qué probabilidad y qué mitigación se adopta.
2. Auditoría de exterioridad sobre una muestra del propio corpus (semana 5): qué entendió mal, qué aplanó y qué ignoró un modelo al leer material situado, contrastado con lectores que conocen el contexto.
3. Protocolo de gobernanza epistémica para el proyecto, el equipo o la institución (semana 8): roles, registros, declaración de uso, condiciones de rechazo y quién responde por cada aserción. Se presenta y se revisa entre pares.

Página del curso

izainea.github.io/tunjos-para-la-ia/curso-7/

Cómo se hizo este material

El material de este curso se elaboró con ayuda de modelos de lenguaje bajo la guía de autoría, la revisión y la responsabilidad del docente. Qué hizo la máquina, qué decidió el autor y qué queda por verificar está en la declaración de uso de IA del programa.

Syllabus

Datos generales

Problema que atiende

Un flujo de investigación asistido por modelos toca material que no es del investigador: textos con autor, relatos con nombres, imágenes con rostros, publicaciones hechas en plataformas con términos de uso. Lo lee con un modelo entrenado sobre corpus de otra parte, que trae su propia precomprensión y la impone sin avisar. Y cuando algo sale mal, la palabra "alucinación" deja el error en la máquina y a nadie en el lugar de la responsabilidad. Las guías de ética de la IA que circulan son listas de principios sin instrucciones; las normas colombianas existen, pero pocos investigadores saben qué les exigen. Este curso convierte los tres problemas en tres instrumentos: una matriz de riesgos y derechos, una auditoría de exterioridad y un protocolo de gobernanza epistémica.

Competencias

Al terminar el curso el estudiante puede:

1. Identificar los derechos y los deberes de cuidado que pesan sobre cada pieza de su material (autoría, datos personales, material sensible, condiciones de plataforma) y decidir con justificación qué uso es defendible: citar, describir, exhibir con reserva o no usar.
2. Diagnosticar la exterioridad de un modelo frente a un archivo situado: qué prefiguración trae, qué categorías impone, qué excluye, y medirlo sobre una muestra con lectores que conocen el contexto.
3. Diseñar un flujo asistido que no atrofie el juicio que pretende asistir: decidir qué se delega, qué se conserva y qué andamiaje preserva la capacidad de validar.
4. Formular y defender un protocolo de gobernanza epistémica con roles, registros, declaración de uso y condiciones de rechazo, alineado con las normas colombianas vigentes, para un proyecto, un equipo o una institución.

Resultados de aprendizaje y evidencias

Programa por semanas

Metodología

El curso se enseña con el método que enseña. Cada semana tiene tres momentos.

• Lectura guiada (asincrónica, 4 a 5 horas). Un texto central con guía de lectura y preguntas, y una lectura complementaria opcional. En las semanas 2, 3 y 7 el texto central es una norma, leída con la misma guía que un texto filosófico.
• Sesión sincrónica (2 horas). La primera hora discute la lectura a partir de un caso real, en lo posible del docente o de un estudiante. La segunda es taller: el estudiante aplica el instrumento de la semana a su propio material.
• Bitácora (asincrónica, 3 a 4 horas). El estudiante registra el ejercicio, lo que propuso la máquina cuando la hubo, lo que decidió él y con qué criterio. Las bitácoras alimentan los tres productos.

Las prácticas con modelos usan modelos de acceso gratuito. El material sensible nunca se sube a un servicio cuyas condiciones no excluyan el entrenamiento; en esos casos se trabaja con descripciones o con muestras anonimizadas, y esa decisión es parte de lo que se evalúa.

Evaluación

La rúbrica detallada está en evaluacion.md.

Articulación

Este curso cierra el programa Tunjos para la IA. Entre las rutas apilables del programa aparece solo en la ruta completa, que reúne el curso de fundamentos, Validación del razonamiento con IA en ciencias sociales; los tres cursos de oficio, Corpus de textos con procedencia en ciencias sociales, Descripción auditada de imágenes en investigación social y Codificación cualitativa con IA en ciencias sociales; los otros dos cursos de juicio, Patrones estables en datos de las ciencias sociales y Validar y defender investigación social asistida por IA; este curso, y un proyecto integrador. Se articula con cursos de ética de la investigación, metodología cualitativa, derecho informático y política pública de programas de posgrado en ciencias sociales y humanidades, a los que aporta lo que ellos no suelen cubrir: instrumentos para decidir qué uso de un modelo es defendible sobre material situado, y un protocolo que puede adoptar un equipo o una entidad.

Política de uso de modelos de lenguaje

Se usan en todas las semanas, de forma declarada. Cada entrega incluye qué modelo se usó, para qué, y qué parte del resultado es decisión del estudiante. Un uso no declarado se trata como infortunio de autoridad: el estudiante presenta como propio algo por lo que no puede responder. En este curso la declaración de uso es, además, uno de los instrumentos que se enseñan, y la plantilla que la formaliza está en plantillas/declaracion-de-uso-de-ia.md.