Comité de Impacto

El caso, en clave de debate

El caso describe un sistema de smart-camera con tres propósitos declarados (optimización del aprendizaje, seguridad/gestión y automatización ambiental), procesamiento local, envío de metadatos a la administración, retención de video bruto por 24h, y la afirmación de que los datos son anónimos. El valor pedagógico del caso está en sus tensiones internas, no en sus declaraciones formales:

• Eficiencia pedagógica vs autonomía del estudiante: medir atención en tiempo real produce una norma de "atención correcta" — el sistema no observa neutralmente, define qué cuenta como atender.
• Transparencia declarada vs efectividad de la transparencia: decir "hay cámaras" no es lo mismo que hacer entendible qué se infiere de la imagen y quién accede a esas inferencias.
• Anonimato declarado vs anonimato real: los metadatos ricos ("persona en asiento 3, fila 2, nivel atención bajo, minuto 17") son trivialmente re-identificables cruzándolos con asistencia o horarios.
• Autonomía pedagógica del docente: un panel que mide "nivel de atención" cambia lo que el docente decide enseñar — no es neutral respecto del contenido.

Cómo se organiza

• Grupos de 3 personas (uno por rol). Si son 2, asumen Defensa y Crítica; el/la docente o un compañero externo modera.
• 3 min · lectura del caso — silenciosa, individual.
• 2 min · asignación de rol — el grupo decide quién toma qué.
• 15 min · redacción de argumentos — cada rol escribe su parte en su rama del worksheet.
• 10 min · debate oral cronometrado — bajo dirección del docente; el Moderador del grupo guía.
• 15 min · recomendaciones de consenso + síntesis personal — el Moderador redacta, todos completan la síntesis personal.

Argumentos canónicos PRO

1. Eficiencia pedagógica medible: "si podemos detectar cuándo la clase pierde el hilo, podemos intervenir antes — esto beneficia sobre todo a estudiantes que no levantan la mano".
2. Seguridad ante emergencias: detección de caídas, intrusos, aglomeraciones — argumento difícil de rechazar de plano.
3. Optimización energética: ajuste automático de luz y clima según ocupación; argumento ambiental con números a su favor.
4. Datos "anónimos" = ¿bajo riesgo? — la defensa típica apela a la anonimización; el/la docente debe estar listo para señalar que la anonimización es a menudo reversible con metadatos ricos.
5. Consentimiento institucional ya existe: al matricularse, la persona acepta las normas de la universidad; el debate se mueve entonces a si ese consentimiento es informado y libre.

Argumentos canónicos CRITICA

1. Chilling effect en estudiantes: saberse observado cambia el comportamiento — se pregunta menos, se arriesga menos, se aprende menos. El efecto es mayor en estudiantes con menos capital cultural (paradoja: el sistema que dice ayudarles, les afecta más).
2. Sesgos del modelo de "atención": estudiantes neurodivergentes (TDAH, autismo), con discapacidades visuales, o simplemente que toman apuntes mirando el cuaderno, son sistemáticamente clasificados como "poco atentos". El modelo no es neutral — codifica una norma de cuerpo que aprende.
3. El anonimato es falso si los metadatos son ricos: asiento + hora + patrón de atención + asistencia = re-identificación trivial. La promesa de anonimato no se sostiene técnicamente.
4. Erosión de la autonomía pedagógica del docente: un panel que muestra "atención baja" en tiempo real presiona al docente a modificar su clase hacia lo que el sistema mide como "atención alta" — que no necesariamente coincide con aprendizaje profundo. Optimizar la métrica termina degradando el objetivo.
5. Precedente para extensión: una vez instalado para "atención", el mismo hardware sirve para identificar quién no aplaude, quién hace preguntas críticas, quién participa en asambleas. La función creep (deriva de funciones) es histórica y predecible.

Marco ético-legal aplicable

• Chile · Ley 21.719 (2024) sobre protección de datos personales: actualiza el marco chileno, exige base de licitud explícita para tratamiento, da derechos de acceso/rectificación/oposición, y prevé una Agencia de Protección de Datos Personales. Datos biométricos (reconocimiento facial, patrones de comportamiento) son tratados con mayor estándar.
• UE · GDPR (2018): categorías especiales del Art. 9 — datos biométricos para identificar de manera unívoca requieren consentimiento explícito o una base legal específica. La anonimización debe ser irreversible para excluir el tratamiento del régimen GDPR; si es reversible, sigue siendo dato personal.
• UE · AI Act (2024): clasifica sistemas de IA por nivel de riesgo. Sistemas de reconocimiento de emociones en contextos educativos y laborales están prohibidos salvo excepciones médicas o de seguridad; los sistemas de monitoreo en aula caen típicamente en categoría de alto riesgo con obligaciones específicas de evaluación, transparencia y supervisión humana.

Respuestas esperadas — criterios de moderación