Fundamentos XAI basados en evidencia

Criterio agregado en la app

Nuevo En la versiÃ³n xai-exercises/2.0.0 se incorporaron dos bloques obligatorios: xai.human_oversight y xai.quality_of_explanation.

El bloque xai.human_oversight incluye:

review_protocol: cÃ³mo revisa el docente el ejercicio antes de publicarlo.
teacher_action_on_risk: quÃ© acciÃ³n toma el docente si detecta sesgo, riesgo o desajuste.
override_policy: declaraciÃ³n explÃcita de que la decisiÃ³n final permanece en supervisiÃ³n humana.

El bloque xai.quality_of_explanation incluye:

target_audience: a quiÃ©n estÃ¡ dirigida la explicaciÃ³n (docente, estudiante o mixta).
clarity_level: nivel de claridad reportado (baja, media, alta).
actionable_feedback y adaptation_notes: utilidad prÃ¡ctica y adaptaciÃ³n pedagÃ³gica.

JustificaciÃ³n: la literatura reciente en XAI educativa enfatiza supervisiÃ³n humana y responsabilidad compartida como requisito estructural, no opcional.

Matriz criterio â†’ fundamento

Criterio del panel XAI	Fundamento tÃ©cnico	Fundamento pedagÃ³gico	Referencias base
`why_this_exercise` + `pedagogical_alignment`	ExplicaciÃ³n orientada a propÃ³sito, coherente con objetivo y nivel cognitivo.	Facilita diseÃ±o instruccional explÃcito y evaluaciÃ³n alineada con competencias.	CAEAI 2022; Bellas 2025; ACM Tutorial 2024
`content_selection` + `source_refs`	Trazabilidad de procedencia y decisiones de selecciÃ³n de contenido.	Permite rendiciÃ³n de cuentas docente y revisiÃ³n curricular contextual.	InfoFusion 2020, 2023; Transparency Index 2022
`design_rationale`	ExplicaciÃ³n de por quÃ© el formato de interacciÃ³n y distractores es adecuado.	Conecta formato del ejercicio con carga cognitiva y tiempo esperado.	ACM Tutorial 2024; XAI 2.0 (2024)
`fairness_and_risk`	IdentificaciÃ³n explÃcita de sesgos potenciales y mitigaciones.	Promueve uso crÃtico y equidad en contextos heterogÃ©neos de aula.	InfoFusion 2020, 2023, 2024; Bellas 2025
`human_oversight` (nuevo)	Formaliza supervisiÃ³n humana, protocolo de intervenciÃ³n y override.	Mantiene autonomÃa docente y responsabilidad compartida en decisiones didÃ¡cticas con IA.	UE 2025 (Explainable AI in education); Bellas 2025; AI Act UE 2024/1689
`quality_of_explanation` (nuevo)	EvalÃºa si la explicaciÃ³n es clara y accionable para la audiencia objetivo.	Favorece comprensiÃ³n efectiva, uso crÃtico y ajuste didÃ¡ctico segÃºn perfil del estudiante.	ACM Tutorial 2024; CAEAI 2022; Bellas 2025; XAI 2.0 (2024)
`uncertainty`	Expresa confianza y lÃmites del resultado, evitando sobreinterpretaciÃ³n.	Apoya metacogniciÃ³n docente y mejora de iteraciones didÃ¡cticas.	InfoFusion 2023, 2024; ACM Tutorial 2024
`counterfactual`	ExplicaciÃ³n contrastiva y accionable para adaptaciÃ³n del ejercicio.	Permite ajustar tareas segÃºn contexto del grupo y necesidades emergentes.	ACM Tutorial 2024 (DiCE/contrafactual); CAEAI 2022
`trace`	AuditorÃa mÃnima (modelo, prompt, marca temporal).	Sostiene revisiÃ³n posterior, mejora continua y transparencia institucional.	Transparency Index 2022; UE 2025; XAI 2.0 (2024)

Criterios recomendados para fase siguiente

AdecuaciÃ³n contextual ampliada: verificaciÃ³n explÃcita de pertinencia cultural/lingÃ¼Ãstica local.

No se activaron aÃºn como obligatorios para mantener el MVP estable y no romper compatibilidad con proyectos previos.

Referencias utilizadas (nÃºcleo)

Barredo Arrieta et al. (2020). Explainable AI: Concepts, taxonomies, opportunities and challenges toward responsible AI. Information Fusion. DOI: 10.1016/j.inffus.2019.12.012
Ali et al. (2023). Explainable AI: What we know and what is left to attain trustworthy AI. Information Fusion. DOI: 10.1016/j.inffus.2023.101805
Longo et al. (2024). XAI 2.0: A manifesto of open challenges and interdisciplinary directions. Information Fusion. DOI: 10.1016/j.inffus.2024.102301
Khosravi et al. (2022). Explainable AI in education. Computers & Education: Artificial Intelligence. DOI: 10.1016/j.caeai.2022.100074
Chaudhry et al. (2022). A transparency index framework for AI in education. AIED 2022. DOI: 10.1007/978-3-031-11647-6_33
Bennetot et al. (2024). A practical tutorial on explainable AI techniques. ACM Computing Surveys. DOI: 10.1145/3670685
Publications Office of the European Union (2025). Explainable AI in education: Fostering human oversight and shared responsibility.
Bellas (2025). Explainable artificial intelligence and its key role in education. Metode. DOI: 10.7203/metode.15.30514
Reglamento (UE) 2024/1689 (AI Act).