Ponencia: La supuesta neutralidad algorítmica y sus implicaciones éticas en contextos educativos
Esta ponencia cuestiona la idea de que los algoritmos y los sistemas de IA son inherentemente neutros, mostrando cómo sus decisiones técnicas están marcadas por valores, intereses y sesgos de quienes los diseñan y entrena. En contextos educativos, dicha neutralidad aparente se vuelve especialmente problemática cuando algoritmos intervienen en admisiones, evaluaciones, recomendaciones de trayectorias o diagnósticos de competencias, pues pueden reforzar desigualdades, estigmatizar ciertos grupos o invisibilizar trayectorias diversificadas.
La ponencia propone revisar la designación de responsabilidad: si bien el código ejecuta acciones, son personas e instituciones las que eligen qué datos usar, qué criterios integrar y qué consecuencias aceptar. Se discutirán marcos de ética algorítmica aplicables a la educación, como la transparencia en el diseño, la participación de docentes, estudiantes y comunidades, y la implementación de auditorías sociales que hagan visibles y corrijan sesgos, con el fin de que la IA apoye una educación más justa, inclusiva y compatible con los derechos fundamentales, sin ocultar detrás de la objetividad técnica decisiones profundamente políticas.
