Η έννοια της λογοδοσίας (accountability) αναδεικνύεται ως θεμελιώδης παράγοντας για την υπεύθυνη και ηθική χρήση των Συστημάτων Τεχνητής Νοημοσύνης στην Εκπαίδευση (AIED). Στο συγκεκριμένο πλαίσιο, η λογοδοσία αναφέρεται στην υποχρέωση όσων σχεδιάζουν, εφαρμόζουν και χρησιμοποιούν τέτοια συστήματα να παρέχουν επαρκείς εξηγήσεις για τη λειτουργία τους, να αιτιολογούν τις αποφάσεις που λαμβάνονται και να αναλαμβάνουν την ευθύνη για τις επιπτώσεις αυτών των αποφάσεων στην εκπαιδευτική κοινότητα.

Η λογοδοσία δεν αποτελεί απλώς μια τεχνική απαίτηση, αλλά έναν ηθικό μηχανισμό που σχετίζεται άμεσα με τη διαφάνεια, τη δικαιοσύνη, την επεξηγησιμότητα και την προστασία των δικαιωμάτων των χρηστών. Όπως τονίζουν οι Novelli, Taddeo και Floridi (2023), η λογοδοσία περιγράφει μια σχέση κατά την οποία ένας φορέας (π.χ. ένας σχεδιαστής ή φορέας υλοποίησης ενός συστήματος ΤΝ) οφείλει να εξηγεί και να τεκμηριώνει τις ενέργειές του σε ένα φόρουμ (π.χ. μαθητές, εκπαιδευτικούς, θεσμικούς ελεγκτικούς μηχανισμούς), το οποίο έχει τη δυνατότητα να αξιολογεί, να κρίνει και να απαιτεί αλλαγές.

Η ύπαρξη μηχανισμών λογοδοσίας στα Συστήματα ΤΝ στην εκπαίδευση συμβάλλει καθοριστικά στη διαμόρφωση σχέσεων εμπιστοσύνης ανάμεσα στους χρήστες και την τεχνολογία. Χωρίς διαφανείς και επεξηγήσιμες διαδικασίες, η αποδοχή τέτοιων συστημάτων περιορίζεται, καθώς οι χρήστες ενδέχεται να αισθάνονται πως εκτίθενται σε αδιαφανείς ή ακόμη και άδικες αποφάσεις, χωρίς τη δυνατότητα παρέμβασης ή αναστοχασμού.

Καθώς τα Συστήματα ΤΝ αποκτούν αυξανόμενη επιρροή στη μαθησιακή διαδικασία, η λογοδοσία καθίσταται όχι μόνο αναγκαία, αλλά και ζωτικής σημασίας, για την ενίσχυση της αξιοπιστίας, της παιδαγωγικής εγκυρότητας και της ηθικής νομιμοποίησης της τεχνολογίας στην εκπαίδευση.