Η επεξηγησιμότητα (explainability) είναι η ικανότητα ενός Συστήματος Τεχνητής Νοημοσύνης να παρέχει κατανοητές εξηγήσεις για τις αποφάσεις και τις ενέργειές του. Στο πλαίσιο των συστημάτων ΤΝ στην Εκπαίδευση (AIED), η επεξηγησιμότητα είναι κρίσιμη ώστε οι χρήστες –είτε είναι μαθητές, είτε εκπαιδευτικοί, είτε γονείς– να μπορούν να κατανοήσουν πώς και γιατί ένα σύστημα προτείνει μια μαθησιακή διαδρομή, αξιολογεί μια εργασία ή συστήνει έναν συγκεκριμένο πόρο.

Η έννοια αυτή συνδέεται άμεσα με τη διαφάνεια, αλλά δεν ταυτίζεται με αυτήν. Ένα σύστημα μπορεί να είναι διαφανές ως προς το τι κάνει, αλλά όχι απαραίτητα επεξηγήσιμο ως προς το πώς φτάνει εκεί. Για παράδειγμα, αν ένα σύστημα αξιολογεί μια έκθεση μαθητή, αλλά δεν εξηγεί βάσει ποιων κριτηρίων ή πώς “σκέφτηκε”, τότε δεν είναι επεξηγήσιμο – ακόμη κι αν το αποτέλεσμα φαίνεται ξεκάθαρο.

Η έλλειψη επεξηγησιμότητας έχει επιπτώσεις στην αποδοχή, την εμπιστοσύνη και την παιδαγωγική αξία των συστημάτων AIED. Οι χρήστες ενδέχεται να αισθάνονται παθητικοί και αδύναμοι απέναντι σε ένα “μαύρο κουτί”, περιορίζοντας έτσι τη συνεργασία τους με την τεχνολογία.