Η εμπιστοσύνη (trust) είναι ένας από τους πιο κρίσιμους και ταυτόχρονα ευάλωτους παράγοντες στην αποδοχή και αποτελεσματική χρήση των Συστημάτων Τεχνητής Νοημοσύνης στην Εκπαίδευση (AIED). Χωρίς εμπιστοσύνη, τα καλύτερα τεχνολογικά εργαλεία μπορεί να απορριφθούν ή να χρησιμοποιηθούν επιφανειακά. Αντίθετα, η ύπαρξη εμπιστοσύνης επιτρέπει τη δημιουργία ενός συνεργατικού περιβάλλοντος ανθρώπου-μηχανής που ενισχύει τη μάθηση, την εξατομίκευση και την ενεργή συμμετοχή.

Η εμπιστοσύνη των χρηστών στα συστήματα AIED δεν είναι δεδομένη ούτε αυθόρμητη. Κερδίζεται σταδιακά και βασίζεται σε συνδυασμό παραγόντων, όπως:

• η διαφάνεια: μπορούν οι χρήστες να δουν πώς λειτουργεί το σύστημα;

• η επεξηγησιμότητα: μπορούν να καταλάβουν το “γιατί” μιας απόφασης;

• η λογοδοσία: υπάρχει κάποιος υπεύθυνος όταν κάτι πάει λάθος;

• η αξιοπιστία και συνέπεια στη λειτουργία του συστήματος.

Στην εκπαιδευτική πράξη, η εμπιστοσύνη αποκτά επιπλέον σημασία. Οι φοιτητές θέλουν να νιώθουν ότι τα συστήματα τους αντιμετωπίζουν δίκαια, χωρίς προκαταλήψεις ή λάθη. Οι εκπαιδευτικοί, με τη σειρά τους, χρειάζονται βεβαιότητα ότι η τεχνολογία που χρησιμοποιούν στηρίζει – και όχι υπονομεύει – τον παιδαγωγικό τους ρόλο.

Χωρίς εμπιστοσύνη, ο χρήστης αποσύρεται: χρησιμοποιεί την τεχνολογία επιφανειακά ή καθόλου. Με εμπιστοσύνη, η τεχνολογία γίνεται συνεργάτης, όχι “εξωτερικός ελεγκτής”.