Καθώς τα Συστήματα Τεχνητής Νοημοσύνης χρησιμοποιούνται όλο και περισσότερο στην εκπαίδευση, προκύπτει ένα κρίσιμο ερώτημα: ποιος είναι υπεύθυνος όταν το σύστημα λάβει μια εσφαλμένη ή άδικη απόφαση;

Η νομική ευθύνη (legal accountability) στα AIED συστήματα είναι ένα πολύπλοκο ζήτημα. Περιλαμβάνει:

• τον σχεδιαστή του συστήματος (developer),

• τον εκπαιδευτικό φορέα που το υιοθετεί,

• τον χρήστη (εκπαιδευτικό, μαθητή) που αλληλεπιδρά με αυτό,

• και, φυσικά, τις ρυθμιστικές αρχές που θέτουν το νομικό πλαίσιο.

Παράλληλα, η προστασία προσωπικών δεδομένων (GDPR, Ευρωπαϊκός Κανονισμός) αποτελεί βασικό ζήτημα ηθικής και νομικής συμμόρφωσης. Τα AIED συστήματα συχνά επεξεργάζονται ευαίσθητα δεδομένα, όπως επιδόσεις, συμπεριφορές, ή ακόμη και συναισθηματικές αντιδράσεις μαθητών. Αυτά τα δεδομένα πρέπει να:

• συλλέγονται με συναίνεση,

• αποθηκεύονται με ασφάλεια,

• και να μην χρησιμοποιούνται για σκοπούς πέρα από τον αρχικό.

Η Ευρωπαϊκή Πράξη για την Τεχνητή Νοημοσύνη (AI Act), που βρίσκεται σε τελική φάση υιοθέτησης, εισάγει επίπεδα “κινδύνου” για τα συστήματα ΤΝ. Τα συστήματα στην εκπαίδευση θεωρούνται “υψηλού κινδύνου”, επειδή επηρεάζουν θεμελιώδη δικαιώματα.

Συνεπώς, η χρήση ΤΝ στην εκπαίδευση πρέπει να συνοδεύεται από σαφείς διαδικασίες ευθύνης, διάφανη χρήση των δεδομένων και συμμόρφωση με το νομικό πλαίσιο – όχι μόνο για να τηρούνται οι κανόνες, αλλά για να ενισχυθεί η εμπιστοσύνη και η ασφάλεια όλων των εμπλεκομένων.

Περαιτέρω Ανάγνωση:

• Novelli, C., Taddeo, M., & Floridi, L. (2023).
  Accountability in artificial intelligence: What it is and how it works.
  https://doi.org/10.1007/s00146-023-01635-y

• Pardo, A., & Siemens, G. (2014).
  Ethical and privacy principles for learning analytics.
  https://doi.org/10.1111/bjet.12152

• Mittelstadt, B. D., Allo, P., Taddeo, M., Wachter, S., & Floridi, L. (2016).
  The ethics of algorithms: Mapping the debate.
  https://doi.org/10.1177/2053951716679679