Ανατροπές από το νέο Μητρώο Τεχνητής Νοημοσύνης στο Δημόσιο: Τα οφέλη της εποπτείας και οι παγίδες της εφαρμογής
Για πρώτη φορά επιχειρείται η κεντρική καταγραφή όλων των εφαρμογών τεχνητής νοημοσύνης που χρησιμοποιούνται από υπουργεία, οργανισμούς, ανεξάρτητες αρχές και λοιπούς δημόσιους φορείς, πριν αυτές τεθούν σε παραγωγική λειτουργία.
Στη δημιουργία ενός ενιαίου Μητρώου Συστημάτων Τεχνητής Νοημοσύνης για όλους τους φορείς του Δημοσίου προχωρά η κυβέρνηση, μέσω του νομοσχεδίου για την εφαρμογή του ευρωπαϊκού Κανονισμού για την Τεχνητή Νοημοσύνη στην Ελλάδα, το οποίο τέθηκε χθες σε δημόσια διαβούλευση.
Η συγκεκριμένη πρόβλεψη αποτελεί ένα από τα βασικά σημεία του νομοσχεδίου και περιλαμβάνεται στο άρθρο 21. Σύμφωνα με τη διάταξη, κάθε δημόσιος φορέας που σχεδιάζει να αξιοποιήσει σύστημα τεχνητής νοημοσύνης θα υποχρεούται να το δηλώνει πριν από την έναρξη λειτουργίας του σε ειδικό μητρώο που θα τηρεί η Ειδική Γραμματεία Τεχνητής Νοημοσύνης και Διακυβέρνησης Δεδομένων του Υπουργείου Ψηφιακής Διακυβέρνησης.
Για πρώτη φορά επιχειρείται η κεντρική καταγραφή όλων των εφαρμογών τεχνητής νοημοσύνης που χρησιμοποιούνται από υπουργεία, οργανισμούς, ανεξάρτητες αρχές και λοιπούς δημόσιους φορείς, πριν αυτές τεθούν σε παραγωγική λειτουργία. Η κυβέρνηση εκτιμά ότι το νέο μητρώο θα λειτουργήσει ως εργαλείο χαρτογράφησης της ψηφιακής ωριμότητας του Δημοσίου, προσφέροντας σαφέστερη εικόνα για το εύρος και το είδος των συστημάτων AI που αναπτύσσονται ή αξιοποιούνται από κρατικές υπηρεσίες.
Παράγοντες της αγοράς υποστηρίζουν ότι η συγκέντρωση των σχετικών στοιχείων μπορεί να συμβάλει στον αποτελεσματικότερο συντονισμό των έργων τεχνητής νοημοσύνης, στην αποφυγή επικαλύψεων μεταξύ φορέων και στη διάχυση βέλτιστων πρακτικών σε ολόκληρη τη δημόσια διοίκηση. Παράλληλα, υποστηρικτές της ρύθμισης εκτιμούν ότι το μέτρο ενισχύει τον έλεγχο των δημόσιων ψηφιακών έργων, περιορίζει τον κίνδυνο ανεξέλεγκτης χρήσης εφαρμογών τεχνητής νοημοσύνης και δημιουργεί ένα πρώτο πλαίσιο λογοδοσίας για τεχνολογίες που επηρεάζουν πολίτες και επιχειρήσεις.
Επιφυλάξεις για την αποτελεσματικότητα του νέου μηχανισμού
Την ίδια στιγμή, ωστόσο, διατυπώνονται και επιφυλάξεις σχετικά με την αποτελεσματικότητα του νέου μηχανισμού. Βασικό ερώτημα αποτελεί κατά πόσο το μητρώο θα λειτουργήσει ως ουσιαστικό εργαλείο διαφάνειας ή αν θα εξελιχθεί σε μια ακόμη διοικητική διαδικασία χωρίς πρακτικό αντίκρισμα. Στο κείμενο του νομοσχεδίου δεν αποσαφηνίζεται πλήρως ποια στοιχεία θα είναι δημόσια προσβάσιμα, ποια θα παραμένουν εσωτερικά και με ποιον τρόπο οι πολίτες θα ενημερώνονται όταν μια διοικητική υπηρεσία ή απόφαση βασίζεται σε σύστημα τεχνητής νοημοσύνης.
Προβληματισμός εκφράζεται και για τις πιθανές επιπτώσεις στην ταχύτητα υλοποίησης καινοτόμων έργων. Ειδικοί στον τομέα της ψηφιακής διακυβέρνησης επισημαίνουν ότι η υποχρεωτική καταχώριση πριν από την έναρξη λειτουργίας κάθε συστήματος ενδέχεται να επιβραδύνει πιλοτικές εφαρμογές και δοκιμές που απαιτούν γρήγορη ανάπτυξη και προσαρμογή. Παράλληλα, σημειώνουν ότι χωρίς σαφές πλαίσιο αξιολόγησης κινδύνου, το μητρώο ενδέχεται να συγκεντρώνει ετερογενείς εφαρμογές – από απλά εργαλεία αυτοματοποίησης έως σύνθετα συστήματα λήψης αποφάσεων – χωρίς διακριτή κατηγοριοποίηση και αντίστοιχο επίπεδο εποπτείας.
Τέλος, ένα ακόμη σημείο που προκαλεί συζήτηση αφορά την απουσία πρόβλεψης για ανεξάρτητο έλεγχο των καταχωρίσεων. Το νομοσχέδιο προβλέπει ότι τα στοιχεία θα υποβάλλονται από τους ίδιους τους φορείς που χρησιμοποιούν συστήματα τεχνητής νοημοσύνης, χωρίς να καθορίζεται στο συγκεκριμένο άρθρο μηχανισμός εξωτερικής επαλήθευσης της ακρίβειας ή της πληρότητας των πληροφοριών που θα δηλώνονται στο μητρώο.
Ads
