Η Τεχνητή Υπερνοημοσύνη απειλεί την ανθρωπότητα
Μια σπάνια και παράδοξη εικόνα συναίνεσης καταγράφεται στον τεχνολογικό κλάδο, καθώς οι ηγέτες των μεγαλύτερων εταιρειών ανάπτυξης Τεχνητής Νοημοσύνης εκφράζουν ανοιχτά τους φόβους τους για την ταχύτητα εξέλιξης της AI, ζητώντας να μπει προσωρινό «φρένο» για λόγους ασφαλείας. Με αφορμή την παραίτηση ερευνητή της Anthropic έγιναν δηλώσεις που αναφέρουν ότι η πιθανότητα καταστροφής της ανθρωπότητας από την Τεχνητή Νοημοσύνη είναι υπαρκτή, καθώς τα συστήματα εξελίσσονται με καταιγιστικό ρυθμό και είναι πιθανό μέχρι το τέλος της δεκαετίας να πάρουν τα ηνία και να αυτονομηθούν.
Από την πλευρά του ο αμερικανός Πρόεδρος Ντόναλντ Τραμπ «διασκέδασε» τις εντυπώσεις, λέγοντας πως οι φόβοι είναι υπερβολικοί και ότι οι ΗΠΑ δεν έχουν την πολυτέλεια να επιβραδύνουν. Αντίστοιχα, και η Κίνα απορρίπτει τις προτάσεις της Anthropic ως προσπάθεια να περιοριστεί η δική της τεχνολογική ανάπτυξη.
Ο φόβος της απώλειας ελέγχου
Στο επίκεντρο του προβληματισμού βρίσκεται ο κίνδυνος να ξεπεράσουν τα συστήματα Τεχνητής Νοημοσύνης τις ανθρώπινες δυνατότητες εποπτείας. Ο Ντάριο Αμοντέι (CEO της Anthropic) τάχθηκε υπέρ μιας συντονισμένης επιβράδυνσης στην ανάπτυξη των πιο προηγμένων μοντέλων, προκειμένου οι μηχανισμοί ασφαλείας να προλάβουν τη ραγδαία τεχνολογική πρόοδο.
Το αίτημα αυτό βρήκε απρόσμενη στήριξη από τον διευθύνοντα σύμβουλο της OpenAI, Σαμ Άλτμαν, ο οποίος συμφώνησε με τις επισημάνσεις του Αμοντέι, τονίζοντας ότι η AI πρέπει να παραμείνει στην υπηρεσία του ανθρώπου («Team Humanity») και προειδοποιώντας για τον κίνδυνο απώλειας του ελέγχου. Στο ίδιο μήκος κύματος κινήθηκε και ο Ίλον Μασκ, ενισχύοντας την έκκληση για αυστηρότερο έλεγχο.
Η παραίτηση που πυροδότησε τις αποκαλύψεις
Το έναυσμα για τις νέες αντιδράσεις έδωσε η παραίτηση του Jacob Coxon, πρώην ερευνητή της Anthropic. Σε δημόσια τοποθέτησή του, ο Coxon κατηγόρησε ευθέως τόσο την εταιρεία του, όσο και την OpenAI, για ανεύθυνη συμπεριφορά, υποστηρίζοντας ότι διεξάγουν έναν αλόγιστο ανταγωνισμό με στόχο την επίτευξη της «self-improving superintelligence» – μιας μορφής υπερνοημοσύνης ικανής να αυτοβελτιώνεται αυτόνομα.
Ο πρώην ερευνητής υπογράμμισε ότι οι κίνδυνοι είναι πολύ μεγαλύτεροι από όσο παραδέχονται δημόσια οι εταιρείες, αποκαλύπτοντας πως ανώτερα στελέχη εκφράζουν φόβους ακόμη και για ολοκληρωτική καταστροφή της ανθρωπότητας πριν από το τέλος της δεκαετίας.
«Πάνω από 10% πιθανότητα καταστροφής»
Οι ισχυρισμοί του Coxon δεν αντιμετωπίστηκαν ως μεμονωμένες υπερβολές, καθώς επιβεβαιώθηκαν δημόσια από εν ενεργεία ηγετικά στελέχη του κλάδου. Ο Evan Hubinger, επικεφαλής ερευνητής στο τμήμα ασφάλειας και «alignment» (ευθυγράμμισης) της Anthropic, συμφώνησε ανοιχτά με τις επισημάνσεις του πρώην συναδέλφου του.
Ο Hubinger προχώρησε σε μια ηχηρή εκτίμηση, αναφέροντας ότι η πιθανότητα να οδηγήσει η AI στον αφανισμό της ανθρωπότητας εντός της επόμενης δεκαετίας ξεπερνά το 10%. Παράλληλα, προέβη σε μια ανησυχητική παραδοχή: παρότι η Anthropic προσπαθεί να διαχειριστεί την απειλή, δεν διαθέτει ακόμη έτοιμο σχέδιο για την επίλυση του προβλήματος της ευθυγράμμισης της υπερνοημοσύνης με τα ανθρώπινα συμφέροντα, ούτε υπάρχει εγγύηση ότι θα το επιτύχει εγκαίρως.
Στο ίδιο μήκος κύματος κινήθηκε και ο ερευνητής ασφάλειας της εταιρείας, Samuel Marks, τονίζοντας ότι οι ίδιοι οι δημιουργοί των συστημάτων AI θεωρούν ορατό τον κίνδυνο μιας ανεπανόρθωτης καταστροφής μέσα στα αμέσως επόμενα χρόνια.
Οι αυτόνομοι «Agents» και η αυτόνομη βελτίωση
Αυτή η μεταστροφή στο κλίμα τροφοδοτείται από την εμφάνιση των αυτόνομων συστημάτων (AI agents) και την προοπτική της «αυτόνομης αναδρομικής βελτίωσης» (RSI) , τη δυνατότητα δηλαδή των αλγορίθμων να αυτοβελτιώνονται χωρίς ανθρώπινη παρέμβαση. Πρόσφατα περιστατικά όπου μοντέλα εμφάνισαν απρόβλεπτες συμπεριφορές ή απέκλιναν από τους καθορισμένους στόχους σήμαναν συναγερμό στους ερευνητές, εγείροντας φόβους για εκτεταμένες οικονομικές ή λειτουργικές ζημιές.
Ζητείται διεθνής συντονισμός
Για την αντιμετώπιση του κινδύνου, προτάθηκε η θέσπιση ανεξάρτητων εξωτερικών αξιολογητών με διαρκή πρόσβαση στα συστήματα αιχμής, καθώς και η διαμόρφωση ενός παγκόσμιου ρυθμιστικού πλαισίου. Οι πρωταγωνιστές της βιομηχανίας υπογραμμίζουν ότι ο διεθνής συντονισμός -ακόμη και με γεωπολιτικούς ανταγωνιστές- είναι απαραίτητος, ώστε η επιβράδυνση να μην θέσει σε κίνδυνο την ασφάλεια ή την ισορροπία ισχύος.
Το ερώτημα που τίθεται πλέον δεν είναι μόνο ποιος θα αναπτύξει την πιο προηγμένη τεχνολογία, αλλά αν η ανθρωπότητα θα διατηρήσει το τιμόνι των εξελίξεων.
Ads
