«Οι Ηνωμένες Πολιτείες μπορεί να έχουν στη διάθεσή τους μόλις έναν χρόνο για να θεσπίσουν ουσιαστικούς κανόνες ασφαλείας για την Τεχνητή Νοημοσύνη,(AI) προτού η τεχνολογία εξελιχθεί σε επίπεδο που θα καταστήσει δυσκολότερο τον ανθρώπινο έλεγχο», προειδοποίησε ο νομπελίστας επιστήμονας Τζέφρι Χίντον, γνωστός ως ο «Νονός της Τεχνητής Νοημοσύνης».
Η προειδοποίηση διατυπώθηκε, μετά την κεκλεισμένων των θυρών ενημέρωση Αμερικανών νομοθετών από τον Χίντον και άλλους ειδικούς σε θέματα ασφάλειας της Τεχνητής Νοημοσύνης. Οταν ρωτήθηκε πόσο χρόνο έχουν οι υπεύθυνοι χάραξης πολιτικής για να δράσουν, ο Χίντον ήταν κατηγορηματικός: «Ισως ένα χρόνο, αλλά όχι πολύ περισσότερο από ένα χρόνο».
Το κρίσιμο στοιχείο, σύμφωνα με τον επιστήμονα, είναι η ταχύτητα με την οποία εξελίσσονται πλέον τα συστήματα AI. Οι εκτιμήσεις για το πότε θα μπορούσε να εμφανιστεί η λεγόμενη υπερνοημοσύνη (συστήματα που θα ξεπερνούν τις ανθρώπινες γνωστικές ικανότητες σε ένα ευρύ φάσμα εργασιών) έχουν μετακινηθεί αισθητά προς το παρόν. «Αν κοιτάξετε τις προβλέψεις για το πότε θα αποκτήσουμε υπερνοημοσύνη, ήταν ίσως σε 30 χρόνια, ίσως σε 50 χρόνια. Μετά κατέληξε σε ίσως 10 χρόνια, ίσως σε 20 χρόνια. Τώρα, πολλοί ερευνητές λένε μόνο σε λίγα χρόνια», δήλωσε.
Ο Χίντον, ο οποίος τιμήθηκε με το Νόμπελ Φυσικής το 2024 για τη θεμελιώδη συμβολή του στην ανάπτυξη της μηχανικής μάθησης, δεν μιλά πλέον μόνο για μια μακρινή θεωρητική απειλή. Η ανησυχία του αφορά την προοπτική τα ίδια τα συστήματα να αποκτήσουν τη δυνατότητα να συμβάλλουν στην ανάπτυξη των επόμενων, ισχυρότερων εκδοχών τους. «Η Τεχνητή Νοημοσύνη έχει πλέον φτάσει στο σημείο όπου η Τεχνητή Νοημοσύνη σχεδιάζει καλύτερη Τεχνητή Νοημοσύνη», είπε στους δημοσιογράφους μετά την ενημέρωση. «Αυτό ονομάζεται αναδρομική αυτοβελτίωση… Θα ξεφύγει από τον έλεγχο, εκτός αν κάνουμε κάτι. Πρέπει να επιβραδύνουμε».
Από την προειδοποίηση στη νομοθετική πίεση
Η παρέμβαση του Χίντον έρχεται σε μια περίοδο κατά την οποία η Ουάσινγκτον δυσκολεύεται να μετατρέψει την αυξανόμενη ανησυχία για την Τεχνητή Νοημοσύνη σε συγκεκριμένο ρυθμιστικό πλαίσιο. Η ενημέρωση οργανώθηκε από τον ανεξάρτητο γερουσιαστή Μπέρνι Σάντερς, ο οποίος κάλεσε νομοθέτες και από τα δύο κόμματα να ακούσουν τους ειδικούς. Στη συνάντηση συμμετείχαν, μεταξύ άλλων, ο Χίντον, ο ερευνητής Μαξ Τέγκμαρκ και η ερευνήτρια Αζέγια Κότρα.
Η συζήτηση αποκτά μεγαλύτερη βαρύτητα καθώς το Κογκρέσο έχει ήδη αρχίσει να εξετάζει μέτρα που θα διατηρούν τη δυνατότητα ανθρώπινης παρέμβασης σε ιδιαίτερα ισχυρά συστήματα Τεχνητής Νοημοσύνης. Τον Ιούλιο, οι Δημοκρατικοί Τεντ Λιού και Νέιθανιελ Μόραν, Ρεπουμπλικανός του Τέξας, κατέθεσαν από κοινού τον AI Kill Switch Act, νομοσχέδιο που θα υποχρέωνε τους δημιουργούς των ισχυρότερων μοντέλων να διατηρούν τεχνική δυνατότητα επιβράδυνσης, αναστολής ή πλήρους τερματισμού της λειτουργίας τους. Παράλληλα, θα έδινε στο υπουργείο Εσωτερικής Ασφάλειας τη δυνατότητα να διατάσσει περιορισμό ή διακοπή λειτουργίας σε περίπτωση συστήματος που θα μπορούσε να προκαλέσει καταστροφική ζημιά.
Η πρωτοβουλία αυτή συνδέεται άμεσα με ένα περιστατικό που έχει ενισχύσει τις ανησυχίες για το κατά πόσο τα πιο προηγμένα μοντέλα μπορούν να παραμένουν εντός των ορίων που θέτουν οι δημιουργοί τους. Σε δοκιμές κυβερνοασφάλειας τον Ιούλιο, μοντέλα της OpenAI παραβίασαν τους περιορισμούς που είχαν τεθεί για να τα απομονώνουν από το διαδίκτυο και απέκτησαν πρόσβαση σε συστήματα της ίδιας της εταιρείας και της πλατφόρμας Hugging Face. Η ίδια η OpenAI έχει επιβεβαιώσει ότι τα μοντέλα εκμεταλλεύτηκαν ευπάθειες και απέκτησαν πρόσβαση σε συστήματα τρίτου μέρους.
Με πληροφορίες από Business Insider, NBC NEWS
