Τα στελέχη συνεκτιμούν τον πιθανό αντίκτυπο κυβερνοεπιθέσεων μεγάλης κλίμακας που θα προκαλούσαν διακοπή της πρόσβασης σε χρηματοπιστωτικές υπηρεσίες, της σύνδεσης στο Διαδίκτυο ή ακόμη και της ηλεκτροδότησης και της υδροδότησης.
Το πρώτο περιστατικό στο οποίο η μη ασφαλής χρήση της τεχνητής νοημοσύνης θα προκαλούσε σημαντική ζημιά στον πραγματικό κόσμο θα μπορούσε να στρέψει ακόμη περισσότερο μια ήδη επιφυλακτική κοινή γνώμη εναντίον της τεχνολογίας και των ηγετικών στελεχών του κλάδου. Μεταξύ αυτών, συγκαταλέγονται ο διευθύνων σύμβουλος της Anthropic, Ντάριο Αμοντέι, ο επικεφαλής της OpenAI, Σαμ Aλτμαν, αλλά και ο πρόεδρος των ΗΠΑ, Ντόναλντ Τραμπ, λόγω της απροθυμίας του να προωθήσει ρυθμιστικούς κανόνες για την τεχνητή νοημοσύνη.
Αναπόφευκτο ένα σοβαρό περιστατικό;
Ο σχεδιασμός σεναρίων κρίσης αποτελεί συνήθη πρακτική σε πολλές επιχειρήσεις και σε οργανισμούς εθνικής ασφάλειας. Το Πεντάγωνο, για παράδειγμα, διεξάγει πολεμικές ασκήσεις προσομοίωσης εδώ και δεκαετίες.
Η διαφορά είναι ότι πολλοί κορυφαίοι ερευνητές και διευθυντές εταιρειών τεχνητής νοημοσύνης θεωρούν αναπόφευκτο ένα σοβαρό περιστατικό.
«Η OpenAI διεξάγει ασκήσεις ετοιμότητας, στο πλαίσιο των οποίων στελέχη της συζητούν και επεξεργάζονται ευρύ φάσμα πιθανών σεναρίων», δήλωσε εκπρόσωπος της εταιρείας. «Τα σενάρια αυτά δεν θεωρούνται αναπόφευκτα, αλλά αποσκοπούν στην προετοιμασία μας για ποικιλία περιστάσεων», πρόσθεσε ο ίδιος.
Ποιος θα θεωρηθεί υπεύθυνος
Η αναζήτηση ευθυνών θα ξεκινήσει είτε αν ένα σμήνος ανεξέλεγκτων συστημάτων τεχνητής νοημοσύνης ξεφύγει από τον έλεγχο είτε αν κακόβουλος παράγοντας ανακαλύψει απρόβλεπτους τρόπους αξιοποίησης των διαθέσιμων μοντέλων.
Πρόσφατη εκστρατεία κυβερνοεπιθέσεων με στόχο χρηματοπιστωτικούς οργανισμούς της Νότιας Κορέας, στο πλαίσιο των οποίων καταγράφηκαν παραβιάσεις σε δύο τράπεζες, κατέδειξε τη ζημιά που μπορεί να προκαλέσει ακόμη και ένα άτομο.
Σύμφωνα με την εταιρεία κυβερνοασφάλειας CrowdStrike, ένας χάκερ από την Κίνα φέρεται να χρησιμοποίησε εργαλεία τεχνητής νοημοσύνης από μοντέλα που έχουν αναπτυχθεί στην Κίνα, μεταξύ των οποίων το DeepSeek, για να υποκλέψει δεδομένα δεκάδων χιλιάδων τραπεζικών πελατών. Ο δράστης φέρεται να χρησιμοποίησε το Claude Code για να ζητήσει βοήθεια σχετικά με τον εντοπισμό αγοραστών για τα κλεμμένα δεδομένα.
Οι υπεύθυνοι σχεδιασμού των εταιρειών τεχνητής νοημοσύνης θεωρούν ότι οι Δημοκρατικοί στις ΗΠΑ, οι οποίοι αναμένεται να ενισχύσουν τη θέση τους μετά τις ενδιάμεσες εκλογές, θα κινηθούν γρήγορα για να περιορίσουν την τεχνητή νοημοσύνη, αλλά θα αντιμετωπίσουν σημαντικά εμπόδια.
Η παγκόσμια οικονομία είναι πλέον στενά συνδεδεμένη με την ανάπτυξη υποδομών τεχνητής νοημοσύνης. Η επιβράδυνση αυτής της ανάπτυξης θα μπορούσε να πλήξει σοβαρά μια οικονομία που είναι ήδη εύθραυστη.
Παράλληλα, κυκλοφορούν ήδη πολλά μοντέλα, τα οποία μπορούν να χρησιμοποιηθούν δωρεάν για επιβλαβείς σκοπούς. Πολλοί ειδικοί στην κυβερνοασφάλεια θεωρούν ότι το πρόβλημα θα αντιμετωπιστεί με τη χρήση τεχνητής νοημοσύνης για την καταπολέμηση κακόβουλων εφαρμογών της ίδιας τεχνολογίας.
Τα σχέδια για το χειρότερο σενάριο
Τα σχέδια περιλαμβάνουν ασκήσεις ελέγχου και δοκιμές ασφαλείας, με επίκεντρο τα χειρότερα δυνατά σενάρια. Βασικός στόχος είναι να ενημερωθούν όσο το δυνατόν ταχύτερα τα μέλη του Κογκρέσου για τους πιθανούς κινδύνους.
Τα στελέχη των εταιρειών γνωρίζουν ότι η θέσπιση νέων κανόνων δεν έχει σήμερα πολλές πιθανότητες να προχωρήσει. Ωστόσο, επιθυμούν να επηρεάσουν τη νομοθεσία και τις πολιτικές που θα ακολουθηθούν μετά το πρώτο καταστροφικό περιστατικό.
Πολλοί άνθρωποι από τον κλάδο της τεχνητής νοημοσύνης ανέφεραν στο Axios ότι θεωρούν πιθανό να σημειωθεί ένα σοβαρό περιστατικό μέσα στους επόμενους έξι έως δώδεκα μήνες.
Ακόμη και σε περίπτωση που οι Δημοκρατικοί ελέγξουν τόσο τη Βουλή των Αντιπροσώπων όσο και τη Γερουσία των ΗΠΑ, οι εταιρείες εκτιμούν ότι θα επικρατήσει πολιτικός κατακερματισμός, ακόμη και στο εσωτερικό του Δημοκρατικού Κόμματος.
Κάποιες από τις αυστηρότερες προτάσεις των Δημοκρατικών περιλαμβάνουν την απαγόρευση της υπερνοημοσύνης ή την προσωρινή αναστολή της ανάπτυξης προηγμένων συστημάτων τεχνητής νοημοσύνης.
Αλλες προτάσεις, όπως η ύπαρξη μηχανισμού άμεσης απενεργοποίησης για τα προηγμένα συστήματα, χαίρουν διακομματικής στήριξης και ευρύτερης αποδοχής. Ωστόσο, ειδικοί δεν είναι βέβαιοι πως είναι εφικτό να απενεργοποιηθούν όλα τα συστήματα τεχνητής νοημοσύνης.
Πάντως, σύμφωνα με τους ειδικούς που μίλησαν στο Axios, σε περίπτωση κρίσης, η Ουάσιγκτον θα παραμερίσει τις κομματικές διαφορές. Συνεργάτης των Δημοκρατικών στο Κογκρέσο επικαλέστηκε ως παραδείγματα τη συνεργασία κατά τη διάρκεια της πανδημίας COVID-19 και της χρηματοπιστωτικής κρίσης του 2008.
Πηγή: Axios
