Η κινεζική startup DeepSeek αναμένεται να είναι μεταξύ των εταιρειών που θα ενημερώσουν αυτή την εβδομάδα το Συμβούλιο Ασφαλείας του ΟΗΕ για τους κινδύνους που συνδέονται με την τεχνητή νοημοσύνη, σύμφωνα με δύο πηγές που γνωρίζουν το θέμα και μίλησαν αποκλειστικά στο Reuters.

Η συνάντηση πραγματοποιείται την ώρα που παγκόσμιοι ηγέτες βρίσκονται στη Νέα Υόρκη για την ετήσια Γενική Συνέλευση των Ηνωμένων Εθνών και ενώ η συζήτηση γύρω από την ασφάλεια των ολοένα ισχυρότερων συστημάτων AI εντείνεται διεθνώς.

Το 15μελές Συμβούλιο Ασφαλείας πρόκειται να συνεδριάσει την Τετάρτη (23/09) με αντικείμενο την τεχνητή νοημοσύνη και τη διεθνή ασφάλεια.

Η συζήτηση έρχεται λίγες εβδομάδες αφότου στελέχη της βιομηχανίας της AI ζήτησαν συντονισμένη επιβράδυνση της ανάπτυξης των πιο ισχυρών συστημάτων, προειδοποιώντας ότι ενδέχεται σύντομα να αποκτήσουν τη δυνατότητα να βελτιώνονται από μόνα τους και να ξεφύγουν από τον ανθρώπινο έλεγχο.

Στο τραπέζι DeepSeek, OpenAI και Anthropic

Ο διευθύνων σύμβουλος της OpenAI, Σαμ Αλτμαν, σχεδιάζει να ενημερώσει το Συμβούλιο Ασφαλείας, ενώ διπλωμάτες αναμένουν ότι στη συνεδρίαση θα συμμετάσχουν και υψηλόβαθμοι εκπρόσωποι της Anthropic. Σύμφωνα με μία από τις πηγές του πρακτορείου ειδήσεων Reuters, η DeepSeek, καθώς και άλλες κινεζικές εταιρείες τεχνητής νοημοσύνης, μεταξύ των οποίων η Moonshot, έχουν προσκληθεί να κάνουν παρεμβάσεις.

Ο ιδρυτής της DeepSeek, Λιάνγκ Γουενφένγκ, πάντως, δεν σχεδιάζει να παραστεί ο ίδιος, ανέφερε η ίδια πηγή, επισημαίνοντας ότι το πρόγραμμα παραμένει υπό διαμόρφωση και ενδέχεται να αλλάξει ακόμη και την τελευταία στιγμή.

Το «αφηνιασμένο άλογο» του 2023 και οι σημερινοί φόβοι

Το Συμβούλιο Ασφαλείας, το όργανο του ΟΗΕ που έχει την κύρια ευθύνη για τη διατήρηση της διεθνούς ειρήνης και ασφάλειας, συζήτησε για πρώτη φορά τους κινδύνους της τεχνητής νοημοσύνης το 2023.

Τότε, η Κίνα είχε προειδοποιήσει ότι η τεχνολογία δεν θα πρέπει να μετατραπεί σε ένα «αφηνιασμένο άλογο», ενώ οι Ηνωμένες Πολιτείες είχαν επισημάνει τον κίνδυνο να χρησιμοποιηθεί η AI ως εργαλείο λογοκρισίας ή καταστολής.

Η νέα συζήτηση πραγματοποιείται σε μια περίοδο κατά την οποία οι ανησυχίες για τις δυνατότητες των προηγμένων μοντέλων έχουν ενταθεί.

Ο γενικός γραμματέας του ΟΗΕ Αντόνιο Γκουτέρες προειδοποίησε την περασμένη εβδομάδα τους παγκόσμιους ηγέτες ότι η ραγδαία πρόοδος της τεχνητής νοημοσύνης δημιουργεί κινδύνους που δεν μπορούν να αγνοηθούν. Η τοποθέτησή του βρίσκεται σε αντίθεση με τη θέση του Αμερικανού προέδρου Ντόναλντ Τραμπ, ο οποίος υποστηρίζει ότι οι υφιστάμενες δικλίδες ασφαλείας είναι επαρκείς και ότι η αμφισβήτηση της περαιτέρω ανάπτυξης της AI θα μπορούσε να ωφελήσει την Κίνα.

Η διαφορετική προσέγγιση της Κίνας στους κινδύνους της AI

Κινεζικά κρατικά μέσα ενημέρωσης έχουν απορρίψει τις εκκλήσεις για επιβράδυνση της ανάπτυξης της τεχνητής νοημοσύνης, χαρακτηρίζοντάς τες απόρροια ενός «εγχειριδίου του Ψυχρού Πολέμου». Σύμφωνα με αυτή την προσέγγιση, οι σχετικές εκκλήσεις αποσκοπούν στη διατήρηση της τεχνολογικής υπεροχής της Ουάσιγκτον και στον αποκλεισμό του Πεκίνου από το διεθνές σύστημα διακυβέρνησης της τεχνητής νοημοσύνης.

Το Reuters επισημαίνει παράλληλα μια διαφορά στη δημόσια συζήτηση που διεξάγεται στις δύο χώρες. Σε αντίθεση με επικεφαλής κορυφαίων αμερικανικών εταιρειών ανάπτυξης προηγμένων μοντέλων, όπως η OpenAI και η Anthropic, οι επικεφαλής των μεγαλύτερων κινεζικών εταιρειών του κλάδου σπάνια έχουν μιλήσει δημόσια για το ενδεχόμενο ολοένα πιο ικανά συστήματα AI να μπορούν να εξαπατήσουν ανθρώπους, να αποφύγουν τον έλεγχο ή να προκαλέσουν καταστροφικές συνέπειες.

Εχουν επίσης παραμείνει σε μεγάλο βαθμό σιωπηλοί γύρω από αυτούς τους κινδύνους, παρά την ένταση που έχει αποκτήσει η σχετική συζήτηση στις Ηνωμένες Πολιτείες αυτόν τον μήνα.

Νέες συνομιλίες ΗΠΑ – Κίνας για την ασφάλεια της AI

Την ίδια στιγμή, Ουάσιγκτον και Πεκίνο φαίνεται ότι διατηρούν ανοικτό δίαυλο για το συγκεκριμένο ζήτημα. Υψηλόβαθμοι αξιωματούχοι των ΗΠΑ και της Κίνας συμφώνησαν να πραγματοποιήσουν περαιτέρω συνομιλίες για την ασφάλεια της τεχνητής νοημοσύνης, όπως δήλωσε τη Δευτέρα (21/09) ο Αμερικανός υπουργός Οικονομικών Σκοτ Μπέσεντ.

Η συμφωνία για συνέχιση των επαφών έγινε ενόψει των προγραμματισμένων συνομιλιών του Ντόναλντ Τραμπ με τον Κινέζο πρόεδρο Σι Τζινπίνγκ αργότερα αυτή την εβδομάδα στην Ουάσιγκτον.