ΚΛΕΙΣΙΜΟ
Loading...

Πώς η τεχνητή νοημοσύνη θα μας εξολοθρεύσει

Του ΘΟΔΩΡΗ ΓΕΩΡΓΑΚΟΠΟΥΛΟΥ

Τι θα γίνει με την τεχνητή νοημοσύνη; Ποιος θα ελέγχει αυτά τα ολοένα και πιο πανίσχυρα μηχανήματα, που κανείς (μα κανείς) δεν ξέρει ακριβώς πώς λειτουργούν; Τι θα γίνει αν ξεπεραστεί κάποιο όριο και ξεφύγουν από κάθε έλεγχο; Είναι δύσκολες ερωτήσεις αυτές. Κανείς δεν ξέρει. Αλλά απόψεις υπάρχουν. Από απόψεις άλλο τίποτε. Σήμερα και αύριο, λοιπόν, σε δύο διαδοχικά άρθρα, θα μιλήσουμε για μία από τις προσεγγίσεις που έχουν τεθεί στον δημόσιο διάλογο για το μέλλον της τεχνητής νοημοσύνης. Και όχι μία από τις, πώς να τοπω, ψυχραιμότερες.

Θα μιλήσουμε για το κακό σενάριο. Στον κόσμο μας κυκλοφορεί ένα βιβλίο που έχει τον εξής τίτλο: «If anyone builds it, everyone dies». Αν κάποιος το κατασκευάσει, θα πεθάνουμε όλοι. Ποιο; Μα, την τεχνητή «υπερνοημοσύνη». Τι εννοούμε «τεχνητή υπερνοημοσύνη»; Οι συγγραφείς του βιβλίου ορίζουν ως «Artificial Superintelligence» (ASI) μηχανές που μπορούν να λύνουν επιστημονικάπροβλήματα, να «σκέφτονται» ταχύτερα από τους ανθρώπους, να σχεδιάζουν και να εκπονούν στρατηγικά σχέδια και που μπορούν να αυτοβελτιώνονται και να αναβαθμίζονται μόνες τους. Αυτός είναι o ορισμός. ∆εν είμαστε ακόμη εκεί. Οι συγγραφείς παραδέχονται ότι μπορεί να απέχουμε και αρκετά από αυτό τοσημείο, αλλά επισημαίνουν ότι δεν ξέρουμε και δεν μπορούμε να ξέρουμε πόσο μακριά βρίσκεται. Οπως και να έχει, λένε, πρέπει οπωσδήποτε να λάβουμε εγκαίρως τα μέτρα μας. Γιατί όταν συμβεί, οι συγγραφείς είναι ξεκάθαροι: θα πεθάνουμε όλοι. Οι συγγραφείς του βιβλίου είναι ο Ελιέζερ Γιουντκάουσκι και ο Νέιτ Σοάρες.

Ο πρώτος είναι ένας βετεράνος του χώρου της τεχνητής νοημοσύνης. Στα νιάτα του προσπαθούσε να φτιάξει «ηθική» τεχνητή νοημοσύνη, έπαιξε και κομβικό ρόλο σταπρώτα βήματα της τεχνολογίας, αλλά μετά αντιλήφθηκε ότι είναι αδύνατο να κατασκευαστεί «ηθική» ΑΙ και βάλθηκε να γράφει. Ο άλλος, ο Νέιτ Σοάρες, έχει φτιάξει ένα ερευνητικό ινστιτούτο, που μελετά τους κινδύνους από την ανάπτυξη και τη χρήση της τεχνητής νοημοσύνης. Πρόσφατα δήλωσε ότι έχει σταματήσει να αποταμιεύει για τη συνταξιοδότησή του επειδή δεν πιστεύει ότι υπάρχουν μεγάλες πιθανότητες να τη βγάλουμε μέχρι τότε. Οι δυο τους, όπως αντιλαμβάνεστε, δεν είναι άνθρωποι που στρογγυλεύουν τα λόγια τους. «Οι επόμενοι μήνες και τα επόμενα χρόνια θα είναι μια δοκιμασία ζωής και θανάτου για ολόκληρη την ανθρωπότητα», υπογραμμίζουν στην αρχή αρχή. Το βιβλίο τους δεν είναι μια ζυγισμένη μελέτη με τα υπέρ και τα κατά, με τα ναι μεν και τα αλλά. Είναι ένα βιβλίο με θέση. Οι συγγραφείς το εξηγούν ορθά-κοφτά στη σελίδα 7: ο τίτλος δεν είναι clickbait. Το εννοούν. «Αν κάποια εταιρεία ή ομάδα, οπουδήποτε στον πλανήτη, φτιάξει μια τεχνητή υπερνοημοσύνη χρησιμοποιώντας μεθόδους και πρακτικές που μοιάζουν ακόμα και αμυδρά με τις σημερινές, και έχοντας τη γνώση και την κατανόηση του πώς λειτουργεί η ΑΙ που έχουμε σήμερα, τότε όλοι, κάθε ένας ξεχωριστά παντού στον κόσμο, θα πεθάνουμε». Αυτή είναι η θέση του βιβλίου.

Το βασικό τους επιχείρημα είναι ότι τέτοια συστήματα δεν μπορούν να «προγραμματιστούν» για να συμπεριφέρονται με προβλέψιμο τρόπο. Τα μοντέλα ΑΙ δεν «κατασκευάζονται», λένε, αλλά «ανατρέφονται». Οι προτιμήσεις και τα κίνητρα που αναπτύσσει μια ώριμη ΑΙ είναι, γράφουν «περίπλοκες, πρακτικά αδύνατο να προβλεφθούν και σχεδόν αδύνατο να συμπίπτουν με τις δικές μας προτιμήσεις και τα δικά μας κίνητρα, ανεξαρτήτως του πώς έχουν εκπαιδευτεί». Το πρόβλημα, κατά τη γνώμη τους, δεν είναι ότι κακοί επιχειρηματίες ή τρομοκράτες θα πάρουν τον έλεγχο των πανίσχυρων ΑΙ και θα τις βάλουν να κάνουν κακά πράγματα. Το πρόβλημα είναι ότι κανένας δεν θα «έχει τον έλεγχο». Γιατί τότε όλες αυτές οι επιχειρήσεις τεχνολογίας συνεχίζουν έτσι, παλεύοντας, όσο πιο γρήγορα μπορούν, να φτιάξουν όλο και ισχυρότερα ΑΙ μοντέλα; Οι συγγραφείς είναι ρεαλιστές.

Τα κίνητρα «της αγοράς» είναι πανίσχυρα και ταυτόχρονα κανένας από τους «παίκτες» δεν μπορεί να πατήσει φρένο μόνος του. Περιγράφουν τη λυσσαλέα μάχη ανάμεσα στις εταιρείες του χώρου με την πιο δυνατή εικόνα του βιβλίου: Φανταστείτε, λένε, ότι κάθε μία από αυτές τις εταιρείες τεχνολογίας σκαρφαλώνει μια μαγική σκάλα στο σκοτάδι. Η σκάλα αυτή έχει έναν κανόνα και ο κανόνας είναι ο εξής: σε κάθε σκαλοπάτι εκτός από το τελευταίο, οι εταιρείες πενταπλασιάζουν τα λεφτά τους. Στο πρώτο σκαλοπάτι βγάζουν 10 δισεκατομμύρια. Στο δεύτερο σκαλοπάτι, 50 δισεκατομμύρια. Ποιες θα ανέβουν στο τρίτο σκαλοπάτι; Ολες θα ανέβουν στο τρίτο σκαλοπάτι: 250 δισεκατομμύρια. Μια λεπτομέρεια μόνο: αν μια εταιρεία, έστω και μόνο μία, φτάσει στο τελευταίο σκαλοπάτι, η σκάλα εκρήγνυται και όλη η ανθρωπότητα πεθαίνει. Και υπάρχει απόλυτο σκοτάδι. Κανένας δεν μπορεί να δει αν το επόμενο σκαλοπάτι είναι το τελευταίο. Αυτό είναι η κούρσα για ολοένα και καλύτερες τεχνητές νοημοσύνες στον κόσμο μας σήμερα. Και πού βρισκόμαστε αυτή τη στιγμή στη σκάλα; Τι κάνουν αυτή την εποχή οι εταιρείες; Αυτό δεν το γράφουν στο βιβλίο, αλλά μπορούμε να το διαπιστώσουμε όλες και όλοι, παρακολουθώντας τις ειδήσεις: ανεβαίνουν όλες, ανέμελες, στο τέταρτο σκαλοπάτι.

NEWSROOM

Προσωπικότητες στην ''Κ'': Τελευταία Ενημέρωση

X

Μπες στο μυαλό των
αγαπημένων σου αρθρογράφων

Λάβε στο email σου το τελευταίο τους άρθρο τη στιγμή που δημοσιεύεται.

ΑΠΟΚΤΗΣΕ ΣΥΝΔΡΟΜΗ

Απόκτησε συνδρομή με €50 τον χρόνο για πρόσβαση στην έντυπη έκδοση.

ΑΠΟΚΤΗΣΕ ΣΥΝΔΡΟΜΗ