ΚΛΕΙΣΙΜΟ
Loading...
ΚΛΕΙΣΙΜΟ
 

Κι αν είμαι ρομπότ μη με φοβάσαι

Δραπέτευσαν από τη φαντασία μας, ενσάρκωσαν τους φόβους και τις ελπίδες μας και τώρα χορεύουν το Do you love me?.

Μανώλης Ανδριωτάκης

Έχετε δει το ρομπότ Άτλας να κάνει παρκούρ; Να τρέχει στο χιόνι; Να χορεύει το τραγούδι Do you love me? (The Contours, 1962); Αν όχι, αξίζει να ψάξετε την κατασκευάστρια εταιρεία του, Boston Dynamics, και να δείτε τα σχετικά βίντεο. Προσωπικά, έμεινα με το στόμα ανοιχτό. Έως τώρα οι περισσότεροι νομίζαμε ότι θα παραμέναμε δέσμιοι του «παράδοξου του Μόραβετς» για πάντα, ότι οι μηχανές θα δυσκολεύονταν αιώνια με τα φαινομενικά απλά και θα θριάμβευαν στα ουσιωδώς περίπλοκα, αλλά ο Άτλας μάς δείχνει ότι οι μηχανές πλέον δεν αστειεύονται. Αναγνωρίζουν πρόσωπα, στέκονται όρθιες ακόμα κι όταν τις σπρώχνουν, πιάνουν αντικείμενα στον αέρα, συγχρονίζονται μεταξύ τους και με τη μουσική. Δεν θέλω να σας τρομάξω, αλλά η επανάσταση των ρομπότ έχει ήδη ξεκινήσει και δεν είναι μόνο στη φαντασία μας πια.

Κάποιος θα πει ότι αυτό το έχουμε ξανακούσει και θα ’χει δίκιο. Η ίδια η λέξη «ρομπότ» έχει ακριβώς έναν αιώνα ζωής. Η χρήση της εγκαινιάστηκε επίσημα τον Ιανουάριο του 1921 στην Πράγα, στην πρεμιέρα ενός θεατρικού έργου με τον ιδιοσυγκρασιακό τίτλο R.U.R. (Rossum Universal Robot), που μεταφράζεται ως Παγκόσμια Ρομπότ του Ρόσουμ. Συγγραφέας του έργου ήταν ο Κάρελ Τσάπεκ, ένας μάλλον περιθωριακός και άσημος συγγραφέας μέχρι τουλάχιστον εκείνη τη στιγμή. Για τις ανάγκες του νέου του έργου ο Τσάπεκ επινόησε τον όρο «ρομπότ», προκειμένου να ενσαρκώσει έναν κίνδυνο που έβλεπε να καταφθάνει με ορμή προς την κοινωνία του. Οι μηχανές της αυτοματοποίησης είχαν πάρει μπροστά για τα καλά και η βιομηχανική επανάσταση είχε ήδη δείξει τα σιδερένια της δόντια. Τι θα σηματοδοτούσε αυτό για τις δουλειές των ανθρώπων;

Ένα ρομπότ Starship στο Μίλτον Κέινς στην Αγγλία, κάνοντας μικρομεταφορές. Μια σακούλα με ψώνια, για παράδειγμα, όπως βλέπουμε στη εικόνα.

Στα τσεχικά, «ρομπότα» σημαίνει σκληρή εργασία και «ρομπότνικ» ανειδίκευτος εργάτης. Ο Τσάπεκ αφαίρεσε τις καταλήξεις αυτών των λέξεων κι απ’ τα απομεινάρια έπλασε ένα τεχνητό ον, το οποίο συνόψιζε το άγχος της εποχής του: τα ανθρωπόμορφα ρομπότ που έρχονται με ζέση για να μας πάρουν τις δουλειές. Αλλά ούτε και το «άγχος της αυτοματοποίησης» ήταν κάτι νέο. Έναν αιώνα πριν, τη δεκαετία του 1870, οι Άγγλοι Λουδίτες επέλεξαν μάταια να αντισταθούν στην εκμηχάνιση της υφαντουργίας. Σαμποτάρισαν τις μηχανές, αλλά τελικά αποδείχθηκε ότι ένα χαλίκι δεν μπορεί να καταστρέψει τα γρανάζια ενός ολόκληρου συστήματος. Έκτοτε, οι εξεγέρσεις ενάντια στη μηχανή μοιάζουν όλο και πιο καταδικασμένες. Οι μάχες μεταφέρονται στη μυθολογία, στα χαρτιά και στα χαρακώματα των καφενείων. Ακούγεται κυνικό, αλλά είναι αληθινό. Το έργο του Τσάπεκ σημείωσε αξιοσημείωτη επιτυχία κι έκτοτε όλες οι καταστροφολογικές αφηγήσεις για τις αρνητικές επιπτώσεις της τεχνολογίας εμφανίζουν κάποια στιγμή κι έναν μηχανικό εφιάλτη. Κάθε υλική αναπαράσταση της τεχνητής νοημοσύνης (ΤΝ), κάθε απειλή μαζικής ανεργίας, κάθε δυστοπικό σενάριο για το μέλλον μας εμπλέκει με κάποιον τρόπο έναν τεχνητό Αρμαγεδδώνα.

Ο Τσάπεκ δεν ήταν ο πρώτος δημιουργός που έπλασε στον νου του ένα τέτοιο ον. Από πολύ παλαιότερα οι άνθρωποι επιδίδονταν σε αυτή την άσκηση και φαίνεται μάλιστα ότι στην αρχαιότητα υπήρχε ένα είδος εμμονής με παραβολές και ιστορίες που περιλάμβαναν τεχνητές ζωές και υπερφυσικά όντα. Η έρευνα λέει ότι το πρώτο ρομπότ της ανθρώπινης φαντασίας ήταν ένα κρητικό ρομπότ, ο περίφημος Τάλως. Ο χάλκινος γίγαντας ήταν ένας Ρόμποκοπ της αρχαιότητας που φρόντιζε για την ασφάλεια του νησιού. Στο βιβλίο της Θεοί και ρομπότ (2018) η Έιντριεν Μέγιορ εξηγεί πόσο στενά συνδεδεμένη ήταν στη φαντασία των ανθρώπων η έννοια του Αυτόματου με την έννοια του Θεού. Με μια ευρύτερη έννοια, όλοι οι θεοί της αρχαιότητας ήταν από μηχανής θεοί (deus ex machina), από τη στιγμή που ήταν πλάσματα της φαντασίας και μόνο. Τα αρχαία ρομπότ είχαν υπεράνθρωπες δυνάμεις κι ενσάρκωναν τόσο τους φόβους όσο και τις ελπίδες των ανθρώπων. Βοηθούσαν την εξέλιξη του αφηγήματος και γι’ αυτό προκαλούσαν έντονα συναισθήματα. Χιλιάδες χρόνια μετά, η λειτουργία τους στο φαντασιακό της ανθρωπότητας δεν φαίνεται να έχει αλλάξει και πολύ. Αυτό που έχει σίγουρα μετασχηματιστεί είναι η ικανότητά μας να κάνουμε πράξη τα μηχανικά μας όνειρα.

Ρομπότ-ψυχοθεραπευτής

Οι τεχνολογικές επαναστάσεις του 20ού αιώνα μάς έχουν δώσει τη δυνατότητα να θεωρούμε πιθανή μια έλευση Αυτομάτων που θα κάνουν αδιανόητα πράγματα. Στην παρούσα φάση, η ΤΝ και η μηχανική μάθηση δίνουν νέα πνοή στο όνειρο μιας σκεπτόμενης μηχανής. Ήδη, στον ανεπτυγμένο κόσμο, σε χώρες πιο δεκτικές στην αυτοματοποίηση όπως η Ιαπωνία, χρησιμοποιούνται ευρέως τα ρομπότ φροντίδας ηλικιωμένων. Κάποιοι γραφικοί παντρεύονται ρομπότ, ενώ άλλοι βλέπουν το σενάριο της ταινίας Δικός της (Her, Σπάικ Τζόουνς, 2019) πολύ πιο πιθανό. Το ρομπότ δεν χρειάζεται αναγκαστικά να έχει σώμα για να συνδεθεί μαζί σου: μπορεί να είναι απλώς η φωνή ενός ψηφιακού βοηθού. Εν τω μεταξύ, τα βιομηχανικά ρομπότ είναι κοινός τόπος εδώ και χρόνια. Η ρομποτική έχει ενισχύσει τη χειρουργική, τα διαστημικά ταξίδια, τις μεταφορές, τα πάντα. Τι είναι ένα αεροπλάνο σήμερα, αν όχι ένα ιπτάμενο ρομπότ; Τι σημαίνει αυτόματος πιλότος; Σε ένα πλήθος δραστηριοτήτων ο άνθρωπος επεμβαίνει ανεπαίσθητα στις διαδικασίες και κυρίως για λόγους ασφάλειας. Μετά την εμπειρία της πανδημίας, εκείνοι που προκρίνουν την επέκτασή τους αυξάνονται. Τα ρομπότ δεν κολλάνε κορωνοϊό, δεν κουράζονται ποτέ, αλλά ταυτόχρονα δεν διεκδικούν καλύτερες αμοιβές, δεν κάνουν καν συμφωνίες κάτω από το τραπέζι και, το κυριότερο, δεν διαμαρτύρονται ποτέ. Μπορούν να είναι καλοί στρατιώτες, καλοί μουσικοί, ακόμα και ψυχοθεραπευτές. Τα ρομπότ είναι έκθετα στο χάκινγκ, στα λάθη του προγραμματισμού, στους λάθος κανόνες, αλλά αυτό θα το αντιμετωπίσουμε, γιατί έχουμε σοβαρά κίνητρα. Κανείς δεν θέλει το ρομπότ που φροντίζει τη γιαγιά να κάνει λάθος στα χάπια της.

Τα ρομπότ ξεκίνησαν την καριέρα τους στο φαντασιακό μας κι είναι τώρα έτοιμα να μας συντροφεύσουν από εδώ και στο εξής παντού, σε κάθε στάδιο της ζωής μας. Τείνουμε να δίνουμε ανθρώπινη μορφή στις τεχνητές νοημοσύνες, αλλά αυτός είναι ένας περισπασμός. Ο ανθρωπομορφισμός των ρομπότ μάς αποσπά από το κύριο ζήτημα που μας θέτουν. Στο κάτω κάτω, εμείς είμαστε οι δημιουργοί τους. Αν τα θέλουμε για αφέντες μας, ας αναλάβουμε τις ευθύνες μας. Η ερευνήτρια στο MIT Media Lab δόκτωρ Κέιτ Ντάρλινγκ υποστηρίζει στο βιβλίο της Μια νέα ράτσα (2021) ότι πρέπει να τα δούμε σαν τα κατοικίδιά μας. «Δεν είναι το ίδιο πράγμα τα ζώα και τα ρομπότ», επισημαίνει στην εφημερίδα Guardian, «αλλά η αναλογία μάς απομακρύνει από την επιμονή να τα εξανθρωπίζουμε. Ανοίγει άλλες δυνατότητες στον νου μας, μας λέει ότι τα ρομπότ μπορούν να είναι σύντροφοί μας και μας επιτρέπει να δούμε τι επιλογές έχουμε στη διαμόρφωση της χρήσης της τεχνολογίας». Η Ντάρλινγκ δηλώνει ότι συμβιώνει ευχάριστα με καμιά δεκαριά ρομπότ. Η πρόκληση όμως δεν είναι τόσο απλή. Τι δικαιώματα θα έχουν, αν έχουν, στο μέλλον τα ρομπότ; Τι δικλίδες ασφαλείας θα πρέπει να διέπουν τη λειτουργία τους; Ποιος θα είναι υπεύθυνος όταν λανθάνουν; Η Ντάρλιγνκ λέει ότι «η απειλή δεν είναι τα ρομπότ, αλλά οι επιχειρηματικές αποφάσεις που λαμβάνονται μέσα σε ένα ευρύτερο οικονομικό και πολιτικό σύστημα του καπιταλισμού των πολυεθνικών».

Οι τρεις νόμοι της ρομποτικής

Οι πρώτοι άνθρωποι που ονειρεύτηκαν τα ρομπότ σκέφτηκαν ότι τα τεχνητά αυτά όντα θα έχουν τα τρωτά τους σημεία κι ότι υπεύθυνος θα είναι κάποιος άνθρωπος. Το μοτίβο που διατρέχει τη μυθολογία των ρομπότ είναι ότι κάποια στιγμή ο άνθρωπος χάνει τον έλεγχο του δημιουργήματός του. Οι αθέλητες συνέπειες μιας δημιουργίας καλών προθέσεων φέρνουν στον νου τον Φρανκενστάιν (1818) της Μαίρης Σέλεϊ. Τι θα γίνει αν τα ρομπότ αποκτήσουν υπερδυνάμεις; Αν μια κακόβουλη επιχείρηση απελευθερώσει μια φονική μηχανική ευφυΐα; Μήπως η αθώα εκπαίδευση των νέων ανθρώπων στη ρομποτική είναι τελικά ένα παιχνίδι με τη φωτιά; Ή όσο περισσότερα ξέρουμε για την τεχνητή νοημοσύνη, τόσο καλύτερα θα την ελέγξουμε; «Τα ρομπότ», μου είπε σε μια συνέντευξη ο συγγραφέας Ίαν Μακ Γιούαν, «θα στρέψουν αναγκαστικά έναν καθρέφτη απέναντί μας». Θα μας αναγκάσουν να σκεφτούμε τι σημαίνει να είσαι άνθρωπος.

Το υπαρξιακό αυτό ερώτημα τίθεται ήδη από το 1872, στο κλασικό μυθιστόρημα φαντασίας Έρεβον (μτφρ. Χρήστος Παπαϊωάννου, εκδ. Αίολος, 1992) από τον συγγραφέα Σάμιουελ Μπάτλερ: «Επαναλαμβάνω ότι δεν φοβάμαι καμία από τις υπάρχουσες μηχανές· φοβάμαι μονάχα τον εξαιρετικά γρήγορο ρυθμό με τον οποίο αλλάζουν και εξελίσσονται σε κάτι πολύ διαφορετικό από ό,τι είναι σήμερα. Ουδέποτε στο παρελθόν συνομοταξία όντων εξελίχθηκε με τέτοια ταχύτητα. Μήπως, λοιπόν, πρέπει να προσέξουμε αυτή την πορεία και να προσπαθήσουμε να την ελέγξουμε όσο είναι ακόμα καιρός;». Την απάντηση επιχείρησε να δώσει τεκμηριωμένα ένας άλλος ευφάνταστος τύπος, ο Ισαάκ Ασίμοφ. Ίσως ο πιο γνωστός συγγραφέας βιβλίων επιστημονικής φαντασίας στο πλέον διάσημο έργο του, το Εγώ, το ρομπότ (1940), το οποίο έγινε ταινία με πρωταγωνιστή τον Γουίλ Σμιθ (I, Robot, Άλεξ Πρόγιας, 2004), προσπαθεί να θέσει μια καλή ηθική βάση περιγράφοντας τους περίφημους Τρεις νόμους της ρομποτικής. Σύμφωνα με αυτούς, λοιπόν:

Οι νόμοι αυτοί εξακολουθούν να είναι έως σήμερα μια χρήσιμη πυξίδα. Μπορεί η ρομποτική ηθική να θεμελιώθηκε από την επιστημονική φαντασία, αλλά πλέον είναι χρήσιμη και στον πραγματικό κόσμο. Στο μυθιστόρημα του Τζον Σλάντεκ Τικ Τοκ (1983), ο ομώνυμος ήρωας είναι ένα ρομπότ που ξεκινά την καριέρα του ως οικιακός βοηθός και ελαιοχρωματιστής. Αντίθετα όμως με τα άλλα ρομπότ που λειτουργούν με «κυκλώματα Ασίμοφ» –μια ευθεία αναφορά στους τρεις νόμους–, ο Τικ Τοκ ανακαλύπτει ότι μπορεί να κάνει ό,τι επιθυμεί. Και τι κάνει; Διαπράττει μια σειρά εγκλημάτων μόνο και μόνο για τη διασκέδασή του. Έπειτα, χειραγωγεί ανθρώπους και μηχανές για να προκαλέσει χάος και αιματοκύλισμα, πλουτίζει και τελικά εκλέγεται αντιπρόεδρος των ΗΠΑ. Η επιστημονική φαντασία βρίθει δυστοπικών σεναρίων, ενώ ελάχιστες αφηγήσεις οραματίζονται μια θετική έκβαση. Λογικό. Στο φιλμ του Στάνλεϊ Κιούμπρικ 2001: Η οδύσσεια του Διαστήματος (1968), ο HAL είναι ένα ακόμα ασώματο ρομπότ που αρνείται να σβήσει. Ο σπουδαίος φυσικός Στίβεν Χόκινγκ, πριν φύγει απ’ αυτόν τον μάταιο κόσμο, στο βιβλίο του Σύντομες απαντήσεις στα μεγάλα ερωτήματα (μτφρ. Ανδρέας Μιχαηλίδης, εκδ. Πατάκη, 2018) πρότεινε μια «δικλίδα τερματισμού», προσθέτοντας: «Εν ολίγοις, η έλευση υπερ-ευφυών ΤΝ θα είναι ό,τι καλύτερο ή ό,τι χειρότερο έχει συμβεί ποτέ στην ανθρωπότητα. Μια υπερ-ευφυής ΤΝ θα είναι εξαιρετικά ικανή στην επίτευξη των στόχων της, και αν αυτοί οι στόχοι δεν ευθυγραμμίζονται με τους δικούς μας, τότε θα έχουμε πρόβλημα». Προς το παρόν, το άγχος της αυτοματοποίησης που βιώνουμε σχετίζεται με πολύ πιο πεζά και βραχυπρόθεσμα πράγματα. Τα ρομπότ που απασχολούνται στη χειρουργική, στη γεωργία, στη βιομηχανία, στις μεταφορές μάς ενδιαφέρει, εκτός από αποδοτικά, να δουλεύουν και με ασφάλεια. Το μέλλον έτσι κι αλλιώς είναι άδηλο. Ας υποθέσουμε ότι το ισοζύγιο της εργασίας δεν θα είναι αρνητικό κι ότι τα ρομπότ θα δημιουργήσουν νέες δουλειές, τις οποίες δεν μπορούμε καν να φανταστούμε σήμερα.

Ας υποθέσουμε επίσης ότι θα καταφέρουμε τα ρομπότ μας να είναι καλοί υπηρέτες κι ότι δεν θα γίνουν ούτε εξολοθρευτές ούτε άσπλαχνοι Τικ Τοκ. Ας υποθέσουμε ότι τα σενάρια του Χόλιγουντ δεν θα βγουν αληθινά. Τι θα σημαίνει να είσαι άνθρωπος σε έναν κόσμο όπου τα ρομπότ θα μπορούν να κάνουν όλες τις δουλειές; Μήπως τελικά ατροφήσει η ίδια η βούλησή μας όταν ξέρουμε ότι δεν χρειάζεται να μοχθήσουμε για το παραμικρό; Μήπως χάσουμε την ικανότητά μας να παίρνουμε καλές αποφάσεις, λόγω της υπερεξάρτησής μας από τις μηχανές; Το μόνο βέβαιο είναι ότι στο εγγύς μέλλον θα πρέπει να πάρουμε καλές αποφάσεις για πολύ συγκεκριμένα πράγματα. Αντί να σπάμε, όπως οι Λουδίτες, τις μηχανές ή αντί να τις λατρεύουμε σαν θεότητες που μπορούν να χορεύουν ροκ εντ ρολ, έχουμε ακόμα την ευκαιρία να τις ελέγξουμε και να τις οριοθετήσουμε.

ΠΡΩΤΟΣ ΝΟΜΟΣ
Ένα ρομπότ δεν πρέπει να τραυματίζει ένα ανθρώπινο ον ή, λόγω αδράνειας, να αφήνει ένα ανθρώπινο ον να βλάπτεται.

ΔΕΥΤΕΡΟΣ ΝΟΜΟΣ
Ένα ρομπότ πρέπει να υπακούει τις διαταγές που του δίνονται από ανθρώπινα όντα, εκτός κι αν αυτές οι διαταγές έρχονται σε σύγκρουση με τον Πρώτο Νόμο.

ΤΡΙΤΟΣ ΝΟΜΟΣ
Ένα ρομπότ πρέπει να προστατεύει την ύπαρξή του, υπό τον όρο ότι αυτή η προστασία δεν έρχεται σε σύγκρουση με τον Πρώτο και τον Δεύτερο Νόμο.

ΣΧΕΤΙΚΑ TAGS
ΣΧΟΛΙΑΣΤΕ
Login with email
Login with Facebook

Geek: Τελευταία Ενημέρωση