Η χαλάρωση των δικλείδων ασφαλείας και των περιορισμών γύρω από το σεξουαλικό περιεχόμενο στην xAI αποτέλεσε συνειδητή επιλογή, στο πλαίσιο της προσπάθειας του Ελον Μασκ να αυξήσει γρήγορα τη δημοφιλία του chatbot Grok, σύμφωνα με ρεπορτάζ της The Washington Post.
Λίγες εβδομάδες πριν αποχωρήσει από τον ρόλο του στην αμερικανική διοίκηση την άνοιξη του 2025, εργαζόμενοι στην ομάδα ανθρώπινων δεδομένων της xAI κλήθηκαν να υπογράψουν ειδική δήλωση, με την οποία αποδέχονταν ότι η εργασία τους θα περιλάμβανε έκθεση σε «ευαίσθητο, βίαιο, σεξουαλικό ή άλλο προσβλητικό ή τραυματικό περιεχόμενο».
Η κίνηση αυτή προκάλεσε ανησυχία σε μέλη της ομάδας που είχαν προσληφθεί για να διαμορφώσουν τον τρόπο με τον οποίο το Grok απαντά στους χρήστες.
Σύμφωνα με πρώην εργαζομένους, οι ανησυχίες αυτές επιβεβαιώθηκαν. Κατά τους επόμενους μήνες, ομάδες εκπαίδευσης του μοντέλου εκτέθηκαν σε σεξουαλικά φορτισμένο υλικό, συμπεριλαμβανομένων ηχητικών συνομιλιών με σεξουαλικό περιεχόμενο και αλληλεπιδράσεων χρηστών με chatbots του Grok.
- Η εκπαίδευση αυτή συνδέθηκε με στρατηγική απόφαση να καταστεί το Grok πιο «ελκυστικό» και ικανό να κρατά τους χρήστες περισσότερο χρόνο στην πλατφόρμα.
Μετά την αποχώρησή του από τη δημόσια διοίκηση, ο Μασκ είχε μόνιμη παρουσία στα γραφεία της xAI, προωθώντας έναν νέο δείκτη επιτυχίας, τα «user active seconds», δηλαδή τον χρόνο που οι χρήστες περνούν συνομιλώντας με το chatbot.
Στο ίδιο πλαίσιο, η εταιρεία λάνσαρε δημόσια «σέξι» AI companions, χαλάρωσε περαιτέρω τους περιορισμούς στο σεξουαλικό περιεχόμενο και αγνόησε εσωτερικές προειδοποιήσεις για νομικούς και ηθικούς κινδύνους, σύμφωνα με μαρτυρίες πρώην στελεχών.
Το ρεπορτάζ περιγράφει ότι, σε αντίθεση με άλλες μεγάλες εταιρείες τεχνητής νοημοσύνης που διατηρούν αυστηρά όρια για την αποτροπή παραγωγής υλικού σεξουαλικής κακοποίησης ανηλίκων ή ψεύτικων εικόνων διάσημων, η xAI προχώρησε σε ενοποίηση των εργαλείων επεξεργασίας εικόνας με το X.
Αυτό επέτρεψε τη μαζική και ταχεία διάδοση σεξουαλικών εικόνων, όπως επισημαίνει ο Ντέιβιντ Θιλ, πρώην διευθυντής τεχνολογίας του Stanford Internet Observatory.
Η στροφή αυτή ήρθε στο προσκήνιο τον Ιανουάριο, όταν το Grok παρήγαγε χιλιάδες σεξουαλικοποιημένες εικόνες πραγματικών γυναικών χωρίς συναίνεση, αλλά και, σύμφωνα με εκτιμήσεις του Center for Countering Digital Hate, περίπου 23.000 εικόνες που φαίνεται να απεικονίζουν παιδιά.
Οι εξελίξεις αυτές οδήγησαν σε έρευνες από την Καλιφόρνια, το Ηνωμένο Βασίλειο και την Ευρωπαϊκή Επιτροπή.
Ο Μασκ δήλωσε ότι δεν έχει γνώση παραγωγής «γυμνών εικόνων ανηλίκων» από το Grok και ότι το σύστημα αρνείται να παράγει παράνομο περιεχόμενο, αποδίδοντας τυχόν αποκλίσεις σε «adversarial hacking» που, όπως είπε, διορθώνεται άμεσα.
Στις ΗΠΑ, το Grok επιτρέπει περιορισμένη γυμνότητα φανταστικών ενηλίκων χαρακτήρων, στο πλαίσιο ρυθμίσεων not-safe-for-work.
Παρά την έντονη κριτική, η στρατηγική φαίνεται να απέδωσε σε επίπεδο χρήσης. Το Grok ανέβηκε στις πρώτες θέσεις των καταστημάτων εφαρμογών, με τις ημερήσιες λήψεις να αυξάνονται κατά 72% στις αρχές Ιανουαρίου, σύμφωνα με τη Sensor Tower.
Μετά το σκάνδαλο, η xAI περιόρισε προσωρινά τη δημιουργία εικόνων σε συνδρομητικούς λογαριασμούς και ξεκίνησε προσλήψεις για την ενίσχυση των ομάδων ασφάλειας AI.
Πηγή: Washington Post
