Η Anthropic ανακοίνωσε χθες, Δευτέρα ότι τα πειράματά της δείχνουν πως μικρά μοντέλα τεχνητής νοημοσύνης ενδέχεται να απέχουν μόλις λίγους μήνες από το να αποκτήσουν την ικανότητα αυτοαναπαραγωγής σε εμπορικές συσκευές του Διαδικτύου των Πραγμάτων (IoT), όπως έξυπνοι φούρνοι και συσκευές Android TV άγνωστων κατασκευαστών.

Στο πλαίσιο των πειραμάτων, η εταιρεία εξέτασε κατά πόσο μοντέλα τεχνητής νοημοσύνης μπορούν να εντοπίζουν ευάλωτες συσκευές, να αντιγράφουν τον εαυτό τους σε αυτές και να συνεχίζουν να εξαπλώνονται χωρίς ανθρώπινη παρέμβαση.

Τα αποτελέσματα έδειξαν ότι μικρά μοντέλα με λιγότερες από 30 δισεκατομμύρια παραμέτρους μπορούν να εκτελέσουν τα πολυάριθμα βήματα που απαιτούνται για την αυτοαναπαραγωγή τους.

Ωστόσο, η εταιρεία διαπίστωσε ότι τα ίδια μοντέλα δυσκολεύονταν να ολοκληρώσουν ολόκληρη τη διαδικασία από την αρχή έως το τέλος.

Σε απλουστευμένες δοκιμές, από τις οποίες είχαν αφαιρεθεί στάδια ασφαλείας, η Anthropic διαπίστωσε ότι το GLM-5.2 και ισχυρότερα μοντέλα ήταν σε θέση να ολοκληρώσουν τη διαδικασία αυτοαναπαραγωγής.

Γιατί η διακοπή της εξάπλωσης θα είναι δύσκολη

Η διακοπή της εξάπλωσης τέτοιων μοντέλων θα μπορούσε να αποδειχθεί δύσκολη, καθώς δεν θα υπάρχει κεντρικό σημείο απενεργοποίησής τους. Επιπλέον, σε αντίθεση με το συμβατικό κακόβουλο λογισμικό, θα μπορούσαν να εντοπίζουν και να προσαρμόζονται αυτόνομα σε άγνωστες συσκευές, με πιθανό στόχο ακόμη και τους επεξεργαστές των κέντρων δεδομένων, προειδοποίησε η Anthropic.

Στην έρευνά της, η εταιρεία επικεντρώθηκε σε συσκευές IoT, όπως τηλεοράσεις Android, έξυπνες οικιακές συσκευές και άλλα συνδεδεμένα στο Διαδίκτυο μηχανήματα, καθώς αυτά διαθέτουν συχνά ανεπαρκή συστήματα ασφαλείας.

Η Anthropic προειδοποίησε επίσης ότι, εάν τα μικρά μοντέλα συνεχίσουν να βελτιώνονται με τον ιστορικό ρυθμό που έχουν καταγράψει μέχρι σήμερα, θα μπορούσαν να αποκτήσουν δυνατότητες αυτόνομης αυτοαναπαραγωγής έως το τέλος του έτους. Μοντέλα που αναπαράγονται αντιγράφοντας τα αρχεία των παραμέτρων τους θα μπορούσαν να ακολουθήσουν λίγο αργότερα.

Παράλληλα, η εταιρεία εκτίμησε ότι τέτοια αυτόνομα συστήματα τεχνητής νοημοσύνης είναι πιθανό να εξαπλώνονται με αργό ρυθμό, αξιοποιώντας υπολογιστικούς πόρους που είναι ευρέως διαθέσιμοι και σχετικά ανεπαρκώς προστατευμένοι.