Απρόσμενη τροπή πήρε η πορεία του νέου μοντέλου τεχνητής νοημοσύνης της Anthropic, καθώς η εταιρεία προχώρησε στην αναστολή της λειτουργίας του μόλις λίγες ημέρες μετά την επίσημη διάθεσή του στο κοινό.
Η απόφαση αφορά το Claude Fable 5, ένα από τα πιο προηγμένα συστήματα AI που έχει παρουσιάσει μέχρι σήμερα η εταιρεία, το οποίο βρέθηκε στο επίκεντρο προβληματισμών από τις αμερικανικές Αρχές σχετικά με ζητήματα εθνικής ασφάλειας και πιθανές αδυναμίες προστασίας.
Εντολή για περιορισμό πρόσβασης
Σε επίσημη ανακοίνωση που δημοσιεύτηκε στην ιστοσελίδα της, η Anthropic αποκάλυψε ότι έλαβε οδηγία να αποκλείσει τη χρήση του Claude Fable από αλλοδαπούς χρήστες, συμπεριλαμβανομένων ακόμη και όσων διαμένουν νόμιμα στις Ηνωμένες Πολιτείες.
Ωστόσο, αντί να εφαρμόσει περιορισμούς σε συγκεκριμένες κατηγορίες χρηστών, η εταιρεία προχώρησε σε μια ευρύτερη απόφαση, απενεργοποιώντας πλήρως την πρόσβαση τόσο στο Fable 5 όσο και στο Mythos 5, το οποίο μέχρι πρότινος ήταν διαθέσιμο μόνο σε περιορισμένο αριθμό χρηστών.
Την ίδια στιγμή, η υπόθεση εξελίσσεται σε ένα ιδιαίτερα τεταμένο περιβάλλον για την Anthropic.
Σύμφωνα με το BBC, η εταιρεία βρίσκεται ήδη αντιμέτωπη με την κυβέρνηση Τραμπ σε ξεχωριστή δικαστική διαμάχη, η οποία αφορά κυβερνητική εντολή που απαγορεύει σε ομοσπονδιακές υπηρεσίες να αξιοποιούν εργαλεία τεχνητής νοημοσύνης της εταιρείας.
Η εξέλιξη αυτή προσθέτει νέο βάρος στις σχέσεις μεταξύ της Anthropic και των αμερικανικών Αρχών, σε μια περίοδο που ο έλεγχος των προηγμένων συστημάτων AI βρίσκεται στο επίκεντρο των συζητήσεων.
Παρά την απόφαση για αναστολή της λειτουργίας του μοντέλου, η Anthropic υποστηρίζει ότι οι αρμόδιες υπηρεσίες δεν παρουσίασαν συγκεκριμένα προβλήματα που να αφορούν άμεσα το Fable 5.
Όπως αναφέρει η εταιρεία, η βασική ανησυχία των Αρχών σχετίζεται με πληροφορίες για πιθανή μέθοδο «jailbreaking», δηλαδή τεχνική που επιτρέπει την παράκαμψη των προστατευτικών μηχανισμών ενός συστήματος τεχνητής νοημοσύνης.
Μέσω αυτής της διαδικασίας, κακόβουλοι χρήστες θα μπορούσαν θεωρητικά να αποκτήσουν πρόσβαση σε λειτουργίες που υπό κανονικές συνθήκες παραμένουν κλειδωμένες ή περιορισμένες.
Η απάντηση της Anthropic
Η εταιρεία υποστηρίζει ότι εξέτασε το συγκεκριμένο σενάριο που τέθηκε υπόψη της και κατέληξε στο συμπέρασμα ότι οι αδυναμίες που εντοπίστηκαν δεν είναι ούτε νέες ούτε ιδιαίτερα σοβαρές.
«Εξετάσαμε μια επίδειξη αυτής της συγκεκριμένης τεχνικής που χρησιμοποιείται για τον εντοπισμό ενός μικρού αριθμού ήδη γνωστών, ήσσονος σημασίας ευπαθειών. Όλες αυτές οι ευπάθειες φαίνονται σχετικά απλές και διαπιστώσαμε ότι και άλλα μοντέλα που είναι διαθέσιμα στο κοινό μπόρεσαν να τις εντοπίσουν».
Με βάση την αξιολόγησή της, τα προβλήματα που παρουσιάστηκαν δεν διαφοροποιούν το Fable 5 από άλλα προηγμένα μοντέλα τεχνητής νοημοσύνης που κυκλοφορούν ήδη στην αγορά.
Οι προειδοποιήσεις πριν από την κυκλοφορία
Οι ανησυχίες γύρω από το Claude Fable 5 δεν εμφανίστηκαν μετά το λανσάρισμά του. Αντίθετα, είχαν διατυπωθεί ήδη πριν από τη δημόσια διάθεσή του.
Στελέχη από τον χώρο της τεχνολογίας, της οικονομίας αλλά και κυβερνητικοί παράγοντες είχαν εκφράσει επιφυλάξεις για το κατά πόσο ένα τόσο ισχυρό σύστημα θα έπρεπε να γίνει διαθέσιμο στο ευρύ κοινό.
Για τον λόγο αυτό, η Anthropic είχε επιτρέψει αρχικά την πρόσβαση μόνο σε περιορισμένο αριθμό επιλεγμένων προσώπων, προκειμένου να αξιολογηθούν οι δυνατότητες και οι πιθανοί κίνδυνοι του μοντέλου.
Οι φόβοι επικεντρώνονταν κυρίως στις εξαιρετικά προηγμένες ικανότητες του Fable 5, καθώς υπήρχαν εκτιμήσεις ότι θα μπορούσε να αξιοποιηθεί για τον εντοπισμό αδυναμιών σε υπολογιστικά συστήματα ή ακόμη και για την παραβίασή τους, εάν έπεφτε σε λάθος χέρια.
Η υπόθεση αναζωπυρώνει τη συζήτηση γύρω από τα όρια της τεχνητής νοημοσύνης και τον τρόπο με τον οποίο οι κυβερνήσεις επιχειρούν να ελέγξουν τεχνολογίες που εξελίσσονται με ταχύτατους ρυθμούς.
