Λανθασμένη αναφορά για κινεζικό πλοίο στη Μέση Ανατολή οδήγησε τον αμερικανικό στρατό στην προετοιμασία επιχείρησης αναχαίτισης – Το σύστημα τεχνητής νοημοσύνης είχε παρερμηνεύσει το φορτίο
Ένα σοβαρό περιστατικό που αναδεικνύει τους κινδύνους από την ταχεία ενσωμάτωση της Τεχνητής Νοημοσύνης στις αμερικανικές ένοπλες δυνάμεις αποκαλύπτει το CNN. Σύμφωνα με το δημοσίευμα, μια λανθασμένη αναφορά πληροφοριών που δημιουργήθηκε με τη βοήθεια AI παραλίγο να οδηγήσει τις Ηνωμένες Πολιτείες σε στρατιωτική επιχείρηση εναντίον κινεζικού πλοίου στη Μέση Ανατολή.
Το περιστατικό σημειώθηκε την άνοιξη, εν μέσω του πολέμου με το Ιράν, όταν κυκλοφόρησε στις αμερικανικές ένοπλες δυνάμεις αναφορά σύμφωνα με την οποία κινεζικό πλοίο μετέφερε εξαρτήματα που συνδέονταν με πρόγραμμα ανάπτυξης πυρηνικών όπλων.
Η πληροφορία προκάλεσε άμεση κινητοποίηση. Σύμφωνα με πηγές που επικαλείται το CNN, καταρτίστηκαν σχέδια για την αναχαίτιση του πλοίου, ενώ εξετάστηκε ακόμη και το ενδεχόμενο επιβίβασης σε αυτό. Παράλληλα, αμερικανικά στρατιωτικά αεροσκάφη είχαν ήδη απογειωθεί.
Ωστόσο, πριν από την έναρξη της επιχείρησης, αξιωματούχοι επανεξέτασαν την αναφορά και διαπίστωσαν ότι είχε συνταχθεί με τη βοήθεια εργαλείου Τεχνητής Νοημοσύνης, το οποίο είχε προχωρήσει σε λανθασμένη αναγνώριση του φορτίου του πλοίου.
Το πραγματικό φορτίο που προκάλεσε την εσφαλμένη εκτίμηση δεν έχει γίνει γνωστό. Πηγή που μίλησε στο CNN χαρακτήρισε την αναφορά «εντελώς ψευδή», υποστηρίζοντας ότι η υπόθεση θα μπορούσε να είχε προκαλέσει σοβαρή στρατιωτική κλιμάκωση μεταξύ Ουάσινγκτον και Πεκίνου.
Πώς προέκυψε η λανθασμένη πληροφορία
Σύμφωνα με το CNN, ένας αναλυτής χρησιμοποίησε chatbot για να επεξεργαστεί πληροφορίες σχετικά με το φορτίο του πλοίου. Τα δεδομένα προέρχονταν από τη Διοίκηση Ειδικών Επιχειρήσεων του Ειρηνικού, ενώ το σύστημα φέρεται να συνδύασε πληροφορίες από ανοιχτές πηγές με απόρρητα δεδομένα σημάτων που υπήρχαν σε κυβερνητικές βάσεις δεδομένων.
Η AI κατέληξε σε λανθασμένο συμπέρασμα για τη φύση του φορτίου. Στη συνέχεια, ο αναλυτής χρησιμοποίησε εκ νέου το σύστημα για τη σύνταξη της επίσημης αναφοράς, η οποία διακινήθηκε σε στρατιωτικούς αξιωματούχους ως πληροφοριακό προϊόν.
Δεν έχει διευκρινιστεί εάν επρόκειτο για εμπορικά διαθέσιμο chatbot ή για εργαλείο που έχει αναπτυχθεί από την αμερικανική κυβέρνηση.
Το Πεντάγωνο και η Διοίκηση Ειδικών Επιχειρήσεων του Ειρηνικού δεν έχουν σχολιάσει την υπόθεση.
Η αυξανόμενη χρήση της AI στον αμερικανικό στρατό
Το περιστατικό έρχεται σε μια περίοδο κατά την οποία οι αμερικανικές ένοπλες δυνάμεις επενδύουν σημαντικά στην Τεχνητή Νοημοσύνη, επιδιώκοντας να επιταχύνουν τη διαδικασία λήψης αποφάσεων και την ανάλυση πληροφοριών.
Η AI χρησιμοποιείται ή δοκιμάζεται σε πεδία όπως η επιλογή στόχων, η διαχείριση στρατιωτικών πόρων, οι εφοδιαστικές αλυσίδες και η επεξεργασία πληροφοριών.
Η αμερικανική κυβέρνηση έχει υποστηρίξει ότι η Ουάσινγκτον πρέπει να επιταχύνει την ανάπτυξη και αξιοποίηση στρατιωτικών εφαρμογών AI, ιδιαίτερα στον ανταγωνισμό με την Κίνα.
Την ίδια ώρα, αξιωματούχοι και πρώην στελέχη των υπηρεσιών πληροφοριών προειδοποιούν για τον κίνδυνο των λεγόμενων «παραισθήσεων» της AI, δηλαδή της δημιουργίας πληροφοριών που εμφανίζονται αξιόπιστες αλλά είναι ανακριβείς.
Η ανησυχία είναι ακόμη μεγαλύτερη όταν τέτοια συστήματα χρησιμοποιούνται σε επιχειρήσεις στοχοποίησης, όπου μια λανθασμένη εκτίμηση θα μπορούσε να έχει άμεσες συνέπειες.
Το συγκεκριμένο περιστατικό αναδεικνύει έτσι ένα κρίσιμο ζήτημα για τη στρατιωτική χρήση της Τεχνητής Νοημοσύνης: την ανάγκη ανθρώπινου ελέγχου και ανεξάρτητης επαλήθευσης των πληροφοριών πριν αυτές οδηγήσουν σε επιχειρησιακές αποφάσεις.
