Μια λανθασμένη έκθεση πληροφοριών, η οποία συντάχθηκε με τη βοήθεια Τεχνητής Νοημοσύνης, παραλίγο να προκαλέσει σοβαρό στρατιωτικό επεισόδιο ανάμεσα στις Ηνωμένες Πολιτείες και την Κίνα. Σύμφωνα με αποκλειστικό ρεπορτάζ του CNN, ο αμερικανικός στρατός ετοιμαζόταν να αναχαιτίσει κινεζικό πλοίο στη Μέση Ανατολή, καθώς είχε λάβει πληροφορίες ότι μετέφερε εξαρτήματα πυρηνικού εξοπλιστικού προγράμματος. Μόνο την τελευταία στιγμή διαπιστώθηκε ότι η κρίσιμη πληροφορία ήταν λανθασμένη και είχε προκύψει από chatbot Τεχνητής Νοημοσύνης.

Το περιστατικό σημειώθηκε την άνοιξη του 2026, εν μέσω του πολέμου με το Ιράν. Σύμφωνα με τέσσερις πηγές που γνωρίζουν την υπόθεση και μίλησαν στο αμερικανικό δίκτυο, η έκθεση προκάλεσε άμεση κινητοποίηση των αμερικανικών ενόπλων δυνάμεων.

Δύο από τις πηγές ανέφεραν ότι ένοπλοι Αμερικανοί στρατιωτικοί προετοιμάζονταν να επιβιβαστούν στο κινεζικό πλοίο, ενώ, σύμφωνα με άλλες μαρτυρίες, στρατιωτικά αεροσκάφη βρίσκονταν ήδη στον αέρα.

«Η έκθεση ήταν εξ ολοκλήρου ψευδής» , δήλωσε μία από τις πηγές, προσθέτοντας ότι το περιστατικό «παραλίγο να ξεκινήσει πόλεμο» . Μια αμερικανική στρατιωτική επιχείρηση εναντίον κινεζικού πλοίου θα μπορούσε να οδηγήσει σε επικίνδυνη κλιμάκωση ανάμεσα στις δύο χώρες.

Πώς ένα chatbot μετέτρεψε λανθασμένη εκτίμηση σε στρατιωτική πληροφορία

Σύμφωνα με το CNN, αναλυτής διοίκησης ειδικών επιχειρήσεων του αμερικανικού στρατού χρησιμοποίησε chatbot για να εξετάσει πληροφορίες σχετικά με το δηλωμένο φορτίο του κινεζικού πλοίου.

Τα αρχικά στοιχεία προέρχονταν από τη Διοίκηση Ειδικών Επιχειρήσεων των ΗΠΑ στον Ειρηνικό, η οποία εδρεύει στη Χαβάη.

Το chatbot συνδύασε πληροφορίες από δημόσια διαθέσιμες πηγές με απόρρητα δεδομένα συλλογής σημάτων που διέθεταν οι αμερικανικές υπηρεσίες και κατέληξε στο εσφαλμένο συμπέρασμα ότι το πλοίο μετέφερε υλικά συνδεόμενα με πρόγραμμα πυρηνικών όπλων .

Το CNN δεν κατάφερε να εξακριβώσει ποιο ήταν το πραγματικό φορτίο που αναγνωρίστηκε λανθασμένα. Επίσης, παραμένει άγνωστο εάν ο αναλυτής χρησιμοποίησε εμπορικά διαθέσιμο chatbot ή εργαλείο που είχε αναπτυχθεί για την αμερικανική κυβέρνηση.

Το πρόβλημα, όμως, δεν σταμάτησε στην αρχική λανθασμένη απάντηση.

Ο αναλυτής χρησιμοποίησε ξανά Τεχνητή Νοημοσύνη για να μετατρέψει τα ευρήματα σε τυποποιημένη έκθεση πληροφοριών, με τη μορφή που χρησιμοποιούν και εμπιστεύονται οι στρατιωτικές υπηρεσίες. Στη συνέχεια, η έκθεση διανεμήθηκε στο εσωτερικό των αμερικανικών ενόπλων δυνάμεων.

Έτσι, ένα εσφαλμένο συμπέρασμα του chatbot παρουσιάστηκε μέσα από ένα επίσημο υπηρεσιακό έγγραφο και αντιμετωπίστηκε ως πληροφορία που απαιτούσε άμεση επιχειρησιακή αντίδραση.

Η ανακάλυψη την τελευταία στιγμή

Λίγο πριν από την προγραμματισμένη επιχείρηση, αξιωματούχοι εξέτασαν προσεκτικότερα τα στοιχεία στα οποία βασιζόταν η έκθεση.

Τότε διαπίστωσαν ότι είχε συνταχθεί με τη βοήθεια τεχνητής νοημοσύνης και ότι το chatbot είχε αναγνωρίσει λανθασμένα το φορτίο του πλοίου.

Η επιχείρηση ματαιώθηκε προτού πραγματοποιηθεί η επιβίβαση των Αμερικανών στρατιωτικών.

Το περιστατικό αποτελεί χαρακτηριστικό παράδειγμα του κινδύνου που δημιουργούν οι λεγόμενες «παραισθήσεις» της Τεχνητής Νοημοσύνης: περιπτώσεις στις οποίες ένα σύστημα παράγει ανακριβείς πληροφορίες, παρουσιάζοντάς τες με τρόπο που μπορεί να τις κάνει να φαίνονται αξιόπιστες.

Σύμφωνα με μία από τις πηγές του CNN, αντίστοιχα λάθη δεν αποτελούν μεμονωμένο φαινόμενο στις αμερικανικές υπηρεσίες πληροφοριών μετά την ευρεία διάδοση αυτών των εργαλείων.

Η Διοίκηση Ειδικών Επιχειρήσεων των ΗΠΑ στον Ειρηνικό και το Πεντάγωνο δεν απάντησαν σε αίτημα του CNN για σχολιασμό.

Η στρατηγική Χέγκσεθ για την τεχνητή νοημοσύνη στον αμερικανικό στρατό

Η αποκάλυψη έρχεται σε μια περίοδο κατά την οποία η αμερικανική κυβέρνηση επιδιώκει να ενσωματώσει την τεχνητή νοημοσύνη σε ολοένα περισσότερες στρατιωτικές λειτουργίες.

Από την ανάλυση τεράστιων όγκων πληροφοριών και την επιλογή στόχων για πλήγματα μέχρι τη διαχείριση προϋπολογισμών, εφοδιαστικών αλυσίδων και στρατιωτικών μετακινήσεων, η τεχνολογία αντιμετωπίζεται ως μέσο επιτάχυνσης της λήψης αποφάσεων.

Τον Ιανουάριο, ο υπουργός Άμυνας των ΗΠΑ, Πιτ Χέγκσεθ , παρουσίασε τη στρατηγική «Artificial Intelligence Acceleration Strategy» , με στόχο την ταχύτερη υιοθέτηση της Τεχνητής Νοημοσύνης από τις ένοπλες δυνάμεις.

«Θα απελευθερώσουμε τον πειραματισμό, θα εξαλείψουμε τα γραφειοκρατικά εμπόδια , θα εστιάσουμε τις επενδύσεις μας και θα επιδείξουμε την προσέγγιση υλοποίησης που απαιτείται ώστε να ηγηθούμε στη στρατιωτική Τεχνητή Νοημοσύνη» , είχε δηλώσει κατά την ανακοίνωση της στρατηγικής.

Το σχετικό υπόμνημα προβλέπει την παροχή προηγμένων αμερικανικών μοντέλων AI στο προσωπικό του υπουργείου, με στόχο να καταστούν διαθέσιμα σε τρία εκατομμύρια στρατιωτικούς και πολιτικούς υπαλλήλους, σε όλα τα επίπεδα διαβάθμισης πληροφοριών.

Το σκεπτικό της αμερικανικής πλευράς είναι ότι η ταχύτητα επεξεργασίας δεδομένων και λήψης αποφάσεων μπορεί να αποδειχθεί καθοριστική σε μια μελλοντική σύγκρουση με την Κίνα ή άλλον αντίπαλο που θα διαθέτει αντίστοιχες δυνατότητες.

Διαφορετικά εργαλεία, διαφορετικοί κανόνες και κανένα ενιαίο σύστημα ελέγχου

Ωστόσο, σύμφωνα με Αμερικανούς αξιωματούχους που μίλησαν στο CNN, η υιοθέτηση της Τεχνητής Νοημοσύνης εξελίσσεται με αποκεντρωμένο τρόπο.

Διαφορετικά τμήματα του στρατού και των υπηρεσιών πληροφοριών χρησιμοποιούν διαφορετικά συστήματα, υπό διαφορετικές οδηγίες και προδιαγραφές ασφαλείας.

Δεν υπάρχει ένα ενιαίο σύνολο κανόνων για τον τρόπο με τον οποίο επαληθεύονται οι πληροφορίες που παράγονται από αυτά τα εργαλεία, ενώ η αξιοπιστία και οι δυνατότητές τους διαφέρουν σημαντικά.

«Τα εσωτερικά εργαλεία είναι, ως επί το πλείστον, απλώς αντίγραφα των εμπορικών προϊόντων με λίγο κραγιόν» , σχολίασε πρώην υψηλόβαθμος Αμερικανός αξιωματούχος που γνωρίζει τα συστήματα Τεχνητής Νοημοσύνης που χρησιμοποιούν στρατιωτικοί αναλυτές και υπηρεσίες πληροφοριών.

«Η AI σού επιτρέπει να φτάσεις πιο γρήγορα σε μια κακή ιδέα»

Ιδιαίτερη ανησυχία προκαλεί η χρήση της τεχνητής νοημοσύνης στην επιλογή στρατιωτικών στόχων, όπου μια λανθασμένη πληροφορία μπορεί να οδηγήσει σε θανάτους αμάχων ή ακόμη και σε πλήγματα εναντίον φίλιων δυνάμεων.

«Η χρήση της AI στην επιλογή στόχων αυξάνεται οπωσδήποτε και δεν υπάρχουν ουσιαστικές οδηγίες για το πώς η παρουσία ανθρώπου στη διαδικασία θα αποτρέψει απώλειες αμάχων ή πλήγματα κατά φίλιων δυνάμεων» , ανέφερε πηγή που γνωρίζει τις σημερινές στρατιωτικές πολιτικές.

Ακόμη και αξιωματούχοι που υποστηρίζουν τη χρήση της νέας τεχνολογίας εκφράζουν ανησυχίες ότι η πίεση για ταχύτερη παραγωγή και διανομή αναφορών πληροφοριών αφήνει περισσότερο χώρο για λάθη.

Σύμφωνα με αρκετές από τις πηγές του CNN, οι νεότεροι αναλυτές, οι οποίοι είναι περισσότερο εξοικειωμένοι με τα συγκεκριμένα εργαλεία, ενδέχεται να εμπιστεύονται τις απαντήσεις τους χωρίς επαρκή κριτικό έλεγχο.

Μία από τις πηγές συνόψισε το πρόβλημα σε μία φράση:

«Η Τεχνητή Νοημοσύνη σού επιτρέπει να φτάσεις πιο γρήγορα σε μια κακή ιδέα».

Πηγή: flamis.gr