Νέα ερωτήματα για τη χρήση αυτόνομων οπλικών συστημάτων στον πόλεμο της Ουκρανίας προκαλεί επίθεση ρωσικού drone στη Ζαπορίζια, κατά την οποία σκοτώθηκαν τρεις άμαχοι. Σύμφωνα με δημοσίευμα των New York Times, το μη επανδρωμένο αεροσκάφος έφερε πειραματικό σύστημα τεχνητής νοημοσύνης, ικανό να επιλέγει τον τελικό στόχο χωρίς άμεση παρέμβαση χειριστή.
Μεταξύ των θυμάτων ήταν η 19χρονη φοιτήτρια Τετιάνα Μπουμπίνετς. Η επίθεση σημειώθηκε τον Ιούλιο σε πρατήριο καυσίμων στη Ζαπορίζια, όπου το drone είχε προγραμματιστεί να κατευθυνθεί προς την εγκατάσταση. Όταν πλησίασε, το ενσωματωμένο σύστημα τεχνητής νοημοσύνης φέρεται να ανέλαβε την τελική αναγνώριση και επιλογή του σημείου πρόσκρουσης, πιθανότατα δεξαμενών προπανίου.
Στρατιωτικοί αξιωματούχοι και ειδικοί που εξέτασαν τα ευρήματα εκτιμούν ότι το σύστημα βασίστηκε σε εκπαίδευση αναγνώρισης αντικειμένων μέσω εικόνας, ώστε να εντοπίσει μόνο του τον στόχο που θεωρούσε κατάλληλο.
Ανησυχία για την αυτονομία των οπλικών συστημάτων
Η συγκεκριμένη περίπτωση έχει προκαλέσει έντονο προβληματισμό, καθώς ενδέχεται να αποτελεί ένα από τα πρώτα τεκμηριωμένα περιστατικά κατά τα οποία ρωσικό drone με δυνατότητα αυτόνομης επιλογής στόχου προκάλεσε θανάτους αμάχων.
Ο συνταγματάρχης Σέρχι Μινάιεφ, διοικητής της ουκρανικής αντιαεροπορικής άμυνας στη Ζαπορίζια, προειδοποίησε ότι η εξέλιξη δεν αφορά μόνο το ουκρανικό μέτωπο, αλλά συνολικά το μέλλον των πολεμικών επιχειρήσεων.
«Αυτό αποτελεί κίνδυνο για ολόκληρο τον κόσμο», δήλωσε, προσθέτοντας ότι η λήψη αποφάσεων από μηχανές χωρίς άμεση ανθρώπινη παρέμβαση δημιουργεί ένα εντελώς διαφορετικό επίπεδο απειλής.
Η ανησυχία αυτή δεν είναι θεωρητική. Πρόσφατη ανάλυση του Κέντρου Στρατηγικών και Διεθνών Σπουδών επισημαίνει ότι η Ρωσία έχει επενδύσει συστηματικά στην ανάπτυξη μη επανδρωμένων συστημάτων με τεχνητή νοημοσύνη και κινείται σταδιακά προς μεγαλύτερη αυτονομία στη ναυτιλία, την αναγνώριση και την επιλογή στόχων.
Βρέθηκαν υπολογιστικά συστήματα της Nvidia
Από τα συντρίμμια που περισυνελέγησαν στο πρατήριο καυσίμων και σε άλλα σημεία επιθέσεων στη Ζαπορίζια εντοπίστηκαν μικροϋπολογιστές της Nvidia, οι οποίοι χρησιμοποιούνται για εφαρμογές τεχνητής νοημοσύνης.
Η Nvidia επιβεβαίωσε ότι το εξάρτημα που εντοπίστηκε ήταν ένας υπολογιστής Jetson Orin, ένα σύστημα που χρησιμοποιείται ευρέως για εφαρμογές μηχανικής μάθησης και επεξεργασίας εικόνας.
Αντίστοιχα εξαρτήματα έχουν εντοπιστεί και σε άλλα ρωσικά μη επανδρωμένα συστήματα. Το Κέντρο Στρατηγικών και Διεθνών Σπουδών έχει καταγράψει τη χρήση μονάδων Nvidia Jetson Orin σε ρωσικά drones και επισημαίνει ότι τα συστήματα αυτά μπορούν να υποστηρίξουν λειτουργίες αυτόνομης αναγνώρισης και επιλογής στόχων μέσω οπτικών αισθητήρων.
Η Nvidia έχει διευκρινίσει ότι οι συγκεκριμένοι υπολογιστές είναι εμπορικά προϊόντα γενικής χρήσης, σχεδιασμένα για φοιτητές, προγραμματιστές, νεοφυείς επιχειρήσεις και πλήθος άλλων εφαρμογών. Η εταιρεία δεν διαθέτει τα προϊόντα αυτά απευθείας στη Ρωσία, ωστόσο μπορούν να βρεθούν μέσω μεταπωλητών και διεθνών αλυσίδων διανομής.
Από την τηλεκατεύθυνση στην αυτόνομη επιλογή στόχου
Η διαφορά μεταξύ ενός συμβατικού drone και ενός περισσότερο αυτόνομου συστήματος είναι ουσιαστική. Στην πρώτη περίπτωση, ο χειριστής παρακολουθεί την εικόνα και αποφασίζει ο ίδιος πότε και πού θα επιτεθεί. Στη δεύτερη, το drone μπορεί να χρησιμοποιεί κάμερες, αισθητήρες και αλγορίθμους μηχανικής μάθησης για να αναγνωρίζει αντικείμενα και να συνεχίζει την αποστολή ακόμη και χωρίς συνεχή επικοινωνία με άνθρωπο.
Σύμφωνα με ανάλυση της Κατερίνα Μποντάρ, ανώτερης ερευνήτριας του Κέντρου Στρατηγικών και Διεθνών Σπουδών, η Ρωσία έχει αναπτύξει συστήματα που αξιοποιούν τεχνητή νοημοσύνη για την αναγνώριση οχημάτων, υποδομών και ανθρώπινης δραστηριότητας μέσω εικόνας. Η ίδια σημειώνει ότι η τεχνολογία αυτή δεν συνιστά πλήρη αυτονομία σε όλα τα στάδια μιας επιχείρησης, αλλά επιτρέπει μεγαλύτερη ανεξαρτησία του οπλικού συστήματος στο πεδίο της μάχης.
Πιθανώς η πρώτη καταγεγραμμένη περίπτωση με νεκρούς αμάχους
Η Κατερίνα Μποντάρ εκτίμησε ότι η επίθεση της 6ης Ιουλίου στη Ζαπορίζια ενδέχεται να αποτελεί την πρώτη τεκμηριωμένη περίπτωση κατά την οποία ρωσικό drone με δυνατότητα αυτόνομης επιλογής στόχου προκάλεσε θανάτους αμάχων.
Παράλληλα, επισήμανε ότι η παρουσία εξαρτημάτων ικανών να υποστηρίξουν προηγμένη επεξεργασία τεχνητής νοημοσύνης αποτελεί ισχυρή ένδειξη ότι η Μόσχα πειραματίζεται ενεργά με ολοένα πιο αυτόνομα οπλικά συστήματα.
Οι ειδικοί υπογραμμίζουν πάντως ότι η παρουσία ενός ισχυρού υπολογιστικού συστήματος σε ένα drone δεν αποδεικνύει από μόνη της ότι όλες οι κρίσιμες αποφάσεις ελήφθησαν χωρίς ανθρώπινη παρέμβαση. Δείχνει, ωστόσο, ότι η τεχνολογική υποδομή για τέτοιου είδους λειτουργίες βρίσκεται ήδη στο πεδίο της μάχης.
Η εξέλιξη εντείνει τη διεθνή συζήτηση για τα όρια χρήσης της τεχνητής νοημοσύνης σε οπλικά συστήματα και για το εάν η τελική απόφαση μιας θανατηφόρας επίθεσης θα πρέπει να παραμένει υποχρεωτικά υπό ανθρώπινο έλεγχο.
