Ρομπότ: Το καλοκαίρι του 2020, ο αφγανικός στρατός έλαβε μια ασυνήθιστη αναφορά. Μεταδόθηκε από τους Αμερικανούς συμμάχους τους και προειδοποιούσε για πιθανή επίθεση των Ταλιμπάν στην Τζαλαλαμπάντ, μια πόλη στην εύφορη πεδιάδα του νοτιοανατολικού Αφγανιστάν. Η αναφορά τόνιζε ότι η επίθεση θα λάμβανε χώρα μεταξύ 1ης και 12ης Ιουλίου, ενώ εντόπιζε συγκεκριμένες τοποθεσίες που βρίσκονταν σε κίνδυνο. Ακόμη πιο ανησυχητικό ήταν ότι προέβλεπε πως η επίθεση των Ταλιμπάν θα στοίχιζε τη ζωή σε 41 άτομα, με «σχετικό ποσοστό επιτυχίας» 95%.
Κατά τη διάρκεια του πικρού πολέμου τους ενάντια στους μαχητές, η αφγανική κυβέρνηση θα πρέπει να είχε λάβει χιλιάδες παρόμοιες αναφορές. Αυτό που έκανε αυτή την αναφορά τόσο ξεχωριστή ήταν η προέλευσή της: όχι από τα drones και τους πληροφοριοδότες των συμμάχων της μεγαλύτερης υπερδύναμης του κόσμου, αλλά από το Raven Sentry, ένα μοντέλο τεχνητής νοημοσύνης σχεδιασμένο για την πρόβλεψη αντάρτικων επιθέσεων.
Αναπτύχθηκε το 2019, ενώ οι διαπραγματεύσεις των ΗΠΑ με τους Ταλιμπάν ήταν ακόμη σε εξέλιξη. Το Raven Sentry σχεδιάστηκε για να διατηρήσει την επίγνωση της κατάστασης στο Αφγανιστάν μετά την οριστική αποχώρηση των ξένων στρατευμάτων από τη χώρα. «Ψάχναμε τρόπους να γίνουμε πιο αποτελεσματικοί και να διατηρήσουμε την επίγνωση της κατάστασης», λέει ο Συνταγματάρχης Τόμας Σπαρ, καθηγητής στο Πολεμικό Κολέγιο του Αμερικανικού Στρατού, προσθέτοντας ότι το Raven Sentry θα «επέτρεπε» στους Αφγανούς να συνεχίσουν τον αγώνα τους μετά την αποχώρηση του ΝΑΤΟ.
Οι λεπτομέρειες είναι απόρρητες, αλλά το Raven Sentry φαίνεται ότι αποδείχθηκε επιτυχημένο στην Τζαλαλαμπάντ, ενώ παρεμπόδισε και αρκετές άλλες επιθέσεις. Τελικά, όμως, το πρόγραμμα τερματίστηκε απότομα, την ίδια περίπου εποχή που τερματίστηκε και η δημοκρατική διακυβέρνηση στο Αφγανιστάν, εν μέσω του χάους, του φόβου και της αιματοχυσίας στο Διεθνές Αεροδρόμιο της Καμπούλ. Ωστόσο, ό,τι πέτυχε το Raven Sentry εκείνη την ημέρα τον Ιούλιο του 2020 θα μπορούσε ακόμη να αλλάξει τον τρόπο διεξαγωγής πολέμου — αν, φυσικά, τα τεχνικά και ηθικά εμπόδια δεν αποδειχθούν υπερβολικά υψηλά.
Οι στρατοί πειραματίζονται με την τεχνητή νοημοσύνη εδώ και αρκετό καιρό. Ήδη από το 2017, οι Ηνωμένες Πολιτείες ξεκίνησαν ένα πρόγραμμα που ονομάστηκε Project Maven, με στόχο να βοηθήσει τους αναλυτές να επεξεργάζονται μεγάλες ποσότητες δεδομένων. Αν και το Maven βασιζόταν σε προηγμένο λογισμικό αναγνώρισης αντικειμένων, ο Spahr τονίζει ότι οι ανθρώπινοι αξιωματικοί παρέμειναν «κεντρικοί» στη διαδικασία.
Το Raven Sentry ήταν διαφορετικό. Συγκέντρωνε διάφορα είδη δεδομένων — μηνύματα από τα κοινωνικά μέσα, ειδησεογραφικές ιστορίες, σημαντικές επετείους και ακόμη και αναφορές καιρού — και μπορούσε να προβλέψει περιοχές που κινδύνευαν από αντάρτικες επιθέσεις. «Ανιχνεύθηκαν ανωμαλίες στις δραστηριότητες ουδέτερων, φιλικών και εχθρικών δυνάμεων, οι οποίες ενεργοποίησαν προειδοποιήσεις», εξηγεί ο Spahr. «Για παράδειγμα, αναφορές για πολιτικές ή στρατιωτικές συγκεντρώσεις του αφγανικού στρατού που θα μπορούσαν να είναι στόχοι τρομοκρατών, επικεντρώνονταν την προσοχή του συστήματος».
Παρά την τελική αποτυχία της Αμερικής στην Κεντρική Ασία, το Αφγανιστάν αποδείχθηκε ιδανικό πεδίο δοκιμών. Αυτό οφείλεται κυρίως σε αυτό που ο Rafael Moiseev αποκαλεί «πλούσιο σε δεδομένα περιβάλλον» του Αφγανιστάν. «Η τεχνητή νοημοσύνη είναι τόσο καλή όσο τα δεδομένα που τη “εκπαιδεύουν”», εξηγεί ο ειδικός στην AI, Moiseev. Όπως συνεχίζει, η 20ετής εμπλοκή του ΝΑΤΟ στο Αφγανιστάν παρείχε άφθονες πληροφορίες, από ιστορικά δεδομένα επιθέσεων έως ανεπίσημες μαρτυρίες από τον Spahr και τους συνεργάτες του. Το Αφγανιστάν, το «νεκροταφείο των αυτοκρατοριών», προσέφερε ακόμη και μαθήματα από τον Ψυχρό Πόλεμο, καθώς το Raven αξιοποιούσε περιεχόμενο από τη σοβιετική κατοχή της δεκαετίας του ’80.
Εξίσου σημαντικό, το Raven βελτίωσε τις προβλέψεις του με την πάροδο του χρόνου. Όπως και άλλοι αλγόριθμοι, μπορούσε πρώτα να αναζητήσει δεδομένα σε μη διαβαθμισμένες βάσεις δεδομένων, πριν επικεντρωθεί σε αυτά που είχαν σημασία — κάτι χρήσιμο, δεδομένου ότι τα λεγόμενα «OSINT» (Open Source Intelligence) δεδομένα είναι πλέον μια παγκόσμια αγορά αξίας 8 δισεκατομμυρίων δολαρίων.
Συνολικά, αυτή η ολοκληρωμένη προσέγγιση αποδείχθηκε επιτυχής. Όπως αναφέρει ο Spahr, το Raven εντόπισε περίπου 41 αντάρτικες επιθέσεις σε πέντε επαρχίες του Αφγανιστάν πριν συμβούν, παρέχοντας συνήθως προειδοποιήσεις περίπου 48 ώρες νωρίτερα. Μέχρι τον Οκτώβριο του 2020, λιγότερο από ένα χρόνο πριν το πρόγραμμα τερματιστεί απότομα, οι αναλυτές είχαν καταλήξει στο συμπέρασμα ότι το Raven παρείχε προβλέψεις με ακρίβεια 70%, αν και η συμβολή των ανθρώπων ήταν επίσης καθοριστική για την επιτυχία του.
Το Raven Sentry είναι μόνο ένα παράδειγμα του πώς η τεχνητή νοημοσύνη έχει μεταμορφώσει τον πόλεμο αυτόν τον αιώνα. Εκτός από το ότι είναι ένα εργαλείο προβλεπτικής ανάλυσης, οι τεχνολογίες AI διαθέτουν επίσης αυτό που η Polly Scully αποκαλεί αποτελεσματικές και ηθικές εφαρμογές αλλού. «Με την ευρύτερη έννοια», εξηγεί η Scully, η οποία ηγείται του τομέα άμυνας και εθνικής ασφάλειας της Palantir στο Ηνωμένο Βασίλειο, «έχει τη δύναμη να μειώσει δραματικά την τεχνική επάρκεια που απαιτείται από το προσωπικό για να επεξεργαστεί μεγάλες ποσότητες δεδομένων με σύνθετους τρόπους, προκειμένου να λάβει καλύτερες αποφάσεις».
Για να εξηγήσει τι εννοεί στην πράξη, η Scully αναφέρεται στη χρήση της τεχνητής νοημοσύνης (AI) για τη βελτίωση της επίγνωσης στο πεδίο μάχης, κάτι στο οποίο εργάζεται η Palantir. Σημειώνει ότι οι αλγόριθμοι μπορούν να αναλύσουν πόσο κατάλληλα είναι συγκεκριμένα αεροσκάφη — και οι βόμβες τους — για την επίθεση σε στόχους. «Η AI», προσθέτει, «έχει επίσης τη δυνατότητα να μεταμορφώσει την εφοδιαστική αλυσίδα». Μεταξύ άλλων, μπορεί να ενημερώνει τους πυροβολητές για το πόσο γρήγορα φθείρονται οι κάννες των όπλων τους. Από εκεί και πέρα, η Scully προσθέτει ότι οι υπολογιστές μπορούν να ενημερώνουν τους κατασκευαστές να φτιάξουν ανταλλακτικά.
Από την άλλη πλευρά, ο Moiseev λέει ότι η AI μπορεί να μειώσει τις απώλειες επιτρέποντας την ανάπτυξη αυτόνομων μηχανών στην πρώτη γραμμή, με τα πραγματικά στρατεύματα να ελέγχουν με ασφάλεια τη μάχη από τα μετόπισθεν. Αυτό δεν είναι κάποια φαντασίωση από την ταινια «Εξολοθρευτής». Νωρίτερα φέτος, ο ουκρανικός στρατός ανέπτυξε περίπου 30 «ρομποτικά σκυλιά» κατά του ρωσικού εχθρού. Αν και δεν είναι πλήρως αυτόνομα, το λεγόμενο Brit Alliance Dog (BAD2) μπορεί να εξερευνήσει χαρακώματα, κατεστραμμένα κτίρια και άλλες περιοχές στις οποίες τα drones δυσκολεύονται να έχουν πρόσβαση.
Οι Ουκρανοί έχουν επίσης πειραματιστεί με αυτόματα πολυβόλα, καθώς και με drones που χρησιμοποιούν AI για να εντοπίζουν και να επιτίθενται σε εχθρικούς στόχους. Στη Μέση Ανατολή, επίσης, και σαν αντίλαλος του Raven, αποκαλύφθηκε πρόσφατα ότι το Ισραήλ χρησιμοποίησε ένα πρόγραμμα AI που ονομάζεται Lavender για να χαρακτηρίσει περίπου 37.000 Παλαιστίνιους ως στόχους της Χαμάς.
Ωστόσο, όπως υποδηλώνουν τα καταστροφικά θύματα αμάχων που προκαλούνται από συστήματα όπως το Lavender, η αποδοτικότητα στο πεδίο της μάχης και η ηθική του πολέμου είναι δύο πολύ διαφορετικά πράγματα. Ο Geoffrey Hinton, ο επονομαζόμενος «Νονός της AI» και νικητής του Νόμπελ Φυσικής, προειδοποίησε για τις «πιθανές κακές συνέπειες» της τεχνολογίας — σημειώνοντας ειδικά ότι οι ρομποτικοί δολοφόνοι μπορεί κάποια μέρα να ξεφύγουν από τον έλεγχό μας.
Φυσικά, δεν βοηθά το γεγονός ότι μερικοί από τους πιο ένθερμους υποστηρικτές της AI είναι αμφιλεγόμενοι. Παρόλο που η Scully δίνει έμφαση στην ηθική των πλατφορμών της Palantir, η εταιρεία της έχει δεχθεί έντονη κριτική για τον τρόπο με τον οποίο συλλέγει και χρησιμοποιεί δεδομένα, ενώ φέρεται να προσκάλεσε μικρά παιδιά σε ένα συνέδριο για την AI στον πόλεμο. Και αυτό χωρίς να υπολογίσουμε την αμφιλεγόμενη σχέση της με την κυβέρνηση των ΗΠΑ, ενώ η Palantir έχει προκαλέσει αντιδράσεις και για το έργο της στο βρετανικό NHS.
Παρά αυτές τις προκλήσεις, ο Moiseev είναι τελικά βέβαιος ότι λίγοι άνθρωποι επιθυμούν να δουν την κοινωνία να διαλύεται από ένα μέλλον ελεγχόμενο από φονικά ρομπότ. «Αντίθετα», προτείνει, «θα πρέπει να αναπτύξουμε την AI για να αποτρέπουμε και να επιλύουμε διαφωνίες». Σε ένα ευρύτερο πλαίσιο, η προβλεπτική AI μπορεί να χρησιμοποιηθεί όχι μόνο για να αποτρέπει επιθέσεις, αλλά και για να ανταποκρίνεται σε συγκρούσεις και να βοηθά τους πολίτες. Ό,τι κι αν ισχύει για την Palantir, αυτή τη στιγμή χρησιμοποιεί την AI για να βοηθήσει στον αποναρκοθέτηση άνω των 150.000 τετραγωνικών χιλιομέτρων ουκρανικών χωραφιών.
Και τι γίνεται με το μέλλον που προβλέφθηκε στην Τζαλαλαμπάντ; Θα μπορούσε η Τεχνητή Νοημοσύνη να προβλέψει κάποιο μελλοντικό πόλεμο;
Ο Μοϊσέεφ πιστεύει πως ναι. Όπως λέει, αν και η εισβολή στην Ουκρανία αποτέλεσε σοκ για τους περισσότερους, μια ομάδα επιστημόνων και μηχανικών με βάση τη Σίλικον Βάλεϊ είχε ήδη προβλέψει την κίνηση της Ρωσίας σχεδόν στην ακριβή ημέρα, μήνες πριν από την πραγματική έναρξη του πολέμου. «Συχνά υπάρχουν πληθώρα ενδείξεων ότι μια σύγκρουση βρίσκεται στον ορίζοντα», προσθέτει ο Μοϊσέεφ, «όπως η ασυνήθιστη κινητικότητα σε βάσεις πυραύλων ή η ξαφνική αποθήκευση κρίσιμων υλικών. Το πρόβλημα είναι ότι οι άνθρωποι δεν είναι πολύ καλοί στο να εντοπίζουν τις μικρολεπτομέρειες. Αλλά για την Τεχνητή Νοημοσύνη, αυτό είναι ένα από τα μεγαλύτερα της πλεονεκτήματα.»
Δεν είναι τυχαίο που οι υπεύθυνοι λήψης αποφάσεων στις ΗΠΑ ελπίζουν να χρησιμοποιήσουν την Τεχνητή Νοημοσύνη για να αναλύσουν δεδομένα και να εντοπίσουν οποιεσδήποτε μελλοντικές κινεζικές ενέργειες γύρω από την Ταϊβάν. Ο ναύαρχος Σάμιουελ Παπάρο, διοικητής του Στόλου του Ειρηνικού των ΗΠΑ, έχει υπαινιχθεί κάτι τέτοιο. Όπως είπε πρόσφατα σε μια διάσκεψη για την καινοτομία στην άμυνα, το Πεντάγωνο αναζητά τρόπους για να «βρει αυτές τις ενδείξεις» για επικείμενη επίθεση από τον Λαϊκό Απελευθερωτικό Στρατό. Επιπλέον, δεδομένου ότι οποιαδήποτε σύγκρουση στον Ειρηνικό θα μπορούσε να ξεσπάσει χωρίς προειδοποίηση, οι ειδικοί υποστηρίζουν ότι η Τεχνητή Νοημοσύνη θα μπορούσε εξίσου να βελτιώσει τη συνολική ετοιμότητα των αμερικανικών δυνάμεων καθ’ όλη τη διάρκεια του έτους.
Υπάρχει όμως και το ερώτημα αν οι υπολογιστές θα μπορούσαν να εξαπατηθούν από κάποιον εχθρό που επιδιώκει να διατηρήσει έναν βαθμό αιφνιδιασμού. Ενδεικτικά, αυτό θα μπορούσε να συμβεί μέσω ακόμα πιο έξυπνων μηχανών, ενδεχομένως εκατομμύρια φορές πιο ισχυρών από τους συνηθισμένους υπερυπολογιστές. Οι κβαντικοί υπολογιστές θα μπορούσαν να αναλύσουν τις κινήσεις του εχθρού σε δευτερόλεπτα, διασπώντας την κρυπτογράφησή τους.
Ωστόσο, θα ήταν απερίσκεπτο να αφήσουμε τους υπολογιστές να αναλάβουν πλήρη έλεγχο. Όπως λέει ο Σπαρ, ο πόλεμος τελικά διεξάγεται από άντρες και γυναίκες, πράγμα που σημαίνει ότι δεν μπορούμε ποτέ να επιτρέψουμε μια «προκατάληψη αυτοματοποίησης» να θολώσει την στρατηγική μας κρίση. Δεδομένου του πώς κατέληξε τελικά η περιπέτεια της χώρας του στην Καμπούλ, αυτή είναι σίγουρα μια σοφή συμβουλή.
Δεν υπάρχουν σχόλια:
Δημοσίευση σχολίου