Ρομπότ-φονιάδες: Οι συνομιλίες στον ΟΗΕ δεν ανταποκρίθηκαν στις προσδοκίες για νομικά δεσμευτικούς κανόνες
ΓΕΝΕΥΗ — Διπλωμάτες που συνεδρίασαν στα
Ηνωμένα Έθνη στη Γενεύη συμφώνησαν να ξεκινήσουν συζητήσεις σχετικά με επιλογές
για τη ρύθμιση των φονικών αυτόνομων όπλων, τα οποία αποκαλούνται συχνά
«ρομπότ-δολοφόνοι».
Έπειτα από διαπραγματεύσεις μιας εβδομάδας,
οι οποίες παρατάθηκαν μέχρι τις πρώτες πρωινές ώρες του Σαββάτου, επιτεύχθηκε
ένας συμβιβασμός: οι χώρες θα έχουν στη διάθεσή τους δύο χρόνια για να
προτείνουν ρυθμίσεις, οι οποίες ενδέχεται να είναι νομικά δεσμευτικές, αλλά θα
μπορούσαν επίσης να είναι προαιρετικές.
Οι διαπραγματευτές, εμφανώς εξαντλημένοι,
υποστήριξαν ότι η συμφωνία ήταν προτιμότερη από το τίποτα και απέδειξε ότι η
διαδικασία αφοπλισμού του ΟΗΕ μπορεί ακόμη να λειτουργεί. Ωστόσο, για πολλές
ανθρωπιστικές οργανώσεις και αρκετά κράτη, η συμφωνία υπολείπεται κατά πολύ των
προσδοκιών τους.
Πριν από την έναρξη των διαπραγματεύσεων, η
Διεθνής Επιτροπή του Ερυθρού Σταυρού —θεματοφύλακας των Συμβάσεων της Γενεύης—
είχε τονίσει ότι είναι επιτακτική ανάγκη να συνταχθούν νομικά δεσμευτικοί
κανόνες εντός ενός έτους. Την έκκληση αυτή υποστήριξαν ο Γενικός Γραμματέας του
ΟΗΕ και ο Πάπας.
Προς το παρόν, οι άνθρωποι εξακολουθούν να έχουν τον έλεγχο —έστω και σε πολύ περιορισμένο βαθμό—, ωστόσο ανθρωπιστικές οργανώσεις εκφράζουν τον φόβο ότι βρισκόμαστε προ των πυλών μιας κατάστασης όπου όπλα, υποβοηθούμενα από την τεχνητή νοημοσύνη, θα λαμβάνουν την απόφαση να αφαιρέσουν ανθρώπινες ζωές εντελώς αυτόνομα.
Αλγόριθμοι που λαμβάνουν αποφάσεις ζωής και
θανάτου
«Υπάρχει ένα θεμελιώδες ηθικό ζήτημα όταν
αποφάσεις που αφορούν, ουσιαστικά, τη ζωή και τον θάνατο καθορίζονται από τον
προγραμματισμό, από έναν αλγόριθμο», δήλωσε η Georgia Hinds, νομική σύμβουλος της Διεθνούς Επιτροπής του
Ερυθρού Σταυρού (ICRC).
«Αυτό δεν είναι κάτι που μπορεί να επιλυθεί με καλύτερη τεχνολογία. Πρόκειται
για μια ηθική "κόκκινη γραμμή" που δεν επιτρέπεται να ξεπεράσουμε».
Κανείς δεν προσήλθε στις διαπραγματεύσεις
θεωρώντας ότι θα ήταν εύκολες· ορισμένες από τις ισχυρότερες χώρες του κόσμου
—μεταξύ των οποίων οι ΗΠΑ, η Ρωσία και το Ισραήλ— είχαν ήδη εκφράσει την
επιφύλαξή τους ως προς την αποδοχή δεσμευτικών κανονισμών.
Κατά την πρώτη ημέρα, η Ρωσία καθυστέρησε τις
διαδικασίες προβάλλοντας αντιρρήσεις σχετικά με την ημερήσια διάταξη της
συνάντησης. Στη συνέχεια, οι Ηνωμένες Πολιτείες πρότειναν ένα χρονικό περιθώριο
πέντε ετών για τη συζήτηση μη δεσμευτικών, προαιρετικών κατευθυντήριων γραμμών
που θα αφορούν τα αυτόνομα οπλικά συστήματα.
Τελικά, στις 4:30 τα ξημερώματα του Σαββάτου,
βγήκαν από την αίθουσα των διαπραγματεύσεων για να ανακοινώσουν τον συμβιβασμό
τους: όχι σε συμφωνία εντός του έτους, και αβεβαιότητα ως προς το αν θα
υπάρξουν νομικά δεσμευτικοί κανόνες.
Μια «συμφωνία-κενό γράμμα»
Η Διεθνής Επιτροπή του Ερυθρού Σταυρού (ΔΕΕΣ)
εξέφρασε αμέσως τη λύπη της για την εξέλιξη αυτή και επανέλαβε την έκκλησή της
για μια δεσμευτική συνθήκη. Άλλοι εκπρόσωποι οργανώσεων ήταν λιγότερο
ευγενικοί, χαρακτηρίζοντας τη συμφωνία «πραγματική απογοήτευση» και «κενό
γράμμα». «Φοβάμαι ότι θα χαθούν ανθρώπινες ζωές εξαιτίας αυτού», πρόσθεσε
κάποιος άλλος.
Μια βασική ανησυχία είναι ότι, ενώ θα
χρειαστούν δύο χρόνια συζητήσεων για πιθανούς κανόνες —οι οποίοι ενδέχεται να
είναι απλώς προαιρετικοί—, η τεχνολογία θα συνεχίσει να εξελίσσεται ραγδαία και
ανεξέλεγκτα.
«Είναι πιθανό να δούμε τα συστήματα αυτά να
πολλαπλασιάζονται», δήλωσε η Anna Hehir, ειδικός στη διακυβέρνηση της στρατιωτικής τεχνητής νοημοσύνης στο
ινστιτούτο Future of Life Institute. «Δεν είναι όπως τα πυρηνικά όπλα, τα οποία
είναι δυσπρόσιτα. Υπάρχουν αυτόνομα όπλα που είναι εύκολο να αποκτηθούν ή ακόμα
και να κατασκευαστούν από κάθε είδους δρώντες: ιδιώτες, μη κρατικούς φορείς,
εγκληματικές οργανώσεις».
Εγείρονται επίσης σοβαρά ερωτήματα σχετικά με
το πώς μπορούν να τηρηθούν οι υφιστάμενοι κανόνες του πολέμου —οι Συμβάσεις της
Γενεύης— όταν αυτοί που προκαλούν τον θάνατο δεν είναι άνθρωποι, αλλά μηχανές.
«Αυτοί οι κανόνες αποτελούν το ελάχιστο
πλαίσιο που έχουν θεσπίσει οι στρατοί και τα κράτη, συμφωνώντας να το τηρούν»,
δήλωσε ο Hinds από τη ΔΕΕΣ. «Ο
διοικητής παραμένει υπεύθυνος για τη διασφάλιση ότι η χρήση βίας είναι νόμιμη.
Ο διοικητής παραμένει υπόλογος. Δεν μπορείς να καταστήσεις μια μηχανή υπόλογη
για παραβίαση του νόμου».
Ωστόσο, στον αγώνα δρόμου για την ανάπτυξη
νέων όπλων, καμία χώρα δεν θέλει να έρθει δεύτερη. Αν και τα περισσότερα
κράτη-μέλη του ΟΗΕ συμφωνούν ότι θα πρέπει να υπάρξουν ορισμένοι έλεγχοι στα
αυτόνομα όπλα, ο συμβιβασμός στη Γενεύη σημαίνει ότι, τουλάχιστον για τα
επόμενα δύο χρόνια, τα όπλα που μπορούν να χρησιμοποιούν τεχνητή νοημοσύνη για
τη λήψη αποφάσεων ζωής και θανάτου θα παραμείνουν χωρίς ρυθμιστικό πλαίσιο.
Την ίδια στιγμή, η τεχνολογία των όπλων
αναπτύσσεται με ταχύτατους ρυθμούς, ενώ η διπλωματία δυσκολεύεται να
ακολουθήσει.












κάποιοι λίγοι στίχοι...