U Ženevi se lome koplja oko zabrane smrtonosnog autonomnog oružja

Međunarodni pregovori o ograničavanju smrtonosnog autonomnog oružja ušli su u završnu i politički najosjetljiviju fazu u Ženevi, ali dogovor država i dalje djeluje daleko. Ono što je na početku izgledalo kao tehničko pitanje vojnog razvoja, danas je preraslo u veliko globalno nadmetanje oko toga ko će imati kontrolu nad odlukom o životu i smrti u budućim ratovima. Rasprava se vodi unutar okvira Konvencije Ujedinjenih nacija o određenim vrstama konvencionalnog oružja (CCW), a u njoj učestvuje 128 država potpisnica, koje bi trebalo da utvrde mandat za dalje pregovore o ovim sistemima, javlja dpa.

Suština spora nije samo u tome da li ovakvo oružje treba zabraniti, nego i kako definisati njegove granice. Smrtonosni autonomni sistemi naoružanja, koje kritičari često nazivaju i „robotima ubicama“, mogu samostalno prepoznavati, pratiti i odabirati mete, a u zavisnosti od nivoa autonomije mogu pokrenuti napad bez neposredne ljudske odluke. Upravo ta mogućnost da mašina, a ne čovjek, donese posljednji korak u smrtonosnom lancu odlučivanja izaziva sve veću uzbunu među vladama, pravnim stručnjacima, organizacijama civilnog društva i humanitarnim institucijama širom svijeta.

Neslaganja koja blokiraju diplomatski proces

Iako su mnoge države spremne razgovarati o novim pravilima, zajednički jezik i dalje izostaje. Zagovornici strožijih mjera traže međunarodno obavezujuća pravila koja bi zabranila sisteme sposobne da ubijaju bez ljudske kontrole, ali i postavila jasna ograničenja za oružje s visokim stepenom autonomije. Po njihovom mišljenju, bez takvih normi svijet bi mogao ući u novu eru ratovanja u kojoj bi brzina algoritma nadvladala ljudski sud, a odgovornost za greške postala gotovo nemoguća za utvrditi.

Pregovore je dodatno zakomplikovao i spor oko dnevnog reda. Ruska delegacija usprotivila se njegovom usvajanju, nastojeći istovremeno ograničiti pravo govora Evropske unije i drugih posmatrača. Takva taktika nije neuobičajena u multilateralnoj diplomatiji, ali u slučaju CCW ima posebno težak učinak, jer se odluke donose konsenzusom. To znači da i jedna jedina država može zaustaviti napredak, usporiti pregovore ili ih svesti na neformalne konsultacije bez konkretnog ishoda. U praksi, takav mehanizam često daje snažnu pregovaračku moć državama koje nisu spremne na kompromis.

Razlike među državama nisu samo proceduralne, već duboko političke i strateške. Sjedinjene Američke Države, Izrael, Indija i Ujedinjeno Kraljevstvo protive se pravno obavezujućem sporazumu kojim bi se ograničila upotreba autonomnog oružja. Njihovi argumenti uglavnom se kreću od tvrdnje da postojeći okvir međunarodnog humanitarnog prava već pruža dovoljno zaštite, do stava da bi previše restriktivna regulacija mogla usporiti razvoj tehnologija koje bi, paradoksalno, mogle smanjiti ljudske greške na bojnom polju. Kritičari takvog pristupa, međutim, upozoravaju da se ne može oslanjati na opća pravila kada je riječ o sistemima koji djeluju brže od ljudske procjene i u kojima je granica između pomoći i potpunog prepuštanja odluke mašini vrlo tanka.

Koliko dugo bi pregovori trebali trajati?

Jedno od manje vidljivih, ali jednako važnih pitanja odnosi se na trajanje budućih pregovora. Dok pojedine države smatraju da bi proces trebalo završiti u roku od godinu dana kako bi se izbjeglo dalje tehnološko nadigravanje bez pravila, druge tvrde da je za izradu kvalitetnog i međunarodno prihvatljivog dogovora potrebno i do pet godina. Taj vremenski jaz pokazuje koliko je međunarodna zajednica podijeljena: jedni žele hitnu reakciju prije nego što autonomni sistemi postanu široko rasprostranjeni, a drugi insistiraju na opreznom i dugotrajnom pristupu, uz tvrdnju da bi brzinski dogovor mogao biti nedovoljno precizan ili politički neodrživ.

U pozadini svega nalazi se i širi globalni trend ubrzanog razvoja vještačke inteligencije u vojnom sektoru. Kako se algoritmi sve više koriste za analizu podataka, izviđanje, identifikaciju ciljeva i podršku komandnim strukturama, postavlja se pitanje gdje završava pomoć tehnologije, a gdje počinje autonomno odlučivanje o smrtonosnoj sili. Ovaj problem nije samo tehnički, nego i duboko etički: da li čovječanstvo želi da mašine procjenjuju ko predstavlja prijetnju i da li je moguće postaviti granice koje će biti dovoljno jasne da spriječe zloupotrebe?

Crveni križ upozorava na gubitak ljudske kontrole

Međunarodni komitet Crvenog križa već godinama upozorava da se ne smije izgubiti stvarna ljudska kontrola nad upotrebom sile. Predsjednica ove organizacije Mirjana Špoljarić istakla je da države imaju ključnu odgovornost osigurati da budućnost ratovanja ne bude prepuštena mašinama. Prema stavu Crvenog križa, autonomno oružje otvara ozbiljna pitanja u vezi s poštovanjem međunarodnog humanitarnog prava, koje ima zadatak da štiti civile, ranjenike i sve one koji ne učestvuju direktno u borbama.

Posebno zabrinjava mogućnost da ljudski nadzor postoji samo formalno, dok je u stvarnosti sveden na nekoliko sekundi potvrde prijedloga koji je generisao sistem vještačke inteligencije. Thomas Küchenmeister iz njemačkog ogranka kampanje Stop Killer Robots upozorio je da se takva situacija teško može nazvati pravom kontrolom. Ako vojnici imaju tek nekoliko trenutaka da provjere da li algoritam pravilno tumači okolnosti na terenu, onda je, kako ističu aktivisti, ljudska odgovornost samo privid, a ne suštinski mehanizam zaštite.

Industrija tvrdi da čovjek i dalje ima posljednju riječ

S druge strane, dio odbrambene industrije pokušava uvjeriti javnost da se granica između automatizacije i autonomije ne prelazi tako lako. Njemačka odbrambena kompanija Helsing tvrdi da njen sistem Clarity samo analizira stanje na bojnom polju i predlaže ciljeve, dok konačnu odluku o napadu i dalje donosi čovjek. Prema toj logici, tehnologija je alat za obradu informacija, a ne zamjena za vojnu prosudbu. Kompanija naglašava da napad mora odobriti ljudski operater, čime se, po njihovom mišljenju, zadržava potrebni nivo kontrole.

Međutim, upravo tu se otvara najosjetljivije pitanje cijele debate: šta zapravo znači „ljudska kontrola“? Da li je dovoljno da čovjek formalno klikne na dugme, ako je sistem već unaprijed filtrirao podatke, predložio metu i postavio tempo djelovanja tako da operater praktično nema vremena za dubinsku procjenu? Diplomati, pravnici i humanitarni stručnjaci upozoravaju da se budući sporazum mora zasnivati na jasnim i mjerljivim standardima, inače će ostati previše prostora za različita tumačenja i tehnološke zloupotrebe.

Zbog toga pregovori u Ženevi imaju značaj koji nadilazi jednu konferencijsku salu. Ishod razgovora mogao bi odrediti kako će izgledati ratovanje u narednim decenijama, ali i postaviti granice između legitimne upotrebe tehnologije i opasnosti da oružani sukobi postanu još manje podložni ljudskoj savjesti. U trenutku kada se mnoge države utrkuju u razvoju vještačke inteligencije, a vojni sistemi postaju sve sofisticiraniji, pitanje autonomnog oružja više nije hipotetičko. Ono je postalo jedno od ključnih globalnih bezbjednosnih i etičkih pitanja našeg vremena.