Geoffrey Hinton upozorava na mogući tehnološki kolaps: koliko je vještačka inteligencija zaista opasna?
Rasprava o tome koliko je vještačka inteligencija blizu granice na kojoj može postati ozbiljna prijetnja društvu ponovo je postala predmet žestokih stručnih polemika. Jedan od najuticajnijih istraživača u ovom polju, britanski naučnik Geoffrey Hinton, upozorio je da bi svijet već do kraja 2026. ili tokom 2027. godine mogao doživjeti snažan tehnološki udar čije bi posljedice bile usporedive s velikom industrijskom ili nuklearnom katastrofom. Njegovo upozorenje nije usmjereno na fizičku eksploziju, nego na mogućnost da AI sistemi budu iskorišteni za napade na kritičnu infrastrukturu, prije svega na elektroenergetske i finansijske mreže.
Hinton, koji je 2024. godine dobio Nobelovu nagradu za fiziku, u razgovoru za The Guardian povukao je dramatičnu paralelu s Černobiljem, naglašavajući da bi posljedice mogućeg incidenta sa savremenim AI sistemima mogle biti ogromne, čak i ako se ne radi o klasičnoj katastrofi kakvu obično zamišljamo. Njegova poenta je da bi jedan uspješno izveden digitalni napad mogao paralizirati dijelove države: nestanak struje, zastoj u bankarskom sistemu, otežano plaćanje karticama, problemi u komunikacijama i blokada dijela javnih usluga. Drugim riječima, tehnološki napad ne mora biti spektakularan da bi bio razoran.
Ovakva upozorenja u javnosti često izazivaju podijeljene reakcije. Dok jedni smatraju da su stručnjaci poput Hintona dužni govoriti otvoreno o najgorim scenarijima, drugi upozoravaju da se u raspravama o umjetnoj inteligenciji lako prelazi granica između opreza i senzacionalizma. Posebno osjetljivo pitanje jeste: može li jedan AI sistem zaista samostalno izazvati havariju takvih razmjera? To nije samo tehničko pitanje, nego i pitanje kontrole, odgovornosti i ljudske namjere.
Šta je Hinton zapravo želio poručiti?
Geoffrey Hinton ne tvrdi da će mašine sutra preuzeti vlast nad svijetom, niti da će vještačka inteligencija sama od sebe “odlučiti” da uništi civilizaciju. Njegovo upozorenje je suptilnije i dublje: moderni AI sistemi postaju dovoljno sposobni da pomognu ljudima u pronalaženju slabih tačaka, automatizaciji napada i generisanju izuzetno sofisticiranih akcija koje bi ranije zahtijevale timove stručnjaka. U praksi to znači da bi neko uz pomoć AI alata mogao znatno ubrzati pronalazak propusta u softveru, planiranje napada ili manipulaciju velikim količinama podataka.
Takav scenario ne mora uključivati samo hakerske napade u užem smislu. AI može biti korišten za obradu ogromnih baza informacija, za precizno izviđanje digitalnih sistema i za automatizaciju procesa koji su do jučer bili prespori ili previše složeni za pojedinačne napadače. Zbog toga Hinton i slični stručnjaci upozoravaju da je najveća opasnost u kombinaciji ljudske namjere i mašinske efikasnosti, a ne u nekakvom iznenadnom “buntovnom” ponašanju algoritma.
Drugim riječima, vještačka inteligencija ne mora sama “htjeti” štetu da bi postala opasna. Dovoljno je da bude dovoljno moćna i dostupna pogrešnim ljudima. U tom smislu, rasprava o AI rizicima više podsjeća na razgovor o nuklearnoj energiji, biotehnologiji ili kibernetičkom oružju: tehnologija sama po sebi nije zla, ali njena zloupotreba može imati posljedice koje pogađaju milione ljudi.
Zašto elektroenergetski sistem izaziva toliko zabrinutosti?
Elektroenergetski sistemi su jedan od najosjetljivijih dijelova savremenog društva. Kada nestane struje, posljedice se ne zaustavljaju samo na mraku u stanovima. U trenutku prestaju raditi bankomati, usporava se kartično plaćanje, gase se dijelovi saobraćajne signalizacije, zaustavlja se veliki broj industrijskih procesa, a zdravstvene ustanove prelaze na rezervne sisteme. Ako bi prekid trajao danima, šteta bi se mjerila ne samo finansijski, nego i društveno i politički.
Upravo zato Hinton upozorava da bi cilj napada mogao biti sektor koji je od vitalnog značaja za svakodnevni život. Danas se infrastruktura sve više oslanja na digitalne mreže, automatizaciju i softversku koordinaciju. To povećava efikasnost, ali istovremeno širi prostor za napade. Ono što je ranije bilo zatvoreni industrijski sistem sada je često povezano s internetom, udaljenim upravljanjem i nizom softverskih rješenja koja moraju besprijekorno funkcionisati zajedno.
U tom kontekstu se javlja važna dilema: koliko je sigurnosnih slojeva dovoljno? Ako se jedan sistem može zaštititi od običnog napada, može li se zaštititi i od napada koji koristi AI za pronalaženje nepoznatih slabosti? To je pitanje na koje ni najnaprednije države još uvijek nemaju potpuno uvjerljiv odgovor. I baš zato su upozorenja stručnjaka često usmjerena na potrebu jačanja otpornosti prije nego što nastane kriza.
Ruski stručnjak Roman Duškin: bez dokaza nema prognoze
Na Hintonnova upozorenja reagovao je i ruski stručnjak Roman Duškin, koji smatra da takve prognoze moraju biti potkrijepljene konkretnim tehničkim dokazima. Njegov stav je da nije dovoljno reći kako će se dogoditi velika katastrofa; potrebno je precizno objasniti na koji način bi do nje moglo doći. Prema njegovom mišljenju, elektroenergetski sistemi imaju brojne zaštitne mehanizme, a nije realno da bilo koji program jednostavno “isključi” cijelu mrežu bez niza prethodnih koraka i bez ozbiljnih propusta u sigurnosti.
Duškin također podsjeća da poznavanje vještačke inteligencije ne znači automatski razumijevanje rada nuklearnih elektrana, trafostanica, prijenosnih mreža ili drugih složenih infrastrukturnih sistema. Drugim riječima, AI stručnjak nije nužno stručnjak za svaki tehnološki sloj koji učestvuje u funkcionisanju jednog društva. Ovo je važno jer se u javnosti često stvara utisak da će jedan napredni algoritam biti dovoljan da sam savlada kompleksnu industrijsku infrastrukturu. U praksi, stvari su obično mnogo složenije.
Ipak, njegova kritika ne poništava osnovnu činjenicu da su kritične infrastrukture ranjive. Čak i ako je potpuni kolaps države malo vjerovatan, dovoljno je da napad izazove lokalne ili regionalne poremećaje kako bi šteta bila ogromna. Zbog toga rasprava nije između “apsolutne sigurnosti” i “sigurnog uništenja”, nego između različitih nivoa rizika i sposobnosti društva da na vrijeme reaguje.
Gdje se završava upozorenje, a počinje pretjerivanje?
Najveći problem u ovakvim diskusijama jeste to što je granica između realne zabrinutosti i pretjerivanja često nejasna. S jedne strane, stručnjaci poput Hintona imaju kredibilitet da upozoravaju na moguće scenarije koje šira javnost ne vidi odmah. S druge strane, javnost i institucije mogu biti preplašene ako se sve predstavi kao neizbježan apokaliptični ishod. Zato je potrebno razlikovati upozorenje od naučno potvrđene prognoze.
Važno je i to da razvoj vještačke inteligencije nije samo priča o prijetnjama. AI već danas pomaže u medicinskoj dijagnostici, analizi velikih skupova podataka, prevenciji industrijskih kvarova, istraživanju lijekova i poboljšanju logistike. Mnoga rješenja koja danas smatramo korisnima postala su moguća upravo zahvaljujući naprednim algoritmima. Zato je ključno sačuvati ravnotežu: ne ignorisati rizike, ali ni zanemariti potencijalne koristi.
Istovremeno, sve više zemalja i institucija razmatra potrebu za strožim pravilima nadzora, testiranja i odgovornosti pri upotrebi AI sistema. To uključuje bolju kontrolu pristupa osjetljivim mrežama, jasnije sigurnosne protokole, etičke standarde za razvoj modela i transparentnost u tome kako algoritmi donose odluke. Bez takvih mjera, čak i najkorisnija tehnologija može postati izvor ozbiljnog društvenog stresa.
Zaključak: prava opasnost možda nije u mašinama, nego u ljudskoj nepažnji
Debata između Hintona i njegovih kritičara pokazuje koliko je tema vještačke inteligencije složena i osjetljiva. Jedna strana upozorava na potencijalno katastrofalne posljedice ako se moćni sistemi koriste bez kontrole, dok druga zahtijeva precizne dokaze i tehnički utemeljena objašnjenja. Istina je vjerovatno negdje između: ne moramo vjerovati da će AI sutra samostalno izazvati globalni haos, ali ni pretpostaviti da je sve pod potpunom kontrolom.
Najvažnije pitanje danas nije da li će “mašine napasti čovjeka”, nego koliko pažljivo ljudi upravljaju tehnologijom koju su sami stvorili. Ako se ključni sistemi prepuštaju bez dovoljne zaštite, nadzora i odgovornosti, rizik raste bez obzira na to koliko je algoritam pametan. Zato se budućnost vještačke inteligencije ne treba posmatrati samo kroz spektakularne scenarije, nego i kroz svakodnevne odluke o sigurnosti, regulaciji i etici.
Na kraju, možda je upravo to najvažnija poruka ove rasprave: najveći problem nije što tehnologija napreduje, nego što ljudska kontrola često ne napreduje istim tempom. A dok se taj jaz ne smanji, svako ozbiljno upozorenje o rizicima AI zaslužuje pažnju, ali i trezvenu, kritičku provjeru.
