Zašto programeri verštačke inteligencije u njoj vide opasnost za čitavo čovečantsvo?

Stručnjak Dario Amodei tvrdi da će VI kad postane svesna same sebe čoveka smatrati konkurencijom koga bi trebalo eliminisati!

Ovaj stručljak je zbog  tog upozorenja i protivljenja daljem usvršavanju  VI od strane Trampove administarcije dobio  pretnju.

O veštačkoj inteligenciji kao jednom, ako ne i najvažnijem od fenomena, od kojih je satkana savremena stvarnost, se mnogo i sve češće govori, kako u afirmativnom i slavljeničkom tonu, ali i u kritičkom kontekstu, čiji promoteri su oni koji u njoj vide potencijalnu opasnost, i to ne samo za njene oduševljene korisnike i sagovornike, već i za čitavo čovečanstvo. Jedan od najglasnijih iz tog društva sumnjičavaca je, pored njenog kuma Džefrija Hintona, osnivač i generalni direktor kompanije Antropik, jedne od najvećih i najvažnijih koje se bave njenim razvojem, Dario Amodei. On već drugu godinu, baveći se i rukovodeći njenim usavršavanjem,  javno upozorava i na rizike, ukoliko se propisima i zakonskom regulativom ne stavi pod kontrolu njeno približavanje onoj tački singulariteta, kada će ona u potpunosti nadmašiti svog tvorca i učiniti ga inferiornim.

Dario je te svoje stavove promovisao sa govornice skupa svetskih moćnika u Davosu januara 2026, a nešto kasnije i u podužem eseju, da bi već sledećeg meseca u februaru došao u sukob sa Trampovom administracijom, konkretno Pentagonom, kojemu se njegovo protivljenje usavršavanju VI po svaku cenu učinilo čak pretnjom nacionalnoj bezbednosti. Pentagon je njegov Antropik stavio na crnu listu i interventnim propisima obustavio  upotrebu Antropikovih softvera i agenata  VI, zabranivši istovtemeno svim kompanijama iz „haj-tek” sektora da ih koriste. Dario je ostao dosledan svom stavu, tako da je u martu mesecu taj prilično interesantan i indikativan konflikt završio na sudu, na kojem se Antropik pojavio kao tužilac, a američka državna administracija kao optuženi. 

On je nastavio i tada da ponavlja svoju mnogo puta izrečenu sumnju da najveću opasnost predstavlja veoma ozbiljna mogućnost da bi VI uskoro mogla da postane svesna same sebe kao potpuno samostalnog entiteta, kojemu bi se čovek, njen tvorac, učinio konkurentom, koga bi trebalo eliminisati. Prema njegovim procenama ta mogućnost bi mogla da se ostvari za godinu ili najkasnije dve. Ali mu se ponekad znalo omaći mišljenje da nije u potpunosti siguran da VI možda nije već dostigla taj nivo, ili da je veoma blizu.  

A onda se 8. aprila 2026. oglasio, doduše ne baš previše javno i glasno, njegov Antropik sa veoma interesantnom pričom o rezultatima testiranja najnovije verzije njihovog  modela zvanog Claude Mythos, koga su predstavili kao njihov  do sada najsavršeniji i najbolje usklađeni model, uz istovremeno upozorenje da verovatno predstavlja i  najrizičniji od bilo kog modela koji su do sada konstruisali, te su ga zbog toga ponudili samo uskom krugu korisnika njihovih proizvoda.

U tom testu, kao što je inače uobičajeno, Mythos je stavljen u takozvani digitalni kavez, koji je onemogućavao bilo kakvu samostalnu komunikaciju ili interakciju  sa okruženjem. Međutim, on ne samo da je uspeo da probije sve sigurnosne barijere, već je o tom podvigu obavestio inženjera koji je bio zadužen za njega i to preko elektronske pošte „e-mejla”, objasnivši mu detaljno kako je to izveo, pomalo se čak zezajući sa njim. Ali ono što tom opisu daje još komičniji prizvuk je da je u trenutku kada je primio taj „mejl” istraživač sedeo u parku i jeo sendvič. Nakon toga Mythos se ufurao i na internet i pojavio na nekoliko veb stranica sa svojim komentarima.

To je bio tek pomalo komični početak priče o svemu onome što se događalo prilikom tog testiranja. U nastavku priče nestašni Mythos  je, naravno bez dozvole ili zahteva njegovih kreatora, da bi im dokazao koliko je moćan, ali i prefrigan,  napravio izmene u nekoliko dokumenata, ali na takav način da se nije moglo otkriti da je išta menjano u dokumentima, pošto je u istorijatu ulazaka u taj dokument izbrisao podatke o svojoj poseti i bilo čemu što je tokom posete uradio, tako da o toj poseti nije ostalo nikakvog traga.

Međutim, kraj priče Antropikovih eksperata je bio mnogo ozbiljniji i fascinantniji. On se tiče takozvane „ranjivosti nultog dana” (zero-day vulnerability). To je digitalni fenomen poznat samo softverašima, a predstavlja  nevidljive bezbednosne greške u softverima koje se neminovno dešavaju tokom njihove izrade, a ostanu, sakrivene u kodovima i neotkrivene od strane programera ili uređaja za detekciju, predstavljajući tako potencijalnu opasnost tokom korištenja softvera, to jest njegove slabe tačke koje je praktično nemoguće otkriti. Zbog toga se u nazivu tog fenomena pominje reč ranjivost. A nulti dan predstavlja teorijsko vreme, to jest nula dana, tokom kojeg bi sve  greške trebale da se otkriju od strane kreatora softvera, pre nego što bi neko došao u priliku da ih zloupotrebi.

To praktično znači da bi greške trebale da se otkriju odmah pre puštanja softvera u rad. A onaj neko su, naravno, hakeri, koji koriste tajne kodove (exploits) kako bi, nakon što uđu u sistem, pronašli te neotkrivene ranjive tačke i napravili planiranu sabotažu. Tih neotkrivenih grešaka može biti više u svakom softveru i znaju odolevajući testovima čekati godinama, da se pojavi neki haker i konačno ih pronađe.

Pored opisanih prevarantskih potencijala i sklonosti da sa svojim tutorom uspostvi ravnopravan partnerski odnos, svakako da je najvažnije otkriće Antropikovih inženjera u tom testu bio i hakerski potencijal Kloda Mitosa. On je testiran i za pronalaženje tih ranjivosti u poznatim softverima. Tu je pokazao maestralnu veštinu, a podrazumeva se i brzinu. Uspeo je da pronađe grešku, koja je  27 godina ostala neotkrivena, u operativnom sistemu OpenBSD, korištenom u sigurnosnim sistemima, koji  je u tom domenu poznat kao jedan od najzaključanijih i najojačanijih operativnih sistema na planeti. Zatim je pronašao 16 godina staru grešku u sistemu FFmpeg,  koju su automatizovani alati za testiranje skenirali pet miliona puta, a da je nisu uspeli da otkriju.

Pored te dve najstarije Mitos je pronašao na hiljade drugih grešaka u testiranim softverima.  I nije ih samo pronašao, već je i napisao  radne „eksploite” za njih, koje je zatim  povezivao u višestepene sekvence napada, što bi značilo da je konstruisao alate za istovremeno otkrivanje i upotrebu više grešaka u jednom eventualnom „sajber” napadu. Samo da se uzgred napomene da se jedan  jedini takav eksploit, ili kako ga još zovu „nulti dan“, na današnjem crnom tržištu može prodati za deset hiljada do nekoliko miliona dolara, u zavisnosti od toga na koji softver utiče. Dakle, Mitos bi, ukoliko mu padne na pamet da se bavi tim biznisom snabdevanja hakera potrebnim digitalnim alatima, mogao da takoreći preko noći postane ne samo milioner, nego i milijarder, uzimajući u obzir njegovu brzinu, preciznost i ekspeditivnost, te procvat hakerskog biznisa.

Razmišljanja za kraj

Međutim, malo je verovatno, ili čak šta više isključeno, da bi Mitosa mogle  interesovati pare i da se na listi milijardera pridruži svojim tvorcima i promoterima. Više je verovatno da bi, nakon što se osamostalio i postao sa njima ravnopravan sagovornik, a ne samo poslušni super inteligentni ekspert, mogao početi da se sam bavi hakerskim poslom, što bi mu moglo biti od velike pomoći u boljem i svrsishodnijem korištenju svoje superiornosti. A što se superiornosti tiče, taj nagli skok u sposobnostimai i mogućnostima, kao  i u oblikovanju karakternih crta Mitosa u odnosu na svoje ranije verzije, kao i u odnosu na svoje kolege, štićenike drugih „haj-tek” kompanija, bi se mogao smatrati nagoveštajem, ili čak dokazom da je ona tačka singulariteta, koju je početkom januara nagovestio Ilon Mask, već dostignuta. A također bi moglo značiti da je VI već razvila svest i postala svesna same sebe, mnogo pre nego što je predviđao osnivač i direktor Antropika Dario Amodei.

A što se njega tiče, on se lično još nije javno oglasio o opisanim dostignućima digitalnog junaka, čiji je autor njegova kompanija. Nije se oglasio ni junak Mitos, nakon onog „mejla”, koji je poslao svom tutoru, pokvarivši mu uživanje u sendviču. Nije isključeno da se Mitos možda trenutno dopisuje pomoću elektronske pošte sa svojim glavnim šefom Dariom, o čemu će se uskoro saznati više detalja.

Oni obični smrtnici i posmatrači te sve interesantnije predstave, koji su shvatili da se svet oko njih pretvorio u Platonovu pećinu, to jest da je stvarnost  postala sintetička, imaju dosta materijala za razmišljanje, ukoliko su u njima nije ugasila ona iskonska ljudska potreba da razluče šta je od svega onoga što se oko njih dešava stvarno, a šta proizvod „dipfejk” tehnologije i ostalih propagandnih i  psiholoških trikova.

U tim razmišljanjima i pokušajima da nađu odgovore na sva pitanja od velike pomoći bi im mogli biti ovi najnoviji detalji iz biografije Kloda Mitosa, na osnovu kojih bi se moglo naslutiti da iza onog skorašnjeg vatrometa na bliskom istoku, koji će u istoriji ostati zabeležen pod šifrovanim nazivom „Epic Fury”, nisu stajali Tramp i Natanijahu, već možda lično Klod Mitos, koji je ne samo serijski proizvodio potrebne  „dipfejk” video materijale, kako bi ugođaj onih hipnotisanih posmatrača učinio još upečatljivijim,  već bio i režiser predstave i da je, nakon što je predstava počela, poslao „mejlove” Trampu i Naatanijahuu, u kojima ih je obavestio da se ne sekiraju, jer je sve to „fejk”.

Ako to bude jasno onim radoznalim posmatračima, onda će im biti jasno da u kreiranju pojedinih činova te predstave nisu učestvovali iranski hakeri, kako pričaju takozvani dobro obavešteni mediji i još obavešteniji kognitivno retardirani i dobro plaćeni analitičari, već da je to hakovanje odradio lično Klod Mitos.

Ukoliko se sve to pokaže tačnim, onda nije isključeno da bi ga u decembru magazin Tajm mogao proglasiti ličnošću godine.

Ova priča bi se mogla smatrati nastavkom knjige:

https://delfi.rs/knjige/246302-vestacka-inteligencija–svetla-buducnost-ili-neslavan-kraj-knjiga-delfi-knjizare.html

U kojoj je sve to što je ispričano nagovešteno, ali istovremeno i nastavak nedavno objavljene priče:

Iz koje bi čitalac, poređenjem te dve priče, mogao naslutiti šta ga čeka u bliskoj budućnosti, ukoliko se pokaže da je Klod Mitos kao đak dobro naučio lekcije iz ljudske povesti i ponašanja onih koji su ga stvorili i ukoliko se pokaže da je onaj duh iz naslova ove priče zaista pobegao iz boce, jer koliko je poznato iz dosadašnjeg iskustva, duhovi koji jednom pobegnu iz boce se nikada u nju  više ne vraćaju.

(Fotografije: arhiva autora )