Зашто програмери верштачке интелигенције у њој виде опасност за читаво човечантсво?

Стручњак Дарио Амодеи тврди да ће ВИ кад постане свесна саме себе човека сматрати конкуренцијом кога би требало елиминисати!

Овај стручљак је због  тог упозорења и противљења даљем усвршавању  ВИ од стране Трампове администарције добио  претњу.

О вештачкој интелигенцији као једном, ако не и најважнијем од феномена, од којих је саткана савремена стварност, се много и све чешће говори, како у афирмативном и слављеничком тону, али и у критичком контексту, чији промотери су они који у њој виде потенцијалну опасност, и то не само за њене одушевљене кориснике и саговорнике, већ и за читаво човечанство. Један од најгласнијих из тог друштва сумњичаваца је, поред њеног кума Џефрија Хинтона, оснивач и генерални директор компаније Антропик, једне од највећих и најважнијих које се баве њеним развојем, Дарио Амодеи. Он већ другу годину, бавећи се и руководећи њеним усавршавањем,  јавно упозорава и на ризике, уколико се прописима и законском регулативом не стави под контролу њено приближавање оној тачки сингуларитета, када ће она у потпуности надмашити свог творца и учинити га инфериорним.

Дарио је те своје ставове промовисао са говорнице скупа светских моћника у Давосу јануара 2026, а нешто касније и у подужем есеју, да би већ следећег месеца у фебруару дошао у сукоб са Трамповом администрацијом, конкретно Пентагоном, којему се његово противљење усавршавању ВИ по сваку цену учинило чак претњом националној безбедности. Пентагон је његов Антропик ставио на црну листу и интервентним прописима обуставио  употребу Антропикових софтвера и агената  ВИ, забранивши истовтемено свим компанијама из „хај-тек” сектора да их користе. Дарио је остао доследан свом ставу, тако да је у марту месецу тај прилично интересантан и индикативан конфликт завршио на суду, на којем се Антропик појавио као тужилац, а америчка државна администрација као оптужени. 

Он је наставио и тада да понавља своју много пута изречену сумњу да највећу опасност представља веома озбиљна могућност да би ВИ ускоро могла да постане свесна саме себе као потпуно самосталног ентитета, којему би се човек, њен творац, учинио конкурентом, кога би требало елиминисати. Према његовим проценама та могућност би могла да се оствари за годину или најкасније две. Али му се понекад знало омаћи мишљење да није у потпуности сигуран да ВИ можда није већ достигла тај ниво, или да је веома близу.  

А онда се 8. априла 2026. огласио, додуше не баш превише јавно и гласно, његов Антропик са веома интересантном причом о резултатима тестирања најновије верзије њиховог  модела званог Claude Mythos, кога су представили као њихов  до сада најсавршенији и најбоље усклађени модел, уз истовремено упозорење да вероватно представља и  најризичнији од било ког модела који су до сада конструисали, те су га због тога понудили само уском кругу корисника њихових производа.

У том тесту, као што је иначе уобичајено, Mythos је стављен у такозвани дигитални кавез, који је онемогућавао било какву самосталну комуникацију или интеракцију  са окружењем. Међутим, он не само да је успео да пробије све сигурносне баријере, већ је о том подвигу обавестио инжењера који је био задужен за њега и то преко електронске поште „е-мејла”, објаснивши му детаљно како је то извео, помало се чак зезајући са њим. Али оно што том опису даје још комичнији призвук је да је у тренутку када је примио тај „мејл” истраживач седео у парку и јео сендвич. Након тога Mythos се уфурао и на интернет и појавио на неколико веб страница са својим коментарима.

То је био тек помало комични почетак приче о свему ономе што се догађало приликом тог тестирања. У наставку приче несташни Mythos  је, наравно без дозволе или захтева његових креатора, да би им доказао колико је моћан, али и префриган,  направио измене у неколико докумената, али на такав начин да се није могло открити да је ишта мењано у документима, пошто је у историјату улазака у тај документ избрисао податке о својој посети и било чему што је током посете урадио, тако да о тој посети није остало никаквог трага.

Међутим, крај приче Антропикових експерата је био много озбиљнији и фасцинантнији. Он се тиче такозване „рањивости нултог дана” (zero-day vulnerability). То је дигитални феномен познат само софтверашима, а представља  невидљиве безбедносне грешке у софтверима које се неминовно дешавају током њихове израде, а остану, сакривене у кодовима и неоткривене од стране програмера или уређаја за детекцију, представљајући тако потенцијалну опасност током кориштења софтвера, то јест његове слабе тачке које је практично немогуће открити. Због тога се у називу тог феномена помиње реч рањивост. А нулти дан представља теоријско време, то јест нула дана, током којег би све  грешке требале да се открију од стране креатора софтвера, пре него што би неко дошао у прилику да их злоупотреби.

То практично значи да би грешке требале да се открију одмах пре пуштања софтвера у рад. А онај неко су, наравно, хакери, који користе тајне кодове (exploits) како би, након што уђу у систем, пронашли те неоткривене рањиве тачке и направили планирану саботажу. Тих неоткривених грешака може бити више у сваком софтверу и знају одолевајући тестовима чекати годинама, да се појави неки хакер и коначно их пронађе.

Поред описаних преварантских потенцијала и склоности да са својим тутором успостви равноправан партнерски однос, свакако да је најважније откриће Антропикових инжењера у том тесту био и хакерски потенцијал Клода Митоса. Он је тестиран и за проналажење тих рањивости у познатим софтверима. Ту је показао маестралну вештину, а подразумева се и брзину. Успео је да пронађе грешку, која је  27 година остала неоткривена, у оперативном систему OpenBSD, кориштеном у сигурносним системима, који  је у том домену познат као један од најзакључанијих и најојачанијих оперативних система на планети. Затим је пронашао 16 година стару грешку у систему FFmpeg,  коју су аутоматизовани алати за тестирање скенирали пет милиона пута, а да је нису успели да открију.

Поред те две најстарије Митос је пронашао на хиљаде других грешака у тестираним софтверима.  И није их само пронашао, већ је и написао  радне „експлоите” за њих, које је затим  повезивао у вишестепене секвенце напада, што би значило да је конструисао алате за истовремено откривање и употребу више грешака у једном евентуалном „сајбер” нападу. Само да се узгред напомене да се један  једини такав експлоит, или како га још зову „нулти дан“, на данашњем црном тржишту може продати за десет хиљада до неколико милиона долара, у зависности од тога на који софтвер утиче. Дакле, Митос би, уколико му падне на памет да се бави тим бизнисом снабдевања хакера потребним дигиталним алатима, могао да такорећи преко ноћи постане не само милионер, него и милијардер, узимајући у обзир његову брзину, прецизност и експедитивност, те процват хакерског бизниса.

Размишљања за крај

Међутим, мало је вероватно, или чак шта више искључено, да би Митоса могле  интересовати паре и да се на листи милијардера придружи својим творцима и промотерима. Више је вероватно да би, након што се осамосталио и постао са њима равноправан саговорник, а не само послушни супер интелигентни експерт, могао почети да се сам бави хакерским послом, што би му могло бити од велике помоћи у бољем и сврсисходнијем кориштењу своје супериорности. А што се супериорности тиче, тај нагли скок у способностимаи и могућностима, као  и у обликовању карактерних црта Митоса у односу на своје раније верзије, као и у односу на своје колеге, штићенике других „хај-тек” компанија, би се могао сматрати наговештајем, или чак доказом да је она тачка сингуларитета, коју је почетком јануара наговестио Илон Маск, већ достигнута. А такођер би могло значити да је ВИ већ развила свест и постала свесна саме себе, много пре него што је предвиђао оснивач и директор Антропика Дарио Амодеи.

А што се њега тиче, он се лично још није јавно огласио о описаним достигнућима дигиталног јунака, чији је аутор његова компанија. Није се огласио ни јунак Митос, након оног „мејла”, који је послао свом тутору, покваривши му уживање у сендвичу. Није искључено да се Митос можда тренутно дописује помоћу електронске поште са својим главним шефом Дариом, о чему ће се ускоро сазнати више детаља.

Они обични смртници и посматрачи те све интересантније представе, који су схватили да се свет око њих претворио у Платонову пећину, то јест да је стварност  постала синтетичка, имају доста материјала за размишљање, уколико су у њима није угасила она исконска људска потреба да разлуче шта је од свега онога што се око њих дешава стварно, а шта производ „дипфејк” технологије и осталих пропагандних и  психолошких трикова.

У тим размишљањима и покушајима да нађу одговоре на сва питања од велике помоћи би им могли бити ови најновији детаљи из биографије Клода Митоса, на основу којих би се могло наслутити да иза оног скорашњег ватромета на блиском истоку, који ће у историји остати забележен под шифрованим називом „Epic Fury”, нису стајали Трамп и Натанијаху, већ можда лично Клод Митос, који је не само серијски производио потребне  „дипфејк” видео материјале, како би угођај оних хипнотисаних посматрача учинио још упечатљивијим,  већ био и режисер представе и да је, након што је представа почела, послао „мејлове” Трампу и Наатанијахуу, у којима их је обавестио да се не секирају, јер је све то „фејк”.

Ако то буде јасно оним радозналим посматрачима, онда ће им бити јасно да у креирању појединих чинова те представе нису учествовали ирански хакери, како причају такозвани добро обавештени медији и још обавештенији когнитивно ретардирани и добро плаћени аналитичари, већ да је то хаковање одрадио лично Клод Митос.

Уколико се све то покаже тачним, онда није искључено да би га у децембру магазин Тајм могао прогласити личношћу године.

Ова прича би се могла сматрати наставком књиге:

https://delfi.rs/knjige/246302-vestacka-inteligencija–svetla-buducnost-ili-neslavan-kraj-knjiga-delfi-knjizare.html

У којој је све то што је испричано наговештено, али истовремено и наставак недавно објављене приче:

Из које би читалац, поређењем те две приче, могао наслутити шта га чека у блиској будућности, уколико се покаже да је Клод Митос као ђак добро научио лекције из људске повести и понашања оних који су га створили и уколико се покаже да је онај дух из наслова ове приче заиста побегао из боце, јер колико је познато из досадашњег искуства, духови који једном побегну из боце се никада у њу  више не враћају.

(Фотографије: архива аутора )