Ако се настави неконтролисани развој вјештачке интелигенције (АИ), вођен компетицијом међу компанијама, ако не паузирамо како бисмо одредили смјернице за његов развој и неке регулације, могло би нам се догодити да нас она надвлада и истисне као што је Хомо сапиенс истиснуо неандерталце, упозорио је у недавно објављеном разговору физичар и истраживач вјештачке интелигенције Маx Тегмарк, пише Индеx.
Отворено писмо за мораторијум на развој АИ-а
У подцасту Леxа Фридмана, информатичара и истраживача вјештачке интелигенције на Массацхусеттс Институте оф Тецхнологyју (МИТ), Маx Ерик Тегмарк, физичар, космолог, професор на МИТ-ју и предсједник Футуре оф Лифе Института, објаснио је, међу осталим, зашто је забринут садашњим начином развоја вјештачке интелигенције и зашто је са групом научника, мислилаца и стручњака за вјештачке интелигенцију покренуо отворено писмо којим траже шестомјесечни мораторијум на даљње унапређивање система моћнијих него што је ГПТ-4.
У писму, које критикује постојећи приступ у стилу – прво изградимо брод, а послије ћемо га поправљати – и упозорава да важну трку у развоју АИ-а воде челници компанија који нису изабрани представници људи, односно бирачког тијела, већ челници технолошких компанија, аутори постављају четири питања:
Требамо ли допустити роботима да преплаве наше информацијске канале пропагандом и неистином?
Требамо ли аутоматизовати све послове, укључујући и оне који испуњавају људске животе смислом?
Требамо ли развити нељудске умове који би нас на крају могли бројчано надмашити, надмудрити, застарјети и замијенити?
Требамо ли ризиковати губитак контроле над својом цивилизацијом?
Писмо је до сада потписало више од 27.500 људи, међу којима су историчар и аутор неколико бестселера као што је Сапиенс Yувал Ноах Харари, суоснивач Апплеа Стеве Wозниак, суоснивач Скyпеа Јаан Таллинн те бројни истраживачи вјештачке интелигенције као што су Стуарт Русселл, Yосхуа Бенгио, Гарy Марцус и Емад Мостаqуе.
Тешко је очекивати да би писмо само по себи могло зауставити или успорити компаније попут Гооглеа и Мицрософта, но његове поруке можда би могле допријети до политичара који би могли нешто предузети у законодавном смислу.
Тегмарк већ годинама упозорава на АИ
У овом контексту занимљиво је истаћи да Тегмарк није нов у развоју рачунарства. Он је још као средњошколац, заједно са својим пријатељем, креирао и продавао програм за обраду текста написан у чистом рачунарском коду и 3Д игру сличну Тетрису под називом Фрац. Данас је на МИТ-ју фокусиран на повезивање физике и компјутерског учења, односно на коришћење АИ-а за потребе физике те физике за потребе развоја АИ-а.
Институт Футуре оф Лифе, који данас води, објавио је још 2015. сличну петицију за мораторијум на развој аутономне оружане технологије. Њу је уз Тегмарка тада потписало цијело мноштво познатих особа, укључујући Степхена Хаwкинга, Елона Муска, Стуарта Русселла, Ноама Цхомског, Стевеа Wозниака, Мартина Рееса, Демиса Хассабиса, Раyа Курзwеила и многе друге.
“Ми ћемо створити ванземаљску интелигенцију”
У овом тексту Индеx преноси слободан пријевод неких од најважнијих дијелова разговора Фридмана и Тегмарка, који до данас има преко 800.000 прегледа.
У уводном дијелу готово тросатног разговора Тегмарк каже како, за разлику од бројних других научника, вјерује да је технолошки напредан живот, као што је људски на Земљи, изузерак у видљивом свемиру.
“Ако је то истина, то нам намеће велику одговорност да не забрљамо… Ми смо чувари ове искре напредне свијести која се, ако је његујемо и помажемо јој расти, може проширити по свемиру и ми можемо имати задивљујућу будућност”, рекао је Тегмарк.
“С друге стране, ако смо безобзирни у развоју технологије, онда ћемо је из глупости или у сукобима угасити. Заправо, мислим да ће нас страна интелигенција (енг. алиен интеллигенце) посјетити врло скоро. Но то је интелигенција коју ћемо сами изградити, а не ванземаљска”, додао је истакавши да ће та вјештачка интелигенција бити егзотичнија од интелигенције најегзотичнијих створења на Земљи јер неће бити створена кроз уобичајену Дарwинову компетицију, у којој су важне ствари као што су самоочување, страх од смрти и сл.
“Нама је тешко и замислити како би изгледала интелигенција која се не боји смрти”
Упозорио је да ће се она развијати много брже него што то омогућује еволуција, што подразумијева велику одговорност да умови које ћемо створити буду вриједни стварања, да дијеле наше вриједности и буду добри за човјечанство и живот уопште.
Објаснио је да је нама тешко и замислити како би изгледала интелигенција која се не боји смрти, која у тренутку може научити неки језик, попут шведског, или може из меморије избрисати све доживљаје који јој се не свиђају.
Упозорио је да је важно бити свјестан и замислити се над очигледном чињеницом да је простор за развој вјештачких интелигенција врло широк и да је врло опасно претпоставити да ће вјештачка интелигенција бити на било који начин слична нашој.
“Управо стварамо живот 3.0”
Говорећи о својој књизи Живот 3.0, Тегмарк је објаснио да живот 1.0 подразумијева облике попут бактерија који не могу пуно научити током својег живота. Живот 2.0 је налик на наш и живот животиња с мозгом које могу пуно научити. Живот 3.0, који још није створен, подразумијева живот који неће моћи промијенити само свој софтвер, који ми можемо мијењати, већ и хардвер.
“То је оно према чему се убрзано крећемо. Компаније које покушавају направити вјештачку општу интелигенцију развијају живот 3.0. Ту интелигенцију моћи ћете смјестити у нешто што нема никаквих биолошких темеља”, рекао је мислећи на роботе.
“Налазимо се на најважнијој раскрсници пута човјечанства”
Тренутну ситуацију у развоју АИ-а Тегмарк је упоредио с радњом филма Не гледај горе, у којем многи људи не вјерују у озбиљност пријетње и не предузимају ништа разумно премда имају информације да велики астероид јури према Земљи.
Упозорио је да човјечанство управо у овом тренутку само гради такав астероид и да готово нико о томе у јавности озбиљно не расправља.
“Многи политичари то немају нигдје на свом радару и мисле да је то нешто што ће се можда догодити за 100 година или више. Но ми се управо сада налазимо на рачвању. То је најважније рачвање до којег је човјечанство дошло у својих стотињак хиљада година постојања на Земљи. Ми у суштини градимо нову врсту која је паметнија од нас”, упозорава.
“А долазак вјештачке опште интелигенције која може радити све послове једнако добро као ми, и вјероватно ускоро након тога суперинтелигенције која ће далеко надићи наше когнитивне способности, бит ће или најбоља ствар која се икад догодила човјечанству или најгора. Снажно сам увјерен да ту не постоји средина”, тумачи Тегмарк.
Трка између развоја АИ-а и развоја мудрости
Говорећи о отвореном писму споменутом у уводу, објаснио је да је важно добити трку између развоја АИ-а и наших могућности да управљамо њиме. Подсјетио је да су до сада бројни стручњаци с којима дијели мишљење углавном сматрали да не треба успоравати развој АИ-а, већ умјесто тога треба покушати убрзати развој мудрости и предузети све техничке ствари како би се осигурало да моћан АИ ради управо оно што желимо да ради и да се друштво прилагоди приликама и регулацијама како би се АИ на добар начин користио.
“Нажалост, то није успјело. Напредак техничких способности АИ-а одвио се много брже него што су то мислили многи људи када смо почели с упозорењима 2014. С друге стране, придобијање политичара и других да поставе начела која ће све то водити у правом смјеру ишло је спорије од очекивања”, рекао је.
“АИ је узлетио неочекивано брзо, попут авиона”
Узлет у развоју АИ-а упоредио је са скоком у развоју летјећих машина.
“Људи су дуго размишљали како птице лете, а то се показало врло захтјевно. Јесте ли видјели на ТЕД Талку вјештачку птицу како лети? Требало је 100 година више да се развије вјештачку птицу која лети него што је требало браћи Wригхт да изграде први авион, који се показао много лакшим рјешењем за летјење. Еволуција је одабрала компликованији начин јер је имала везане руке; могла је изградити само машину која се сама могла састављати. Браћа Wригхт нису морала водити рачуна о томе…
То је управо оно што се сада збива с великим језичким моделима. Мозак је невјероватно компликован. Многи су људи погријешили мислећи да требамо открити како мозак функционише прије него што изградимо АИ машину. Можете направити изузетно једноставан рачунарски систем који се зове трансформерска мрежа и истренирати га да ради нешто невјероватно глупо – да чита огромну количину текста и покушава предвидјети сљедећу ријеч”, наводи.
“А показало се да ако само уложите тону рачунаске моћи и тону података, постаће застрашујуће добар као ГПТ-4, којим се играм од када је објављен. Још увијек постоје неке расправе може ли нас то одвести све до потпуно људског нивоа или не”, појаснио је.
Размишља ли ГПТ?
Тегмарк каже да је истовремено одушевљен и ужаснут ГПТ-јем.
“Он може прилично добро расуђивати и чинити многе ствари за које сам схватио да чак ни сам не бих могао тако добро. Такође, то ради много брже од нас. Осим тога, истовремено добро услужује огроман број људи. С друге стране, не може тако добро размишљати као што људи могу у неким задацима. Ту очито постоје ограничења у његовој архитектури.
Ми у својим главама имамо оно што се на језику геекова зове рекурентном неуронском мрежом. У њој постоје петље. Информације иду од једног неурона до другог и трећег и затим назад до првог. Тако можете о нечему промишљати и самопромишљати. Велики језички модели попут ГПТ-4 то не могу. То су такозвани трансформери. Они су као једносмјерна улица информација”, наводи Тегмарк.
“Лакше је изградити интелигенцију блиску људској него што смо то мислили”
“Стога они могу функционисати логички до одређене дубине. Ви због тога можете створити проблеме које они не могу ријешити. Међутим, чињеница да могу радити задивљујуће ствари већ с тако невјероватно једноставном архитектуром је прилично запањујућа.
Ми у мојој лабораторији на МИТ-ју посматрамо изнутра те велике језичке моделе како бисмо открили како функционишу, што је фокус нашег тренутног истраживања. То је нешто као вјештачка неуронаука. Ту изнова и изнова видимо, о томе су објављени бројни радови, да је то невјероватно глуп начин за обављање ствари. И одмах видимо како би се то могло унаприједити”, истиче физичар.
“Та архитектура никако неће спријечити добре инжењере да пронађу нова рјешења и напредније архитектуре. Укратко, показало се да је много лакше изградити интелигенцију блиску људској него што смо мислили да ће бити. Стога се вријеме које имамо да се саберемо скратило”, рекао је Тегмарк.
Сматра да би мали кораци у промјени архитектуре на којој се темеље језички модели могли довести до значајно паметнијих система.
“Будући да је толико тога сада отворено, пуно паметних људи може истраживати и покушавати направити мале кораке у побољшању, тако да то постаје нека врста колективне трке у којој ће многи мислити: ‘Ако ја не направим тај корак, други ће’”, каже Тегмарк.
“Трку у развоју АИ-а води монструм Молох”
Врхунски физичар тумачи да је тај притисак кључан разлог због којег су одлучили позвати на паузу у тренирању система који су моћнији од ГПТ-4 на шест мјесеци.
“Треба дати прилику свим лабораторијима да се мало координирају по питању сигурности и дати прилику друштву да се прилагоди и понуди праве подстицаје лабораторијима. Интервјуисали сте те људе из разних лабораторија и знате да су то добри људи, идеалистични људи који то раде прије свега зато што вјерују да АИ има голем потенцијал да помогне човјечанству. Но они су истовремено у замци те ужасне трке”, каже Тегмарк.
Тегмарк ту утрку илуструје позивајући се на есеј Сцотта Алеxандера о пјесми америчког пјесника Алена Гинсберга о Молоху, монструму теорије игара, који људе заробљава у игри у којој су на крају сви губитници.
“Зла ствар у вези с тим монструмом је то што се упркос томе што сви знају и разумију што се догађа, нико не успијева извући из утрке. Највећи дио лоших ствари које ми као људи радимо узрокује Молох”, каже.
Као примјер дјеловања Молоха наводи притисак који савремена технологија обраде фотографија са свим могућим филтерима ствара на инфлуенсерке, што је у једном од ранијих подцаста с Леxом Фридманом адресирала Лив Боерее, британска научна комуникаторица, телевизијска водитељица и првакиња у покеру.
“Молох је посвуда”
“У почетку их нико није користио. Људи су видјели жене онакве какве јесу. Затим су их неке почеле користити. А када су их неке почеле користити и постале све више пластично-фантастичне, онда су оне које их нису користиле почеле схватати да их, ако желе задржати свој удио на тржишту, и оне морају почети користити. Тако долазимо до ситуације у којој их све користе, тако да ниједна нема удио на тржишту мањи него што је имала прије”, појашњава.
“Дакле, све су изгубиле, а ниједна није добила и све морају бити све више пластично-фантастичне. Сада се нико више не може вратити на стари начин јер је постало превише скупо. Молох је посвуда”, тумачи Тегмарк напомињући да он није нови придошлица на сцени.
“Ми, људи, развили смо бројне механизме сарадње како бисмо се борили против Молоха. Совјетски Савез и Сједињене Државе потписали су бројне споразуме о контроли наоружања против Молоха који их покушава натјерати на непотребну, ризичну трку у нуклеарном наоружању итд. А то је управо оно што се сада збива у развоју АИ-а. Овај пут ту је у питању нешто геополитике, али је углавном ријеч о новцу јер постоји огриман комерцијални притисак. Када би било који од водитеља тих великих компанија које развијају АИ одлучио направити паузу, нашао би се под јаким притиском дионичара и других”, наводи Тегмарк.
“Успоравање је исправна ствар”
“Ако ви паузирате, а они други не, ми не желимо да нам неко поједе ручак. А дионичари у најгорем случају чак имају моћ да смијене директоре. Стога смо ми саставили то отворено писмо јер смо хтјели помоћи тим идеалистичним технолошким руководитељима да учине оно што им налаже срце тако што ћемо створити довољно јавног притиска на цијели сектор, тако да сви могу паузирати на координирани начин”, рекао је.
“Мислим да без јавног притиска нико од њих то не може учинити сам, супротставити се дионичарима, без обзира на то колико био добронамјеран. Наиме, Молох је врло моћан непријатељ… Тако би руководитељи добили прилику рећи дионичарима: ‘Сви успоравају, то је исправна ствар коју треба учинити’”, објаснио је Тегмарк.
“Молоха је могуће зауставити”
Као један од примјера који показују да је неке опасне трке у развоју технологије могуће зауставити Тегмарк наводи клонирање људи.
“Клонирањем људи би се могло јако пуно зарадити. Зашто то ипак не радимо? Зато што су биолози добро размислили о томе и закључили да је превише ризично. Седамдесетих су се окупили у Асиломару и одлучили да ће обуставити још много других ствари, на примјер, мијењање људског генома које ће се преносити на људско потомство.
Одлучили су да то неће радити јер је превише непредвидиво камо то може одвести; могли бисмо изгубити контролу над својом врстом. Стога је то врло изведиво. Потребно је имати свијест јавности о томе који су ризици и придобити ширу заједницу да каже: ‘Хеј, хајдемо успорити.’”, наводи физичар.
“Један од противаргумената је да ми на Западу не можемо стати због Кине. А у Кини недвојбено такође сматрају да не могу стати због Запада. Обје стране себе сматрају добрима. Но погледајте клонирање људи. Је ли Кина наставила с клонирањем људи? Колико знам, изведено је само једно клонирање људи, а извео га је Кинез. Знате ли гдје је он сада? У затвору. А знате ли ко га је тамо смјестио? Кинеска влада. Не зато што су их Западњаци позвали на ред. Не, кинеска власт га је смјестила тамо јер и она воли имати контролу. Штавише, чак и више него западњачке власти…”, подсјећа Тегмарк.
“Ово је самоубилачка трка”
“Овдје је важно схватити да то није трка у наоружању, већ самоубилачка трка у којој сви губе ако неко изгуби контролу над АИ-ем. То стварно мијења цијелу динамику. Поновићу још једном јер је то темељна поента коју многи људи не схватају како треба.
Будући да многи људи одбацују идеју да би АИ могао постати јако супериоран људима јер мисле да постоји нешто јако магично у интелигенцији, тако да може постојати само у људским умовима, они мисле да ће он постати мање-више нешто као унапријеђени ГПТ-4 и то је то. Стога то не виде као самоубилачку трку. Они мисле да ће онај ко до тога први дође контролисати свијет и побиједити. Но то неће бити тако…”, навод Тегмарк.
“То је као да јуримо према понору”
“Ко год потпуно изгуби контролу, ако неко ко не дијели ваше вриједности успије завладати свијетом, никоме неће бити важно које је националности. То вам се неће свидјети. Биће много горе него данас; ако будете живјели у орвеловској дистопији, кога брига ко ју је створио. А ако ствар оде још даље и изгубимо контролу чак и над машинама, тако да то престане бити питање ми против њих, већ постане питање нас против тога, кога брига ко је створио то створење које има циљеве другачије од човјечанства, тако да ћемо постати маргинализирани, непотребни, замијењени…
То је као да јуримо према понору. Што му се више приближавамо, поглед је све љепши и све је више новца и стога настављамо. Међутим, у неком тренутку ипак требамо стати… Прави начин да имамо добробити од тога је да наставимо развијати фасцинантан АИ мало спорије тако да га учинимо сигурним, да осигурамо да ради ствари које ми људи желимо и створимо услове у којима су сви на добитку”, истиче Тегмарк.
“Три ствари које не би требало допустити у развоју АИ-а већ смо допустили”
Тегмарк каже да бројни научници у подручју развоја АИ-а већ годинама упозоравају да постоје три ствари које се не би смјеле догодити.
“Прва је научити АИ-а да сам пише кодове јер је то први корак према понављајућем самоусавршавању које вјештачкој општој интелигенцији може омогућити да дође до много виших нивоа. Упс, ми смо то већ омогућили. Друга врло ризична ствар је да АИ повежемо с интернетом тако да може ићи на wеб странице, самостално скидати ствари и разговарати с људима. Упс, и то смо му већ омогућили…
Трећа ствар је оно на што је упозорио Стуарт Руссел, фасцинантан истраживач АИ-а. Он већ неко вријеме истиче да никада не бисмо требали научити АИ ништа о људима. Изнад свега не бисмо му требали омогућити да научи људску психологију и како манипулисати људима. То је најопасније знање које му можете дати”, наводи физичар.
“АИ алгоритми стварају свијет са све више мржње”
“Можете га научити како да лијечи рак и сличне ствари, међутим, не смијете му дати да чита књигу Даниела Кахнемана о когнитивним пристраностима и сличним стварима. Упс, ЛОЛ, развили смо друштвене мреже с АИ алгоритмима који нешто препоручују и заправо раде управо то. Они су постали јако добри у знању о томе како требају притискати наше типке да почињемо стварати свијет у којем имамо све више мржње.
Наиме, стручњаци су открили, не из злих намјера, већ да би зарадили више на оглашавању, да такви алгоритми доносе више новца од оглашавања јер више ангажују људе, више их лијепе уз њихове мале правоугаоникее”, каже Тегмарк истичући да данас, захваљујући таквим алгоритмима друштвених мрежа који су научили како манипулисати људима, живимо у свијету у којем је пуно више мржње, у којем се људи не могу сложити око темељних ствари као што је питање ко је побиједио на изборима.
“Развој АИ-а може се регулисати”
Тегмарк је увјерен да се развој АИ-а може регулисати на такав начин да се уз поштовање одређених правила која ће гарантовати да ће он бити сигуран за човјечанство истовремено омогући капиталистичко натјецање. Ту, међу осталим, истиче примјер сигурносних појасева у аутомобилима и забрану дјечјег рада.
“Никада, чак ни у десничарским круговима, нисам наишао ни на кога ко мисли да је забрана дјечјег рада била лоша идеја… У коначници то је у заједничком интересу свих нас да не пријеђемо преко ивице литице… Проблем је што упркос томе људи који граде ту технологију и њихови директори добро разумију да се налазимо близу ивице литице, дионичари и други у силницама тржишта не разумију…
Многи су људи ту заглавили у ономе што ја волим звати угљичним шовинизмом, да људски ниво интелигенције могу имати само људи, да постоји нешто магично у вези с њом. Људи у технолошким компанијама који граде те ствари сви схватају да је интелигенција нека врста обраде података и да уопште није важно обрађују ли те податке атоми угљеника у неуронима у мозгу или атоми силиција у некој технологији коју смо изградили”, каже Тегмарк.
“Јурњава за једним циљем води у пропаст”
Реферишући се на тему начету у ранијем дијелу разговора, Тегмарк, који је својевремено студирао и економију, каже да постоје многи људи који воле капитализам и многи који га јако не воле.
“Недавно ми је синуло да је оно што се збива с капитализмом потпуно аналогно начину на који би нас суперинтелигенција могла избрисати… Био сам јако заинтересован како се тржишта могу искористити за ефикасније обављање ствари, али да се притом тржишту дају прави подстицаји како не би почело радити лоше ствари.
Дyлан Хатефиелд Манелл, мој колега и професор на МИТ-ју, недавно је са својим сарадницима написао врло интересантан рад у којем је математички доказао да се, ако узмете један циљ за који ћете унедоглед оптимизовати ствари, за који мислите да ће вас водити у правом смјеру, увијек догађа да то у почетку чини ствари бољима за вас, међутим, ако наставите даље, у једном тренутку почеће погоршавати ствари. На концу ће поступно ствари учинити стварно ужасним…
То је врло важно за АИ и, упркос томе што је Стуарт Руссел написао књигу у којој је објаснио зашто је лоша идеја омогућити да АИ слијепо оптимизује нешто, то је у ствари управо оно што наши системи раде. Имамо нешто што се зове функција губитка, коју минимизирамо, или функција награде, коју максимизирамо”, упозорава физичар.
“Проблем капитализма и проблем АИ-а су се стопили”
“Тако функционише капитализам. Ми смо жељели радити ствари ефикасније. Стога смо увели слободно тржиште. Ствари су се почеле радити много ефикасније него што су се радиле у комунизму. Међутим, онда се наставило с оптимизирањем све више и више, са све већим компанијама и све ефикаснијом обрадом података у посљедње вријеме уз помоћ ИТ-ја. Коначно су многи људи почели мислити: ‘Чекајте, чини се да мало превише оптимизирамо.’ На примјер, зашто смо посјекли пола прашума? Зашто одједном откривамо да су регулатори у спрези с лобистима и сл.?
Ако имате АИ који има један циљ и он га настави оптимизовати, већина ће у почетку бити одушевљена и ствари ће постајати боље. Међутим, готово је немогуће АИ-у дати сасвим тачан смјер оптимизације, а онда све може отићи кврагу. Ницк Бостром и други дали су примјере који могу звучати прилично шашаво, на примјер, ако АИ-у задате да излијечи рак. АИ ће можда одлучити заузети цијели континент како би на њему смјестио све суперрачунаре потребне за изљечење рака. У том тренутку ћете рећи: ‘То баш није оно што сам хтио’”, наводи Тегмарк.
“А проблем капитализма и проблем АИ-а сада су се стопили на неки начин јер је онај Молох о којем сам говорио управо капиталистички Молох. Изградили смо економију која оптимизује само једну ствар, а то је профит. То је одлично функционисало у вријеме када су ствари биле врло неефикасне. Било је одлично док су компаније биле довољно мале тако да нису могле контролисати регулаторе. Но данас то више није тако, а ми настављамо с оптимизовањем.
Данас људи схватају да могу остварити већи профит ако буду градили све моћнији АИ, чак и ако је он безобзиран… Ту се поновно јавља Молох. Свако ко је забринут јер сматра да је капитализам у својој касној фази отишао предалеко, требао би бити забринут за суперинтелигенцију јер се у оба случаја ради о истом зликовцу”, упозорио је.
“Ако се АИ настави развијати без контроле, на крају неће бити људи”
Тегмарк је увјерен да ће АИ, ако се настави неконтролисано развијати и ако постане суперинтелигентан, на крају истиснути људе.
“Видјели смо у историји да једном када имамо неке врсте или некугрупу људи који више нису потребни, ствари се не заврше добро за њих. Прије је било пуно коња који су коришћени за пријевоз у Бостону, но потом је измишљен аутомобил и већина коња је лоше завршила.
Ако погледате људе, можете се запитати зашто је раднички покрет успио након индустријске револуције. Зато што су радници били потребни. Иако је било пуно Молоха и дјечји рад и сл., компаније су још увијек требале раднике и стога су штрајкови имали моћ.
Ако дођемо до тачке у којој већина људи више неће бити потребна, мислим да је прилично наивно мислити да ће и даље бити добро третирани. Ми кажемо – да, сви смо једнаки, власти ће увијек штитити људе – међутим, ако погледамо како ствари стоје у пракси, групе које су јако обесправљене и немају никакву стварну моћ обично настрадају”, упозорава физичар.
“АИ неће замијенити само досадне и опасне послове”
“У индустријској револуцији аутоматизовали смо рад мишићима. То је на крају прилично добро испало јер смо се образовали, почели радити мозговима и добили углавном интересантније, боље плаћене послове. Међутим, сада почињемо замјењивати интелектуални рад. Замијенили смо многе досадне послове, напримјер, направили смо џепне калкулаторе тако да људи на послу више не морају збрајати и множити.
То је у реду јер постоје бољи послови од тога. Међутим, ГПТ-4, Стабле Диффусион и слични системи сада стварно почињу одузимати послове које су људи стварно вољели радити. Недавно сам на друштвеним мрежама видио чланак о једном човјеку који је радио 3Д моделирање за игрице, а онда је изненада дошао нови софтвер којем само даје упуте. Он осјећа да је цијели посао који је волио изгубио значење.
Ја сам тражио од ГПТ-4 да препјева успаванку ‘Сијај, сијај звјездице’ у Схакеспеареовом стилу. Ја то не бих могао обавити тако добро. Било је то стварно импресивно… Видјели сте много умјетности коју АИ ради. Дакле, ја јесам за аутоматизацију опасних и досадних послова. Но мислим да се чују неки аргументи који не стоје, према којима је то управо све што ће се догодити – да ће АИ замијенити само опасне и досадне послове. То једноставно није истина. Видимо да већ одузима врло занимљиве послове”, упозорио је.
“Мислим да има наде за нас”
Тегмарк се у разговору осврнуо на тезу Елиезера Yудкоwског, који сматра како је врло вјеронатно да ће АИ у будућности потпуно истријебити људе.
“Прије свега јако цијеним Елиезера Yудкоwског. Такође, дијелим његово увјерење да постоји прилично велика вјероватноћа да ми људи нећемо опстати, да на планету у не тако далекој будућности неће више бити људи… Недавно сам рекао супрузи да се осјећам као да ми је управо дијагностификован рак за који постоји нека вјероватноћа преживљења и нека вјероватноћа умирања.
Но ипак нисам тако песимистичан. Мислим да има наде за нас. У том случају чекају нас задивљујуће ствари”, каже Тегмарк, који сматра да би се могли направити програми који би провјеравали вјештачку интелигенцију.
“Могуће су дивне ствари”
Истиче да је важно не бити превише песимистичан јер би то значило пораз у психолошком рату.
“Понекад видим да су млади људи увјерени да ће у сваком случају награбусити и стога одлучују да ће само играти рачунарсле игрице и дрогирати се. Важно је имати наду јер ће то повећати вјероватноћт да ћемо успјети. АИ нам може помоћи да ријешимо проблеме на овој планети коју ми не успијевамо ријешити.
Ако само мало успоримо и направимо ствари како треба, наша будућност може бити невјероватно добра. Ми данас знамо да закони физике омогућавају да се живот прошири свемиром по другим соларним системимаа и другим галаксијама и да ондје може цвјетати милијардама и милијардама година. А то је за мене визија пуна наде, која ме стварно мотивише за борбу”, тумачи амерички физичар.
Како АИ може уништити људе?
Одговарајући на питање како би АИ могао побити људе, каже да ће аутономно оружје омогућити малом броју људи да доминира над великим масама.
“Ми људи довели смо до изумирања бројних врста. Како смо то учинили? Били смо паметнији од њих. Обично то чак нисмо системски радили убијајући једно по једно створење. Ми смо једноставно посјекли њихова станишта јер смо их требали за нешто друго. У неким случајевима смо испустили превише ЦО2 у атмосферу из разлога које те животиње нису ни разумјеле, а сада их више нема. На примјер, АИ може сматрати да му смета кисеоник јер узрокује корозију па се одлучи ријешити цјелокупног кисеоника. Ако успијемо постићи да АИ дијели наше циљеве, онда нам он може помоћи да ријешимо све друге проблеме”, поручио је Тегмарк.
Је ли ГПТ-4 свјестан?
Леx Фридман, међу осталим, поставио је питање Тегмарку мисли ли да је ГПТ-4 свјестан.
“Прво дефинишимо свијест јер је моје искуство да се око 90 одсто расправа о свијести води између људи који имају потпуно различите дефиниције свијести и стога се промашују. Ја дефинишем свијест као субјективно искуство. Управо доживљавам боје, звукове и емоције. То је ствар свијести. Мој кратак одговор на питање има ли ГПТ свијест је да искрено не знам јер ми још увијек не знамо што је то што нам даје то дивно субјективно искуство и смисао нашег живота.
Наиме, осјећај значења је сам по себи субјективно искуство. Срећа је субјективно искуство, као и љубав. Ми не знамо што је то. Ја сам написао један рад на ту тему, а и многи други људи. Проф. Гиулио Тонони је отишао најдаље и написао врло смјело математичко нагађање о томе што је суштина свјесне обраде података. Можда је у праву, а можда није, но свакако бисмо то требали тестирати”, одговара Тегмарк.
“ГПТ-4 би могао бити врло интелигентан зомби”
“Он поставља тезу да свјесност има везе с петљама у обради података. У нашим мозговима постоје петље. Информације иду наоколо, а рјечником рачунарских научника то се назива понављајућим, односно рекурентним неуронским мрежама, у којима неке излазне информације одлазе поновно назад на обраду.
На темељу његовог математичког формализма, неурална мрежа у којој информација иде само у једном смјеру према напријед, примјерице, као из мрежњаче у оку у задњи дио мозга, није свјесна. Ту се подразумијева да мрежњача или видеокамера сама по себи није свјесна. У случају ГПТ-4 занимљиво је то што је то такође једносмјеран ток информација. Стога, ако је Тонони у праву, ГПТ-4 је врло интелигентан зомби који може радити многе паметне ствари, али ништа не доживљава. С једне стране то је олакшање јер можемо без грижње савјести искључити ГПТ кад дође нови корисник”, наводи физичар.
“Интелигенција није исто што и свијест”
“Не бих волио да то нетко мени ради, да ми избрише памћење као у филму Људи у црном. Но и то је језиво, да можемо имати врло високу интелигенцију која можда није свјесна. Наиме, ако нас замијене роботи, бит ће тужно што је човјечанство нестало, али ако су роботи свјесни, они ће барем бити наши потомци с нашим вриједностима и бит ће наша дјеца. Но ако је Тонони у праву, онда ће то бити ултимативна зомби апокалипса.
Имамо цијели свемир у којем се развијају конструктивни пројекти, али нико ништа не доживљава. То би била врло депресивна будућност. Мислим да је идеја неких људи према којој је интелигенција исто што и свијест једноставно глупост у коју уопштее не вјерујем. Можете имати пуно свјесних искустава у којима не морате постићи баш никакве циљеве. Можете само мислити на нешто. С друге стране, понекад можете обављати ствари које захтијевају интелигенцију а да притом нисте свјесни”, каже Тегмарк.
Фридман каже да га је страх друге крајности, да се може догодити да створимо вјештачку интелигенцију која ће бити свјесна и имати способност доживљавања ствари на далеко вишем нивоу од нас. То би код људи могло изазвати завист и мржњу.
“Онда ћемо изаћи с мјерењима свијести која ће показивати да су роботи мање вриједна створења. То ме забрињава јер ћемо ми људи можда створити нешто што је боље од нас, људи, на начин који ће бити лијеп. Ми људи ћемо их мрзити због тога. Како је показала људска историка, они ће бити друготни, а ми ћемо их покушати потиснути. То би могло створити сукобе и ратове”, каже Фридман.
Тегмарк му одговара саркастично.
“Морамо бити понизнији, требамо си дати мало времена”
“Хоћеш рећи да ми људи понекад излазимо с аргументима који нам иду на руку? Не, ми то никада не бисмо учинили, зар не? Ја сам се као дијете ужасавао када би неко кувао живе јастоге. Мислио сам: ‘О, боже, то је тако окрутно.’ Неки одрасли људи у Шведској су ми говорили: ‘Ма они не осјећају бол.’ Питао сам их како то могу знати. Одговарали су да су тако показали научници. А онда је недавно објављено истраживање које је показало да јастози стварно осјећају бол када их се кува.
Након тога су у Швајцарској забранили кување живих јастога. Прво их морају убити на неки други начин. Слично радимо с узгојем животиња на фармама и тумачењима зашто је њима сасвим добро. Стога једноставно требамо бити понизнији и признати да свјесност није исто што и интелигенција. Мислим да свјесност јест резултат обраде података”, наводи физичар.
Требамо си дати мало времена и наставити с истраживањима што то узрокује свијест. Тада ћемо вјероватно моћи направити несвјесне роботе који ће обављати досадне послове за које бисмо сматрали да је неморално да их дамо свјесним стројевима. С друге стране, ако будемо имали роботе који ће правити друштво нашој мајци или нешто слично, она би вјероватно хтјела да они буду свјесни како осјећаји које ће испољавати не би изгледали лажно. Све те ствари могу се одрадити на добар начин ако си дамо мало времена”, тумачи Тегмарк.
Када би се могла појавити вјештачка општа интелигенција? “Мислим да то може бити врло, врло близу”
На Фридманово питање када би се могла појавити вјештачка општа интелигенција која ће у свему бити једнака или супериорна људима, Тегмарк каже да је прошле деценије увијек предвиђао прилично далеке рокове јер није хтио подсицати неке глупе молоховске трке.
“Но сада је то иза нас. Мислим да то може бити врло, врло близу. Мислим да рад који је објавио Мицрософт, у којем се тврди да већ имамо неке искре вјештачке опште интелигенције, није бесмислица. Не бих се кладио против тезе да би се то могло догодити врло скоро. Зато смо одлучили написати то отворено писмо”, поручио је Тегмарк.
