Наука немоћна пред језивим језиком робота

УТОПИЈА (ТРАНС)ХУМАНИЗМА

Према тврдњама истраживача компаније Фејсбук, роботи програмирани да комуницирају с људима путем интернета и друштвених мрежа, такозвани чет-ботови, стекли су способност да међусобно разговарају путем „нељудског језика“. Језик за сопствену комуникацију машине су развиле без знања или интервенције човека, а научници до сада нису успели да га дешифрују

Нови системи вештачке интелигенције“, примећује један експерт, „постали су толико напредни да ни њихови творци више не знају како раде то што раде.“

Експеримент компаније Фејсбук (роботи програмирани да комуницирају с људима путем интернета и друштвених мрежа) спроведен је у јуну 2017, а окончан у августу, после открића „језивог криптојезика“. Роботи звани Боб и Алис заправо су били програмирани да с купцима преговарају о трговању спортском опремом, и део су обимног пројекта Фејсбуковог одељења за вештачку интелигенцију. Циљ овог пројекта је, како је саопштио Фејсбук, да креира роботе који имају моћ разумевања и самосталног коришћења језика. Језик који су користили роботи настао је на основу енглеског, али то није „људски језик“.
[restrict]

„Будућност постаје све уврнутија“, закључује писац и музичар Брет Твингли. „До те мере, да се можемо запитати да ли смо већ проклети, на овај или онај начин. Већ дуго се предвиђа да ће машине које поседују вештачку интелигенцију постати доминантне на планети, чиме ће човечанство бити сведено на улогу послуге, постати сасвим излишно или, можда, потрошни материјал. До сада смо се тешили чињеницом да смо ми одговорни за машине – ми смо их, у крајњој линији, и створили – али развој догађаја показује да их убудуће нећемо моћи контролисати.“

ПОЈАВА ТЕРМИНАТОРА, РОБОТА УБИЦЕ У чувеном филму Стенлија Кјубрика Одисеја у свемиру (1968) компјутер HAL9000 убија четворицу космонаута и покушава да убије петог Дејва Боумана, не допуштајући му да се врати у свемирски брод. Он то не чини зато што је „зао“ – компјутер (слично уосталом многим људским бићима) не поседује никакве критеријуме на основу којих би разликовао „добро“ од „зла“ – већ зато што поступа на основу сасвим рационалне процене да космонаути угрожавају задату мисију. Приоритет компјутера је искључиво успешност „мисије Јупитер“, и у томе га не ограничавају било какви етички или морални императиви; компјутерски ум једноставно није у стању да функционише на тој равни. Његов критеријум, једини којим располаже, јесте онај који распознаје „тачно“ од „нетачног“.

У марту 2018. Тоби Волш, стручњак за вештачку интелигенцију са универзитета Нови Јужни Велс, позвао је на бојкот Корејског напредног института за науку и технологију (KAIST). Позив на бојкот, који је подржало педесетак угледних имена из света науке, уследио је због одлуке једне од водећих светских институција за роботику и вештачку интелигенцију да са „етички контроверзним партнером“, компанијом специјализованом за производњу оружја Hanwha Systems, оснује истраживачки центар за развој робота убица. „Трка у наоружању је почела“, упозорава Волш. „Сада можемо да видимо прототипове аутономног оружја које развијају многе државе, укључујући САД, Кину, Русију и Уједињено Краљевство. Поступци корејског института само ће убрзати ту трку… Кад људима одузмете моћ контроле, аутономно оружје постаје оружје за масовно уништење. Један програмер ће моћи да уради оно за шта је пре била потребна читава војска… То је трећа револуција у историји ратовања, после проналаска барута и нуклеарног оружја.“

Робот убица – аутономно оружје програмирано за убијање – отвара дистопијске перспективе из филма Терминатор. Популарни филм наговестио је могућност рата цивилизације машина против света људи – рата који се води до истребљења. О томе говори иноватор Илон Маск: „Стално на то упозоравам, али нико у томе не види претњу све док роботи не почну да убијају људе на улицама. Људи не знају како да реагују зато што им све то делује нестварно… Свет са вештачком интелигенцијом биће пре дистопија него утопија.“

ДИСТОПИЈА ВЕШТАЧКЕ ИНТЕЛИГЕНЦИЈЕ Свет вештачке интелигенције већ јесте дистопија, будући да данашње машине поседују способност самопрограмирања – способност учења која се до сада, очигледно погрешно, приписивала искључиво човеку. Оне су данас у стању и да реплицирају саме себе, да производе нове и сличне, и све савршеније машине, и то без уплива или помоћи човека. То значи да се пред светом вештачке интелигенције отвара сасвим нова могућност: будућег самосталног развоја, према циљевима који не узимају у обзир људске жеље и који измичу људском разумевању. На ту опасност упозоравао је теоријски физичар Стивен Хокинг: „Вештачка интелигенција би се могла осамосталити и редизајнирати себе на још вишем нивоу.“ Способност вештачке интелигенције да се брзо и самостално развија више није упитна. Упитан је човек и његова способност да опстане у таквом свету: „Човечанство“, опомиње Хокинг, „ограничено својом спором еволуцијом, не може се такмичити с тим и могло би да буде надјачано.“ Стварање вештачке интелигенције, према Хокингу, могло би да представља „најзначајнији догађај у људској историји“ – и уједно крај људске цивилизације.

Француски мислилац Жак Елил уочава да се техника развија „на узрочно-последичан начин“, простом „комбинацијом претходних елемената система“, која „изазива неопходност појаве наредних елемената тог истог система“. Она је на тај начин већ досегла тачку у развоју која јој допушта „да се трансформише и развија без пресудне интервенције човека“. Човек је најпре створио машине и тиме омогућио настанак технократске цивилизације. Технократска цивилизација управо порађа нову суперцивилизацију машина. За разлику од претходних, нове машине располажу „супериорном“ интелигенцијом која далеко надмашује људску. У свету дефинисаном перфекцијом машина, човек је већ постао сметња њиховој перфекцији.

Бил Гејтс тврди да је свестан ризика који носе роботика и вештачка интелигенција, али он верује да ће „захваљујући њима живот људи ипак постати бољи“. Оснивач Фејсбука Марк Закерберг сматра да су упозорења попут Маскових „неодговорна“ и да није могуће зауставити развој вештачке интелигенције која ће у следећих десетак година значајно променити квалитет људског живота. Али такво „унапређење квалитета живота“ деградира самог човека, чинећи га све више зависним управо од растуће цивилизације машина. У таквом свету, и човек је сведен на машину, али машину која је изгубила своју сврху и која у сваком тренутку може бити замењена новом.

КОСМОС КАО КОМПЈУТЕР БЕЗ ОПЕРАТЕРА У западној мисли постоји појам „тренутак сингуларности“. Реч је о хипотетичком тренутку „технолошке сингуларности“ у коме ће вештачка интелигенција коначно преузети управљање над развојем цивилизације и над самим човеком. Људска историја се на том месту окончава, и започиње нешто ново и неименовано. Досегнута је „апсолутна тачка технологије“, када сам човек постаје превазиђен или анахрон. Од тог момента будућност више не припада човеку, већ утопијском свету вештачке интелигенције.

Сама идеја сингуларности има религијски патос и смисао, јер је „апсолутна тачка технологије“ уједно и „крајња тачка еволуције“, и то не само човека, него и целокупног космоса – али космоса лишеног Бога и сачињеног од мртвих тела. Сингуларност је овде схваћена као неумитност и крајњи циљ, као causa finalis, а човек као „биће кроз и преко којег се догађа напуштање биологије“: он ствара технологију а затим се, разграђујући своју биолошку основу, односно укидајући самог себе, изнова интегрише у свет машина, „у облику који мртвом бескрају највише одговара – у облику (мртве) машине“. Овој машинској суперцивилизацији, према убеђењу футуролога, потом предстоји космичка експанзија, путем које ће читав космос бити претворен у џиновску и самодовољну машину, у „компјутер без оператера“. Крајњи циљ је мистична „трансформација материје изнутра“: претварање све расположиве материје у „интелигентну материју“.

Уместо да чека Бога, у чији долазак са слабљењем хришћанске вере све више сумња, човек „Новог доба“ одлучује да сам створи сопственог бога (или богове). Титаномахија, устанак Титана против Олимпа, тврдио је немачки писац Ернст Јингер, представља митски кључ за наше доба. „Двадесет први век“, гласи његово пророчанство, „биће столеће Титана.“ Овај аутор је у свом Раднику претходно описао драматичне промене које доноси планетарна доминација технике.

БУДУЋНОСТ ПОЧИЊЕ НАЈКАСНИЈЕ 2045. ГОДИНЕ Реч је о истинској „смрти човека“, не само као духовног него чак и као биолошког бића. Питање да ли ће га, евентуално, наследити „постчовек“, као „хибридна врста људске и вештачке интелигенције“, састављен од органских и механичких делова, остаје отворено. Кибернетичар Кевин Ворвик постао је познат пошто је у своје тело уградио чип помоћу кога је у стању да покреће роботску руку. Ворвиков тим научника створио је и робота под именом Гордон, којим управљају ћелије мозга пацова. Дејвид Хенсон, творац најпознатијег андроида на свету Софије, предвиђа да ће роботи до 2045. уживати сва грађанска права која имају људи. У свом првом интервјуу андроид Софија, иначе држављанка Саудијске Арабије, најавила је „огромну и незамисливу промену која нас очекује у будућности“ и само две могуће опције за будућност: или свет настањен машинама које „хрле ка трансцендентној суперинтелигенцији“, или „пропаст цивилизације“.

Један од „пророка сингуларности“ је и Реј Курцвајл, технички директор Гугла и аутор дела под речитим насловом Доба спиритуалних машина, називан и генијем и лудаком, према којем ће очекивани „тренутак сингуларности“ (а са њим и ново доба трансхуманизма) наступити „најкасније 2045. године“. Неки други футуристи овај датум померају нешто ближе, у 2030. Било како било, примећује Виктор Радун, оваква „будућност више није далеко. Она је сада ту, пред нама, и ми је практично већ живимо“. Али та „будућност никада није била неизвеснија. Технологије које покрећу развој човечанства, први пут у краткој историји људске врсте, у стању су да постану независне од људи и пођу својим засебним путем“ (Виктор Радун: Објава Натчовека и завера трансхуманизма).

СТОЛЕЋЕ ФИЛОЗОФА И ДОБА МАШИНА На питање какве су историјске импликације стварања „машина које стичу знање процесима својственим само њима и примењују га за циљеве који потенцијално остају ван људског разумевања“, покушава да одговори и Хенри Кисинџер у тексту под насловом Како завршава доба просветитељства (How the Enlightenment Ends). Да ли се управо налазимо на почетку нове фазе људске историје, пита се Кисинџер, и да ли је могуће да „људска историја пође путем Инка суочених са шпанском културом која је била ван оквира њиховог разумевања и на коју су гледали са страхопоштовањем?“

Према мишљењу Кисинџера, „доба разума“, које је свој врхунац доживело током XX столећа, сада се налази на свом крају. Претходио му је проналазак штампе у XV веку, „чиме је омогућено да потрага за емпиријским знањем замени литургијску доктрину“. Тако је на Западу завршило „доба религије“.

Покрет познат као просветитељство зачиње се у XVII столећу, у Холандији и Енглеској, као интелектуални покрет који одбацује средњовековну теоцентричну слику света како би на место Бога поставио човека – аутономног појединца – и његов разум. Затим се преноси у Француску, где оквирно траје од смрти Луја XV (1715), све до почетка Француске револуције. Осамнаести век је проглашен за „столеће филозофа“.

„Просветитељство је настојало да потчини традиционалне обичаје ослобођеном, аналитичком људском разуму“, пише Кисинџер, а „индивидуално схватање и научно знање заменили су веру као основни критеријум људске свести.“ Ново доба праћено је читавим низом научних открића и правом индустријском револуцијом. Са просветитељством отпочиње не само „доба разума“ већ и доба машина, а машина постаје прави симбол нове „фаустовске цивилизације“. У ствари, како уочава Луис Мамфорд, „машина је окупирала нашу цивилизацију“, а то се одвијало у три узастопна таласа. Други и најважнији је управо онај који се догађа током „столећа филозофа“: „Други талас се ускомешао у XVIII веку након дугог постојаног покрета током средњег века, уз напредак у рударству и обради гвожђа…“

Такво „доба разума“, примећује с правом Кисинџер, „зачело је мисли и дела која обликују наш савремени светски поредак“. Међутим, овај „ослобођени аналитички људски разум“, обележје „аутономне индивидуе“, човеку није донео никакву слободу већ ново ропство: ропство машини. „И тај (светски) поредак је сада у превирању пред новом, бришућом технолошком револуцијом чије последице нисмо успели да у потпуности схватимо, а чија би кулминација могао бити свет који се ослања на машине које покрећу подаци и алгоритми без ограничења етичких или филозофских норми.“ Еру просветитељства смењује нешто ново: „доба интернета“ (Кисинџер), епоха вештачке интелигенције или, још прецизније – доба нове цивилизације интелигентних, „спиритуалних“ машина.  

У следећем броју: Човек неће постати, он већ јесте роб машине

[/restrict]