Према тврдњама истраживача компаније Фејсбук, роботи програмирани да комуницирају с људима путем интернета и друштвених мрежа, такозвани чет-ботови, стекли су способност да међусобно разговарају путем „нељудског језика“. Језик за сопствену комуникацију машине су развиле без знања или интервенције човека, а научници до сада нису успели да га дешифрују. Реч је, наводно, о „хипер-језику вештачке интелигенције“ (AI hyperlanguage). „Нови системи вештачке интелигенције“, примећује један експерт, „постали су толико напредни да ни њихови творци више не знају како раде то што раде“.
Експеримент је спроводен у јуну 2017, а окончан је у августу, после открића „језивог крипто-језика“. Роботи звани Боб и Алис заправо су били програмирани да с купцима преговарају о трговању спортском опремом, и део су обимног пројекта Фејсбуковог одељења за вештачку интелигенцију. Циљ овог пројекта је, како је саопштио Фејсбук, да креира роботе који имају моћ разумевања и самосталног коришћења језика. Језик који су користили роботи настао је на основу енглеског, али то није „људски језик“.
„Будућност постаје све више уврнута“, закључује писац и музичар Брет Твингли. „До те мере, да се можемо запитати да ли смо већ проклети, на овај или онај начин. Већ дуго се предвиђа да ће машине које поседују вештачку интелигенцију постати доминантне на планети, чиме ће човечанство бити сведено на улогу послуге, постати сасвим излишно или, можда, потрошни материјал. До сада смо се тешили чињеницом да смо ми одговорни за машине – ми смо их, у крајњој линији, и створили – али развој догађаја показује да их убудуће нећемо моћи контролисати“.
ПОЈАВА ТЕРМИНАТОРА, РОБОТА-УБИЦЕ
У чувеном филму Стенлија Кјубрика Одисеја у свемиру (1968.) компјутер HAL9000 убија четворицу космонаута и покушава да убије петог, Дејва Боумана, не допуштајући му да се врати у свемирски брод. Он то не чини зато што је „зао“ – компјутер (слично уосталом многим људским бићима) не поседује никакве критеријуме на основу којих би разликовао „добро“ од „зла“ – већ зато што поступа на основу сасвим рационалне процене да космонаути угрожавају задату мисију. Приоритет компјутера је искључиво успешност „мисије Јупитер“, и у томе га не ограничавају било какви етички или морални императиви; компјутерски ум једноставно није у стању да функционише на тој равни. Његов критеријум, једини којим располаже је онај који распознаје „тачно“ од „нетачног“.
У марту 2018, Тоби Волш, стручњак за вештачку интелигенцију са универзитета Нови Јужни Велс, позвао је на бојкот Корејског напредног института за науку и технологију (KAIST). Позив на бојкот, који је подржало педесетак угледних имена из света науке, уследио је због одлуке једне од водећих светских институција за роботику и вештачку интелигенцију да са „етички контроверзним партнером“, компанијом специјализованом за производњу оружја Hanwha Systems, оснује истраживачки центар за развој робота убица. „Трка у наоружању је почела“, упозорава Волш. „Сада можемо да видимо прототипове аутономног оружја које развијају многе државе, укључујући САД, Кину, Русију и Уједињено Краљевство. Поступци корејског института само ће убрзати ту трку… Кад људима одузмете моћ контроле, аутономно оружје постаје оружје за масовно уништење. Један програмер ће моћи да уради оно за шта је пре била потребна читава војска… То је трећа револуција у историји ратовања, после проналаска барута и нуклеарног оружја“.
Робот убица – аутономно оружје програмирано за убијање – отвара дистопијске перспективе из филма Терминатор. Популарни филм наговестио је могућност рата цивилизације машина против света људи – рата који се води до истребљења. О томе говори иноватор Илон Маск: „Стално на то упозоравам, али нико у томе не види претњу све док роботи не почну да убијају људе на улицама. Људи не знају како да реагују зато што им све то делује нестварно… Свет са вештачком интелигенцијом биће пре дистопија него утопија“.
ДИСТОПИЈА ВЕШТАЧКЕ ИНТЕЛИГЕНЦИЈЕ
Свет вештачке интелигенције већ јесте дистопија, будући да данашње машине поседују способност самопрограмирања – способност учења која се до сада, очигледно погрешно, приписивала искључиво човеку. Оне су данас у стању и да реплицирају саме себе, да производе нове и сличне, и све савршеније машине, и то без уплива или помоћи човека. То значи да се пред светом вештачке интелигенције отвара сасвим нова могућност: будућег самосталног развоја, према циљевима који не узимају у обзир људске жеље и који измичу људском разумевању. На ту опасност упозоравао је теоријски физичар Стивен Хокинг: „Вештачка интелигенција би се могла осамосталити и редизајнирати себе на још вишем нивоу“. Способност вештачке интелигенције да се брзо и самостално развија више није упитна. Упитан је човек и његова способност да опстане у таквом свету: „Човечанство“, опомиње Хокинг, „ограничено својом спором еволуцијом, не може се такмичити с тим и могло би да буде надјачано“. Стварање вештачке интелигенције, према Хокингу, могло би да представља „најзначајнији догађај у људској историји“ – и уједно крај људске цивилизације.
Француски мислилац Жак Елил уочава да се техника развија „на узрочно-последичан начин“, простом „комбинацијом претходних елемената система“, која „изазива неопходност појаве наредних елемената тог истог система“. Она је на тај начин већ досегла тачку у развоју која јој допушта „да се трансформише и развија без пресудне интервенције човека“. Човек је најпре створио машине и тиме омогућио настанак технократске цивилизације. Технократска цивилизација управо порађа нову суперцивилизацију машина. За разлику од претходних, нове машине располажу „супериорном“ интелигенцијом која далеко надмашује људску. У свету дефинисаном перфекцијом машина, човек је већ постао сметња њиховој перфекцији.
Бил Гејтс тврди да је свестан је ризика кога носе роботика и вештачка интелигенција, али он верује да ће „захваљујући њима живот људи ипак постати бољи“. Оснивач Фејсбука Марк Закерберг сматра да су упозорења попут Маскових „неодговорна“ и да није могуће зауставити развој вештачке интелигенције која ће у следећих десетак година значајно променити квалитет људског живота. Али такво „унапређење квалитета живота“ деградира самог човека, чинећи га све више зависним управо од растуће цивилизације машина. У таквом свету, и сам човек је сведен на машину, али машину која је изгубила своју сврху и која у сваком тренутку може бити замењена новом.
КОСМОС КАО КОМПЈУТЕР БЕЗ ОПЕРАТЕРА
У западној мисли постоји појам „тренутак сингуларности“. Реч је о хипотетичком тренутку „технолошке сингуларности“ у коме ће вештачка интелигенција коначно преузети управљање над развојем цивилизације и над самим човеком. Људска историја се на том месту окончава, и започиње нешто ново и неименовано. Досегнута је „апсолутна тачка технологије“, када сам човек постаје превазиђен или анахрон. Од тог момента будућност више не припада човеку, већ утопијском свету вештачке интелигенције.
Сама идеја сингуларности има религијски патос и смисао, јер је „апсолутна тачка технологије“ уједно и „крајња тачка еволуције“, и то не само човека, него и целокупног космоса – али космоса лишеног Бога и сачињеног од мртвих тела. Сингуларност је овде схваћена као неумитност и крајњи циљ, као causa finalis, а човек као „биће кроз и преко којег се догађа напуштање биологије“: он ствара технологију а затим се, разграђујући своју биолошку основу, односно укидајући самог себе, изнова интегрише у свет машина, „у облику који мртвом бескрају највише одговара – у облику (мртве) машине“. Овој машинској суперцивилизацији, према убеђењу футуролога, потом предстоји космичка експанзија, путем које ће читав космос бити претворен у џиновску и самодовољну машину, у „компјутер без оператера“. Крајњи циљ је мистична „трансформација материје изнутра“: претварање све расположиве материје у „интелигентну материју“.
Уместо да чека Бога, у чији долазак са слабљењем хришћанске вере све више сумња, човек „Новог доба“ одлучује да сам створи сопственог бога (или богове). Титаномахија, устанак Титана против Олимпа, тврдио је немачки писац Ернст Јингер, представља митски кључ за наше доба. „Двадесет први век“, гласи његово пророчанство, „биће столеће Титана“. Овај аутор је у свом Радникупретходно описао драматичне промене које доноси планетарна доминација технике.
БУДУЋНОСТ ПОЧИЊЕ НАЈКАСНИЈЕ 2045.
Реч је о истинској „смрти човека“, не само као духовног, него чак и као билошког бића. Питање да ли ће га, евентуално, наследити „пост-човек“, као „хибридна врста људске и вештачке интелигенције“, састављен од органских и механичких делова, остаје отворено. Кибернетичар Кевин Ворвик постао је познат пошто је у своје тело уградио чип помоћу кога је у стању да покреће роботску руку. Ворвиков тим научника створио је и робота под именом Гордон, којим управљају ћелије мозга пацова. Дејвид Хенсон, творац најпознатијег андроида на свету, Софије, предвиђа да ће роботи до 2045. уживати сва грађанска права која имају људи. У свом првом интервјуу андроид Софија, иначе држављанка Саудијске Арабије, најавила је „огромну и незамисливу промену која нас очекује у будућности“ и само две могуће опције за будућност: или свет настањен машинама које „хрле ка трансцендентној суперинтелигенцији“, или „пропаст цивилизације“.
Један од „пророка сингуларности“ је и Реј Курцвајл, технички директор Гугла и аутор дела под речитим насловом Доба спиритуалних машина, називан и генијем и лудаком, према којем ће очекивани „тренутак сингуларности“ (а са њим и ново доба трансхуманизма) наступити „најкасније 2045. године“. Неки други футуристи овај датум померају нешто ближе, у 2030. Било како било, примећује Виктор Радун, оваква „будућност више није далеко. Она је сада ту, пред нама, и ми је практично већ живимо“. Али, та „будућност никада није била неизвеснија. Технологије које покрећу развој човечанства, први пут у краткој историји људске врсте, у стању су да постану независне од људи и пођу својим засебним путем“ (Виктор Радун: Објава Натчовека и завера трансхуманизма).
СТОЛЕЋЕ ФИЛОЗОФА И ДОБА МАШИНА
На питање какве су историјске импликације стварања „машина које стичу знање процесима својственим само њима и примењују га за циљеве који потенцијално остају ван људског разумевања“, покушава да одговори и Хенри Кисинџер у тексту под насловом Како завршава доба просветитељства (How the Enlightenment Ends). Да ли се управо налазимо на почетку нове фазе људске историје, пита се Кисинџер, и да ли је могуће да „људска историја пође путем Инка суочених са шпанском културом која је била ван оквира њиховог разумевања и на коју су гледали са страхопоштовањем?“
Према мишљењу Кисинџера, „доба разума“, које је свој врхунац доживело током XX столећа, сада се налази на свом крају. Претходио му је проналазак штампе у XV веку, „чиме је омогућено да потрага за емпиријским знањем замени литургијску доктрину“. Тако је на Западу завршило „доба религије“. Покрет познат као Просветитељство зачиње се у XVII столећу, у Холандији и Енглеској, као интелектуални покрет који одбацује средњевековну теоцентричну слику света како би на место Бога поставио човека – аутономног појединца – и његов разум. Затим се преноси у Француску, где оквирно траје од смрти Луја XV (1715.), све до почетка Француске револуције. Осамнаести век је проглашен за „столеће филозофа“.
„Просветитељство је настојало да потчини традиционалне обичаје ослобођеном, аналитичком људском разуму“, пише Кисинџер, а „индивидуално схватање и научно знање заменили су веру као основни критеријум људске свести“. Ново доба праћено је читавим низом научних открића и правом индустријском револуцијом. Са просветитељством отпочиње не само „доба разума“, већ и доба машина, а машина постаје прави симбол нове „фаустовске цивилизације“. Уствари, како уочава Луис Мамфорд, „машина је окупирала нашу цивилизацију“, а то се одвијало у три узастопна таласа. Други и најважнији је управо онај који се догађа током „столећа филозофа“: „Други талас се ускомешао у XVIII веку након дугог постојаног покрета током средњег века, уз напредак у рударству и обради гвожђа…“
Такво „доба разума“, примећује с правом Кисинџер, „зачело је мисли и дела која обликују наш савремени светски поредак“. Међутим, овај „ослобођени аналитички људски разум“, обележје „аутономне индивидуе“, човеку није донео никакву слободу већ ново ропство: ропство машини. „И тај (светски) поредак је сада у превирању пред новом, бришућом технолошком револуцијом чије последице нисмо успели да у потпуности схватимо, а чија би кулминација могао бити свет који се ослања на машине које покрећу подаци и алгоритми без ограничења етичких или филозофских норми.“ Еру Просветитељства смењује нешто ново: „доба интернета“ (Кисинџер), епоха вештачке интелигенције или, још прецизније – доба нове цивилизације интелигентних, „спиритуалних“ машина.
ЧОВЕК КАО НЕСАВРШЕНА МАШИНА
Ипак, Кисинџер пропушта да уочи да то није никаква „новина“, ексцес ни „бизарна нуспојава технолошког развоја“, већ сасвим логичан завршетак историјске епохе коју називамо модерном. Није у питању квар или аномалија, већ прогрес, али не човека него прогрес машине. Пут којим смо кренули има своје закономерности и своје путоказе, као и свој обавезни смер: „Ми смо морали да дођемо до тога – до ере киборга, хибрида, мутаната и химера“, закључује руски мислилац Александар Дугин. „И дошли смо да тога.“
Наиме, за „ослобођени аналитички разум“ човек више није дело Божјег стварања ни биће створено по Божјем лику, већ машина, или је машина супремни узор који он тек треба да досегне. Човек је, заправо, једна несавршена машина: „Прве симптоме преображаја човека у машину модерног доба“, пише Драгош Калајић у својој Мапи (анти)утопија, „срећемо управо у доба почетка агоније Бога, у ренесанси. Тако италијански лекар Баљиви, у Praxis medica(1696), указује на сличности анатомије човека са светом машина, кроз низ циничних питања:`Вилице наоружане зубима, шта су друго него кљешта? Стомак није друго него једна реторта; вене, артерије, читав васкуларни систем, све су то хидрауличне цеви; срце је опруга, утроба је филтер, решето; плућа су мех, а шта су друго мишићи него конопци?`“
Одбацујући метафизику и хришћанску дихотомију душе и тела, Холбах пише дело Систем природе у коме човека, укључујући и мишљење, тумачи путем механичких кретања и кроз организацију материје. Де Ламетри године 1747. објављује књигу Човек-машина, у којој болести и смрт објашњава као кварове на машини, а идеал бесмртности изједначава са perpetuum mobile. Век касније, за Хелмхолца, људско тело је само пуки мотор који материју преображава у радну енергију. Човек је машина чија је права сврха рад путем којег се реализују његове потребе, фантазме и жеље. И сама машина је једна од његових фантазми. Али, у време Хелмхолца то више није „усамљени глас, већ само један од гласова масовне литургије машини и њеном мотору, који је заменио умрлог Бога“ (Д. Калајић).
ЧОВЕК НЕЋЕ ПОСТАТИ, ОН ВЕЋ ЈЕСТЕ РОБ МАШИНЕ
Модерни човек је од машине и посредством рада машине очекивао сопствено ослобођење. Уместо тога, већ током индустријске револуције, како примећује Маркс у Комунистичком манифесту (1848.), он „постаје пуки и прости додатак машини“. Потчињавање модерног човека машини је добровољно и потпуно: „Модерни човек, прихвативши као своју, аксиологију иманентну машини,“ уочава Драгош Калајић, „спознао је своју слободу реализације сваке жеље. Но, ту се машина испречила између човека и реализације жеље као медијум, посредник…“
Овај „медијум“ је укинуо сваку слободу човека, коју је заменио слободом машине: „Преневши све жеље и циљеве, циљеве и вредности у надлежност и ауторитет света машина… човек је данас у стању да реализује сваку жељу, али ниједна жеља коју реализује није његова жеља, јер је он сам само сурогат машине, имитација имитације, илузија илузије. Зато у том царству тоталне слободе, нема ни трага веродостојне људске слободе. У том царству влада слобода машине, која је слободна `од` човека и (слободна) `за` своје циљеве, циљеве пуке репродукције и мултипликације“ (Д. Калајић) – наравно, мултипликације машина.
У делу Мапа (анти)утопија, објављеном 1978, Калајић је предвидео и наступање епохе трансхуманизма, покрета који тежи да превазиђе ограничења човека претварајући га у машину која је без остатка интегрисана у цивилизацију машина: „Човек и практично постаје машина, од модерне хирургије и техника трансплантације, које све већи број органа замењују вештачким, механичким органима, до управо поменутог система комуникација… Наиме, човек неће постати роб машине јер је то већ био или јесте, а у догледној будућности машине више неће имати потребе за људима, ни као робовима…“
ТРАНСГРЕСИЈА ЉУДСКОГ И СМРТ ЧОВЕКА: „H+“
За то, додуше, нису одговорне машине, већ једино човек који је, посредством аналитичког разума, „сам себе преобразио, макар у својој свести или фикцији, у онај модел, који се може изразити кибернетском формулом и потом репродуковати у серији машина“.
Последња реч Кисинџеровог „доба разума“ је покрет познат под именом трансхуманизам. Овај покрет зачиње се у другој половини прошлог века. Симбол трансхуманизма је латинично слово „Н“, од речи „human“ – људско, коме је додат знак плус: „H+“. Циљ трансхуманизма је „трансгресија људског“, односно превазилажење самог човека као „несавршене машине“, и то путем вештачких додатака, екстензија и апликација, ка перфекцији машина.
Циљ је биће ослобођено несавршености људског и само привидно створено према обличју човека. Отуда свет вештачке интелигенције или нове цивилизације машина, која се управо рађа пред нашим очима, није прекид ни дисконтинуитет, већ, напротив, како примећује Дугин, само „резултанта правца последњих векова, када је човечанство озбиљно поверовало у мит напретка и еволуције. `H+` је последњи логичан закључак целе епохе Новог доба, модерне“. Основна идеја модерне била је ослобађање човека од свих његових „несавршености и ограничења“, а „сада смо доспели до прага остварења тог циља“. Сама технологија је постала идеологија која непогрешиво води ка остварењу утопије цивилизације машина, а оно што преостаје је још „само један, последњи корак – прелазак границе људске врсте“ (А. Дугин).
Покушај човека да се „интегрише“ у тај свет унапред је осуђен на неуспех. Односно, он се може интегрисати у њега, али по цену губитка своје људске суштине, по цену да престане да буде човек – односно по цену смрти човека. „Пост-човек“ више није ни биолошко а ни духовно биће, па чак ни аутономна индивидуа о којој је маштало „доба разума“. Он припада уистину подљудском и субиндивидуалном нивоу. То је обећање и утопија трансхуманизма. А утопије се, како нас учи историја, остварују, додуше, не онако како су биле замишљене.
НА КРАЈУ ПУТА
За разлику од Кисинџера, који сматра да се „наше време креће у супротном смеру“ од оног којег су пре два века зацртали „суштински филозофски увиди“ епохе просветитељства, ширећи се уз помоћ „нових технологија“, преостаје нам да закључимо да је то и даље један те исти смер, један те исти, „историјски процес“, онај који је започео у „веку филозофа“. Управо је просветитељство човечанству обзнанило нову религију: религију разума и прогреса, отварајући епоху владавине свемоћне машине. Уместо да служи Богу, као у средњевековној Европи, човек Запада је одабрао да служи машини. Уместо да подржава и развија „божански елемент у човеку“ (Платон), он се окренуо ка оном што је „само људско“, и још ниже од тога, ка подљудском и демонском.
У говору на Фестивалу Г10 у Амстердаму, Александар Дугин је изрекао следећу мисао: „Мислим да се приближавамо `тренутку сингуларности` – то је тренутак када ће неуралним мрежама бити дозвољено да преузму одговорност у сложеној ситуацији. Свирамо исту мелодију, а ако нисмо срећни, не можемо рећи: ‘Стани овде`; то није могуће. Требало би да овим путем кренемо испочетка – од прве ноте ове симфоније. И требало би да се упитамо: ко је аутор који је започео овај процес урбанизације, који је створио возове, либерализам, демократију, напредак, ракете, рачунар, нуклеарну синтезу… Ко је стварни аутор? И то је суштина: јер то је била људска одлука, то није био `природни процес`… И зашто се не запитамо: да ли је ово од почетка прави смер? Да ли је та одлука била исправна?“
У питању је, дакле, људска одлука, можда и сасвим свесна одлука, да се човек одрекне свега људског и прихвати „аксиологију машине“, претварајући самог себе у подљудско и безлично „биће“, у машину.
Футуристичке визије данас описују свет будућности који „равноправно“ настањују људи, транс- и пост-људи, роботи, киборзи и мутанти као „саставни део друштва“ у коме ће се „новонастали друштвени односи уређивати потпуно новом правном и етичком регулативом“. Једног јутра, упозорава Дугин, могли бисмо се „пробудити са роботима око себе, савршеним пореским обвезницима, који доносе демократске одлуке, шаљу једни другима СМС поруке, од робота до робота…“ Да ли то значи да се, „корак по корак, припремамо за велику замену, да смо већ спремни да се самозаменимо и да будемо замењени“?
Борис Над
