Могу ли чет-ботови постати свесни као људи?

Питања о томе шта је субјективно искуство, ко га има и како се односи на физички свет око нас прогањају умове филозофа током већег дела људске историје. Међутим, научне теорије свести које се могу квантификовати и емпиријски проверити појавиле су се тек у последњих неколико деценија.

Многе модерне теорије свести фокусирају се на трагове које остављају фине ћелијске мреже мозга из којих настаје свест. Данас две од њих доминирају: теорија интегрисаних информација и теорија неуронског глобалног радног простора.

Пре двадесет пет година посвађали смо се са аустралијским филозофом Дејвидом Чалмерсом. Обећао сам му кутију доброг вина ако ови неуронски трагови, технички названи неуронским корелатима свести, буду откривени и јасно описани до јуна 2023.

Међутим, контрадикција између теорије интегрисане информације и теорије неуронског глобалног радног простора остаје нерешена. Ово је због делимично помешаних доказа о томе која су подручја мозга одговорна за визуелно искуство и субјективно опажање лица или објеката, иако је важност префронталног кортекса за свесно искуство била оповргнути. Тако да сам изгубио опкладу и послао вино Цхалмерсу.

Обе доминантне теорије су створене да објасне везу између свести и неуронске активности код људи и сродних животиња као што су мајмуни и мишеви. И обе теорије доносе фундаментално различите претпоставке о субјективном искуству и долазе до супротних закључака о свести у вештачким артефактима. У којој мери су ове теорије емпиријски потврђене или оповргнуте у односу на свест укорењену у мозга, има важне импликације за одговор на нерешено питање нашег времена: да ли машине могу да добију свести?

Шта су чет-ботови нове генерације?

Пре него што о томе разговарамо, дозволите ми да вас одведем у контекст и упоредим технику која је свесна са техником која показује само интелигентно понашање. Рачунарски инжењери настоје да обдаре машине веома флексибилном интелигенцијом која је некада дозвољавала особа напустити Африку и населити целу планету. Ово се зове вештачка општа интелигенција (АГИ).

Многи тврде да је АГИ далека перспектива. Невероватан напредак остварен у области вештачке интелигенције током прошле године изненадио је цео свет, укључујући стручњаке. Са појавом елоквентних конверзацијских софтверских апликација, колоквијално названих цхатботови, из езотеричне теме, о којима су расправљали љубитељи научне фантастике и елита ИТ индустрије из Силицијумске долине, дискусије о АГИ су се претвориле у дискусију у што одражава широко распрострањено незадовољство јавности о егзистенцијалном ризику за наш начин живота и наше врста.

Цхатботови су засновани на огромним језичким моделима. Најпознатији од њих је серија ботова који се називају генеративни унапред обучени трансформатори или ГПТ. Креирао их је ОпенАИ у Сан Франциску. С обзиром на флексибилност, писменост и компетентност најновије верзије, ГПТ-4, лако је поверовати да има интелигенцију и личност. Чак се и њене чудне грешке, познате као "халуцинације", уклапају у ову теорију.

ГПТ-4 и његови конкуренти, као што су ЛаМДА и Гугл Бард, обучавају се о библиотекама дигитализованих књига и милијардама јавно доступних веб страница. Генијалност језичког модела је у томе што учи без надзора, обрађујући реч по реч и покушавајући да предвиди израз који недостаје. Она то чини изнова и изнова, милијарде пута, без спољне интервенције.

Једном када модел стекне знање уношењем дигитализованих записа човечанства, корисник приказује непознату реченицу – једну или више. Модел предвиђа највероватнију прву реч, затим следећу и тако даље. Овај једноставан принцип показао је невероватне резултате на енглеском, немачком, кинеском, хинди, корејском и другим језицима, укључујући разне програмске језике.

Која је разлика између интелекта и свести

Значајно је да је суштински есеј о вештачкој интелигенцији, „Рачунарење и интелигенција“, написао Алан Туринг је 1950. избегао питање „Могу ли машине да мисле?“, односно питање да ли имају свести. Тјуринг је предложио „игру имитације“: може ли посматрач објективно разликовати излазе које је штампао човек од резултата штампаних машинама ако су идентитети оба скривени.

Данас је ово познато као Тјурингов тест, а чет-ботови су веома добри у томе, иако то лукаво поричу ако их директно питате. Турингова стратегија је започела деценије неумољивог напретка који је довео до стварања ГПТ-а, али је игнорисала проблем.

Имплицитна у дебати о цхатботу је претпоставка да је вештачка интелигенција исто што и вештачка свест, да је бити паметан исто што и бити свестан. И иако су код људи и других развијених организама интелигенција и свест повезане, оне не морају увек да прате једна другу.

Интелигенција се састоји у размишљању и учењу да делује и на основу деловања себе и других, како би се тачније предвидела будућност и боље припремила за њу. Није битно да ли то значи наредних неколико секунди („Ох, тај ауто јури ка мени“) или наредних неколико година („Морам научити како да кодирам“). Интелигенција се на крају односи на акцију.

Свест је, с друге стране, повезана са стањима постојања – видети плаво небо, чути певање птица, осећати бол, бити љубавници. Није ни најмање важно да ли вештачка интелигенција која је ван контроле нешто осећа. Важно је само да он има сврху која није повезана са дугорочним благостањем човечанства. И није важно да ли он зна или не шта покушава да уради, што људи зову самосвест. Он ће „бездушно“ следити свој циљ. Дакле, барем концептуално, чак и ако направимо АГИ, то нам неће рећи много о томе да ли осећа нешто.

Знајући све ово, вратимо се првобитном питању како технологија може постати свесна. Почнимо са првом од две теорије.

Које објашњење нуди теорија интегрисане информације?

Она почиње тако што артикулише пет аксиоматских својстава сваког замисливог субјективног искуства. И онда поставља питање шта је потребно неуронском колу да примени ових пет својстава, укључивши неке неуроне и искључујући друге. Или, другим речима, шта је потребно компјутерском чипу да укључи неке транзисторе и искључи друге.

Узрочно-последичне интеракције унутар кола у одређеном стању или чињеница да су два активна неурон може укључити или искључити други неурон, у зависности од околности, може се распоредити у вишедимензионалну каузалну структуру. Идентичан је квалитету искуства – како се доживљава, као што је начин на који се доживљава време и простор или како се перципирају боје.

Искуство такође има одређену количину која је повезана са њим – његове интегрисане информације. Само коло са максималном ненултом интегрисаном информацијом постоји као целина и има свест. Што је више информација интегрисано, то се коло више не може редуковати и мање се може сматрати једноставном суперпозицијом независних подкола.

Интегрисана теорија информација наглашава богату природу људског искуства. Само погледајте око себе и пред вама ће се појавити запањујући видљиви свет са својим безброј разлика и веза. Или погледајте слику Питера Брегела Старијег, фламанског уметника из 16. века који је приказивао верске теме и сцене из сељачког живота.

Сваки систем који има исте унутрашње везе и узрочне моћи као људски мозак биће, у принципу, свестан колико и људски ум. Међутим, такав систем се не може моделовати. Мора бити дизајниран или изграђен по слици мозга. Савремени дигитални рачунари су засновани на изузетно лабавој спрези (излаз једног транзистора повезан на улаз више транзистора) у поређење са централним нервним системом (нерон кортикалне колоне прима улазне податке и производи излазне податке десетинама хиљада других неурони).

Дакле, савремени рачунари, укључујући и рачунаре у облаку, неће бити свесни ничега, иако ће временом моћи да раде све што људи могу. Са ове тачке гледишта, ЦхатГПТ се никада неће осећати посебним. Имајте на уму да ова изјава нема никакве везе са укупним бројем компоненти, било да су неурони или транзистори, већ како су оне повезане. Међусобна повезаност је та која одређује укупну сложеност кола и број његових могућих конфигурација.

Које објашњење нуди теорија неуронског глобалног радног простора?

То долази из психолошког схватања да интелигенција као позориште где глумци наступају на малој осветљеној сцени која је свест. Глумачке радње прати публика прерађивача који у мраку седе иза бине.

Сцена је централни радни простор ума, који има мали меморијски капацитет за представљање једне перцепције, мисли или сећања. Различити модули за обраду — вид, слух, моторичке вештине очију и удова, планирање, расуђивање, разумевање језика и говор — такмиче се за приступ овом централном радном простору. Победник истискује стари садржај, који постаје несвестан.

Према теорији неуронског глобалног радног простора, метафоричка сцена, заједно са модулима за обраду, мапирана је у архитектуру неокортекса. Радни простор је мрежа кортикалних неурона у предњем делу мозга са пројекцијама великог домета до слични неурони распоређени по целом неокортексу у префронталној, паријетотемпоралној и цингуларној асоцијацијски кортекс.

Када активност у сензорном кортексу пређе одређени праг, у кортикалним областима се покреће глобални догађај и, као резултат, информације се преносе у цео радни простор. Глобално ширење информација чини то свесним. Подаци који се не преносе на овај начин, као што су прецизан положај очију или синтаксичка правила за грађење писмених реченица, могу утицати на понашање, али не свесно.

Са становишта теорије неуронског глобалног радног простора, искуство је веома ограничено, слично размишљању и апстрактно - слично оскудном опису који се може наћи у музеју испод Бригелове слике: „Сцена у у затвореном простору. Сељаци у ренесансној одећи пију и једу на свадби“.

У схватању свести из перспективе интегрисане теорије информација, уметник бриљантно преноси феноменологију околног света на дводимензионално платно. У разумевању теорије неуронског глобалног радног простора, ово привидно богатство је илузија, дух. А све што се о томе може објективно рећи је назначено у кратком опису.

Теорија неуронског глобалног радног простора у потпуности узима у обзир митове нашег компјутерског доба, према којима се све може свести на прорачуне. Одговарајуће програмиране компјутерске симулације мозга, са огромном повратном спрегом и нечим попут централног радног простора, свесно ће перципирати свет. Можда не сада, али ускоро.

Која је непомирљива разлика између теорија?

Уопштено говорећи, дискусија је следећа. Према теорији неуронског глобалног радног простора и другим теоријама рачунарског функционализма (они посматрати свест као облик прорачуна), свест није ништа друго до скуп паметних алгоритама који раде на машини Туринг. Функције су важне за свест мозак, а не његова узрочна својства. Ако нека напредна верзија ГПТ прихвата и производи исте улазне и излазне обрасце као и људи, онда ће сва наша инхерентна својства бити пренета у технологију. Укључујући наше драгоцено благо - субјективно искуство.

Насупрот томе, за теорију интегрисане информације, срце свести је унутрашња каузална моћ, а не рачунање. То није нешто етерично или нематеријално. Оно је специфично и функционално одређено у којој мери прошлост система одређује његову садашњост (снага узрока) и у којој мери садашњост одређује његову будућност (снага последице). И ево проблема: сама узрочно-последична веза, способност да се систем натера да изврши одређену радњу, а не много алтернативних, не може се моделовати. Ни сада, ни у будућности. Ово би требало да буде уграђено у систем.

Размотримо компјутерски код који моделира једначине поља Ајнштајнове опште теорије релативности, које везују масу са закривљеношћу простор-времена. Софтвер прецизно моделира супермасив Црна рупа, који се налази у центру наше галаксије. Ова рупа врши тако снажан гравитациони утицај на своју околину да ништа, чак ни светлост, не може да избегне њено привлачење.

Међутим, астрофизичар који симулира црну рупу неће бити увучен у лаптоп симулираним гравитационим пољем. Ово наизглед апсурдно запажање истиче разлику између модела и стварности: ако је модел у потпуности одговара стварности, простор и време треба да се искриве око лаптопа, стварајући црну рупу која све упија око.

Наравно, гравитација није прорачун. Има узрочну силу која му омогућава да деформише ткиво простор-времена и привуче све што има масу. Симулација узрочних сила црне рупе захтева прави супертешки објекат, а не само компјутерски код. Узрочна моћ се не може моделирати, она се мора створити. Разлика између стварности и модела лежи у њиховим каузалним моћима.

Зато не пада киша унутар рачунара који симулира олују. Софтвер је функционално идентичан времену, али му недостаје узрочна моћ да ослободи пару и претвори је у капљице воде. У систем мора бити уграђена каузална моћ, способност да сами креирате или прихватите промену. То је могуће.

Такозвани неуроморфни, или бионички, рачунар би могао бити свестан колико и човек. Али то није случај са стандардном фон Нојмановом архитектуром, која је основа свих савремених рачунара. Мали прототипови неуроморфних рачунара су креирани у лабораторијама, као што је Интелов Лоихи 2 неуроморфни чип друге генерације. Али машина довољно софистицирана да произведе нешто што личи на људску свест, или барем на свест воћне мушице, и даље је амбициозан сан за далеку будућност.

Имајте на уму да ова непомирљива разлика између функционалистичких и каузалних теорија нема никакве везе ни са природном ни са вештачком интелигенцијом. Као што сам раније рекао, интелигенција је понашање. Све што људска генијалност може да произведе, укључујући тако велике романе као што је Парабола о сејачу Октавије Батлер и Рат и мир Лава Толстоја, могу да репродукују алгоритамску интелигенцију ако им се да довољно материјала за обука. Појава АГИ је циљ који се може постићи у не тако далекој будућности.

Дебата се не води о вештачкој интелигенцији, већ о вештачкој свести. И ова дебата се не може решити стварањем већих језичких модела или напреднијих алгоритама неуронске мреже. Да бисмо одговорили на ово питање, морамо разумети једину субјективност у коју смо потпуно сигурни: нашу сопствену. Једном када имамо јасно објашњење људског свести и његове неуронске основе, моћи ћемо да проширимо наше разумевање на паметне технологије на доследан, научно заснован начин.

Ова дискусија нема много утицаја на то како ће друштво у целини доживљавати цхат ботове. Њихове језичке вештине, база знања и друштвени шарм ће ускоро постати беспрекорни. Биће обдарени савршеном меморијом, компетенцијом, равнотежом, расуђивањем и интелигенцијом. Неки чак тврде да ће ове креације велике технологије бити следећи корак у еволуцији, Ничеовог „надчовека”. Заузимам мрачнији став и верујем да такви људи погрешно схватају пропадање наше врсте за зору.

За многе, а можда и већину, људе у све атомизованијем друштву, одвојеним од природе и организовано око друштвених мрежа, биће емоционално тешко одупрети се технологијама у којима живе телефони. И у различитим ситуацијама, обичним и озбиљнијим, људи ће се понашати као да чет-ботови имају свест, заиста могу бити заљубљен, патити, надати се и страховати, чак и ако нису ништа друго до сложене табеле за тражење. Они ће нам постати неопходни, можда чак и важнији од истински интелигентних бића. Иако цхатботови осећају колико телевизор или тостер – ништа.