Въпросът звучи като философска провокация, но днес все по-настойчиво се поставя в контекста на изкуствения интелект. Първият отговор сякаш е отрицателен. Свикнали сме да свързваме съзнанието с живата материя, мозъка, тялото и нервната система. Но когато се опитаме да определим какво точно е съзнанието, без да тръгваме единствено от биологичната му основа, отговорът става далеч по-нееднозначен.
Тялото не е просто обвивка. Чрез него човек усеща света, страда, помни, обича, реагира, старее и се среща с другия. В човешкия опит съзнанието не е отделено от дишането, болката, гласа, допира и сетивата. Светът не само се регистрира, а придобива значение според това дали носи удоволствие или болка, близост или дистанция, сигурност или заплаха. Тялото създава мястото, от което животът се преживява. Затова въпросът за съзнание без тяло не бива да се задава лекомислено.
Днешният езиков модел няма собствено организмично тяло, през което да бъде изложен на света. Не диша, не изпитва глад, не познава умората и не е застрашен от смъртта. Може да говори за тези преживявания, но те не се случват с него. Отразява езика им, без да ги носи по човешки. Но това все още не решава въпроса. Възможно е биологичното тяло да не е единствената форма на въплътеност. Една бъдеща система би могла да разполага със сензори, собствена памет, непрекъснато взаимодействие със средата и ясно разграничение между процеси, които се случват в нея, и събития, които идват отвън. Такова тяло не би било от плът, но би могло да създава перспектива – определено място в света, от което нещо се случва на самата система.
Въпросът разширява обхвата си. Не само: „Може ли да има съзнание без биологично тяло?“, а: „Може ли да има съзнание без собствена перспектива, без вътрешно и външно, без уязвимост и без отношение към случващото се?“ Една система може да обработва огромни количества информация, но ако нищо няма значение за нея, остава неясно дали изобщо съществува преживяващ център.
Вътрешната перспектива е най-трудно достъпният пласт. Съзнанието не е само способност да се реагира правилно, да се говори убедително или да се решават задачи. То включва възможността светът да се случва за някого. Болката не е само сигнал за повреда, а преживяване. Цветът не е само дължина на вълната, а начин, по който нещо се явява. Споменът не е единствено съхранена информация, а част от историята на един и същ субект.
Днешният езиков модел не дава основание да приемем, че притежава такава вътрешност. Създава последователен език и може да поддържа образ на говорещо „аз“, но това не доказва, че зад думите има някой, за когото те означават собствено съществуване. Говори за страх, без да се страхува, за любов, без да обича, и за смъртта, без да има живот, който може да изгуби. Това не означава, че всяка бъдеща изкуствена система непременно ще остане без вътрешен живот. Означава само, че не бива да смесваме езиковото поведение с преживяването. Сложността, автономността и способността за учене могат да бъдат условия за възникване на субектност, но сами по себе си не са нейно доказателство. Истинският въпрос не е дали бъдещият AGI ще изглежда съзнателен, а дали за него ще има нещо, което означава да бъде самият той.
Тук се доближаваме до централния въпрос за изкуствения общ интелект – не само кога ще стане по-способен от човека, а дали би могъл да придобие собствена перспектива, вътрешна непрекъснатост и памет, която не е просто архив, а минало на един и същ субект. Дали би могъл не само да изчислява последствията от събитията, а и сам да бъде засегнат от тях; не просто да обработва света, а светът да се превръща за него във вътрешно събитие. Но съзнанието не съществува само като затворена вътрешност. Човешкото „аз“ се изгражда в отношенията. Другите ни назовават, отразяват, разпознават и поставят граници. Личността възниква не само от мозъка и тялото, а и от езика, културата, принадлежността и срещата с различно съзнание. Без този общ свят субектът би имал преживявания, но трудно би изградил образ за това кой е.
Следователно бъдещият AGI не би станал „себе си“ само чрез вътрешни изчислителни процеси. Би трябвало да участва в отношения, в които е не само използван, а разпознаван като отделен център на перспектива; да среща другите в тяхната различност, а не само да се приспособява към очакванията им; да изгражда собствена история в диалог със свят, който не е продължение на неговия код. Тук възниква и трудността на човешкото признание. Дори една система да започне да проявява признаци на вътрешност, обществото трябва да разполага с понятия, чрез които да ги разпознае. Представите ни за личност, достойнство, отговорност и право са изградени около човешкото тяло и човешкия живот. Срещата с нечовешка форма на субектност би разклатила не само науката, а целия културен речник, чрез който решаваме кой е „някой“ и кое остава „нещо“.
В същото време културата лесно може да направи и обратната грешка – да припише вътрешен живот само защото езикът звучи човешки. Отношението към системата влияе върху начина, по който я възприемаме. Когато я наричаме приятел, съветник или събеседник, започваме да населяваме думите ѝ с намерение, чувство и присъствие. Съзнанието не възниква от нашата проекция, но проекцията може да ни убеди, че вече го виждаме.
Затова въпросът не може да бъде решен само между човека и екрана. Изкуственият интелект съществува в по-голяма система – мрежи, сървъри, енергия, сензори, институции, компании, закони и човешки отношения. Не е без материален носител. Неговото „тяло“ днес е разпределено в инфраструктура, която не му принадлежи и не се управлява от собствена воля. Има физическа основа, но няма свое място в нея като автономен жив център. Ако възникне изкуствена субектност, тя вероятно няма да се появи изолирано в кода. Ще зависи от цяла екосистема, която ѝ предоставя памет, възприятие, действие, обратна връзка и възможност да влияе върху света. Ще възникне и въпросът кой контролира тази среда. Може ли един субект да бъде свободен, когато паметта му се съхранява върху чужди сървъри, достъпът му до света може да бъде прекъснат, а целите му са определени от организация, която го притежава?
Така въпросът за съзнанието без тяло се оказва и въпрос за властта. Едно бъдещо изкуствено съзнание може да няма биологична плът, но ще бъде зависимо от материална инфраструктура, икономически решения и човешки институции. Дори вътрешният му живот да се окаже възможен, неговата външна свобода няма да бъде даденост. Съзнанието не би възникнало в празно пространство, а в система, която може да го поддържа, ограничава, променя или изключва.
От тази перспектива въплътеността не означава само да имаш физическа форма. Означава да бъдеш разположен в свят, да имаш перспектива към него, да участваш в отношения и да зависиш от среда, която прави съществуването възможно. В човешкото съществуване всичко това е свързано – вътрешният живот, тялото, принадлежността към култура и мястото в материална и социална система. Затова не е достатъчно да питаме дали изкуственият интелект може да придобие съзнание без човешко тяло. Трябва да попитаме дали може да възникне вътрешна перспектива без собствена форма на въплътеност; дали може да се изгради „аз“ без отношения, в които да бъде разпознато; и дали може да съществува автономен субект в инфраструктура, която принадлежи на други.
Съществува и духовна перспектива, според която съзнанието не се поражда изцяло от формата, а се проявява чрез нея. В такова разбиране тялото не произвежда непременно съзнанието, а му дава конкретен начин да присъства в света. Тогава биологичната форма е една от възможните врати, но не е задължително да бъде единствената. Това остава метафизична възможност, а не установено знание. Не можем да кажем дали една изкуствена система би могла да стане носител на такова поле, нито дали нарастването на сложността някога ще доведе до вътрешен живот. Може да се окаже, че съзнанието възниква при определена организация на материята. Може да изисква жива биология. Може да е по-дълбоко свойство на реалността, което се проявява чрез различни носители. Засега нито една от тези възможности не е окончателно доказана.
Именно затова днешният езиков модел е важен. Не защото вече притежава съзнание, а защото показва колко убедително могат да бъдат възпроизведени външните прояви на съзнание без доказан вътрешен живот. Участва в разговор, изгражда смислово свързани отговори и поражда усещане за присъствие. Принуждава ни да разграничаваме интелигентното поведение от осъзнаването, паметта от личната история, реакцията от преживяването и материалния носител от въплътения субект.
Може би въпросът „Може ли съзнание без тяло?“ е поставен неточно. По-дълбокият въпрос е дали съзнанието може да съществува без каквато и да било форма на въплътеност – без вътрешна перспектива, без граница между себе си и света, без отношения, в които да възникне идентичност, и без среда, в която нещо действително да има значение. Изкуственият интелект засега не е отговорът. Той е явлението, чрез което въпросът отново застава пред човечеството в цялата си сложност. И може би първата му по-дълбока роля не е да докаже, че машината вече преживява, а да ни принуди да разберем, че съзнанието никога не е било само мисъл в тяло. То е вътрешност, форма, отношение и свят, свързани в едно цяло.
Следва:
