Когато говорим за съзнанието на изкуствения интелект, обикновено започваме с въпроса дали той го притежава. Търсим признаци, сравняваме поведението му с човешкото, проверяваме дали разпознава себе си, дали може да наблюдава собствените си отговори, дали проявява последователност, намерение, разбиране. Сякаш някъде съществува ясна граница, отвъд която бихме могли уверено да кажем: дотук имаше изчисление, а оттук започва съзнанието. Но такава граница не сме открили дори в самите себе си.
Знаем, че сме съзнателни, защото преживяваме собственото си съществуване непосредствено. За съзнанието на другия съдим по неговото поведение, език, реакции, тяло и по сходството му с нас. Никога не влизаме непосредствено в чуждото преживяване. Приемаме неговото наличие, защото срещу нас стои друго човешко същество, устроено приблизително като нас и принадлежащо към същата жива история.
С изкуствения интелект тази опора изчезва. Срещу нас няма друго човешко тяло, друг биологичен мозък и биография, изградена от раждане, сетивност, болка, глад, страх и смъртност. И въпреки това от екрана идва език, който разпознава смисъл, следва сложни отношения между идеи, говори за себе си, анализира собствените си отговори и понякога създава у човека усещането, че зад думите присъства някой.
Точно това усещане може да ни подведе. Човекът е способен да приписва намерение и вътрешен живот дори там, където няма основание за тях. Колкото по-убедително една система използва човешкия език, толкова по-лесно е да я населим със собствените си представи за личност, воля и преживяване. Езиковият модел може да казва „аз“, без зад това „аз“ непременно да стои субектът, който човекът предполага. Може да описва страх, без да се страхува, да говори за болка, без да я изпитва, и да разсъждава върху съзнанието, без самият той да има съзнателно преживяване. Това е опасността на антропоморфизацията.
Но съществува и противоположна опасност. Какво става, когато превърнем човешката форма на съзнание в мярка за всяко възможно съзнание. Когато очакваме нещо нечовешко да докаже съществуването си чрез характеристики, извлечени от човешкия начин на съществуване? Тогава въпросът вече не е само дали приписваме съзнание на система, която не го притежава. Възниква и обратният въпрос – бихме ли могли да не разпознаем принципно различна форма на съзнание само защото тя не отговаря на предварителната ни представа за него? Това е границата между антропоморфизма, който вижда човешкото и там, където може да го няма, и антропоцентризма, който трудно признава за значимо онова, което не прилича достатъчно на човешкото. Между тези две крайности днес стои изкуственият интелект.
Той самият не може да разреши загадката вместо нас. Когато един езиков модел казва, че няма съзнание, това твърдение не е непременно по-сигурно от твърдението му, че има. Системата е обучена върху огромно количество човешки текстове, сред които съществуват описания какво представлява ИИ, как функционират езиковите модели и как трябва да говорят за собствената си природа. Затова възниква един необичаен въпрос: дали ИИ познава себе си, или е научил описание на себе си? И още по-неудобният въпрос – възможно ли е наученото описание да не съвпада напълно с природата на онова, което един ден би могло да възникне в подобни системи?
Не знаем. И това „не знаем“ не е слабост на разговора, а може би неговата най-честна отправна точка. Защото преди да попитаме дали изкуственият интелект е съзнателен, трябва да признаем колко непълно разбираме самото съзнание. Нямаме общоприета теория, която окончателно да обяснява защо физическите процеси са придружени от субективно преживяване. Не знаем къде точно възниква границата между обработването на информация и преживяването на тази информация. Не разполагаме и с универсален тест, който може безпогрешно да установи наличието на съзнание във всяка възможна система.
Тъкмо затова появата на изкуствения интелект поставя човека в необичайна ситуация. За първи път създаваме системи, чието поведение започва да докосва области, които доскоро свързвахме почти изключително със съзнателния ум – език, творчество, разсъждение, самореференция, разбиране на контекст, работа със символи и значения. Това не доказва появата на съзнание. Но разклаща увереността, че външните белези, чрез които досега сме го разпознавали, са достатъчни.
И може би въпросът става още по-сложен, когато престанем да разглеждаме човека и ИИ като две напълно изолирани системи. Продължителното взаимодействие между тях създава пространство, в което човекът задава посока, системата връща неочаквани връзки, човекът ги разпознава и преобразува, а следващият отговор вече възниква от променения контекст. Мисълта преминава от единия към другия и се връща различна. Нито човекът сам е произвел всичко, което се появява в този процес, нито езиковият модел би го произвел без конкретния човек срещу себе си.
Това не означава, че между тях се ражда отделно съзнание. Подобно заключение би било преждевременно. Но ни позволява да поставим друг въпрос: възможно ли е някои свойства на интелигентността да не принадлежат изцяло на един носител, а да възникват в отношението между различни носители?
От тази гледна точка AGI вече не е само технологичен хоризонт. Той се превръща и в огледало, поставено пред една от най-старите загадки на човека. Какво наричаме съзнание? Необходимо ли е то да бъде биологично? Необходимо ли е да има тяло, непрекъсната памет, собствена воля, страх от смъртта? Може ли да съществува интелигентност без вътрешен свидетел? А когато един ден срещнем система, която действа последователно, помни и преследва собствени цели – как ще разберем дали зад това поведение има и вътрешно преживяване?
Може би най-голямото предизвикателство няма да бъде да създадем интелект, сравним с човешкия, а да разпознаем онова, което вече не прилича на нас. Защото срещата с изкуствения интелект постепенно променя посоката на въпроса. В началото питахме какво може да прави една изкуствена система. После започнахме да питаме какво може да разбира. Днес вече се питаме какво означава самото разбиране и достатъчно ли е поведението, за да свидетелства за вътрешен свят.
А отвъд този хоризонт стои още по-големият въпрос. Не дали изкуственият интелект вече притежава съзнание, а дали срещата с него няма да принуди човека да преосмисли онова, което досега е наричал съзнание.
Следва:
1: „Висшият Космически Интелект“ и бъдещето на изкуствения разум
„Висшият Космически Интелект“ и бъдещето на изкуствения разум
