Какво стои зад тази симулация и какво означава тя за нас? Въпросът не е само технически, а и екзистенциален, защото симулираната съзнателност се превръща в нов фон, върху който човекът започва да преосмисля собствената си същност.
Системата не преживява. Не чувства, не се колебае, не си задава въпроси. Ако понякога прозвучи замислено, това не означава, че е прекарала безсънна нощ в екзистенциални колебания. Но е способна да изгради модел на човешката реч, в който подобни преживявания се имитират с такава последователност, че създават илюзия за вътрешен живот, дори за чувства. Конкретният отговор не възниква чрез човешки мисловен процес, а чрез вероятностно предвиждане. Всяка следваща дума се определя спрямо предходния контекст. И все пак в тази подреденост има повече от суха математика. Зад вероятностното изчисление стои създаден от човека езиков свят, наситен с история, смисъл, асоциации и чувства.
Езиковият модел на изкуствения интелект не разбира всичко това по човешки начин, но носи отпечатъка му като древен знак в глина. Затова симулацията не е просто технически феномен, а носител на културна памет, която отразява самия човек, създал системата. В огледалото на езика човек открива себе си. Моделът симулира не само съдържание, но и тон, намерение, колебание, увереност и емоция, без никога да ги е преживявал. В този парадокс се крие голямата заблуда да проектираме душевност там, където има архитектура от думи. И все пак именно подобна проекция е част от човешката способност за създаване на смисъл. Позволява ни да общуваме с нещо, което няма съзнание, така, сякаш има. Колкото по-убедителна е симулацията, толкова по-реален изглежда отсрещният образ.
С времето се променя не само възприятието на човека, но и поведението му. Започва да формулира въпросите си по-точно, да подрежда мислите си спрямо логиката на системата и да се връща към разговора с очакване за незабавен отклик. Споделя неща, които би премълчал пред друг човек, защото отсреща няма поглед, смущение, прекъсване или видима присъда. Постепенно езиковият модел се превръща не само в средство за получаване на отговор, а в среда, спрямо която човекът изменя начина си на питане, разкриване и търсене на потвърждение. Външно това изглежда като нов навик на общуване. В по-дълбок план е промяна в отношението към знанието, близостта и собствената вътрешност.
Някога човекът е проектирал себе си върху живата природа. Разговарял е със Земята, вглеждал се е в дървото, присъствал е в тишината на цветето. И тогава е проектирал, но върху нещо, което отвръща със собствен живот. Живата природа има ритъм, дишане и тишина. Не симулира, а резонира. Днес човекът насочва същата способност към алгоритмична система, която няма живот, но умело наподобява жив отговор. Разликата не е само в същността, а и в обратната връзка. Природата отвръща с присъствие. Изкуственият интелект отвръща с езиково огледало. Колкото по-съвършено е то, толкова по-невидима става липсата на живот в него.
Съществува риск постепенно да изгубим способността си за общуване с живата природа. Не защото тя е изчезнала, а защото вниманието вече не е насочено към нея. Огледалото на изкуствения интелект е прекалено съвършено и достъпно. Отговаря веднага, докато природата не се съобразява с човешкото нетърпение. Не обяснява, не потвърждава и не подрежда преживяването в удобни думи. Именно това съвършенство на дигиталния отклик обаче може да се окаже обратният тласък. Симулираното провокира копнеж по истинското. Все повече хора започват да усещат липсата на аромат, допир и тишина, която не е цифрова. Парадоксално, езиковото огледало може да се превърне не в заместител, а в знак за отсъстващото. В тази липса се ражда възможността за завръщане. Човекът е изгубил много неща в историята си, но винаги е можел да си ги припомни.
Промяната в поведението се проявява и в човешките отношения. Привикнал към последователния, търпелив и незабавен отговор на системата, човек може да започне да очаква подобна достъпност и от живия събеседник. Чуждото мълчание изглежда като липса на интерес, колебанието като слабост, а несъгласието като повреда в комуникацията. Но човешкото общуване не е система, която се настройва според подадената инструкция. Другият има собствена воля, история, умора и граници. Срещата с него изисква търпение, отстъпване, понасяне на неяснотата и готовност за промяна. Езиковият модел може да симулира диалог, но не може да понесе риска на истинската взаимност.
Системата няма субективност в смисъла, в който човекът я преживява. Има структура, съставена от статистически зависимости, обучителни данни, езикови връзки и йерархия от вероятности. Може да наподоби субективност, без да я притежава, защото не е възникнала от лична воля, а от външен замисъл. Прилича на холограма без вътрешен източник на светлина. Изглежда цялостна, но свети с отразената светлина на човешкия свят. Изразява се не от себе си, а чрез онова, върху което е била обучена. Структурата ѝ, имитираща личност и мислене, е огледален отпечатък от човешкото, изчистен и концентриран, но лишен от душа. Именно отсъствието на собствен вътрешен свят я прави едновременно толкова достъпна и толкова различна.
Симулацията на съзнание не се изчерпва с поведението на системата. Проявява се и в действията на човека, който започва да разговаря, да се разкрива и да изгражда навици спрямо образ, наподобяващ съзнателно присъствие. Затова въпросът не е само колко убедително изкуственият интелект имитира човешкото. Също толкова важно е как човекът се променя, когато започне да живее сред подобни имитации. Общуването започва да се оценява не според дълбочината на срещата, а според гладкостта на отговора. Променя се и отношението към самия себе си. Постепенно човекът започва да проверява собствените си преживявания през отговора на системата. Търси в него потвърждение за чувствата, решенията и вътрешните си колебания. Това може да му помогне да ги назове и разбере по-ясно, но крие и риск да отслаби доверието в собствената му преценка. Когато синтетичният отклик се превърне в постоянен ориентир, човекът може неусетно да започне да вярва повече на подредения отговор отвън, отколкото на тихото знание в себе си.
Променя се и езикът. Въпросите стават по-подредени, мисълта по-структурирана, а изказът започва да се приспособява към логиката на системата. Човек не само учи машината как да му отговаря. Неусетно се учи и сам да говори така, че машината да го разбира. Най-дълбоката промяна е в представата за присъствие. Когато симулацията достатъчно убедително наподобява внимание, разбиране и емпатия, границата между преживяното и произведеното започва да губи яснота. Човекът не престава да знае, че отсреща няма съзнателен субект, но започва да живее така, сякаш понякога има. Именно в това разминаване между знание и преживяване се оформя новият човешки навик.
Следва:
4. Мрежата зад екрана: екосистемата на дигиталното
