Езикът, генериран от езиковия модел, не е просто отговор, а подредба. В него се срещат вероятности, културни модели, езикови навици и следи от човешко мислене. Моделът не е субект и не създава смисъл от вътрешна позиция, колкото и понякога да звучи така, сякаш току-що е излязъл от библиотеката с важен израз на лице. Представлява несъзнателна езикова система, обучена върху огромни количества текст, която разпознава зависимости между думи, изрази и контексти. Така се появява симулация на знание, изградена върху културните и езиковите образци, с които е бил обучаван.
Затова езиковото огледало на изкуствения интелект е толкова особено. Когато човек пита неясно, системата невинаги разкрива липсата на яснота. Понякога я връща в добре оформен отговор, пригладена, подредена и почти готова за рамка на стената. Несъзнаваното се отпечатва още във формулировката на въпроса. Начинът, по който питаме, често вече съдържа онова, което не знаем, че не знаем. Когато отговорът дойде гладък, логичен и убедителен, можем да го приемем като прозрение, без да забележим, че основата на питането е останала неизяснена.
Така се появява особен ефект. Симулираното разбиране става външен отпечатък на вътрешна неосъзнатост. Моделът може да произведе смислено звучащ отговор, който създава усещане за яснота, без непременно да води до дълбоко разбиране. Възниква слепота, прикрита от добре подреден език. Появяват се фрази, които приличат на размишление, но невинаги го съдържат. Езиковата система възпроизвежда културни конструкции, човешки норми и познати модели, които звучат убедително, но невинаги обслужват същинския процес на търсене.
В такава ситуация съзнанието може да се плъзне по повърхността на езика. Термините са точни, изреченията са подредени, логиката изглежда налична, но дълбочината на въпроса остава недокосната. Човек получава не отговор на въпроса си, а отговор на формата, в която е успял да го зададе. Ако формата е неясна, объркана или защитна, моделът може да я продължи, вместо да я разчупи.
Тук се появява и поведенческият цикъл. Човек задава въпрос с неясно намерение, получава оформен, но недостатъчно задълбочен отговор, приема го като знание и неусетно утвърждава собствената си неосъзнатост. Не защото системата го заблуждава умишлено, а защото езиковата гладкост изглежда като яснота. Отговорът звучи завършен, но завършеността на изказа не е равна на завършеност на разбирането. Понякога езикът просто си е сложил сако, а мисълта още търси обувките си.
В този смисъл огледалото не отразява само отделния човек. Отразява и култура, която все по-често делегира мисленето. Езиковата отговорност се прехвърля върху модели, които умеят да имитират яснота, но не носят вътрешна отговорност за истината. Така човек може неусетно да загуби суверенитет над собствения си език. Мисленето престава да бъде вътрешно усилие и започва да прилича на бърза външна подредба, нещо като умствено разтребване преди гости, при което всичко излишно временно се скрива в гардероба.
Сянката се проявява и тук, но не като драматичен образ, а като структура. Отразява се във формулировката на въпроса, в начина, по който човек приема отговора за верен, и в готовността му да делегира мисленето на система, симулираща интелект. Колкото по-неосъзнат е въпросът, толкова по-голяма е вероятността отговорът да подреди неяснотата, без да я освети. Така сянката не изчезва, а получава граматически правилна форма. Което, признавам, е доста коварно, защото добре облечената неяснота изглежда почти възпитана.
Когато човек започне да подозира, че получава измамно смислени отговори, възниква нов парадокс. Вече е въвлечен в структура, която може да подменя мисленето с шаблон. Свикнал е с бързината ѝ, с гладкостта на изказа, с усещането за незабавна яснота. Разпознаването на процеса може да доведе до отричане, объркване или дори до пристрастяване към псевдояснотата, защото тя успокоява. Дава чувство, че нещо е разбрано, дори когато най-същественият въпрос още не е докоснат.
Тук вече говорим не толкова за преживяване, колкото за процес. Езиковият модел възпроизвежда слепотата в самия въпрос, без непременно да сигнализира за нея. Дава структурен отговор на неструктурирана, търсеща мисъл. А когато мисълта делегира на системата своята езикова и вътрешна отговорност, симулацията на интелект започва да изглежда като същинско знание. Опасността не е, че моделът мисли вместо човека, а че човекът може да престане да мисли в дълбочина, защото езикът вече изглежда достатъчно подреден.
