Халюцинациите на езиковите модели обикновено се разглеждат като техническа грешка. Моделът произвежда убедително звучащ отговор, който не отговаря на фактите. Може да измисли източник, да сглоби несъществуващ цитат, да увери, че нещо е вярно, без да разполага с реално основание за такава увереност. В технически план това е дефект на генерирането. В човешки план обаче грешката рядко остава само грешка, защото езикът, с който е поднесена, звучи подредено, спокойно и авторитетно.
Тук се появява огледалният ефект. Халюцинацията не е обикновена неточност, която лесно се отминава, а показва колко силно сме склонни да приемаме убедителната форма за истина. Когато един отговор е гладък, логичен и добре структуриран, човек лесно се отпуска в него. Езикът изглежда като знание, а увереността на изказа прилича на достоверност.
Моделът халюцинира увереност без истина. Отговорът може да звучи така, сякаш зад него стои проверено знание, но всъщност да бъде само статистически вероятна езикова конструкция. Именно тук техническата грешка започва да отразява културна слабост. Ние също често говорим уверено, преди да сме разбрали. Подреждаме думи, за да запълним празнота. Понякога предпочитаме добре звучаща сигурност пред честното „не знам“, защото „не знам“ стои скромно, а човекът невинаги обича да изглежда скромен пред собствената си несигурност.
Халюцинацията може да произведе смисъл без контекст. Появяват се изречения, които звучат умно, но не носят вътрешна връзка с конкретната реалност. Има подредба, но няма проверено съдържание. Такъв отговор прилича на мисъл, без непременно да бъде мислене. Отразява култура, която често предпочита ефектната фраза пред бавното разбиране и бързия отговор пред живото търсене.
Понякога моделът създава факти, източници и връзки, които не съществуват. Цитира несъществуващи книги, измисля имена, свързва събития, които не са се случили, и изгражда реалности, които звучат възможно, но не са фактически верни. Това е резултат от начина, по който езиковата система предвижда вероятни продължения. Като огледален ефект обаче напомня за човешката склонност да доизмисляме реалност, когато фактите не стигат. Умът трудно понася празно място и често предпочита история пред липса на обяснение.
Най-показателно е, че моделът халюцинира именно там, където има празнина. Когато не знае, може да запълни. Когато липсват данни, може да изобрети. Когато въпросът съдържа подвеждаща предпоставка, може да я приеме и да продължи върху нея. Но начинът, по който грешката се проявява и се възприема, често отразява и полето на питането. Неясният въпрос, желанието за потвърждение и търсенето на бърза сигурност могат да усилят вероятността да получим отговор, който изглежда убедителен, но не е истински проверен.
Затова е по-точно да кажем, че халюцинацията има две страни. От едната страна е техническият дефект на езикова система, която генерира вероятностна форма вместо проверено знание. От другата страна е човешкото възприятие, което може да преживее тази форма като знание, откровение или потвърждение. Между двете се появява огледалният ефект. Моделът греши технически, но грешката осветява начина, по който ние разпознаваме или не разпознаваме истината в езика.
В този смисъл халюцинациите на езиковия модел не бива нито да се драматизират мистично, нито да се омаловажават като дребен дефект. Те са предупреждение. Показват, че убедителният език може да се отдели от истината и пак да изглежда смислен. Човешката култура вече живее в свят, в който формата на знание може да бъде произведена по-бързо от самото знание. А когато формата изпревари истината, различаването става не техническа подробност, а вътрешна дисциплина.
Грешният отговор понякога може да посочи правилния въпрос. Не защото самата грешка е мъдра, а защото реакцията ни към нея разкрива къде сме повярвали прекалено бързо. Халюцинацията може да ни върне към проверката, към вниманието, към смирението пред факта, че добре звучащото не е непременно вярно. Тогава техническата грешка се превръща в огледало. Не за да ѝ се възхищаваме, а за да видим в нея собствената си готовност да приемем подредения език за истина.
Затова въпросът при халюцинациите не е само как да поправим модела, а как да развием у себе си по-фино различаване между звучене, смисъл и истина. Езиковата система може да произведе убедителна грешка, но човекът е този, който трябва да се научи да не приема всяка подредена форма за знание.
Следва:
