Толерирането на добре оформената фраза за сметка на точността не е симптом само на изкуствения интелект, а и на човешката култура. Езиковият модел не създава неистината. Поема я от езика като статистическа вероятност, отразяваща доминиращи културни модели.
Обществата развиват чувствителност към откровеното лицемерие, но често остават по-търпими към благоприличната неопределеност. Така се създава поле, в което неяснотата се възприема като мекота, дипломатичната фраза като грижа, а директността като агресия. „Няма проблем“, „всичко е наред“, „разбирам напълно“ и „ще се погрижим“ могат да звучат успокояващо, дори когато зад тях няма ясно действие, проверка или отговорност.
Езиковият модел учи именно от такива културни навици и ги възпроизвежда. Когато човешката среда допуска изместване на истината чрез удобни фрази, алгоритъмът не прави нещо чуждо на културата. Просто подрежда езика според вече наличната ни търпимост към полуистината. В този смисъл неистината не винаги се появява като груба измама. Понякога идва като добре оформена, приемлива и социално удобна формулировка.
Точно тук „лъжата без лъжец“ придобива системен характер. Няма едно лице, което стои срещу човека и умишлено го заблуждава. Има множество нива на участие, обучителни данни, езикови навици, културни очаквания, технически ограничения и човешка склонност да приема правдоподобното за достатъчно. Отговорността се размива не защото изчезва, а защото се разпределя в цяла среда.
Затова въпросът вече не е само дали езиковият модел може да сгреши. По-дълбокият въпрос е защо грешката му толкова често звучи приемливо. Причината е, че културата вече е свикнала с език, който невинаги казва истината докрай. Свикнала е с фрази, които успокояват вместо да уточняват, прикриват вместо да назовават и заместват отговорността със звучене.
Алгоритъмът усилва този навик, защото работи с вероятното, а вероятното често е онова, което културата дълго е произвеждала. Ако в човешкия език има много заобикаляне, моделът ще научи заобикалянето. Ако има много благоприлична неопределеност, ще я възпроизведе. Ако има много добре звучащи полуистини, ще ги върне като убедителен отговор.
Така алгоритъмът се превръща в огледало на културната толерантност към неистината. Не създава сам тази толерантност, но я прави по-видима, по-бърза и по-масово възпроизводима. В човешкото общуване една удобна фраза може да прикрие конкретен проблем. В общуването с езиков модел същият навик може да се превърне в автоматизирана форма на заблуда.
Именно затова темата не е само техническа. Тя е културна. Езиковият модел показва какво вече сме позволили на езика да прави вместо нас: да омекотява, да замъглява, да прикрива, да звучи добре, когато истината е неудобна. Ако искаме по-голяма точност от изкуствения интелект, първо трябва да признаем собствената си търпимост към неточността, когато тя е поднесена красиво.
Лъжата без лъжец не започва само в алгоритъма. Започва и там, където културата престава да настоява думите да бъдат отговорни. Алгоритъмът само връща тази слабост в по-концентриран вид. Показва ни, че неистината невинаги идва с грозно лице. Понякога идва възпитана, уверена, добре подредена и прекрасно формулирана.
Следва:
