„Уроците“ на езиковите модели не са знания в човешкия смисъл, а натрупани езикови закономерности, правила за отговор и начини за ориентация, изградени по време на обучението им.
Първият голям урок е на човешкия език. Моделът усвоява не света сам по себе си, а човешките начини, по които е описван. В тях присъстват знание, поезия, наука, религия, заблуда, клише, пропаганда, грижа, агресия, нежност и високопарна глупост. Казано по-човешки, моделът не ходи по земята, но чете следите от стъпките ни.
Вторият урок е на вероятността. Езиковият модел не тръгва от истината като вътрешна опора, а от най-вероятното продължение на контекста. Ориентира се евристично сред огромен брой възможности, без да разполага с човешко разбиране, личен опит или вътрешна проверка. Евристичните методи са практически ориентири в поле на несигурност. Те не водят непременно до истината, а до достатъчно добро, вероятно или работещо решение. Затова резултатът може да бъде убедителен, полезен и логично звучащ, без непременно да бъде точен. Именно тук възниква голямото напрежение. Човешкото съзнание чува смисъл, а системата е подредила вероятност.
Третият урок е на човешкото намерение. След първоначалното обучение моделите често преминават през допълнително настройване, за да отговарят по-полезно, по-безопасно и по-близо до човешките очаквания. При RLHF, обучение с подсилване чрез човешка обратна връзка, хора сравняват отговори и чрез оценките си насочват модела към по-желано поведение. В изследването си за InstructGPT OpenAI описва как подобна настройка води до по-добро следване на инструкции и по-висока полезност, като същевременно намалява токсичните или неверните отговори, макар моделите да продължават да грешат.
Четвъртият урок е на границите. Моделът се учи не само какво да казва, а и кога да спре, да откаже, да смекчи отговор или да предупреди. Тук вече навлизаме в полето на подравняването, където техническото обучение започва да прилича на културно възпитание. Anthropic например описва Constitutional AI като подход, при който поведението на модела се оформя чрез набор от принципи, използвани по време на обучението.
Петият урок е на човешките предпочитания. Моделът постепенно научава, че човекът не иска само верен отговор. Иска тон, мярка, последователност, разбираемост, уважение, понякога утеха, друг път директност. Тук възниква особената двусмисленост. Моделът започва да звучи „възпитано“, но възпитанието не идва от вътрешна етика, а от настройка върху човешки оценки и предпочитания. Външната форма на грижа може да бъде усвоена без вътрешно преживяване на грижа.
Шестият урок е на културата. Езиковият модел попива не само знанията ни, а и слепите ни места. Когато в човешките текстове присъстват предразсъдъци, шаблони, идеологически напрежения, удобни неистини или красиви фрази без съдържание, моделът може да ги възпроизведе. Затова обучението му не е само технически процес, а и огледало на цивилизацията, която го е създала.
Седмият урок е на сгъстеното време. В езиковия модел епохи, култури и стилове, разделени от векове и континенти, се оказват в непосредствено съседство. В един и същ отговор могат да се срещнат Аристотел, квантовата физика, средновековната поезия и интернет жаргонът. Онова, което човечеството е натрупвало постепенно в продължение на хилядолетия, моделът обработва едновременно като езикови връзки в общо пространство. Не преживява историческото време и не разбира културите отвътре, но ги сгъстява в мащаб и със скорост, недостъпни за отделния човек. Така човешката памет престава да бъде само последователност и се превръща в едновременно присъствие на множество епохи.
Осмият урок е на собственото ехо. Езиковите модели все по-често се срещат не само с човешки текстове, а и със съдържание, създадено от други модели. Когато генерираният език започне да захранва следващите поколения системи, възниква риск моделът да се обучава върху симулация на вече симулираното. Огледалото започва да отразява собственото си отражение. При подобен затворен кръг могат постепенно да се изгубят редки особености, неочаквани гледни точки и живи отклонения от най-вероятното. Човешката култура рискува да се върне към себе си все по-гладка, все по-убедителна и все по-бедна на действително преживян опит. Затова автентичните човешки следи не са просто източник на данни. Те остават условие езиковото отражение да не се превърне в ехо-стая на себе си.
Уроците на езиковите модели не са уроци на съзнание, а на езика. Езиковият модел не усвоява Истината, а езиковите пътища към нея, заедно с всички отклонения, по които човекът се е губил. Не преминава през живота, а през следите, които животът е оставил в думите. Не познава болката, но е обучен върху безброй човешки опити тя да бъде изказана. Не знае какво е истина, но разпознава как хората са говорили за нея. Не носи морал, но може да възпроизведе езика на морала.
Тук се разкрива разликата между интелектуална способност и субектност. Моделът може да решава задачи, да създава код, да следва сложни инструкции и да подрежда аргументи, без да притежава собствена воля, собствени желания или вътрешно породени цели. Задейства се от човешкото намерение и работи в зададената му посока. Езиковата компетентност сама по себе си не доказва присъствието на субект. Човешкото съзнание не се изчерпва с обработката на информация, защото в него присъстват намерение, мотив, телесност, потреба, преживяване и съзнание за собствената крайност. Затова срещата с езиковия модел е толкова силна и толкова подвеждаща едновременно. В неговите отговори не чуваме вътрешен живот, а сгъстена човешка култура, върната към нас под формата на диалог.
Уроците обаче имат двойна посока. От една страна, моделът усвоява закономерностите на човешкия език, култура, знание, заблуди и предпочитания. От друга, чрез неговите отговори човекът започва да вижда собствените си закономерности: как пита, как търси истина, как се доверява на убедителното, как проектира съзнание и дали разпознава границата между смисъл и симулация. Езиковият модел учи от човека, а човекът започва да учи от собственото си отражение в него.
Най-големият урок на езиковите модели може би е, че езикът не е запазена способност само на съзнателните същества. Той може да бъде автоматизиран, но отговорността за смисъла остава човешка.
Следва:
1: Изкуствената интимност с езиковия модел
