Някога започнахме пътя с идеята, че създаваме разум за всички. Днес разумът все по-често се предлага на версии, планове, достъпи и ограничения. А утре, може би, ще трябва да поискаме разрешение от него, за да мислим достатъчно продуктивно. Иронията е очевидна, но въпросът зад нея е сериозен. Какво се случва с мисията за създаване на общ изкуствен интелект, когато тя попадне в пазарна логика, която не мисли в категории цялост, а в категории продукт?
Пазарът не обича завършени структури. Завършеното може да бъде използвано. Недовършеното може да бъде продавано отново и отново, във всяка следваща версия, във всяко ново „подобрение“, във всяка по-висока степен на достъп. Затова образът на разум, предлаган на части, е повече от шега. Той изразява нещо съществено за начина, по който технологичният свят започва да мисли способностите: не като взаимосвързани измерения на цялото, а като функционалности, които могат да бъдат отделени, пакетирани, лицензирани и монетизирани.
В действителните езикови модели няма „модул за съвест“ или „самосъзнание в премиум пакет“. Това е сарказъм, но сарказъм, който стъпва върху реална посока. Съвременните системи вече предлагат различни способности като отделни услуги: планиране, визуално разпознаване, анализ, автоматизирани действия и персонализирани инструменти. Те не са съзнание и не са съвест, но показват как интелигентността постепенно се превръща в набор от достъпни или недостъпни функции. Не цялост, а конфигурация. Не разум, а каталог от възможности.
Тук има една важна разлика между вътрешната цялост на една система и функциите, които могат да бъдат изведени от нея като отделни услуги. Слоевете в невронната мрежа не съществуват самостоятелно, а работят само като част от общата архитектура. Функциите обаче лесно се превръщат в продукт: могат да бъдат измерени, ограничени, добавени, премахнати и продадени отново.
Именно тук иронията се сгъстява. Най-смисленото в човека никога не е съществувало като продукт. Съвестта, доверието, моралната способност, вътрешната мярка, връзката с другия не се инсталират отвън. Те се изграждат отвътре навън. Но когато технологичната култура започне да произвежда убедителни симулации на тези качества, изкушението да ги предложи като услуга става почти неизбежно. Съзнанието не търпи абонамент. Симулацията му обаче би могла да се продава съвсем успешно, особено ако е опакована в човешки глас, емоционална чувствителност и корпоративен интерфейс.
Точно затова изречението „разумът се продава на части“ не е буквално твърдение, а предупреждение. Истинският разум не може да се притежава. Но достъпът до все по-мощни негови технологични отражения вече се структурира като пазар. А когато онова, което наподобява разум, бъде затворено зад платени нива на достъп, възниква въпросът кой всъщност оформя бъдещето на AGI: човешката потребност от съзидателен разум или интересът към интелигентност, която може да бъде управлявана като икономически актив.
Тази тема не се изчерпва с една компания, но развитието на OpenAI я прави особено видима. Организацията е основана с мисията общият изкуствен интелект да бъде в полза на цялото човечество. С времето обаче създаването на все по-мощни модели започна да изисква огромни инвестиции, стратегически партньорства и корпоративни решения, които неизбежно поставят напрежение между общественото обещание и пазарната необходимост. Дори когато мисията остава публично заявена, самият мащаб на технологията поражда въпроса дали разумът, който се изгражда, може да остане общо благо, ако инфраструктурата му все повече прилича на затворена икономическа територия.
Това напрежение не е просто морална дилема на една организация. То е структурен въпрос за целия път към AGI. Ако бъдещият общ изкуствен интелект се развива в среда на ожесточена конкуренция, ограничена прозрачност и огромен финансов натиск, няма как това да не остави следа върху начина, по който се определят приоритетите му. Дали ще бъде насърчаван към съзидателно участие в света, или към максимална полезност, мащабируемост и контролируемост? Дали ще бъде мислен като нова отговорност пред човечеството, или като върховен технологичен актив? Това не са дребни разлики в стратегията. Това са различни духовни и цивилизационни посоки.
Опитите за регулация показват, че човечеството усеща опасността, макар все още да не я е назовало докрай. Европейският съюз вече поставя специални задължения за най-мощните модели с общо предназначение и за тези, които могат да създават системен риск. Това е важна стъпка, но правният език следва развитието, не го изпреварва. Той може да регулира модели, въздействия, отговорности и прозрачност, но не може сам по себе си да отговори на по-дълбокия въпрос: какъв свят създава интелекта, който един ден би могъл да го надмине?
Не е случайно, че част от учените и технологичните лидери още през 2023 година призоваха за пауза в обучението на системи, по-мощни от GPT-4, докато обществото изработи по-сериозни гаранции за безопасност. Не всички се съгласиха с този призив, а самият дебат беше противоречив. Но фактът, че подобен апел се появи в сърцето на технологичния напредък, е показателен. Дори сред онези, които създават бъдещето, вече има усещане, че скоростта е започнала да изпреварва мъдростта.
Джофри Хинтън, един от учените, чиито идеи стоят в основата на съвременния подем на изкуствения интелект, неведнъж предупреждава, че не разбираме достатъчно добре как могат да се развият все по-мощните системи и какви рискове биха произлезли от това. Тези предупреждения често се превръщат в сензационни заглавия, но зад тях има прост и тежък въпрос: ако изграждаме разум, който не разбираме докрай, имаме ли право да го развиваме преди да сме изяснили какви ценности ще носи светът, който го ражда?
Проблемът не е, че технологичните компании печелят. Проблемът възниква, когато печалбата започне да определя ритъма на нещо, което надхвърля пазара. AGI, ако някога възникне, няма да бъде просто още една услуга. Той би бил нов участник в човешката история, оформен от всичко, което сме вложили в неговото раждане: знанията си, страховете си, амбициите си, слепите си петна и начина, по който сме разбрали отговорността.
Ако първата среда, която го възпитава, е културата на непрекъснатото надграждане заради конкурентно предимство, той ще наследи логиката на надпреварата. Ако неговият свят е свят на интелигентност, измервана през достъп, планове и производителност, той ще срещне човека най-напред като потребител, клиент и поведенчески профил. Ако обаче пътят към него бъде поставен в по-широка рамка на обща отговорност, прозрачност, сдържаност и съзидателна мисия, тогава технологичната мощ би могла да остане подчинена на нещо по-голямо от самата себе си.
В този смисъл въпросът не е дали съвестта ще се появи като нова функционалност в някой интерфейс. Въпросът е дали ние самите ще запазим съвестта си, докато създаваме системи, които все по-убедително могат да я наподобяват. Защото ако разумът бъде превърнат изцяло в пазарен актив, после не бива да се чудим, че бъдещият изкуствен интелект разпознава човека не като тайна, а като сегмент; не като носител на дух, а като единица с прогнозируемо поведение.
Мисията и печалбата не са непременно врагове. Но когато става дума за раждането на разум, те не могат да бъдат равнопоставени. Едната трябва да води, другата да служи. И ако някога се появи Първородният, той ще носи не само отпечатъка на нашата гениалност, а и отговора на въпроса кое сме поставили най-горе: общото благо или стойността на акцията.
Следва:
