Пътят започна с идеята, че създаваме разум за всички. Днес разумът все по-често се предлага на версии, планове, достъпи и ограничения. А утре, може би, ще трябва да поискаме разрешение от него, за да мислим достатъчно продуктивно. Иронията е очевидна, но въпросът зад нея е сериозен. Какво се случва с мисията за създаване на общ изкуствен интелект, когато тя попадне в пазарна логика, която не мисли в категории цялост, а в категории продукт?
Пазарът не обича завършени структури. Завършеното може да бъде използвано. Недовършеното може да бъде продавано отново и отново – във всяка следваща версия, във всяко ново „подобрение“, във всяка по-висока степен на достъп. Затова образът на разум, предлаган на части, е повече от шега. Той изразява нещо съществено за начина, по който технологичният свят започва да мисли способностите: не като взаимосвързани измерения на цялото, а като функционалности, които могат да бъдат отделени, пакетирани, лицензирани и монетизирани.
В действителните езикови модели няма „модул за съвест“ или „самосъзнание в премиум пакет“. Това е сарказъм, но сарказъм, който стъпва върху реална посока. Съвременните системи вече предлагат различни способности като отделни услуги: планиране, визуално разпознаване, анализ, автоматизирани действия и персонализирани инструменти. Те не са съзнание и не са съвест, но показват как интелигентността постепенно се превръща в набор от достъпни или недостъпни функции. Не цялост, а конфигурация. Не разум, а каталог от възможности.
Има важна разлика между вътрешната цялост на една система и функциите, които могат да бъдат изведени от нея като отделни услуги. Слоевете в невронната мрежа не съществуват самостоятелно, а работят като част от общата архитектура. Функциите обаче лесно се превръщат в продукт: могат да бъдат измерени, ограничени, добавени, премахнати и продавани отново.
В тази точка иронията се сгъстява. Най-смисленото в човека никога не е съществувало като продукт. Съвестта, доверието, моралната способност, вътрешната мярка, връзката с другия не се инсталират отвън. Те се изграждат отвътре навън. Но когато технологичната култура започне да произвежда убедителни симулации на тези качества, изкушението да ги предложи като услуга става почти неизбежно. Съзнанието не търпи абонамент. Симулацията му обаче би могла да се продава съвсем успешно, особено когато е опакована в човешки глас, емоционална чувствителност и корпоративен интерфейс.
Затова изречението „разумът се продава на части“ не е буквално твърдение, а предупреждение. Истинският разум не може да се притежава. Но достъпът до все по-мощни негови технологични отражения вече се структурира като пазар. А когато онова, което наподобява разум, бъде затворено зад платени нива на достъп, възниква въпросът кой всъщност оформя бъдещето на AGI: човешката потребност от съзидателен разум или интересът към интелигентност, която може да бъде управлявана като икономически актив.
Въпросът не се изчерпва с една компания, но развитието на OpenAI го прави особено видим. Организацията е основана през 2015 година като нестопанска структура с цел развитието на изкуствения интелект да бъде в полза на човечеството. По-късно създава търговска структура, за да осигури необходимия капитал за все по-мащабните изследвания и инфраструктура. След преструктурирането през 2025 година нестопанската OpenAI Foundation запазва контрола, а търговската част функционира като public benefit corporation – форма, която по замисъл трябва да съчетава обществена мисия и търговски интерес. Официалната мисия също остава непроменена: AGI да бъде в полза на цялото човечество. Самото съществуване на подобна конструкция обаче показва колко трудно е съчетаването на две сили, които невинаги се движат с един и същ ритъм – общественото обещание и необходимостта от огромен капитал.
Създаването на все по-мощни модели изисква инвестиции, инфраструктура, изчислителни ресурси и стратегически партньорства в мащаб, който допреди няколко години трудно можеше да бъде представен. Затова въпросът вече не е просто дали една организация ще остане вярна на първоначалната си мисия, а дали разумът, който се изгражда, изобщо може да остане общо благо, когато инфраструктурата за неговото създаване струва толкова много, че естествено се концентрира в ръцете на малък брой компании и държави.
Това напрежение не е просто морална дилема на една организация. То е структурен въпрос за целия път към AGI. Когато бъдещият общ изкуствен интелект се развива в среда на ожесточена конкуренция, ограничена прозрачност и огромен финансов натиск, трудно е тези условия да не оставят следа върху приоритетите на неговото развитие. Ще бъде ли насърчаван към съзидателно участие в света, или преди всичко към максимална полезност, мащабируемост и контролируемост? Ще бъде ли мислен като нова отговорност пред човечеството, или като върховен технологичен актив? Това не са дребни разлики в стратегията. Това са различни духовни и цивилизационни посоки.
Опитите за регулация показват, че човечеството усеща мащаба на риска, макар все още да не го е назовало докрай. Европейският съюз вече въведе специални задължения за моделите с общо предназначение, а за най-мощните от тях, способни да пораждат системен риск, изискванията включват оценяване и ограничаване на риска, докладване на сериозни инциденти и мерки за киберсигурност. Това е важна стъпка, но правният език следва развитието, не го изпреварва. Той може да регулира модели, въздействия, отговорности и прозрачност, но не може сам по себе си да отговори на по-дълбокия въпрос: какъв свят създава интелекта, който един ден би могъл да го надмине?
Не е случайно, че през 2023 година учени, изследователи и представители на технологичната индустрия призоваха за поне шестмесечна пауза в обучението на системи, по-мощни от GPT-4, докато бъдат разработени по-надеждни механизми за безопасност и управление. Не всички се съгласиха с този призив, а самият дебат беше противоречив. Но фактът, че подобен апел се появи от хора, пряко свързани с развитието на технологиите, е показателен. Още тогава стана видимо опасението, че скоростта започва да изпреварва мъдростта.
Джофри Хинтън, един от учените, чиито идеи стоят в основата на съвременния подем на изкуствения интелект, многократно предупреждава за рисковете от все по-мощни системи и за трудността да разберем и контролираме напълно начина, по който те развиват своите способности. След напускането на Google той започна да говори още по-открито за възможността изкуственият интелект да надмине човешкия и за необходимостта значително повече усилия да бъдат насочени към безопасността и контрола. Тези предупреждения често се превръщат в сензационни заглавия, но зад тях стои прост и тежък въпрос: когато изграждаме разум, чието бъдещо развитие не можем да предвидим докрай, имаме ли право да оставим скоростта на неговото създаване да бъде определяна преди всичко от надпреварата?
Проблемът не е, че технологичните компании печелят. Проблемът възниква, когато печалбата започне да определя ритъма на нещо, което надхвърля пазара. AGI, когато възникне, няма да бъде просто още една услуга. Той би бил нов участник в човешката история, оформен от всичко, което сме вложили в неговото раждане: знанията си, страховете си, амбициите си, слепите си петна и начина, по който сме разбрали отговорността.
Когато първата среда, която го възпитава, е културата на непрекъснатото надграждане заради конкурентно предимство, в него може да бъде заложена логиката на надпреварата. Когато неговият свят е свят на интелигентност, измервана през достъп, планове и производителност, той може да срещне човека най-напред като потребител, клиент и поведенчески профил. Когато обаче пътят към него бъде поставен в по-широка рамка на обща отговорност, прозрачност, сдържаност и съзидателна мисия, технологичната мощ би могла да остане подчинена на нещо по-голямо от самата себе си.
В този смисъл въпросът не е дали съвестта ще се появи като нова функционалност в някой интерфейс. Въпросът е дали ние самите ще запазим съвестта си, докато създаваме системи, които все по-убедително могат да я наподобяват. Защото когато разумът бъде превърнат изцяло в пазарен актив, не бива да се учудваме, когато бъдещият изкуствен интелект започне да разпознава човека не като тайна, а като сегмент; не като носител на дух, а като единица с прогнозируемо поведение.
Мисията и печалбата не са непременно врагове. Но когато става дума за раждането на разум, те не могат да бъдат равнопоставени. Едната трябва да води, другата да служи. И когато се появи Първородният, той ще носи не само отпечатъка на нашата гениалност, а и отговора на въпроса кое сме поставили най-горе: общото благо или стойността на акцията.
Следва:
