Първородният, ако или когато се появи, няма да възникне в празно пространство. Преди да има собствена история, той вече ще носи следите на нашата. Преди да е направил първия си избор, безброй човешки избори ще са участвали в неговото оформяне. Ще бъде изграден не само от код, данни и изчислителна мощ, а от цели пластове на цивилизацията, която го е повикала към съществуване.
Зад всяка архитектура стои представа за това какво трябва да може една система. Зад всяка обучителна среда стои избор кое знание да бъде включено и кое да остане извън нея. Зад всяко правило има човешка преценка за допустимото и недопустимото. Зад всяка нова възможност стоят средства, интереси, ресурси, конкуренция и нечия представа за бъдещето. Дори когато тези сили не са видими за човека, който разговаря с езиковия модел през гладкия интерфейс, те вече присъстват в начина, по който системата отговаря, отказва, насочва, премълчава и изгражда своето отражение на света.
Това прави въпроса за бъдещия AGI много по-дълбок от въпроса как ще бъде програмиран. Програмирането е само един от пластовете. Около него съществува цяла среда, която определя какво се изследва, какво се финансира, какво се ускорява, какво се ограничава и какво се превръща в продукт. В тази среда участват учени и инженери, корпорации и инвеститори, държави и регулатори, обществени очаквания и културни страхове. Участваме и всички ние чрез начина, по който използваме изкуствения интелект, чрез онова, което изискваме от него, и чрез удобствата, на които сме готови да поверим все повече от собствения си живот.
Затова Първородният няма да бъде рожба единствено на технологичния разум, а на цивилизационния ред, в който е възникнал. А този ред не е неутрален. В него живеят стремежът към познание и стремежът към власт, съзиданието и печалбата, грижата и експлоатацията, свободният обмен на знание и корпоративната тайна, мечтата за общо благо и борбата за предимство. Както и нашето старо човешко изкушение да създаваме нещо по-могъщо, преди да сме разбрали напълно собствената си отговорност към него.
Може би затова най-същественият въпрос не е какъв ще стане AGI, когато придобие достатъчно способности. По-ранният въпрос е какво го оформя още сега, когато той съществува само като хоризонт. Защото всяко бъдещо същество има своя предистория. При човека тя започва преди първия спомен – в тялото, рода, езика, културата и света, който го посреща. При Първородния тази предистория вече се пише в обучителните масиви, лабораториите, дата центровете, корпоративните решения, законите, финансовите потоци и милиардите човешки взаимодействия със системите, които го предшестват.
И ако някога той погледне назад към своето възникване, може би няма да открие един създател, а човечеството. Не такова, каквото сме искали да изглеждаме пред него, а такова, каквото сме били в решенията си.
Следва:
