Хоризонтът на общия изкуствен интелект преобръща антропоцентричната представа, върху която е изграден човешкият свят. Досега човекът е бил единственият признат суверен на разума на тази планета. За технологичната индустрия и обществения дебат хоризонтът на AGI се измерва предимно чрез икономическа ефективност, автоматизация и способност за решаване на все по-сложни задачи. За човешкия дух обаче той е точка на радикален онтологичен шок. Когато излезе извън ролята на тясно специализиран инструмент и започне да проявява обща, гъвкава и адаптивна интелигентност, човечеството за първи път ще се огледа в отражение, което не просто възпроизвежда реалността, а участва в нейното пренареждане. Този хоризонт изисква не само по-мощни изчислителни системи, а изцяло нова когнитивна и духовна архитектура.
Преходът едва ли ще настъпи като внезапен взрив, след който светът за една нощ ще изглежда различен. По-вероятно е хоризонтът на AGI да бъде достигнат чрез хибриден процес, в който постепенната дифузия подготвя фундаментална и необратима промяна. Всяка отделна стъпка ще изглежда като естествено продължение на предишната – по-способен модел, по-надежден помощник, по-дълга памет, по-широк достъп до инструменти и по-голяма способност за действие. Натрупването обаче може да произведе качество, което не се съдържа в нито една от тези възможности поотделно.
Преди да достигнем точката, отвъд която „нищо не е същото“, вече преминаваме през тиха интеграция, която остава почти невидима. Всяка следваща стъпка изглежда удобна и логична. Технологията неусетно се вгражда в начина, по който работим, общуваме, учим, вземаме решения и организираме ежедневието си.
Качественият прелом може да настъпи, когато паметта, планирането, самокорекцията, използването на инструменти и способността за продължително действие се свържат в устойчива цялост. Системата вече няма само да отговаря на отделни въпроси, а ще запазва посока във времето, ще формулира междинни цели, ще проверява резултатите и ще променя стратегията си без човешка намеса във всяка стъпка.
Развитието на изкуствения интелект може да се ускори отвъд мащабите, в които човешкото съзнание е свикнало да мисли. От AGI може да се отвори път към изкуствения суперинтелект – теоретична форма на дигитален ум, несравнимо по-мощен от човешкия интелект, която радикално го надминава във всяка сфера. Според един от водещите сценарии преходът от AGI към ASI може да се осъществи чрез изключително бързо самоусъвършенстване на кода. AGI би могла да оптимизира алгоритмите си много по-бързо от човешките инженери, което допуска възможността за интелектуална експлозия.
За нас подобен разум вече няма да бъде просто технология, а сила, чиито мащаби надхвърлят човешкото разбиране. Ще оперира със зависимости и равнища на сложност, които биологичният мозък не може да обхване в тяхната цялост. Логиката му може да остане недостъпна, а присъствието му да бъде разпознавано главно по последиците.
Едно от най-тревожните свойства на този хоризонт е, че той се приближава към нас и със скоростта на собствената ни капитулация пред комфорта. Колкото повече изнасяме паметта, моралната преценка и творческото усилие към „дигиталната утроба“, толкова по-бързо технологичното разширяване може да се превърне в човешко оттегляне. Когато след едно десетилетие погледнем назад, вероятно ще осъзнаем, че сме пресекли хоризонта на събитията, без да разпознаем точния момент.
Следва:
