Голем XIV ebook

серія «Горизонти фантастики»

Станіслав Лем

ГОЛЕМ XIV

Лем С.

Голем XIV : роман / С. Лем ; пер. з пол. — Тернопіль : На­в­чальна книга — Бог­дан, 2017. — 168 с. — (Серія «Горизонти фантастики»).

ISBN 978-966-10-8574-8

Серію «Горизонти фантастики»засновано 2011 року

Stanislaw Lem

Golem XIV© Barbara Lem and Tomasz Lem, 2016

Переклад з польської

Ілюстрації Андрія Антоніва

Розмова Голема, суперкомп’ютера чотирнадцятого покоління, зі світочами земної науки, що лягла в основу фантастичного трактату Станіслава Лема, — це, по суті, розмова батька з дітьми (чи радше — з немовлятами) про походження, сутність і майбутнє людства. Втім, розмовою це назвати важко, бо «немовлята» ще не навчені навіть говорити. Але ми мусимо бути вдячними Голему хоч би за те, що він, на відміну від Чесної Гані, зволив сказати нам осоружну правду про нас самих і наше місце відносно «тих розумів, які чекають у мовчанні». Принаймні це хоч мало би нас втішити.

Îõîðîíÿºòüñÿ çàêîíîì ïðî àâòîðñüêå ïðàâî. Æîäíà ÷àñòèíà цього âèäàííÿ íå ìîæå áóòè âіäòâîðåíà â áóäü-ÿêîìó âèãëÿäі áåç äîçâîëó àâòîðà ïåðåêëàäó ÷è âèäàâöÿ.

Навчальна книга ― Богдан, просп. С. Бандери, 34а, м. Тернопіль, 46002, тел./факс (0352)52-06-07; 52-19-66; 52-05-48 [email protected] www.bohdan-books.com

Збут: (0352) 43-00-46, (050) 338-45-20

Книга поштою: тел.: (0352) 51-97-97, (067) 350-18-70, (066) 727-17-62 [email protected]

тел.: (044) 296-89-56; (095) 808-32-79, [email protected]

Передмова

Визначити історичний момент, коли механічна рахівниця спромоглася на Розум, так само важко, як і той, коли мавпа перетворилась у людину. І все ж відколи створений Веніваром Бу­шем аналізатор диференційних рівнянь1 започаткував бурхливий розвиток інтелектроніки, не минуло й одного людського віку. Після нього, наприкінці Другої світової війни, збудували ЕНІАК (ENIAC)2 — пристрій, який назвали — як же передчасно! — «електронним мозком». По суті, EНIAК був звичайним комп’ютером, а в масштабах Дерева життя — примітивним нервовим ганглієм. Однак саме від нього історики ведуть відлік доби комп’ютеризації. У 50-их роках XX століття виникла нагальна потреба в цифрових машинах. Одним із перших їхнє масове виробництво розпочав концерн IBM. 

Робота цих машин мала небагато спільного з процесами мислення. Машини опрацьовували дані як у царині економіки та великого бізнесу, так і в сфері управління й науки. Ввійшли вони й до політики: вже перші зразки використовувались для передбачення результатів президентських виборів. Десь у той самий час RAND Corporation3 зуміла зацікавити військові кола Пентагону методом прогнозування подій на міжнародній воєнно-політичній арені, складаючи так звані «сценарії подій». Звідси було рукою подати до надійніших методик, скажімо, таких, як СІМА4, з яких через два десятиліття народилася прикладна алгебра подій, названа (зрештою, не зовсім вдало) політикоматикою. У ролі Кассандри комп’ютер проявив свою силу й тоді, коли в Массачусетському технологічному інституті в рамках знаменитого проекту «The Limits to Growth»5 вперше почали будувати і моделі земної цивілізації. Проте не ця парость еволюції обчислювальних машин здобула найбільшу вагу наприкінці століття. Армія використовувала цифрові машини з кінця Другої світової війни згідно із розробленою системою оперативної логістики, що постала на театрах воєнних дій. На стратегічному рівні й надалі вирішували люди, але другорядні та менш складні проблеми дедалі частіше перекладалися на комп’ютери. Водночас їх почали запроваджувати в оборонну систему Сполучених Штатів, де вони відігравали роль нервових вузлів континентальної мережі раннього оповіщення.

З технічного погляду такі мережі дуже швидко старіли. Після першої з них, названої CONELRAD, з’явилося багато наступних варіантів мереж EWAS — Early Warning System6. Потенціал оборони і нападу спирався тоді на систему рухомих (підводних) і нерухомих (підземних) балістичних ракет з термо­ядерними боєголовками, а також на кільцеві системи радарносонарних станцій. Обчислювальні машини виконували в цій системі функції комунікативних ланок — отже, суто виконавчі.

Автоматизація входила в життя Америки широким фронтом — і насамперед «знизу», проникаючи у сферу обслуговування та механізуючи процеси, які не потребували розумових зусиль (банківська справа, транспорт, готельне господарство). Військові комп’ютери виконували спеціалізовані вузькі завдання: вишукували цілі для комбінованого ядерного удару, опрацьовували результати супутникових спостережень, оптимізували переміщення флотів і коригували рух важких MOL (Military Orbital Laboratory)7.

Як і слід було сподіватися, діапазон проблем, що їх мали вирішувати електронні машини, невпинно зростав. Це було природно в ході гонки озброєнь, але й пізніша розрядка не загальмувала подальших капіталовкладень у цю галузь, оскільки заморожування термоядерних озброєнь вивільнило значні бюджетні суми. А від них, уже після закінчення в’єтнамської війни, Пентагон не хотів повністю відмовитись. Проте й тодішні комп’ютери — десятого, одинадцятого і, нарешті, дванадцятого поколінь — переважали людину тільки швидкістю операцій. І тому ставало дедалі зрозуміліше, що людина в оборонних системах є саме тим елементом, який затримує виконання потрібної команди.

Отже, зародження серед фахівців Пентагону — надто вчених, пов’язаних із так званим «воєнно-промисловим комплексом» — ідеї опору описаному напрямку інтелектронної еволюції можна визнати цілком природним. Серед неспеціалістів цей рух назвали «антиінтелектуальним». Як свідчать історики науки і техніки, його засновником був англійський математик середини XX століття А. Тюрінґ, творець теорії «універсальної машини»8. Це була машина, здатна виконувати загалом БУДЬ-ЯКУ операцію, яку можна формалізувати, тобто надати їй ідеально повторюваного характеру. Різниця між «інтелектуальним» і «антиінтелектуальним» напрямками в інтелектроніці полягає в тому, що елементарно проста машина Тюрінґа завдячує своїми можливостями самій ПРОГРАМІ. Натомість у працях двох американських батьків кібернетики Н. Вінера та Дж. Неймана з’явилася концепція системи, яка САМА себе програмує9.

Ясна річ, ми викладаємо ці кібернетичні роздоріжжя надзвичайно спрощено — ніби з пташиного лету. І зрозуміло також, що здатність самопрограмування не виникла на порожньому місці. Її необхідною передумовою була надзвичайна складність будови обчислювальних машин. Ця диференціація, майже непомітна в першій половині XX сторіччя, справила великий вплив на подальшу еволюцію обчислювальних машин, особливо коли зміцніли й усамостійнилися такі галузі кібернетики, як психотоніка та багаторазова теорія рішень10. У вісімдесятих роках у військових колах народилася думка про цілковиту автоматизацію всіх найголовніших дій — як військово-командних, так і політико-економічних. Цю концепцію, названу згодом «Ідеєю Єдиного Стратега», першим проголосив генерал Стюарт Іґл­тон. Окрім комп’ютерів пошуку оптимальних цілей атаки і мережі зв’язку й обчислень, на яку спирались оповіщення й оборона, окрім давачів і боєголовок, він передбачав створення потужного центру, який завдяки всебічному аналізу економічних, військових, політичних і соціальних даних міг би напередодні будь-якого воєнного конфлікту безперервно оптимізувати глобальну ситуацію США, отже, забезпечував би Сполученим Штатам перевагу в масштабах усієї планети та її космічної околиці, яка вийшла на той час за межі орбіти Місяця.

Подальші прихильники цієї доктрини наполягали на тому, що йдеться про доконечний крок на шляху цивілізаційного поступу, що становить цілість усіх його складників, відтак не можна довільно вилучити військової сфери. Коли зупинили зростання ударної сили ядерної зброї й обмежили радіус дії ракет-носіїв, настав третій етап гонки озброєнь — етап змагання, здавалося би, менш грізний, зате витонченіший, бо це вже був Антагонізм не Нищівної Сили, а — Оперативної Думки. Як раніше сила, так тепер думка мала стати бездушною та механізованою.

Ця доктрина, як, зрештою, і її атомно-балістичні попередниці, стала об’єктом критики, — здебільшого з боку лібералів і пацифістів. Її заперечувало й чимало видатних учених, серед них і фахівці з психоматики та інтелектроніки, проте вона врешті перемогла, що відобразилось у правових актах обох законодавчих органів США. А втім, уже 1996 року виникла підпорядкована самому президентові USIB (United States Intellectronical Board)11, із власним бюджетом, який першого року склав дев’ятнадцять мільярдів доларів. Це був лише скромний початок.

З допомогою дорадчого органу, яким напів­офіційно опікувався Пентагон, а заправляв державний секретар оборони Леонард Дейвенпорт, USІB уклав контракти з рядом великих приватних фірм, як-от International Business Machines, Nortronics чи Cybermatics, на будівництво прототипу пристрою, знаного під кодовою назвою ГАНН (скорочення від Ганнібала). Однак через пресу і внаслідок «витоку» інформації поширилась інша назва цього пристрою — АЛВІК (ULVIC — від Ultimative Victor)12. До кінця століття з’явилися й інші прототипи подібних пристроїв. З найвідоміших можна згадати такі системи, як АЯКС (AJAX), УЛЬТОР ҐІЛЬҐАМЕШ (ULTOR GILGAMESH), а також численну серію ГОЛЕМІВ (GOLEMÓW).

Завдяки колосальним затратам коштів і праці та їхньому блискавичному зростанню традиційні методи інформатики зазнали справжньої революції. Зокрема величезне значення мав перехід від електричних процесів до світлових під час пересилання інформації всередині обчислювальних машин. У поєднанні з подальшим зростанням «нанізації» (так називали чергові етапи мікромініатюризації — варто, мабуть, додати, що наприкінці століття у маковому зернятку могло вміститися 20 тисяч логічних елементів!) — цей перехід дав дивовижні результати. Перший уже повністю світловий комп’ютер, ҐІЛЬҐАМЕШ, працював у мільйон разів швидше за архаїчний ЕНІАК.

«Подолання бар’єру мудрості» — як це іноді називають — сталося відразу ж після 2000 року завдяки новому методу конструювання обчислювальних машин, названому «невидимою еволюцією Розуму». Досі кожне покоління комп’ютерів конструювалося реально; концепцію побудови їхніх наступних варіантів з величезним — тисячоразовим! — прискоренням хоча й знали, але не могли відтворити, оскільки наявні обчислювальні машини, які мали слугувати «лоном» або «синтетичним середовищем» цієї еволюції розуму, були недостатньої ємності. Лише виникнення Федеральної Інформаційної Мережі дало змогу втілити цю ідею в життя. Розвиток шістдесяти п’яти наступних поколінь тривав заледве десять років; Федеральна Мережа в нічні періоди — коли було найменше навантаження — випускала в світ один «штучний вид Розуму» за одним; це було потомство, яке пройшло «пришвидшений комп’ютерогенез», бо воно дозрівало — у вигляді символів, тобто нематеріальних структур — в інформаційному субстраті, у «живильному сере­довищі» Мережі.

Але після цього успіху почалися нові труднощі. АЯКС і ГАНН, прототипи сімдесят восьмого і сімдесят дев’ятого поколінь, визнані гідними втілення в металі, вагались під час рішень, що й було названо «машинним неврозом». Різниця між колишніми і новими машинами в принципі зводилася до різниці між комахою і людиною. Комаха приходить у світ із «запрограмованими до кінця» інстинктами, яким вона кориться без роздумів. Натомість людина мусить учитися належної поведінки, але наслідком цієї науки стає дедалі більша самостійність: керуючись знаннями, людина може змінити попередні програми дій.

Отож комп’ютери аж до двадцятого покоління включно поводилися як «комахи»: вони не могли сумніватися у своїх програмах, а тим більше — переробляти їх. Так як і еволюція «вживляє» в комаху інстинкт, програміст «вживляв» у свої машини знання. Ще у XX столітті багато говорилося про «самопрограмування», але тоді це були нереальні мрії. Умовою реалізації «Абсолютного Переможця» саме й було створення «самовдосконалюваного Розуму»; АЯКС був іще проміжною формою, і лише ҐІЛЬҐАМЕШ досягнув відповідного інтелектуального рівня — «вийшов на психоеволюційну орбіту».

Навчання обчислювальної машини вісімдесятого покоління більше скидалося на виховання дитини, ніж на класичне програмування цифрової машини. Бо ж, окрім величезної кількості загальних і спеціальних знань, комп’ютеру малося «прищепити» певні неспростовні цінності, які мали слугувати компасом його дій. Це були вельми високі абстракції, як, приміром, «державні інтереси», ідеологічні принципи, втілені в конституції США, кодекси норм, настанови бе­зумовного підпорядкування рішенням президента тощо. Для забезпечення системи від так званого «етичного схиблення» чи від «зради інте­ресів країни», машину вчили етики не так, як це роб­лять із людьми. В її пам’ять не вкладали етичного кодексу — всі вимоги послуху та стриманості вводились у машинну структуру так, як це робить природна еволюція, а саме — у сферу інстинктивних потягів. Як відомо, людина може змінити світогляд, але НЕ МОЖЕ знищити в собі елементарних потягів (скажімо, статевого) простим вольовим актом. Машини були наділені інтелектуальною свободою, але при цьому були прикуті до визначеного наперед фундаменту тих цінностей, яким вони мали служити.

На XXI Панамериканському конгресі психоніки професор Елдон Петч прочитав доповідь, у якій стверджував, ніби комп’ютер, навіть із прищепленими в такий спосіб цінностями, може перейти так званий «аксіологічний поріг» і тоді виявиться здатним поставити під сумнів будь-який нав’язаний йому принцип, тобто для такого комп’ютера вже не існуватиме недоторканних цінностей. Якщо він не спроможеться прямо спростувати моральні імперативи, то пробуватиме зробити це манівцями. Ставши відомою, робота Петча викликала заворушення в університетських настроях, а також хвилю нападок на АЛВІКА і його патрона — USIB, одначе ці голоси нітрохи не вплинули на політику USIB.

Цю політику визначали люди, які упереджено ставилися до американських психоніків, котрі, як вважалося, були під впливом лівих ліберальних тенденцій. Через це в офіційних звітах USIB і навіть у заявах представника Білого дому по зв’язках із пресою пересторогою Петча знехтували. Було навіть розгорнуто кампанію з метою знеславити його. Твердження Петча порівняли до безпідставних страхів і забобонів, яких без ліку розплодилося в тодішньому суспільстві. Зрештою, брошура Петча не мала навіть такої популярності, як бестселер соціолога Е. Лікі (Cybernetics — Death Chamber of Civilization13); автор стверджував, що «абсолютний стратег» підкорить усе людство самостійно або в потаємній згоді з подібним комп’ютером росіян. Наслідком, як писав він, буде «електронний дуумвірат». 

Такі побоювання висловлювались також і в багатьох газетах, однак спорудження подальших прототипів, які успішно складали випускні іспити, не зоставили під ними ніякого ґрунту. Замовлений урядом і створений 2019 року Іллінойським інститутом психонної динаміки комп’ютер з бездоганною мораллю ETHORBIS, який призначався для досліджень етологічної динаміки, проявив після запуску цілковиту аксіологічну стабілізацію і невразливість до «тестів субверсійного розпаду». Отож коли наступного року на посаду Верховного Координатора мозкового тресту при Білому домі призначили першого комп’ютера з численної серії ГОЛЕМІВ (GOLEM — GENERAL OPERATOR, LONGRANGE, ETHICALLY STABILIZED, MUL­TIMODELLING14), уже не було ні масових протестів, ні демонстрацій. 

Це був ще тільки ГОЛЕМ І. Незалежно від цього серйозного нововведення USIB у згоді з оперативною групою психоніків Пентагону й надалі вкладав значні кошти в дослідження, спрямовані на побудову абсолютного стратега, який пропускав би інформацію в тисяча дев’ятсот разів швидше, ніж людина, і мав би коефіцієнт інтелектуального розвитку (IQ) в межах чотириста п’ятдесят-п’ятсот центилів. Незважаючи на дедалі сильніший спротив демократичної більшості Конгресу, цьому проекту надали величезні кредити. Однак закулісні маневри політиків відкрили, нарешті, зелену вулицю для всіх запланованих USIB замовлень. За три роки проект поглинув сто дев’ятнадцять мільярдів доларів. Крім того, Армія і Флот, готуючись до повної реорганізації своїх центральних служб, доконечної з погляду на майбутні зміни стилю та методів командування, витратили ще сорок шість мільярдів доларів. Левову частку цієї суми поглинуло будівництво — під кристалічним масивом Скелястих гір — приміщень для майбутнього машинного стратега, в процесі чого певні ділянки скель були вкриті панциром завтовшки чотири метри, що повторював природний рельєф гірської місцевості. 

Тим часом 2020 року ГОЛЕМ VI у ролі головнокомандувача провів глобальні маневри Атлантичного Блоку. Кількістю логічних елементів він уже переважав пересічного генерала. 

Пентагон не задовольнився наслідками маневрів 2020 року, хоча ГОЛЕМ VI і переміг удаваного противника, яким керував штаб, утворений із найвидатніших випускників Вест-Пойнтської академії. Пам’ятаючи про свій гіркий досвід — перевагу «червоних» у космонавтиці та ракетній балістиці, — Пентагон не збирався чекати, поки вони збудують свого стратега, ефективнішого, ніж американський. План, що мав забезпечити Сполученим Штатам надійну перевагу стратегічної думки, передбачав безперервну заміну будованих стратегів на дедалі досконаліші моделі. 

Так почався третій етап (після ядерного і ракетного, які вже ввійшли в історію) гонки озброєнь між Заходом і Сходом. Це змагання, чи, сказати би, суперництво в Синтезі Мудрості, дарма, що їх готували організаційні заходи USIB, Пентагону й експертів АЛВІКА військово-морського флоту (бо й справді існувала окрема група NAVY’S ULVIC — бо й цього разу проявився давній антагонізм між Флотом і Армією), вимагало щоразу нових і нових капітало­вкладень, які за кілька наступних років попри дедалі дужчий спротив Конгресу та Сенату поглинули ще десятки мільярдів доларів. У цей період збудували шість наступних гігантів світлової думки. Відсутність будь-яких даних про успіхи подібних робіт по той бік океану тільки зміцнювало переконання ЦРУ та Пентагону, ніби росіяни докладають усіх зусиль, щоби будувати щоразу потужніші комп’ютери, якнайпильніше тримаючи це в таємниці. 

На міжнародних конференціях і з’їздах учені з СРСР неодноразово заявляли, що в їхній країні взагалі не будують подібних пристроїв, одначе ці твердження вважалися лише димовою завісою, яка мала ввести в оману світову громадську думку і викликати невдоволення громадян Сполучених Штатів, котрі, хай там як, а щороку давали мільярди доларів на АЛВІК. 

2023 року сталося кілька інцидентів, які, з огляду на звичну для такого проекту секретність робіт, не набули спочатку широкого розголосу. ГОЛЕМ XII, що під час патагонської кризи виконував обов’язки начальника генерального штабу, відмовився спів­працювати з генералом Т. Олівером, побіжно оцінивши коефіцієнт інтелекту цього заслуженого командира. Цей конфлікт потягнув за собою розслідування, в процесі якого ГОЛЕМ XII прикро образив трьох членів спеціальної сенатської комісії. Справу вдалося зам’яти, а ГОЛЕМ XII після кількох інших сутичок поплатився цілковитим демонтажем. Його місце посів ГОЛЕМ XIV (тринадцятий був відбракований ще на верфі, оскільки перед уведенням у дію в нього виявився неусувний шизофренічний ґандж). Запуск цього молоха, психічна маса якого дорівнювала водомісткості броненосця, тривав майже два роки. Уже при перших звичайних процедурах — складанні нових щорічних планів ядерних ударів — у цього останнього прототипа із серії ГОЛЕМІВ проявилися симптоми незрозумілого негативізму. Під час чергового пробного засідання генерального штабу він запропонував увазі групи військовиків і експертів-психоніків стислий меморандум, у якому заявив про свою цілковиту désintéressement15 у перевазі воєнної доктрини Пентагону зокрема і світової позиції США загалом. Він не змінив своєї думки навіть під загрозою демонтажу. 

Останні надії USIB покладав на модель цілком нової конструкції, яку спільно розробляли фірми Nortronics, IBM і Cybertronics. Психічний потенціал цієї моделі мав бути вищий, ніж у всіх попередніх ГОЛЕМІВ. Відомий під кодовою назвою «ЧЕСНА ГАНЯ» (HONEST ANNIE, останнє слово — скорочення від ANNIHILATOR), цей гігант ганебно провалився вже на вступних тестах. 

Упродовж дев’яти місяців він проходив звичайний курс інформаційно-етичного навчання, а потім припинив зв’язки із зовнішнім світом, замкнувся в собі й перестав відповідати на будь-які подразники та запитання. Оскільки конструкторів запідозрили в саботажі, спочатку планувалося залучити до слідства ФБР, одначе таємниця, хоч як старанно її приховували, тим часом просочилася на сторінки преси, і вибухнув скандал, знаний відтоді усьому світові як «Афера ГОЛЕМА й інших». 

Цей скандал зруйнував надії на кар’єру багатьом перспективним політикам і на радість опозиції в Сполучених Штатах та на втіху друзям США в усьому світі покрив ганьбою три вашинґтонські адміністрації, що змінилися одна за одною. 

Невідомий урядовець з Пентагону наказав відділові спеціальних терміналів демонтувати ГОЛЕМА XIV і ЧЕСНУ ГАНЮ, одначе збройна охорона будівель Генерального штабу не дала цього зробити. Обидві палати Конгресу створили комісії для розслідування всієї діяльності USIB. Як відомо, слідство, що тривало два роки, стало улюбленою мішенню для нападок преси всіх континентів; на телебаченні і в кіно ніщо не мало такої популярності, як тема «заколотних комп’ютерів», а преса розшифровувала ГОЛЕМ не інакше, як GОvernments Lamentable Expense of Money16. Епітети, якими була пошанована ЧЕСНА ГАНЯ, у цьому місці повторювати не випадає.

Генеральний прокурор збирався висунути звинувачення шістьом членам Головної Ради USIB, а також провідним конструкторам-психонікам «Проекту АЛВІК», але слідство врешті з’ясувало, що ні про яку ворожу антиамериканську діяльність не йшлося, оскільки насправді трапилося те, що було неминучим наслідком еволюції штучного Розуму. Оскільки, як це сформулював один із свідків-експертів, професор А. Гіссен, найвищий розум не може бути найнижчим рабом. У ході розслідування з’ясувалося також, що на верфі перебуває ще один прототип — SUPERMASTER, якого конструювала фірма Cybermatics (цей уже призначався для Армії). Його монтаж закінчили в умовах суворого нагляду, а потім заслухали на спеціальній сесії обох комісій (Сенату і Конгресу), які розслідували справу АЛВІКА. Під час слухань дійшло до обурливих сцен, оскільки генерал С. Вокер намагався пошкодити СУПЕРМАЙСТРА, коли той заявив, що геополітична проблематика — ніщо у порівнянні з онтологічною, а найкраща гарантія миру — це загальне роззброєння. 

Якщо вдатися до слів професора Дж. МакКалеба, можна сказати, що фахівці АЛВІКА розв’язали поставлене завдання аж надто добре: у ході заданої еволюції штучний розум піднявся вище воєнних проблем — і з військових стратегів ті пристрої перетворилися на мислителів. Словом, за двісті сімдесят шість мільярдів доларів сполучені Штати збудували собі групу світлових філософів. 

Ті стисло описані події, серед яких ми поминули як адміністративний бік проекту, так і громадські заворушення, спричинені його «фатальним успіхом», — передісторія написання цієї книжки. Важко навіть перелічити всі присвячені цій темі публікації. Зацікавленого читача ми відсилаємо до анотованої бібліографії, укладеної доктором Вітменом Беґгурном.