Чи стануть люди напівбогами? Думка відомого автора розбурхала суспільну свідомість

Може ніхто з вас про це не задумувався, але цілком можливо, що ми останні представники виду Homo sapiens. Незабаром людина зможе себе або апгрейднути до стану напівбога або ж стане своєрідним додатком до штучного інтелекту. Світ котиться до цього і шляху назад знайти буде важко. Про це розповідає Юваль Ной Харарі (Yuval Noah Harari‏‎) в книзі «Homo Deus: коротка історія майбутнього».

Сценарій № 1: безсмертя, щастя та божество

Харарі досить оптимістично починає книгу з того, що до початку XXI століття ми перемогли головні проблеми в історії людства: епідемію, голод і війну. Звучить аж надто позитивно, але автор запримічає: на даний час дійсно не існує епідемій, які були б здатні винищити населення планети за декілька років; війни перестали сприйматися, як щось природне та невідворотне; більшість країн в наш час змогли зрушити з місця біологічну межу бідності (якщо голод десь і існує, то через політичні мотиви, а не природні). Головне так це те, що всі глобальні природні біди вдалось взяти під контроль. Треба тільки мати бажання розв’язувати ці проблеми.

Історія не стоїть на місці, людство приймає нові виклики. Зараз на черзі наступні питання: щастя, безсмертя та досягнення божественності.

Такі питання – невідворотні, вважає автор. У Всесвітній декларації прав людини вказано, що право на життя – то найвища цінність, значить смерть порушує це правило, вчені вже вивчають можливості перемоги людини над смертю. Помирати нині дуже дорого і якщо ми прагнемо побільше прожити на цій Землі, потрібно зробити це життя максимально щасливим. А від безсмертя до божественної істоти один крок. Перед людством виникає спокуса все ж досягти цієї цілі.

Потрібно зрозуміти, що якщо життя – це найвища цінність, то смерть злочинно діє проти всього людства.

Багато богів ми й так уже догнали та перегнали: «Бог зі Старого Завіту не обіцяє ніяких кар або ж нагород після смерті. Замість цього він звертається до народу Ізраїлю: «Якщо слухатиметесь моїх заповідей, то обіцяю вам землі вашій дощ… кожен з вас збере хліб, вино і ель» Сьогоднішні вчені вже давно переплюнули Бога зі Старого Завіту. Сучасні технології дозволяють мати стільки урожаю, скільки душа забажає. Жарка країна Ізраїль в наш час вже не боїться розгнівати старе божество, яке «закриє небо і не буде дощу». В майбутньому людина спробує підняти свій розум та тіло на рівень Бога.

Цей процес, звичайно ж, не станеться вмить. Вже зараз складно визначити, де закінчується лікування, а де починається апгрейд тіла. Для початку вчені перепишуть людський генетичний код у дітей, які успадкують тяжкі захворювання. Потім вчені почнуть виправляти гени більш безпечних хвороб, зробивши їх не такими небезпечними.

«Уявіть, що ваша майбутня донька, судячи по тесту ДНК, буде гарною та розумною, але у неї буде хронічна депресія. Можливо, ви забажаєте зробити так, щоб вона не страждала. І це буде зробити доволі легко завдяки маленькій маніпуляції підкоригувати код.»

Якщо вже почали, то можна і імунну систему зміцнити, наділити її хорошою пам’яттю або навчити її грати на скрипці ще в зародку. Не хочете змінювати свою дитину? А що, якщо ваші сусіди змінять своїх дітей? Ваша дитина виглядатиме білою вороною. Якщо така процедура стане нормою, тоді людство вже не зможе зупинитися.

Ось так Homo sapiens перетворяться у Homo deus.

Ці прогнози – це «майбутнє минулого», як стверджує автор. Воно передбачене виходячи з ідей та надій, якими володіють люди на даний момент.

Будь-яке цінне передбачування повинно враховувати можливість удосконалення людських мізків, а це практично нереально. Існує багато розумних відповідей на питання як будуть користуватися біотехнологіями люди з нашим розумом. Але немає хороших відповідей на питання – як будуть користуватися ними істоти з іншим рівнем свідомості? Поки що зрозуміло, що люди, які будуть схожими на нас серйозно візьмуться за модернізацію власного інтелекту, а що відбудеться потім ми вже передбачити не в змозі. Проблеми, з якими ми стикаємося на шляху до безсмертя, щастя та божественної еволюції, можуть поставити перед людством зовсім інші задачі.

Сценарій № 2: раби штучного інтелекту

У першій та другій частині книги Харарі коротко викладені ідеї «Сапіенсу», свого першого бестселера. Він нагадує про те, як з’явився наш вид, чому він став домінувати на Землі, як виникла наша антропоцентрична картина світу. Без цього будь-які намагання передбачити майбутнє абсолютно беззмістовні, особливо зараз.

«За останні часи відносини між людьми та тваринами значно змінилися. Чому ми раптом з такою цікавістю стали до них відноситися? Можливо тому, що скоро опустимось на їх рівень еволюції? Якщо комп’ютери та штучний інтелект стануть розумнішими за нас, то вони можуть стати на вищий щабель еволюції і вже машина буде керувати нами, а не навпаки. Чи допустимо для людей буде той факт, щоб штучний інтелект експлуатував або навіть убивав людей? Якщо ж ми заборонимо штучному інтелекту це робити, то чому ж ми тоді можемо дозволити собі убивати свиней? Чи є у нас щось таке, що відрізняє нас від свиней? І якщо є, то чому ми так впевнені, що цю відмінність ми не подаруємо машинам? Чи зможемо ми, як і раніше, на якихось підставах вважати, що людське життя – це найвища цінність у світі, оскільки комп’ютери стануть розумнішими та розвинутішими за нас?»

Протягом останніх століть головною релігією західної цивілізації був гуманізм. Але в майбутньому гуманізм, цілком можливо, відійде на другий план. І ось чому таке може статися.

Гуманізм – то передусім цінність людського «Я», свободи волі та свободи людини як особистості. Харарі вважає, що насправді ми не маємо ніякої свободи волі. Нами давно вже керують електромеханічні процеси у мозку, які вже наперед визначені або ж випадкові. Кожне наше рішення – це наслідок певної біохімічної реакції, де кожен етап слідує за іншим. Звичайно, нам здається, що ми володарі нашого життя, але хіба ми вибираємо як нам жити?

«В одному з експериментів добровольців помістили в великий сканер, перед цим давши їм в руки сигнальну кнопку. Вони натискають на кнопку за своїм бажанням. Вчені в цей момент спостерігають за нервовими імпульсами в мозку людини, передбачуючи їх намір натискати на кнопку перед тим, як він це зробить і навіть перед тим, як вони усвідомлять, що вони хочуть зробити. Наступного разу, коли у вас з’явиться якась думка чи намір, то запитайте себе: «Чому я подумав саме про це? Чи вирішив я зараз про це подумати чи хвилину тому? Або ж це якось само собою подумалось без мого на то відома? Якщо я і справді господар своїх думок та рішень, то чи можу я взагалі ні про що не думати наступну хвилину?» Варто спробувати!».

Саме на ідеї вільного вибору будуються усі принципи сучасної ліберальної демократії. В XX столітті це все чудово працювало: людські ресурси по справжньому цінували, визнання кожної людини приносило політичну та економічну вигоду. Зараз же часи змінилися. Доволі скоро роботи зможуть замінити людину у більшості сфер діяльності. Люди стануть економічно невигідні та ще невідомо, чи продовжать еліти цінувати кожну особистість, якщо це перестане приносити дохід. Чи вистачить моральних принципів для того, щоб захистити моральні принципи та права людини?

Думати, що штучний інтелект не наздожене людський розум – це самообман з боку кожної людини.

  1. Організми суть та алгоритми. Кожна істота, включаючи та наш вид Homo sapiens – це зібрання органічних алгоритмів, сформованих природним відбором.
  2. Алгоритмічні обчислення не залежать від матеріалів, з яких був зроблений калькулятор.
  3. Нема підстав думати, що органічні алгоритми здатні на щось таке, чого неорганічні не зможуть ніколи повторити».

Нам доведеться щось робити з такою кількістю «непотрібних» людей. Прогодувати їх не складно, але чим вони займуться, коли їх замінить штучний інтелект?

Це лише перша загроза для гуманістичних ідеалів. Друга проблема полягає в тому, що алгоритми можуть стати ефективнішими навіть стосовно до наших особистих рішень. Наприклад, вибори. На голосування безперечно впливають піар-кампанії різних кандидатів, погрози та обіцянки, нездатність мислити критично або ж брак інформації, а іноді, зовсім суб’єктивні моменти. Інша справа, якщо за людей проголосував би Google. Його не проведеш!

«Він не пропустить нічого та проаналізує діяльність кандидата за попередню каденцію. Він знатиме, наскільки в мене піднімався тиск кожного разу, як я брав до рук газету та чи різко падав рівень дофаміну, коли я дивився вчорашні новини по ТВ. Він знатиме як відсіяти пусті лозунги піар-компаній та інший чорний бруд. При голосуванні Google буде робити висновки не з одномоментного стану мого розуму та тіла, але й з реальних почуттів та інтересів».

Алгоритм, безперечно, буде помилятися. Але його рішення будуть набагато вірнішими, ніж наша суб’єктивна точка зору. Ми будемо делегувати йому все більше своїх справ. Система ніколи не дізнається про людину все досконально, але в цьому нема потреби. Лібералізм зруйнується в той момент, коли система дізнається про людину більше, ніж вона сама. Система вже працює, на прикладі, з навігаторами: люди все частіше їздять по построєному машиною маршруту не задумуючись над деталями. Неважко уявити той день, коли віртуальні помічники в ваших смартфонах будуть вирішувати все за вас, включаючи вирішення якихось щоденних проблем.

Третя загроза ліберальних цінностей – це біологічна нерівність. Існує небезпека, що найбагатші люди «прокачають» свій інтелект до такого рівня, що вони стануть новими надлюдьми. Не факт, що тоді вони будуть відноситись до людей нижчої касти краще, ніж європейці XIX століття з африканцями.

Цілком можливо, що у XXI столітті на зміну гуманізму прийде датаізм. Це може стати новою релігією. Весь світ буде складатися з набору інформаційних даних, а ми (кожна людина окремо, як і людство в цілому) будемо вважатися простими системами обробки даних, не зовсім ефективними системами. Прихильники датаізму вже зараз впевнені, що людські переживання не такі вже й недоторкані, а Homo sapiens — більше не такі вже й досконалі створіння проти Homo deus. Люди виступатимуть не більше ніж ресурсом для створення Інтернету Усіх Речей. Коли він розвинеться до певного рівня, люди стануть непотрібними.

Датаізм і справді нагадує релігію.

«Звідки беруться ці великі алгоритми? Це таємниця датаізму. Якщо брати до прикладу християнство, згідно з яким не дано пізнати Господа та Його задум, датаізм говорить про те, що людський мозок не здатен обробити новий алгоритм вищого порядку. Це недоступно навіть програмістам: кожен з розробників сьогодні має уявлення лише про свою частину цієї системи. Ніхто по-справжньому не розуміє алгоритм в цілому. А з виникненням машинного навчання і штучної нейронної мережі, збільшиться число алгоритмів, які самостійно розвиваються та навчаються вибору стратегії, що недоступні для людського мозку».

По словах Харарі, датаісти все занадто спрощують: все життя навряд можна звести до потоків даних, а всю свідомість – до прийняття рішень. Тому книгу він закінчує головними, на його погляд, питаннями, які так гостро стоять перед людством:

  1. Чи дійсно організми – всього лише алгоритми, а життя – всього лише аналіз даних?
  2. Що цінніше – свідомість чи розум?
  3. Що станеться з суспільством, політикою та нашим повсякденним життям, коли втрата свідомості та високо розвинуті алгоритми знатимуть нас краще нас самих.

БІЛЬШЕ ЦІКАВОГО: