Дизайнер Павєл Сісяк опублікував есей, присвячений еволюції штучного інтелекту, основним викликам та загрозам, котрі штучний інтелект несе у собі. Його робота стала адаптованим варіантом праці Тіма Урбана під назвою AI Revolution. Ми публікуємо стилістично адаптований переклад цього есею у сподіванні, що він буде корисним для усіх, хто цікавиться проблематикою етичного та технологічного використання розробок штучного інтелекту в сучасних реаліях науки та бізнесу.
Замість передмови
Оскільки наукова активність людства триває без значних перерв, штучний інтелект може стати або найбільш позитивною зміною у нашій історії, або ж — як і побоюється більшість людей — найнебезпечнішим із винаходів. Дослідження штучного інтелекту (або AI) перебувають на шляху до надання комп’ютерові властивостей до пізнання, що співставні із можливостями людського мозку — принаймні, роботи у цьому напрямку ведуться вже три десятиліття. Судячи з того, що прогнозують науковці, прогрес та винаходи в цьому напрямку приведуть нас до створення штучного суперінтелекту — або Artificial Super Intelligence , ASI— котрий перевершить всі інтелектуальні можливості людства. При цьому йдеться не по якесь захмарне теоретичне майбутнє, а про появу технології вже в найближчому майбутньому — перший крок вже зроблено із запуском повсякденнних побутових систем на основі AI.
Як буде відбуватися науковий прогрес та зростання
Якщо говорити про засади Революції Штучного Інтелекту, то розуміння масштабів наукового прискорення вимагало би у вас мандрівки у часі спочатку на сотні, а потім і на десятки тисяч років. Кожного разу ви би побачили, що швидкість розбудови технологій та накопичення знань прискорюється.
За словами Рея Курцвейла, експерта зі штучного інтелекту та науковця, основний прогрес у напрямку інтелектуальних технологій у ХХ столітті стався між 2000 та 2014 роком — а наступний етап бурхливого розвитку чекає на нас вже за 7 років, у 2021-му. За прогнозом науковця, прискорення технологічного та наукового розвитку буде примножуватися у подальшому в декілька разів на рік, а згодом — декілька разів на місяць. Загальні підсумки розвитку інтелектуальних систем та технологій у ХХІ столітті, на переконання Курцвейла, у 1 тис разів перевершать те, що було досягнуто упродовж минулих 100 років.
За цією логікою, має також статися відкриття, яке перевершить усе, що раніше було відоме людству — і це докорінно змінить подальший перебіг розвитку цивілізації. Футуролог вважає таким відкриттям можливості штучного інтелекту нового покоління.
Про рівні штучного інтелекту
Штучний інтелект (або AI) — термін, що застосовується для опису інтелектуальних можливостей комп’ютерів для прийняття рішень. Більшість експертів у цій сфері сходяться на тому, що є три категорії (або типи) штучного інтелекту:
- Штучний інтелект вузького спектру, або ANI( Artificial Narrow Intelligence) — перший рівень штучної свідомості, яка спеціалізується на прйнятті рішень лише в одній сфері: наприклад, може обіграти світового чемпіона із шахів, але може зробити тільки це і нічого більше.
- Загальний штучний інтелект, або AGI (Artificial General Intelligence) — штучний інтелект другого рівня, який досягає та перевершує рівень звичайної людської свідомості: може розв’язувати математичні та логічні завдання, абстрактно мислити, порівнювати та засвоювати складні ідеї, швидко навчатися, в т.ч. — із власного досвіду.
- Штучний суперінтелект, або ASI (Artificial Super Intelligence) — третій рівень розвитку технологій штучного інтелекту, де він є розумнішим, аніж усе людство разом узяте, спочатку трохи, а згодом як результат самонавчання — у трильйони разів.
Якщо вести мову по сучасний стан речей, то ми в багатьох сферах життя опанували та запровадили системи, котрі викнористовують ANI: таких систем чимало у наших автівках; така систенма ленжить в основі роботи пошуковика Google, у основі стрічки новин Facebook. Сучасни антиспам-фільтри у нашій пошті та системи автопілотування літаків, навіть наші смартфони частково та низка ігор — це результат роботи ANI. Складні системи вузькопрофільного штучного інтелекту використовують у виобництві, фінансах, на біржах, у військовій сфері.
Збій чи помилка у ANI-системах не є критичним явищем загальнопланетарного масштабу: так, подібний збій може спричинити падіння літака, відмову обладнання ядерного реактора чи навіть обвал на фінансовому ринку (як збій у трейдерському програмному забезпеченнні, що стався 2010 року і отримав назву Flash Crash). Але в цілому ANI не може сприинити катастрофу, яка би загрожувала життю людства, тому завданням науковців є створення більш складних та відносно безпечних систем штучного інтелекту, які керують устаткуванням чи програмними комплексами.
Основні виклики перед переходом до наступного рівня AI
Створити комп’ютер, який буде множити десятизначні числа — справа досить легка; а от зробити так, щоби комп’ютер міг відповісти, бачить він кота чи пса, поглянувши на того — завдання значно важче. Зараз Google вкладає мільярди доларів у створення технології, яка би розпізнавала текст та картинки у книжках для шестирічних і могла не просто розпізнати слова, але й усвідомити значення цих слів та ілюстрацій.
Здається, ніби читання, споглядання, рух, сенсорика та дрібна моторика у поєднанні із розпізнаванням символів та образів — це набагато простіші дії, аніж обчислення, стратегії фінансового ринку чи переклад з іноземної мови. Справа у тому, що перша озвучена група навичок є оптимізованими для нас і нашої свідомості завдяки мільйонам років еволюції. Рухи, зір, тактильне сприйняття задіюють мільйони клітин, сотні мускулів, десятки кісток у нашому тілі — але ці дії повторювалися тисячами років. Обчислення чи побудова математичних прогнозів — це явища відносно нові для людини як для біологічного виду, і тому вони видаються нам складнішими, аніж уміння відрізнити кота від пса чи визначити, якого кольору та форми предмети у кімнаті. За цим процесом розпізнання стоять складні перетворення різних типів одночасно отримуваної інформації у людському мозку, якого не має навіть найсучасніший комп’ютер. Головна проблема — це створити таке «залізо» (а не лише програмну оболонку), котра зможе на 100% симулювати роботу людського мозку. Потужність обчислювального потенціалу мозку Рей Курцвейл виміряв шляхом проектування потужності однієї ділянки мозку людини на всю вагу мозку. За результатами цих обчислень потужність комп’ютера, який зміг би конкурувати із головним мозком людини, дорівнює приблизно 10 квадрильйонам CPS. Найшвидший суперкомп’ютер у світі, китайський Tianhe-2, вже має обчислювальну потужнісь 34 квадрильйонів CPS. Але цей комп’ютер займає площу у 720 кв м, споживає 24 мегаватти енергії (людський мозок витрачає лише 20 ватт), коштує $390 млн. Тож найбільшим викликом для переходу до повноцінного штучного інтелекту може стати не потужність, а вартість. Інший бік проблеми — написати програмне забезпечення, яке зможен повністю симулювати роботу людського мозку та скопіювати всі його процеси чи емулювати власні за аналогією із людськими. Потім все це треба буде перенести на відповідні носії та сформувати таку апаратну платформу, яка дозволить штучному інтелекту працювати без втручання людини (і навіть вносити зміни у власний код самостійно).
ЧИТАЙТЕ ТАКОЖ:
Творення супер-розуму, досконалішого за усе людство разом узяте
Цілком реально, що на певному етапі ми дійдемо до виникнення інтелекту рівня AGI — тобто такого програмного забезпечення, яке буде дорівнювати чи перевершувати людський розум. Чи означатиме це, що комп’ютери будуть повністю вміти і знати все те, що знають і вміють дорослі люди? Швидше за все, ні — через свою електронну «начинку» вони будуть набагато ефективнішими за нас за низкою параметрів:
- Швидкість — частота роботи нейронів сягає 200 Hz, а сучасних мікропроцесорів — від 2 GHz (що в 10 мл разів швидше)
- Пам’ять — забувати чи плутати факти і дані у світі штучного інтелекту набагато складніше, аніж в людському. Комп’ютер може запам’ятовувати більше фактів за 1 секунду, аніж здатен людський мозок за 10 років. Також ємність комп’ютерної пам’яті можна збільшувати ледь не безкінечно, у той час як людський мозок має обмежені можливості у цьому.
- Продуктивність — точність та потужнісь передачі інформації у комп’ютерів перевищує ці ж показники у нейронів людини; до того ж, пікові можливості людського мозку згасають із часом, а комп’ютери можуть не втомлюватися і працювати однаково ефективно цілодобово увесь тиждень.
- Здатність збирати дані та опрацьовувати їх — робота людей у групах завжди має безліч перешкод, бо ма спілкування та порозуміння потрібен час, а ще в командах людей є складна ієрархія прийняття та передачі рішень. Із зібльшенням групи людей ця система стає все менш і менш результативною. А комп’ютер може синхронізувати одночасно сотні і тисячі процесів, при цьому не знижуючи показників роботи через втому чи складність ланок передачі даних.
Нанотехнології
Майже завжди, коли йдеться про штучний інтелект, одразу згадують про нанотехнології. Якщо стисло — це технологія, де всі схеми та передача даних працюють з деталями розміром від 1 до 100 нм (це мільйонна частка міліметра). Такий розмір співставний із розміром вірусів (100 нм), ДНК (10 нм) та молекул гемобглобіну (5 нм) чи глюкози (1 нм). Освоївши нанотехнології, ми зможемо на наступному етапі маніпулювати атомами. Якщо виміряти масштаби знайомими усім пропорціями людського тіла, уявіть собі, що ви — людина, котра стоїть за Земній поверхні, а головою сягає МКС на орбіті, а руками може будувати конструкції із деталей завбільшки з піщинку чи очне яблуко.
Така технологія відкриває доступ до створення гаджетів, одягу, навіть їжі та біопродуктів (штучних клітин крові, руйнівників раку чи м’язових волокон, які можна вживлювати людям чи тваринам). У світі, де нанотехнологіями володітимуть виробники та науковці, вартість матеріалів чи складність їхнього випуску не матиме більше критичного значення — на перше місце вийде складність атомної структури. В такому світі вартість діаманту буде не більшою за ціну канценлярської гумки. Серед пропонованих способів роботи із нанотехнологіями — самореплікація та мультиплікація на рівні окремих часток і деталей.
Дослідники застерігають, що нанотехнології, за умов потрапляння «не в ті руки» можуть складати істотну загрозу у поєднанні із штучним інтелектом. Утворення при цьому схем реплікації на основі — скажімо — вуглецю дась змогу швидко «ксеропокіювати» навіть найбільш небезпечні розробки. Втім, поки що і позитивні, і негативні ймовірні наслідки використання нанотехнологій є лише справою майбутнього. За прогнозом Курцвейла, технологія стане доступною лише у 20-х роках ХХІ століття. Загальна сума інвестицій в ЄС, СШа та Японії в цю сферу вже перевищила $5 млрд.
Теорія зміни видів та штучний інтелект
Штучний інтелект також матиме вплив і на поширення та життєвий цикл видів на планеті. Біологічно найбільш подуктивний вік людини включає період близько 30 років — достатній, аби біологічно розвинутися та завести дітей для продовження роду. Прагнення людей жити довше та зберігати подуктивний вік довше, аніж це було передбачене еволюцією, є цілком закономірним. Тому і штучний інтелект буде використовуватися серед іншого длч вирішення подібних завдань.
За словами Рея Курцвейла, інтеграція штучних матеріалів до людського тіла буде зустрічатися все частіше; з’являться «машинні» версії людських органів, які працюватимуть довше за біологічні; на зміну червоним кров’яним тільцям прийдуть нанороботи, здатні переносити кисень — створення подібної технології дасть змогу людям зокрема навіть бігати упродовж 15 хвилин без потреби при цьому дихати. Конструюванням подібних систем вже займається теоретик нанотехнологій Роберт Фрайтас. Власне, Курцвейл вірить, що одного дня людське тіло майже повністю стане штучним — і ми, озираючись на часи, коли в складі свого тіла мали біологічні матеріали, навіть не повіримо, що колись люди були настільки примітивними, що старіли, страждали від раку, мікробів, хвороб чи гинули від аварій.
Коли чекати на першу інтелектуальну машину
Якщо перспективи такі блискучі, то коли ж нам чекати на появу машин та систем на основі штучного інтелекту? Тут думки вчених розбігаються. Чимало з них, як приміром професор Вернор Відж, науковець Бен Ґерцель та співзасновник Sun Microsystems Білл Джой та футурист Рей Курцвейл погоджуються із експертом із машинного навчання Джеремі Говардом: це станеться швидко, а експонентна крива робіт в сфері машинного навчання та штучного інтелекту призведе до вибуху технологій упродовж наступних кількох десятиліть.
Інші, як співзасновник Microsoft Пол Аллен, психолог-дослідник Гарі Маркус, вчений із Нью-Йоркського університету Ернест Девіс та підприємець Мітч Капор, переконані, що мслителі на кшталт Курцвейла дуже недооцінюють масштаби змін та виклики, пов’язані зі штучним інтелектом — а також той факт, що на це знадобиться значно більше часу, аніж вони прогнозують.
У 2013 році Вінсент Мюллер та Нік Бостром провели дослідження, метою якого було з’ясувати у AI-експертів, коли — на їхню думку — слід чекати на появу штучного інтелекту рівня AGI (тобто такого, що є рівноцінним із людським мозком). Для дослідження було обрано три періоди, і відповіді розподілилися наступним чином:
- оптимістичний погноз (10% опитаних) → 2022
- реалістичний прогноз (50% опитаних) → 2040
- песимістичний прогноз (90% опитаних) → 2075
Отже, раніше за 2075 навіть більшість оптимістичних опитаних не бачать технологій, які здатні лягти в основу штучного інтелекту — якщо зараз ви підліток, то цілком можливо, що ви і доживете до появиш штучного інтелекту, який буде за рівнем відповідати людській свідомості.
Окреме дослідження провів Джеймс Беррет до щорічної AGI Conference; тут розподіл відповідей відбувся наступним чином:
- 42% респондентів → до 2030 року
- 25% опитаних → до 2050 року
- 20% опитаних → до 2100-го
- 10% учасників опитування → після 2100-го
- 2% респондентів → ніколи.
Що стосується перетворення звичайного інтелекту машин на суперінтелект, який здатен перевершити людський, то тут ймовірність опитані оцінюють наступним чином:
- Перехід із AGI в ASI за 2 роки → 10% ймовірності
- Перехід із AGI в ASI за 30 років → 75% ймовірності.
Штучний інтелект та скептики
Напевно, мало кого здивує той факт, що ідеї та прогнози Курцвейла мають чимало опонентів-скептиків. Щонайменше три з чотирьох футурологів вважають прогнози та припущення цього дослідника хибними — хоча це й не означає, що вони повністю заперечують можливість розвитку подій за такими сценаріями, каже Нік Бостром, філософ та директор Oxford Future of Humanity Institute. Він — серед критиків Курцвейла з цілого ряду причин, котрий закликає ставитися більш виважено і обережно до потенційних вигод, які може принести людству штучний інтелект.
Бостром визнає, що суперінтелект, озброєний нанотехнологіями, здатен покласти край низці захворювань, бідності, проблемам із екологією, різного роду фізичним страждань — а на додачу ще й подарувати фактичне безсмертя, уповільнюючи чи взагалі спрямовуючи у зворотньому напрямку процеси старіння людського організму (як варіант — створюючи цифрову копію нашої свідомості, нашого «я»).
Однак, на думку вченого, все це може стати дійсністю за умови, що ми безпечно перейдемо до стадії ASI — але у цьому і полягає найбільша складність, бо навіть у книзі оптиміста Курцвейла під назвою The Singularity is Near із 700 сторінок 20 привячено описові потенційних загроз у разі запуску штучного інтелекту нового покоління. Додайте сюди фактологічно обґрунтовані перестороги щодо штучного інтелекту від Ілона Маска, Стівена Гокінза та Білла Ґейтса — і оптимізму поменшає.
Проблема «Останнього винаходу»
Зі створенням ASI всі спроби людства навчити його мислити так, як мислить людина, будуть безуспішними: машина буде мислити як машина, а людина — як людина. Подібно до того, як нам навряд чи вдасться навчити мавпу усідомлено використовувати WiFi чи телефон (хоча ми вміємо це робити і є біологічно подібними), ми не можемо гарантувати, що штучний інтелект дасть нам відповіді на всі наші питання чи діятиме за шаблонами, що подібні до людського мислення. Основна проблема полягатиме не просто у тому, що штучний мозок та свідомість будуть потужнішими за усі людські разом узяті. Проблема (і загроза одночасно) полягає у тому, що доволі потужний штучний інтелект буде спиратися на сповнену помилок та недосконалостей програмну оболонку, створену людьми. Крім того, у цього експерименту може виявитися стільки непередбачених змінних, що сьогодні майже неможливо передбачити, яким будуть наслідки Революції Штучного Інтелекту.
Втім, попередня історія людства засівдчила, що із інтелектом приходить значна влада. Це означає, що із появою штучного суперінтелекту може виникнути найпотужніша сила і влада на планеті за всю історію існування Землі. І всі живі істоти, включаючи людей, можуть опинитися у владі цієї сили — а відбудеться це вже протягом кількох наступних десятиліть.
Якщо суперінтелект ASI буде створено ще у цьому столітті, і за умови, що ефект буде таким значним та незворотним, як того очікують науковці, це означатиме, що на плечі людства ляже відповідальність за технологію, значно важливішу та небезпечнішу навіть у порівнянні із ядерною зброєю. З одного боку, надпотужний штучний інтелект може стати праобразом бога на Землі і принести планеті безсмертя. З іншого боку — така технологія може прискорити кінець людської раси і стати тим відкриттям, яке її знищить, свого роду «зброєю Судного дня». Тому будь-які винаходи та розробки в цьому напрямку мають бути вкрай виважені.
Джерело: Medium