Родні Брукс, розробник штучного інтелекту: «Маск не розуміє, як працює AI»

Минулого тижня Ілон Маск (Elon Musk) налякав усіх появою небезпечного штучного інтелекту, який знищить людство. В редакції TechCrunch вирішили поцікавитися іншою точкою зору на безпеку AI-розробок, зокрема, поспілкувалися з Родні Бруксом (Rodney Brooks), відомим фахівцем роботизованих систем з MIT. Він заснував лабораторію комп’ютерних наук та штучного інтелекту в університеті, а також виступив співзасновником проектів iRobot й Rethink Robotics.

Брукс не просто «знає про AI» — він безпосередньо займається такими розробками вже багато років, але сьогодні його найбільше хвилює упереджене ставлення до технології. Широкий загал не розуміє суть роботи AI-алгоритмів, і навіть сам Ілон Маск хибно тлумачить штучний інтелект. Пропонуємо адаптований переклад розмови журналістів з Родні Бруксом.

TechCrunch Sessions: Robotics

— Інвестори сьогодні охоче вкладають кошти в роботизовані системи?

Проект iRobot я починав ще у 1990 році, коли не існувало венчурних фондів. Наступна компанія Rethink стартувала у 2008-му, тоді венчурне інвестування вже розвивалося, однак було небагато зацікавлених у проектах з робототехніки. Сьогодні є і зацікавленість, й інвестиції, а більшість венчурних фондів Кремнієвої долини та Бостону дуже завзято шукають саме розробки на основі роботизації. То ж, винахідникам на сьогоднішній день легше вийти на інвесторів.

Однак, мені здається, що навіть ті інвестори, які вкладають кошти на пізніх стадіях розвитку стартапу не розуміють, наскільки тривалим є процес розробки і скільки часу насправді знадобиться для повернення вкладених коштів. Думаю, для багатьох засновників це стане вирішальним моментом під час пошуку інвестора.

Тим, хто розпочинає бізнес з роботизованими розробками сьогодні слід налаштовуватися на такий сценарій: в якийсь момент часу, для подальшого розвитку бізнесу доведеться продати його більшій компанії. В цілому, екосистема використовує венчурне інвестування для відокремлення хороших ідей від безнадійних. Але навіть з інвестиціями самостійно пройти весь шлях від початку до виходу на IPO буде складно.

Ще один важливий момент — не всі задачі можуть бути вирішені лише програмним забезпеченням. Так, машинне навчання — це прогресивна технологія і вона багато на що здатна, але деякі з найпрогресивніших розробок останнього часу — це не новий вид обладнання, а тільки новий тип електродвигуна, контрольної системи чи коробки передач.

— Ви пишете книгу про AI, то чи насправді штучний інтелект такий небезпечний, як говорять?

Про небезпеку від розробки штучного інтелекту висловився не тільки Ілон Маск. Раніше попереджав і Стівен Гокінґ, і астороном Роял Мартін Різ, який навіть написав про це книгу. Всіх їх об’єднує той факт, що вони самі не працюють в сфері розробки штучного інтелекту. Ми ж, ті, хто розробляє AI знаємо, які зусилля та величезні ресурси потрібні для того, щоб технологія запрацювала на потрібному рівні продукту.

Ось чому люди, включаючи Ілона Маска, припускаються такої помилки і залякують штучним інтелектом — коли ми бачимо людину, яка бездоганно виконує певне завдання, ми розуміємо ступінь залученого професіоналізму та необхідних навичок. І люди оцінюють роботу штучного інтелекту як і залучені зусилля людини, однак це — невірний підхід. Коли розробка AlphaGo від компанії DeepMind перемогла корейського та китайського чемпіонів в гру Го, всі були вражені. «Цей комп’ютер такий розумний, він може зробити будь що!» Але я відвідував офіс DeepMind в Лондоні буквально місяць тому і там зізнаються, що робота алгоритму елементарно могла піти невірним шляхом.

Якщо ми зараз будемо вводити якісь правила для регулювання штучного інтелекту, як пропонує Маск, тоді ці правила повинні стосуватися конкретної поведінки, регулювати і корегувати її. Регулювання має стосуватися чогось визначеного — або не стосуватися нічого. То що ж пропонує регулювати Ілон Маск? До речі, можна поговорити про безпілотні автомобілі Tesla, які вже зараз становлять реальну небезпеку на дорозі, але про це засновник компанії не згадує на кожній прес-конференції.

— Ви не раз піднімали тему безпеки автономних авто, описуючи ситуацію: якщо автомобілю доведеться обирати між дитячими візочками і літніми жінками — кого повинна врятувати машина…

Існує багато етичних питань, які, я переконаний, сповільнять масове поширення безпілотних авто на дорогах. Доведеться розробляти стоси нових правил, регулювати такі питання, про які ми ще й не починали думати. І стосуватися це буде дуже конкретних побутових ситуацій, навіть не беручи до уваги приклад з візочками та бабусями. Я живу недалеко від роботи, однак за останні три тижні я тричі опинявся у ситуації, коли міг або простояти в заторі близько шести годин, або з’їхати на односторонню дорогу, щоб оминути затор. Чи слід дозволити безпілотним авто приймати такі рішення: їхати неправильно, щоб не стирчати в заторі? А якщо пасажир їхатиме в таксі Uber без водія, він повинен мати доступ до голосового управління та зміни маршруту? А якщо такому пасажиру лише 14 років? Все потрібно регулювати, і це — реальніші проблеми, аніж уявна небезпека від штучного інтелекту.

— Ви вважаєте роботів додатком до людей, однак не заперечуєте того, що деяких працівників замінять машини?

Безсумнівно, заміщення робочих відбудеться через розвиток роботизованих технологій і людям буде складно з ним змиритися. На фабриках, думаю, люди будуть лише наглядати за роботою техніки. Є традиційний стереотип, що промислове обладнання повинно мати жахливий інтерфейс, настільки складний, що доведеться проходити спеціальні навчальні курси для управління такими машинами. Насправді ж, як і у випадку з користувацькою електронікою, ми отримаємо машини, які самостійно навчають, як з ними працювати. Нам потрібно змінити своє ставлення до індустріального та іншого обладнання, щоб створювати машини, які навчатимуть людей працювати з ними.

— Якби не розробка робототехніки, то що?

Я глибоко захоплений роботизованими технологіями. Кожна проблема, про яку я замислююся, в моїй реальності має саме роботизоване вирішення. Однак є така категорія проблем, які важливі для всього людства; в той же час, жодна з провідних компаній чи інвестиційних фондів не зможе її вирішити. Наприклад, візьмемо проблему з пластиковим сміттям в океані. Вона стає все гострішою, впливає на харчовий ланцюжок на Землі. Це глобальна проблема, що стосується всіх. Але хто вкладатиме інвестиції в стартап, що бореться зі сміттям в океані? Адже тут не йдеться про повернення інвестицій, принаймні, в грошовому еквіваленті. Зараз я шукаю такі напрямки, в яких мої роботизовані рішення можуть допомагати, але в яких немає фінансування для досліджень чи навіть запитів на фінансування таких програм.

Важливий момент в моїй сьогоднішній роботі — це написання книги про штучний інтелект, роботизовані технології і майбутнє. Я бачу, що користувачі починають боятися не тих речей та інновацій, вони не розуміють, в чому криються справжні небезпеки для людства.

ЧИТАЙТЕ ТАКОЖ:

Джерело: TechCrunch