Не Tesla единой — чем занимается Илон Маск в лаборатории OpenAI

Когда в декабре 2015 года Илон Маск и Сэм Альтман анонсировали создание неприбыльной организации OpenAI для исследования искусственного интеллекта, онлайн-издания тут же проведали, что проект поддержали сторонние инвесторы, вложив «значительную сумму средств». Насколько значительными оказались инвестиции стало известно позже — $1 млрд на старте проекта, который будет контролировать применение разума машины во благо всего человечества, а не для финансовой выгоды отдельных компаний. Как же выглядит эта работа?

h_14117315-edit

Среди идей и сумасшедших денег

«Предложенные мне условия работы, честно говоря, походили на фантазии ненормального», — признаётся исследователь Войцех Заремба (Wojciech Zaremba), один из тех, кому посчастливилось получить приглашение поработать в OpenAI. Что именно несёт в себе понятие «сумасшедший контракт»? Если речь идёт о размере вознаграждения, то OpenAI должна была бы предложить Войцеху уровень оплаты труда, в 2-3 раза превышающий средний размер заработка специалиста его уровня. Ещё в 2014 году, когда рынок разработки технологии машинного обучения только начал набирать обороты, вице-президент Microsoft Research Питер Ли (Peter Lee) сравнил размер оплаты труда исследователя AI со стоимостью перспективного нападающего NFL. За это время рынок разросся, а спрос на профессионалов — в разы увеличился. Даже с миллиардными вложениями на старте OpenAI не могла себе позволить команду высококлассных специалистов.

То, что могла предложить компания, основанная главными «революционерами» Кремниевой Долины, не измеряется деньгами: возможность работать исключительно в интересах будущего, не волноваться о продуктах или прибыли, делиться своими открытиями со всем миром. Именно так: Маск и Альтман с коллегами намерены поделиться своими открытиями со всеми желающими — и сделают это совершенно бесплатно.

ЧИТАЙТЕ ТАКЖЕ:

Антикоммерческая политика и социальная роль OpenAI убедили Зарембу отказаться от перспектив, которые сулил ему растущий спрос на разработчиков AI и многолетний опыт стажировки в лабораториях Google и Facebook. Оцените иронию ситуации: пока IT-корпорации отчаянно держатся за своих ценнейших профессионалов (совсем как менеджмент команд из Национальной лиги страшится потерять ведущих игроков) сами сотрудники просто хотят делиться своими знаниями. В сфере исследований AI светлейшие умы не заботятся о сверхприбылях. Они работают над постоянным улучшением искусственного интеллекта — а это возможно только когда ты обмениваешься опытом и достижениями с другими.

OpenAI уже представила технологию так называемого стимулированного обучения («reinforcement learning»), одну из ключевых для создания систем искусственного интеллекта. Стимулированное обучение приведёт к появлению нового типа роботизированных продуктов. Этот инструмент уже лёг в основу AlphaGo от Google, которая не так давно впечатлила мировое IT-сообщество, обыграв человека в го.

Но игры с головоломками — это только начало большого AI-пути. Создание компании стоимостью минимум в $1 млрд значительно продвинет искусственный интеллект. Репутация учредителей OpenAI и благие социальные намерения дают повод говорить о новой волне в развитии инноваций, которая изменит не только технологии, но и процесс их разработки. Если только сама OpenAI не окажется среди тех намерений, которыми «вымощена дорога в ад.»

Сначала была идея

Кремниевая Долина не склонна к восторженному преувеличению важности новых трендов. Но не в ситуации с AI-разработками — такие продукты кардинально преобразовывают взаимодействие человека с техникой. В тех же Google и Facebook «глубокое обучение» уже используется для распознавания изображений, голосовых команд и оптимизации поисковых алгоритмов. Потенциал у технологии огромен. Специалисты уверены, что она поможет компьютеру понимать естественную речь и письмо человека, а в последствии и действовать подобно обычным людям. Следующее поколение роботизированных механизмов не будет примитивно выполнять заданную последовательность действий, а сможет на ходу обучаться и принимать правильные решения. Это и есть то, что принято подразумевать под «искусственным интеллектом».

Но есть и определённое беспокойство по этому поводу. Если люди могут создать AI-программы для стимулирования прогресса, то обязательно найдутся и те, кто захочет использовать разум машины в преступных целях. Чтобы не допустить этого, Маск и Альтман решили сделать искусственный интеллект максимально открытым и доступным для разработчиков по всему миру.

Инициатива создать OpenAI зародилась почти год назад, когда Илон Маск ужинал с инженером из проекта Google Brain, который в тот момент работал над нейронной сетью, способной обучаться и вести разговор с пользователем через анализ огромного массива данных. Встреча проходила в самом центре жизни венчурных капиталов и прогрессивных IT-стартапов Долины — отеле Rosewood Hotel. Её прервал Сэм Альтман, чей Y Combinator в своё время дал жизнь небезызвестным Airbnb, Dropbox и Coinbase, в сопровождении нескольких AI-исследователей и опытного предпринимателя Грэга Брокмэна (Greg Brockman). Всех присутствующих, кроме Маска, объединял опыт работы с искусственным интеллектом. Но интерес учредителя Tesla к AI понятен: во-первых, технология применяется в электромашинах с автопилотом, а во-вторых, Маск известен своими проектами с прицелом на hi-tech будущее всего человечества.

ЧИТАЙТЕ ТАКЖЕ:

Специалисты во время разговора единогласно высказались за создание независимой лаборатории по разработке искусственного интеллекта. Такой исследовательский центр не смогут контролировать ни Google, ни правительство, ни любая корпорация или государственная структура. Главная проблема заключалась в том, что лучшие специалисты уже работали в Google, Facebook, Twitter, Microsoft или Baidu, и не было никакой уверенности в том, что они захотят присоединиться к новому проекту, пусть даже с такими именитыми руководителями.

Одним из первых решился на такой шаг сотрудник Google Brain Илья Суцкевер (Ilya Sutskever). Позже он признается, что понимал все риски, но увидел для себя больше аргументов в пользу OpenAI, главный из которых — социальная миссия проекта. Хотя он не скрывает, что Google старалась его удержать дополнительными бонусами и стимулами, потому решение уволиться далось нелегко.

IMG_0173-edited-682x1024

Илья Суцкевер, один из первых сотрудников OpenAI

11 друзей открытого интеллекта

Вдохновившись разговором с Маском и Альтманом, Грэг Брокмэн вскоре полностью погрузился в поиск кадров для работы в OpenAI. В первую очередь, он привлёк Йешуа Бенгио (Yoshua Bengio), учёного из Университета Монреаля и одного из отцов-основателей технологии «глубокого обучения». Сам Бенгио был занят в параллельных проектах, но составил для Брокмэна список профессионалов высокого уровня, которых следует привлечь к исследованиям OpenAI. Многие поддержали идею создания независимой лаборатории, но присоединяться к проекту не спешили.

Тогда Брокмэн решил собрать самых желанных для OpenAI специалистов в непринуждённой расслабленной обстановке калифорнийской «Долины Напа» — Напа Вэлли (Napa Valley). И даже если не получится переманить их на работу, рассуждал он, то появится уникальная возможность для общения и обмена идеями. На принятие решения о работе в OpenAI Брокмэн выделил специалистам 3 недели после встречи, по истечении которых 9 из 10 согласились, проигнорировав соблазнительные условия работы у прежних работодателей. К слову, все они задействованы в проекте и по сей день, как и Суцкевер и сам Брокмэн.

Социальный компромисс

Идеализм команды OpenAI всё равно вынужден уступать определённым требованиям работы рынка. Открытость исследований имеет свои пределы, так как искусственный интеллект — не единственная отрасль, с которой взаимодействует OpenAI. Несмотря на социальный акцент, это не благотворительный проект. Ян ЛеКан (Yann LeCun), один из учёных, задействованных в AI-разработке, отмечает воздействие определённых обстоятельств:

«—Компании Маска очень заинтересованы в результатах нашей деятельности, равно как и многие проекты из Y Combinator Альтмана. Так что нельзя говорить о 100% объективности. Да, сама лаборатория считается неприбыльной организацией, но мы очень тесно связаны с Y Combinator. В конце концов, мы все получаем зарплату, точно так же, как если бы работали в обычных IT-компаниях.»

Брокмэн же поясняет, что оплата труда в лаборатории далека от космических гонораров штатных сотрудников корпораций. Но в интересах учредителей OpenAI поощрять специалистов, поэтому им предлагают компенсацию в виде ценных бумаг, сейчас только в Y Combinator, а в будущем, возможно, и долевое участие в SpaceX, которая пока ещё остаётся частной компанией, в отличие от Tesla. Брокмэн настаивает на том, что нет никаких привилегий для родственных компаний учредителей проекта: «Это — исследовательская лаборатория, а не консалтинговая фирма».

Грэг Брокмэн, CTO OpenAI

Грэг Брокмэн, нынешний CTO лаборатории OpenAI

Хотя даже Брокмэн признаёт, что некоторые ограничения гласности присутствуют. Планируется публиковать материалы исследований и уже законченных разработок, но в OpenAI не намерены делиться идеями на ранней стадии их реализации. Кроме того, Суцкевер и Брокмэн допускают возможность получения патентов на некоторые продукты, но только если это будет в интересах развития всего направления. Например, запатентовать определённую технологию и поделиться правом на её использование, чтобы другие, менее щедрые разработчики не смогли получить частный патент, тем самым закрыв разработку для сторонних лиц. Такую позицию критикуют в IT-среде и говорят о том, что на получении патентов компания хочет заработать. Далеко не все верят в филантропическую мотивацию Маска, Альтмана и других.

Машинная угроза

Представляя OpenAI, Маск и Альтман особо выделяли ещё одну цель создания проекта — защиту от появления искусственного интеллекта, который восстанет против человека. Конечно, злодейский разум может зародиться и на основе продуктов самой лаборатории, но коллективное использование программ станет гарантией против распространение зла. Кстати, на массовый контроль пользователями со всего мира возлагает надежды и американский специалист по криптографии Дэвид Чаум (David Chaum) в своей зашифрованной соцсети PrivaTegrity.

Но и в эту версию верят не все. Философ из Оксфорда Ник Бостром (Nick Bostrom), который в общем разделяет опасения Маска по поводу безопасности AI, уверен, что открытая публикация исследований лаборатории попадёт в руки злоумышленников даже раньше, чем общественность сможет выработать механизм противостояния. Если же отказаться от разглашения результатов деятельности, то OpenAI ничем не будет отличаться от Google или Facebook. Бостром не верит в то, что неприбыльная организация сможет кардинально поменять правила игры на рынке разработки инновационных технологий:

«—Максимально возможная польза от OpenAI — это то, что лаборатория помешает какой-нибудь корпорации создать более прогрессивный искусственный интеллект, чем те алгоритмы, которыми будут пользоваться конкуренты.»

Философ добавляет, что в краткосрочной перспективе OpenAI здорово подстегнёт AI-разработку, внедрит моду на филантропию среди офисов R&D и может привести к тому, что другие компании также начнут делиться своими наработками в объёме чуть большем, чем необходимо для получения прибыли.

ЧТО ЕЩЁ ПОЧИТАТЬ:

Начало учебного года

Впервые новосозданная команда OpenAI собралась в январе 2016-го просто дома у Брокмэна. Специалисты обозначили главные направления своей работы: стимулированное обучение и самостоятельное обучение нейронных сетей («unsupervised learning»). Первый метод подразумевает, что машина повторно выполняет одно и то же задание разными способами, отслеживая алгоритм, который принёс наилучший результат. Второе направление более интересно и занимает умы многих специалистов и вне проекта OpenAI: научить машину самостоятельно, без указки человека подбирать пути решения задачи. Сегодня чтобы научить нейронную сеть распознавать картинки с котятами вам необходимо сначала показать системе картинки с конкретными животными и объяснить, что файл содержит изображение именно котят. Это — пример машинного обучения под управлением человека. Следующий шаг в развитии AI  — заставить компьютер самостоятельно обучаться без чётко структурированных и обозначенных файлов.

Брокмэн: «—Только когда появится такой алгоритм, можно будет говорить о том, что машина научилась получать новые знания, примерно так же, как делает это человек: оглядываясь вокруг, читая книги и т.д.»

Он сравнивает работу OpenAI с лабораторией PARC корпорации Xerox, которая функционировала в 70-х годах прошлого века. Предоставив полный доступ к техническим результатам своих исследований, PARC способствовала стремительному прогрессу многих технологий, от разработки графического интерфейса для лазерных принтеров и до предметного программирования. И хотя лаборатория принадлежала конкретной компании, результаты её деятельности пригодились всем участникам технологической отрасли. Стив Джобс отмечал важную роль исследований PARC для создания продуктов Apple.

В OpenAI, как и когда-то в PARC, объединились гении определённого IT-направления. Маск и Альтман постарались максимально обеспечить их ресурсами, при этом свели к минимуму контроль и всевозможные рамки. Когда созданные ими продукты окажутся настолько революционными, что до неузнаваемости изменят мир вокруг нас, придётся всерьёз задуматься о коллективном контроле за AI-машинами. И если у команды OpenAI всё получится, «задуматься» к тому моменту смогут уже не только представители Homo sapiens.

Источник: Wired