«Нацист» из Редмонда

«А мы ведь предупреждали, что игры с искусственным интеллектом до добра не доведут», — сокрушённо покачал головой профессор Хокинг (по крайней мере, мысленно точно покачал головой). Эксперимент Microsoft по созданию бота, наделённого искусственным интеллектом (пусть и не такого привлекательного, как героиня Ex Machina), завершился, не успев толком начаться. Чат-бот Tay, представлявшийся девушкой из поколения «нулевых», был отключён спустя сутки после запуска — и вовсе не из-за технической ошибки или неисправности в работе.

«Нацист» из Редмонда

Просто интеллект оказался в первую очередь не интеллектуальным, а искусственным — и за 24 часа из «цыплёнка нежного» превратился в убеждённую нацистку, продвигающую в интернете идеи Третьего Рейха. Сторонники проекта указывают, что бот Tay не обладает полной самостоятельностью в произнесении ответных фраз: в этом смысле разработка похожа на попугая, который покорно повторяет любые фразы за своим хозяином. Однако от пернатого питомца новое детище разработчиков из Редмонда отличается тем, что способно формировать собственные суждения на основе ранее высказанных. В качестве аргумента в пользу этого утверждения издание The Guardian приводит построенное логическое умозаключение о том, что Гитлер изобрёл атеизм.

«Нацист из Редмонда» — пока не более чем неудачная попытка сконструировать чат-бота на основе AI-технологий. Такие попытки были и ранее, но там боты самообучением не обладали. Казалось бы невинный эпизод, который к тому же уже успели «пофиксить», удалив большую часть оскорбительного контента, сгенерированного в соцсетях этим чат-ботом, в очередной раз демонстрирует нам, насколько далеки реалии от кинематографа и фантастических книг. Впрочем, даже знаменитый Skynet и «восстание роботов» стали возможны лишь благодаря прямому приказу человека, а не произошли сами по себе. Этика для машин, три закона роботехники, бесконечные дискуссии о том, что первично — сознание, мысль или речь. И в итоге всё упирается в группу пранкеров, способную менее чем за половину суток научить самую передовую разработку идеологическим установкам обычного малообразованного скинхеда.

Можно говорить, что в интернете испохабят даже самую передовую идею, доведя её до абсурда. А можно увидеть в этой ситуации показательный урок для исследователей искусственного интеллекта, инженеров и технологов — и приняться за доработку. Ведь до реального интеллекта, похоже, программной среде ещё далеко: умение писать и отвечать в форме предложений ещё не гарантирует соблюдения корпуса моральных установок и ценностей, присущего только разумному человеку.