Исследователи Университета штата Техас, совместно с научной командой Йельского университета, США, заразили компьютер шизофренией, демонстрируя, насколько велика потенциальная опасность искусственного интеллекта.
С целью эксперимента учёные построили компьютерную нейросеть, способную имитировать переизбыток дофамина в головном мозге человека. Как известно, это чрезвычайно повышает активность мозга, что характерно для пациентов с диагнозом шизофрения.
Ментальное расстройство данного типа порождает ложные ассоциации, и в мозг поступает слишком много информации сразу, вследствие чего человек не может отличить важное от несущественного.
Исследователи научили нейронную сеть воспринимать язык не как биты данных, а как связную информацию с перекрёстными ссылками – именно так воспринимает мозг человека. Затем, в экспериментальную сеть загрузили несколько рассказов.
Когда компьютер научился «понимать» текст, учёные подняли скорость обучения машины, чтобы имитировать работу головного мозга с переизбытком дофамина.
Вскоре сеть создала собственный набор искажённых ассоциаций: компьютер отвечал на запросы бессвязными строками, скопированными из странных ситуаций, которые встречались в текстах. Машина даже взяла на себя ответственность за террористический акт.
Подводя итоги эксперимента, учёные отметили, что потенциальные системы искусственного интеллекта вполне могут «сходить с ума». Таким образом, когда мыслящие машины будут созданы, они постоянно должны будут находиться под контролем человека.