Учёные доказали опасность «думающих» машин, создав виртуальную шизофрению

Исследователи Университета штата Техас, совместно с научной командой Йельского университета, США, заразили компьютер шизофренией, демонстрируя, насколько велика потенциальная опасность искусственного интеллекта.

С целью эксперимента учёные построили компьютерную нейросеть, способную имитировать переизбыток дофамина в головном мозге человека. Как известно, это чрезвычайно повышает активность мозга, что характерно для пациентов с диагнозом шизофрения.

Ментальное расстройство данного типа порождает ложные ассоциации, и в мозг поступает слишком много информации сразу, вследствие чего человек не может отличить важное от несущественного.

Исследователи научили нейронную сеть воспринимать язык не как биты данных, а как связную информацию с перекрёстными ссылками – именно так воспринимает мозг человека. Затем, в экспериментальную сеть загрузили несколько рассказов.

Когда компьютер научился «понимать» текст, учёные подняли скорость обучения машины, чтобы имитировать работу головного мозга с переизбытком дофамина.

Вскоре сеть создала собственный набор искажённых ассоциаций: компьютер отвечал на запросы бессвязными строками, скопированными из странных ситуаций, которые встречались в текстах. Машина даже взяла на себя ответственность за террористический акт.

Подводя итоги эксперимента, учёные отметили, что потенциальные системы искусственного интеллекта вполне могут «сходить с ума». Таким образом, когда мыслящие машины будут созданы, они постоянно должны будут находиться под контролем человека.

Читайте также:

Скрытые затраты автоматического мышления

10 бизнес-трендов, которые стали знаковыми для 2010-ых

Роботы и хирургия. Часть 2

Що може статися, якщо вибрати для свого авто номер Null?