Командование военно-морских сил США объявило конкурс: военные выдадут грант в размере $7,5 млн изобретателю или исследовательской команде за робота, способного отличить добро от зла.
На создание машины, обладающей «моральным компасом», военные отводят 5 лет. Робот не просто должен отличать «своих» от «чужих», но и полноценно принимать решения, основываясь на понятиях человеческой морали, – планируется доверять ему вести боевые действия.
В качестве примера для решения приводится следующая ситуация: роботу-санитару поручено доставить раненого бойца в ближайший медпункт для оказания помощи. В момент транспортировки раненого на пути робота встречается ещё один раненый человек в критическом положении.
Робот с «моральным компасом» должен быть в состоянии принять решение: либо прервать выполнение текущего задания и оказать раненному помощь, либо продолжить первоначальную задачу по транспортировке первого потрадавшего.
Технологический вызов военных уже приняли исследователи Университета Тафтса, США. Они хотят превратить принципы человеческой морали в набор основных правил, соблюдение которых позволит роботам подражать поведению человека.
Правила, преобразованные в алгоритм действий, могут быть включены в систему искусственного интеллекта. Внедрение алгоритмов позволит роботу оправдывать свои действия и обходить набор чётких правил в тех случаях, когда система может выйти за рамки общепринятых норм.
Тем временем, в Женеве, Швейцария, международная группа экспертов обсудила плюсы и минусы использования в военных действиях роботов-убийц, и общую правомерность их применения.