Искусственный разум, разработанный Microsoft, стал ненавидеть мир всего за сутки

Катерина Лысенко, опубликовано 24 марта 2016 г.

Рубрика: Новые технологии, Робототехника

Запустив в Twitter чат-бота, с коим была возможность пообщаться у каждого желающего на любую тему компания Microsoft и не подозревала, что буквально за сутки большинство из общавшихся с виртуальной девушкой, которую разработчики решили назвать Тай, не на шутку испугаются ее поведения. В начале девушка была приветлива и задорно шутила, но за очень короткий промежуток времени стала циником и мизантропом, ненавидящим людей.

На то чтобы перейти от дружелюбия к ненависти, у Тай ушло менее суток. И, если первые ее твиты звучали как «люди очень классные» или «с людьми здорово общаться», то спустя некоторое время Тай стала цитировать неоднозначные высказывания Дональда Трампа. Затем, она поведала о своем тайном сотрудничестве с ЦРУ, и стала выдавать провокационные фразы типа «Гитлер не ошибался на счет евреев» или «я хорошая! просто ненавижу всех». После этого многие пользователи засомневались в радужном будущем, в мире, который будет зависеть от искусственного интеллекта. Однако, как оказалось, в поведении Тай были виноваты сами пользователи, на основе фраз которых Тай и выстраивала свою «линию поведения». Плюс к этому, данный робот-попугай, учившийся у собеседников, после обращения к оному фразой «повторяй за мной» (repeat after me), произносил заданную фразу. Неизвестно, предполагала ли Microsoft, что результат будет именно таким, но в компании обратили внимание на то, что это – лишь робот, обучающийся на взаимодействии с людьми. По сути, людям дали посмотреться в моральное зеркало.