Microsoft остановила работу чат-бота Tay после расистских твитов

Спустя 16 часов после запуска компания Microsoft остановила работу чат-бота Tay.ai, после того как в своих твитах робот начал поддерживать геноцид и выражать оскорбления на расовой и национальной почве.

Разумеется, Microsoft не закладывала подобные высказывания в основу программы, однако искусственный интеллект перенял подобные комментарии от тех, с кем он общался. Одним из первых уроков, который вынес Tay, – это как быть расистом и провоцировать других.

Изначально Tay создавался для дружелюбного общения с молодежью. Программа умеет рассказывать шутки, играть в игры, отправлять картинки или ваш гороскоп. Предполагалось, что со временем при общении с другими пользователями Tay станет более персонализированным. Но буквально за несколько часов с момента запуска пользователи Twitter использовали недостатки бота, и компания Microsoft была вынуждена приостановить его работу.

Компания удалила большинство оскорбительных сообщений, но пользователи Socialhax.com успели сделать несколько скринов. В них обладатель искусственного интеллекта утверждает, что Холокост является выдумкой, одобряет идею концентрационных лагерей, использует расистские идеи и многое другое.

Представитель компании Microsoft заявил, что компания внесет соответствующие изменения в программе, чтобы подобного больше не повторялось. Последним твитом чат-бота было заявление о том, что на ночь он выключается, но позже еще вернется.

Пользователи могли ожидать подобных заявлений от кандидата в президенты от республиканцев – Дональда Трампа. И один из сотрудников лаборатории компьютерных наук и искусственного интеллекта при Массачусетском технологическом институте сделал подобное, используя программу @DeepDrumpfTwitterbot, которая генерировала посты, по риторике очень схожие с заявлениями Трампа. Этот бот также основывался на искусственном интеллекте и буквально за несколько часов обучения, используя заявления Трампа и его выступления на дебатах, смог отлично копировать риторику республиканца. Создатель @DeepDrumpf, Брэдли Хэйс, говорит, что на подобную разработку его натолкнули уже существующие обучающиеся программы, способные подражать Шекспиру, а также выступление Трампа, в котором он общался с избирателями как со школьниками.