Deepfake: неизбежность, из-за которой можно потерять работу

Однако есть одно «но». Дело в том, что внедрение машинного обучения и технологий на базе ИИ привело не только к созданию таких чудесных проектов, как виртуальные телеведущие, а и к появлению deep fakes (синтетических медиа). И вот против последних ведется самая настоящая война. Наверняка вы помните сообщения от Twitter, Google, Reddit и Facebook о намерении противодействовать распространению и созданию фейкового контента. И это не просто слова. CEO Facebook Марк Цукерберг уже приступил к конкретным действиям, опубликовав 13-страничный документ под названием Online Content Regulation.

В 2018 году государственное информагентство Китая Синьхуа продемонстрировало разработку компании Sogou — виртуального телеведущего. А позже стало известно, что информагентство Reuters и IT-компания Synthesia разработали прототип виртуального диктора при помощи искусственного интеллекта (ИИ). Пока он специализируется только на спортивных новостях, но в будущем сможет вести разного рода передачи. В Казахстане также появился ИИ-диктор по имени i-Sanj. А в 2020-ом в Южной Корее в эфир вышла виртуальная ведущая новостей. Предполагается, что впоследствии такой телепродукт спровоцирует возникновение новостей «по запросу»: робот-диктор сможет рассказать о любом событии, которое интересно конкретному пользователю в конкретный период времени, вместо освещения самых важных новостей «для всех».

Разработчики уверены, что «... синтетические медиа значительно ускорят творческие процессы и сократят разрыв между возникновением идеи и ее реализацией. Они также инициируют новые методы коммуникаций и существенно повлияют на сторителлинг, позволят создать новые интерфейсы и, в конечном итоге, изменят наше восприятие того, где начинается и заканчивается цифровой мир». По крайней мере так считают в Synthesia.

Возникают вопросы... Сможет ли виртуальный диктор корректно интерпретировать факты? Ведь иначе перекрученная информация превратится в фейк. А сможет ли подавать информацию безапелляционно и правдиво или же прибегая к оценочным суждениям, умалчиванию? Возможен ли сбой в его работе или умышленное перепрограммирование? И если да, то какими будут последствия для разработчиков, медиа и аудитории? И, в конце концов, сможет ли он стать самостоятельным и прекратить подчиняться программистам? В таком случае, можно ли будет считать его личностью? Вопрос этики, пожалуй, самый сложный. Вот представьте: робот наговорил в эфире лишнего, и каковы ваши действия? «Убить» его? Но представьте, как взбунтуется армия его поклонников! Уволить? Вариант... Интересно, сможет ли он быть принятым на работу другим телеканалом? А что, если он подаст на вас в суд, посчитав увольнение незаконным? Какой институт будет регулировать такие вопросы?.. И все же идея с виртуальными ведущими весьма заманчива, потому как при своем активном развитии данные проекты станут менее затратными на производственном этапе, что на руку медиахолдингам. Виртуальному комментатору не нужно платить зарплату, он никогда не болеет, его легко заменить (до тех пор, пока он не стал личностью, конечно). Приведет ли это к сокращению рабочих мест?

Как видите, вопросов много. И далеко не на все сегодня можно ответить, а только лишь порассуждать. И все же мы обратились к представителям рынка, чтобы ознакомиться с их мнением по поводу виртуализации ТВ, поставив вопрос ребром: быть или не быть, и если быть, то когда?

Артем Лёзин, айтишник

Если робот-ведущий сам будет находить новости и интерпретировать их, можно ли такую информацию считать фейковой?

Персональные помощники, поисковые системы уже сегодня умеют интерпретировать информацию, уже разработаны алгоритмы, анализирующие тональность текста. И когда речь идет о персональной доставке новостного контента, вполне возможно, что ИИ-ведущий будет что-то додумывать. Сложность в том, чтобы разобраться, как именно работает нейронная сеть, почему «нейронкой» были сделаны те или иные выводы.

Сможет ли он развиться в отдельную личность и обзавестись поклонниками?

Все может быть. Ведь есть поклонники персонажей фильмов, компьютерных игр, мультфильмов. И если персонализировать Siri, наделив ее внешностью, создать для нее аккаунт в Instagram, где она будет постить разные фото и видео, думаю, у нее появится армия поклонников.

Как такой контент расценивать, это фейк?

Мое субъективное мнение: если Siri будет честно заявлять о себе, что она робот, например, это будет указано в описании ее профиля, тогда информация, генерируемая ею, — не фейк. Если же ИИ-личность будет выдавать себя за реального человека — это фейк.

Я считаю, что людям нужно адаптироваться под такие изменения и учиться фильтровать контент, учиться отличать фейк от правдивой информации, проверять информацию по нескольким источникам, не поддаваться влиянию, в общем, вырабатывать в себе иммунитет к фейкам.

Сможет ли такой ведущий конкурировать с людьми?

Конечно. Он не болеет, не стареет, всегда выглядит одинаково, он будет доступен в любой момент, особенно, если разовьется услуга «новостей по запросу». Однако на данный момент конкурировать они еще не смогут, прежде всего, из-за недостаточно хорошей графики.

На украинском ТВ может появиться виртуальный ведущий?

Да. Но это вопрос времени, вопрос достаточной развитости технологий, финансовый вопрос и вопрос этики. Но к этому все идет. Я думаю, что сначала они появятся на диджитал-платформах каналов, а потом уже на ТВ. Дело в том, что телевидение имеет свои устоявшиеся стандарты, поэтому понадобится некоторое время для адаптации ИИ-ведущих.

Когда это произойдет?

Через 5-7 лет.

Дарья Федько, основатель WeAR Studio

Если бы ты создавала виртуального ведущего, на какие критерии ты бы опиралась при разработке прототипа?

На поведенческие характеристики, которые должны ему быть присущи, на целевую аудиторию, — кто ее составляет, где, как, чего она ожидает; на контент, который будет ведущий озвучивать.

Зрителям важно не только что говорит диктор, но и как он говорит, как выглядит: какими внешними параметрами должен обладать прототип? Возможно ли научить его менять тональность голоса, проявлять эмоции и т.д.? И стоит ли это делать, ведь проще создать «говорящую голову»?

Конечно, стоит. Да, проще сделать «говорящую голову», она удержит внимание первые пару дней, но потом будет не особо интересна. А виртуальный ведущий, который может адаптироваться к контенту, дополнять его и визуализировать, — это круто! Думаю, внешне он должен быть человекоподобным, но наделен определенными суперсилами с технической стороны: это искусственный интеллект, алгоритмы ML, анализа и адаптации в реальном времени. В идеале, он должен являть собой саморегулируемую систему.

Смогут ли в будущем виртуальные ведущие вытеснить реальных и вести не только информационные выпуски новостей, но и ток-шоу, реалити-шоу?

Пока сложно сказать, но есть определенные тенденции. Здесь есть очень много факторов, которые повлияют на восприятие. Это, в первую очередь, оборудование: VR-очки должны стать доступными, мощными, простыми в использовании + должна быть сопутствующая экосистема и много качественного и совместимого контента.