Предыдущие исследования в этой области позволили определить, какая из известных моделей ИИ сгенерировала тот или иной дипфейк, однако новая разработка специалистов из Facebook и Университета штата Мичиган лучше подойдёт для практического применения. Она позволяет определять архитектурные особенности систем для создания дипфейков, основанные на неизвестных моделях. Эти характеристики, известные как гиперпараметры, присутствуют в каждой модели машинного обучения. В совокупности они создают уникальный отпечаток на готовом изображении, который затем можно использовать для определения источника дипфейка.

По словам ведущего специалиста Facebook Тала Хасснера (Tal Hassner), участвующего в проекте разработки декомпилятора дипфейков, возможность выявления особенностей неизвестных моделей очень важна, поскольку ПО для дипфейков очень легко изменять, что позволяет злоумышленникам эффективно заметать следы.

Несуществующие люди, созданные программой для генерации дипфейков
Несуществующие люди, созданные программой для генерации дипфейков (Изображение: The Verge)
«Предположим, злоумышленник создаёт множество разных дипфейков и загружает их на разные платформы под видом разных пользователей. Если для создания дипфейков применялась новая модель ИИ, которую никто раньше не видел, то выяснить все детали, связанные с созданием изображения будет невозможно. С новой технологией мы можем определить, что загруженное на разные платформы изображение было создано одной и той же моделью машинного обучения. А получив доступ к ПК, на котором это изображение было создано, мы сможем уверенно указать на виновника», — объяснил Хасснер.

Хасснер сравнивает свою разработку с методом экспертно-криминалистического анализа, использующегося для определения модели фотоаппарата, с помощью которого были произведены снимки. Суть анализа заключается в поиске на этих снимках определённых закономерностей или оптических дефектов, создаваемых только конкретной моделью камеры.

«Не каждый может создать свою собственную камеру, но любой, кто обладает достаточным опытом и доступом к обычному ПК, может создать свою собственную модель для генерации дипфейков», — добавляет Хасснер.

Созданный учёными из Университета штата Мичиган и Facebook алгоритм способен не только определять черты той или иной генеративной модели, но также выяснять, какая из известных моделей могла применяться в создании дипфейка и является ли вообще представленное изображение подделкой. По словам Хасснера, система обладает весьма высоким показателем эффективности. Однако точных значений не приводит.

Следует указать, что даже самые современные алгоритмы определения дипфейков в настоящий момент далеки от совершенства. И сами специалисты, занимающиеся этим вопросом, прекрасно это осознают. Когда в прошлом году Facebook проводила конкурс, посвящённый поиску дипфейков, победителем оказался алгоритм, который мог определять недостоверность изображений только в 65,18 % случаев. Частично это объясняется тем, что область разработки генеративного ИИ очень активно развивается. Новые методы публикуются практически каждый день и фильтры распознавания попросту за ними не поспевают.

Некоторые звуки вполне логичны: например, коза-эмодзи блеет, а картинка с хлопающими ладошами сопровождается звуком аплодисментов. Однако некоторые смайлы имеют музыкальный аккомпанемент. Например, песочные часы играют песню The Motto исполнителя Drake, а солнце воспроизводит отрывок из песни Kanye West — Good Morning. Некоторые смайлы воспроизводят отрывки из телешоу и фильмов: смайлик с ударами кулака вправо воспроизводит знаменитую фразу Доминика Торетто «У меня нет друзей, у меня есть семья» из «Форсаж 7».

Facebook заявляет, что регулярно будет обновлять список смайлов новыми звуками. Это нововведение, по всей видимости, приурочено к Всемирному дню эмодзи, который отмечается 17 июля.

Хотя разработка оказалась довольно полезной для людей с речевыми проблемами, Facebook ясно дала понять, что намерена отказаться от идеи шлемов с возможностью чтения мозговых показателей в пользу электромиографических интерфейсов, интегрированных в браслеты. В своём пресс-релизе Facebook сообщила, что намерена «рефокусировать» внимание. В частности, компания не заинтересована в краткосрочной перспективе в устройствах, требующих имплантации пользователям электродов в голову, и намерена сконцентрировать усилия на другом нейроинтерфейсе, прикладное использование которого можно организовать намного быстрее.

Университетская Chang Lab продолжает исследования, связанные с разработкой нейрокомпьютерных интерфейсов для людей, которым требуется восстановить возможность общаться с внешним миром, например — после инсультов. Систему научили «декодировать» до 50 слов, в финальных испытаниях — в среднем 15,2 слова в минуту с ошибками или 12,5 слова в минуту без учёта ошибок. По словам представителя Калифорнийского университета Сан-Франциско, одна из главных задач на сегодня — расширение «словаря» системы и создание устройств, декодирующих мозговую активность не просто в текст, но способных произносить их — для современной электроники задача вполне решаемая.

Так или иначе, система не соответствует целям Facebook, поставленным ещё в 2017 году — создать неинвазивный нейроинтерфейс, способный «печатать» до 100 слов в минуту, такие показатели сравнимы со скоростями печати на обычных клавиатурах. Тем не менее пока университетские технологии не могут сравниться по скорости даже с печатью на виртуальной клавиатуре смартфона.

Известно, что Facebook приобрела в 2019 году компанию CTRL-Labs, разрабатывающую технологию электромиографического считывания с помощью специальных браслетов — альтернативных контроллеров для работы в виртуальной и дополненной реальностях. Facebook не намерена полностью отказываться от исследований наголовных нейроинтерфейсов, но приоритетными для неё станут другие проекты, а программное обеспечение и даже прототипы прежних устройств будут доступны широкому кругу исследователей.

Таким образом, впервые за семь лет коммуникативные функции вернутся в основное приложение Facebook. Чем обусловлено такое решение, не уточняется. В ближайшее время разработчики планируют протестировать обновление среди жителей США. Точные сроки запуска и планы по географическому распространению не уточняются.

Несмотря на запуск аудио- и видеозвонков в основном сервисе, текстовый чат пока останется частью Messenger. Планируется ли вернуть его в приложение Facebook, не уточняется.

На создание новых инструментов компанию вдохновил изменяющийся опыт взаимодействия между людьми, включающий желание общаться через мессенджеры, а также возможность упростить коммуникацию людей с бизнесом. Так, к инструментам Facebook добавились:

Общение с клиентом с помощью рекламы, ведущей сразу в мессенджер. Компании уже могут покупать рекламу, призывающую людей начать с ними переписку в Messenger, Instagram Direct или WhatsApp. Теперь компании могут выбрать все мессенджеры, где у них есть аккаунт, и Facebook по умолчанию выберет для рекламы тот мессенджер, где разговор наиболее вероятен.
Возможность переписки в WhatsApp из профиля Instagram. Для многих малых компаний Instagram — это виртуальная витрина, где клиенты знакомятся с брендом, а WhatsApp — инструмент для общения с клиентами, ответов на их вопросы и продаж. Теперь компании могут добавить кнопку, которая ведет в WhatsApp, в свой профиль Instagram. Вскоре появится возможность создавать рекламу, которая будет вести в WhatsApp прямо из приложения Instagram, чтобы люди могли начать чат одним касанием. Эти обновления помогут малому бизнесу найти новых клиентов и решать повседневные задачи.

Кроме того, в ближайшие месяцы Facebook начнет тестировать платные и органические инструменты, которые помогут малому бизнесу находить и квалифицировать лиды непосредственно в приложении Instagram. Например, компаниям будет предложено выбрать 4−5 вопросов, которые нужно задать потребителям до начала разговора. Затем потребители могут легко и быстро запросить коммерческое предложение на Facebook, заполнив короткую анкету в Messenger. Таким образом, рекламодатели смогут более персонализировано использовать рекламу для генерации лидов и взаимодействия с клиентами, снижая при этом свои затраты.

В августе Facebook объявила о разработке технологий, повышающих уровень конфиденциальность рекламы. По словам разработчиков, они используют методы из криптографии и статистики, которые «помогают свести к минимуму объем обрабатываемых данных, сохраняя при этом такие важные функции, как измерение рекламы и персонализация».