YouTube и социальные сети заполонила реклама мошеннических проектов, которые, прикрываясь известными брендами и персонами, выкачивают деньги из доверчивых пользователей по всему миру. Используемые в таких схемах фейки с Илоном Маском даже объединили россиян и американцев - в жажде быстрых денег на развод ведутся и те, и другие. Мошенники обещают "быстрый и надежный способ начать получать от нескольких сотен до нескольких тысяч долларов в день", а обеспечить подобную доходность должна мистическая система, которую якобы разработали крупные компании вроде Tesla, Revolut, "Газпром" или люди - Маск, Безос, Баффет и даже Алексей Навальный. "Холод" рассказывает о международной системе мошенничества.

Суть схемы достаточно простая: мошенники покупают рекламу на популярных сервисах, таких как YouTube, Facebook или Instagram. После этого они продвигают свои рекламные ролики, которые можно разделить на два типа. Первый - персонифицированный: в нем используется якобы прямая речь известного человека, который предлагает пользователю принять участие в работе его программы. После подключения к этой программе пользователь якобы начнет получать от нескольких сотен до нескольких тысяч долларов в день.

Для убедительности мошенники используют наиболее узнаваемых персон в своем регионе: например, в Азербайджане использовали фейковые цитаты президента страны Ильхама Алиева. А для российской и американской аудитории - видео с Илоном Маском, который якобы лично рассказывает об "уникальной возможности навсегда оставить позади крысиные бега".

Второй тип роликов эксплуатирует известные бренды. Например, в Грузии, России и Азербайджане в схему заманивали с помощью программ от "Газпрома" и азербайджанского нефтегазового гиганта SOCAR. В Восточной Европе, в частности, в странах Балтии, в аналогичных роликах использовали другие бренды, например, основанный выходцами из России и Украины и популярный среди русскоязычного населения Восточной Европы банк Revolut. Среди известных брендов, которыми пытались заманить мошенники, также были Tesla и SpaceX Илона Маска, Amazon Джеффа Безоса, а в отдельных случаях даже брокерские фирмы, среди которых одна из крупнейших в мире - американская Interactive Brokers. Таргетинг у роликов был настолько продуман, что уникальные, подогнанные под них предложения получали даже пользователи из Молдовы.

В рекламных роликах пользователям рассказывали о возможности зарабатывать крупные суммы денег каждый день без риска, эксплуатируя бренд или лицо, приводили аргументы в пользу того, что подобные инвестиции безопасны, практически всегда показывали фейковые зачисления денег на баланс от системы и предлагали присоединиться к проекту по ссылке.

Когда пользователь попадал на сайт программы, перед ним возникало достаточно простое поле для регистрации и форма для пополнения баланса. Как правило, после зачисления первых средств на связь с пользователем выходили представители "сервиса" - они давили на жадность и убеждали жертву занести в систему больше денег. Когда же им это удавалось, они пропадали вместе с деньгами.

Персонифицированные ролики делались с помощью искусственного интеллекта. Для производства таких видео мошенники берут настоящее интервью, например Илона Маска, пишут новый текст, в котором рекламируется несуществующая инвестиционная программа, озвучивают его при помощи искусственного интеллекта, подделывающего голос, и также с помощью нейросетей подгоняют движение губ условного Маска под новую озвучку.

Сервисы, при помощи которых делается дипфейк, стоят небольших денег - от 2 до 10 долларов, а прибыль, согласно подсчетам консалтинговой корпорации Deloitte, исчисляется миллиардами долларов. Незнающий человек вряд ли отличит фейковое интервью от настоящего.

География мошенников обширная. По данным The New York Times, в основном они из Индии, Китая и Восточной Европы, в том числе - из России. Они закупают рекламу и настраивают ее под самые уязвимые и прибыльные рынки.

"Жизнь, о которой вы давно мечтали"

Одним из тех, кто попался на подобное видео, стал 82-летний американский пенсионер Стив Бошамп. В конце 2023 года он увидел ролик, в котором Илон Маск рекламировал инвестиционную программу, обещавшую быстрые выплаты. Тогда он подумал, что это хорошая возможность заработать денег для своей семьи.

Посмотрев рекламу, он перешел на сайт и связался с компанией, предлагавшей участвовать в "программе Илона Маска". Бошампа попросили открыть инвестиционный счет на 248 долларов - и он послушался. В течение нескольких недель он потратил все свои сбережения - более 690 тысяч долларов. После этого консультанты компании перестали отвечать, а деньги исчезли.

"Ну, тот человек [что был передо мной] - это был он [Илон Маск]. Но заставлял ли его искусственный интеллект говорить то, что он говорил, я не знаю. Если бы меня попросили: "Выбери его из ряда людей", я бы сказал, что это он", - рассказал потерпевший пенсионер.

И действительно, несмотря на то, что создать такое видео стоит небольших денег, дипфейк Илона Маска очень похож на оригинал: журналисты NYT отмечают, что у фейка та же степенная манера речи и южноафриканский акцент, что и у настоящего Маска.

Для одного из видео мошенники взяли настоящее интервью Илона Маска, которое он дал The Wall Street Journal. В обработанном с помощью ИИ ролике он обещает "жизнь, о которой вы давно мечтали" и "навсегда оставить позади крысиные бега".

"Можете ли вы представить себе 237 долларов каждый час, каждый день до конца своей жизни? В какой бы ситуации вы ни находились, если вы хотите заработать один миллион долларов и оставить крысиные бега позади - это программа для вас. <…> Это абсолютно безрисковая возможность. Поскольку терять нечего, я предоставляю вам эту возможность бесплатно. Просто перейдите по ссылке под этим видео", - говорил "Маск" из ролика.

По словам Франческо Кавалли, сооснователя компании Sensity, которая отслеживает дипфейки в интернете, реклама с Маском - крупнейший прецедент дипфейк-мошенничества в истории. Изучив около двух тысяч подобных рекламных роликов, компания пришла к выводу, что именно Илона Маска чаще всего использовали в качестве "говорящей головы", которая рекламирует мошеннические схемы под видом инвестиционных программ.

В своих роликах мошенники использовали также инвестора и одного из богатейших людей мира Уоррена Баффета, состояние которого в 2024 году оценивалось в 146 миллиардов долларов, а также основателя компании Amazon Джеффа Безоса. Но Илон Маск появлялся в подобной рекламе чаще других - он "играет" в четверти всех дипфейк-роликов и в 90% мошеннических видео про криптовалюты.

Подсчитать объем дипфейк-рекламы в интернете невозможно. Основной канал распространения мошеннических роликов - рекламные инструменты в социальных сетях и на YouTube. Журналистам NYT удалось найти множество подобных видео в библиотеке объявлений на фейсбуке при помощи поиска по ключевой фразе.

На ютубе мошенники часто используют и другой метод: скачивают трансляцию уже случившегося события, делают из нее дипфейк и транслируют на собственном ютуб-канале как прямой эфир. Подобные трансляции собирают сотни тысяч зрителей, хотя в действительности являются предзаписанными дипфейками. При этом количество зрителей на трансляции искусственно завышается ботами - чтобы потенциальные жертвы не сомневались в аутентичности происходящего.

По сюжету одной из таких "трансляций", посвященной биткоину, дипфейк Илона Маска обещал лично удвоить любую сумму в крипте, которую отправят ему на криптокошелек.

В интернете появляется все больше сообщений людей, которые потеряли не просто часть своих денег из-за дипфейков, а все сбережения, которые у них были. Например, один из зрителей, неназванный житель Техаса, переслал "Илону Маску" 36 тысяч долларов сбережений в биткоине - и они просто исчезли.

Влияние фейков выросло настолько, что в мае 2024 года Комиссия Гонконга по ценным бумагам и фьючерсам выпустила предупреждение о том, что в интернете появились дипфейки Илона Маска. В феврале 2024 года подобное предупреждение выпустила также американская Федеральная торговая комиссия, а в мае - ФБР, которое пожаловалось, что из-за ИИ выявить мошенническую деятельность и эффективно с ней бороться стало гораздо сложнее.

По данным компании Deloitte, только в США по итогам 2023 года мошенники украли с помощью дипфейков 12,3 миллиарда долларов. Компания подсчитала, что к 2027 году ежегодный ущерб достигнет 40 миллиардов долларов.

Деньги для всех

"Илон Маск" продвигал "свою программу для заработка" и среди россиян еще до начала полномасштабного вторжения России в Украину. Правда, позднее YouTube отключил монетизацию для пользователей из России, и они перестали видеть рекламу, если находились на хостинге без VPN. В российских версиях мошеннических роликов не было симуляции голоса миллиардера, зато при помощи нейросети была наложена русская озвучка. Как и в случае с американскими роликами, ссылки под видео вели на мошеннические сайты.

Помимо Илона Маска, в российском сегменте ютуба вирусились рекламные ролики якобы государственной корпорации "Газпром" с примерно таким же содержанием. В них утверждалось, что Госдума в 2019 году приняла закон, разрешающий торговать газом всем гражданам. Ссылки под ними вели на мошеннические сайты, а в App Store и Google Play Market даже появились приложения, имитирующие подразделение Газпромбанка "Газпром Инвестиции".

Названия мошеннических приложений эксплуатировали слова "Газпром" и "инвестиции" в разных сочетаниях, а иконки содержали логотип корпорации. Среди названий встречались "Инвестиции в "Газпром"", "ГазИнвест", "ГазАктив Инвест", а у приложений было в среднем по 500 скачиваний.

После скачивания схема была такая же, что и с приложением от дипфейка Илона Маска: когда человек оставлял личные данные, с ним связывался фейковый консультант и предлагал вложить небольшую сумму в разнообразные проекты "Газпрома": в "Северные потоки", "Турецкий поток" или "Силу Сибири". В комментариях к приложению люди писали, что это развод и фейк, а в самом приложении были фейковые лицензия брокера, или форекс-дилера, на рынке ценных бумаг.

"Газпром" даже выпустил отдельное заявление на собственном сайте. В нем представители компании писали, что участились случаи, когда к ним обращались люди, узнавшие о "проекте" в интернете и желавшие вложить личные средства. Там же говорилось, что "лица, осуществляющие попытки под этими предлогами привлечь денежные средства физических лиц, являются мошенниками", а также что "Газпром" не обладает лицензией форекс-дилера.

В Грузии, Азербайджане и Украине в рекламу ютуба попадали не только ролики псевдо-"Газпрома", но и фейки государственной нефтегазовой компании Азербайджана SOCAR. В начале 2024 года компания тоже выпустила заявление, в котором говорила, что получила десятки обращений от граждан, связанных с мошенническими звонками и фейковыми приложениями. Компания передала эту информацию в МВД Азербайджана, а Министерство цифрового развития и транспорта удаляет фейковые приложения, где предлагают якобы инвестиционные программы.

В роликах часто использовали выступления президента Азербайджана Ильхама Алиева. Как и с дипфейк-копией Илона Маска, мошенники "со сверхъестественной точностью" имитировали его речь и предлагали вложиться в фейковые инвестиционные программы, обещавшие существенный заработок. Дальнейшая схема та же: человек переходит на сайт, например socar.space, фейковой компании SOCAR Invest и начинает с вложения небольшой суммы. После этого мошенники требуют все больше денег и не возвращают их. В Украине же предлагалось вложиться в якобы дочернюю компанию SOCAR.

В начале 2024 года для части российских пользователей мошенники даже сделали версию ролика, в которой эксплуатировали смерть российского политика Алексея Навального. В роликах и на фейковых оппозиционных новостных ресурсах распространяли скриншот письма из колонии, в котором якобы Навальный пишет своей жене Юлии о том, что "пять лет разрабатывал программу, за участие в которой платят по 600 долларов ежедневно", - и теперь хочет поделиться ею со всеми. Под постом фейковой группы была размещена ссылка, которая, как и в случае с Маском, вела на сайт мошенников.

Сквозь пальцы

И YouTube, и Meta, которые размещают мошенническую рекламу на своих ресурсах, заявляли, что пытаются бороться с дипфейками. Хотя в YouTube утверждают, что только в период с января по март 2024 года удалили 15,7 миллионов каналов, которые нарушили правила хостинга, лишь 1,1% из них были удалены из-за спама или дезинформации. 19 марта 2024 года хостинг обновил свои правила пользования для создателей контента и обязал их отмечать видео, сделанные при помощи искусственного интеллекта, однако это не касается рекламы, которую хостинг демонстрирует во время просмотра пользовательских видео.

В случае если видео, в которых присутствует сгенерированный искусственным интеллектом контент, не будет помечено, нарушителя ждут наказания: от лишения канала монетизации до полного удаления. Исключением из этого правила являются видео, сделанные для Youtube Kids - в 2023 году хостинг сделал на детском контенте 959 миллионов долларов, и он является одним из важнейших сегментов для компании с точки зрения выручки. Поэтому детские мультики, в которых присутствует ИИ-контент, помечать не нужно. Как новые правила оформления пользовательского контента должны решить проблему с мошеннической рекламой - пока непонятно.

В Meta рассказали о том, что тренируют программу по автоматическому выявлению фейков на фейсбуке, в инстаграме и в Threads (аналоге твиттера), но также объяснили, что мошенники постоянно меняют тактику и из-за этого борьба с ними сравнима "с игрой в кошки-мышки". Эксперты считают, что компания решила заняться дипфейками слишком поздно - когда они уже стали реальной угрозой и принесли существенный ущерб.

Также компанию обвиняют в том, что она начала заниматься этим только в самый разгар выборов в президенты в США. В ответ на это в Meta заявили, что всегда добавляли в контент, сделанный при помощи их программ, зашифрованные метаданные и вотермарки - якобы так пользователи должны были понять, что это фейк. Оперативно же отличать дипфейки, когда они только появились, в компании не научились, поэтому рассчитывали на пользователей.

Промедление Meta привело к тому, что австралийский миллиардер Эндрю Форрест, чьи дипфейки также стали появляться на фейсбуке, подал гражданский иск против компании Meta за халатное отношение к ведению рекламного бизнеса. По его словам, "реклама на фейсбуке завлекает невинных пользователей в плохие инвестиции".

Сейчас Meta планирует ввести новый инструмент борьбы против дипфейков - технологию распознавания лиц. Она должна будет работать вместе с технологией искусственного интеллекта компании, чтобы помечать недостоверную рекламу. Правда, Meta уже использовала технологию распознавания лиц в фейсбуке в 2010-2021 годах, но отказалась от нее из-за проблем с точностью распознавания и защитой личных данных.