Поздно ночью родители получают от вас полное паники голосовое сообщение, в котором говорится, что вы попали в беду и вам нужна помощь, что ваш кошелек украден и что вы застряли в неизвестном месте. Деньги должны быть переведены вам немедленно, чтобы вы могли вернуться домой.
Голос в письме звучит очень реалистично и безошибочно напоминает голос его ребенка, но это не так. Он — голосовой клон искусственного интеллекта, ставший объектом мошенничества, столь же изощрённого, сколь и пугающе эффективного.
Этот тип мошенничества основан на использовании методов искусственного интеллекта для генерации голосов, которые кажутся принадлежащими членам семьи или друзьям, и очень похожи на реальные голоса. Если эти фальшивые голоса не будут обнаружены, они могут создать путаницу и дезинформацию и привести к серьезным последствиям. Таким образом, обнаружение мошенничества с клонированием семейных аудиофайлов имеет важное значение для обеспечения целостности и безопасности. Проверять Оценка использования технологии воспроизведения звука при создании масштабного контента.
Как работает афера с клонированием голоса ИИ?
Технологии клонирования голоса позволяют создавать невероятно реалистичные цифровые копии голоса человека. Эта технология, обычно называемая Дипфейки аудио, используя инструменты клонирования голоса AI, такие как ElevenLabs (см. пример клонирования голоса AI ниже). В сочетании с генеративным искусственным интеллектом и синтезом голоса клонированный голос может воспроизводить эмоции, нюансы, интонацию и даже страх.
Для справки, вот как на самом деле звучит Кристиан Коули, выступая в подкасте Really Helpful.
Для создания транскрипции AI необходим лишь небольшой аудиосэмпл — часто всего минута или меньше. Аудио часто берется из общедоступных публикаций в социальных сетях, что делает видеоблогеров, авторов и знаменитостей особенно уязвимыми, поскольку звук в их публикациях является высококачественным и легко доступным.
После того, как мошенник клонировал образец голоса, он использует преобразование текста в речь или даже преобразование речи в речь в реальном времени для создания поддельных вызовов и голосовых сообщений.
Получив доступ к аккаунтам жертвы в социальных сетях и собрав ее личные данные, мошенник создает правдоподобный сценарий. Это может быть связано с госпитализацией, арестом, ограблением, похищением или чем-либо еще, что вызывает страх и замешательство. Затем клонированный голос используется, чтобы манипулировать членом семьи, заставляя его поверить в то, что кто-то из членов семьи страдает от серьезной проблемы.
Реализм голоса и эмоций в сочетании с шоком и срочностью запроса могут подавить скептицизм, что приведет к поспешным решениям о переводе денег или предоставлении конфиденциальной информации.
Почему мошенничество с клонированием голоса с помощью ИИ настолько эффективно?
Как и большинство мошенничеств, направленных против семьи и друзей, клонирование голоса ИИ эффективно, поскольку использует личные связи. Паника по поводу сигнала бедствия от члена семьи может быстро затуманить рассудок и привести к поспешным решениям. Это та же тактика, которая используется в бартерных аферах, но эффект усиливается, когда вы слышите голос близкого вам человека.
Члены семей тех, кто активно присутствует в социальных сетях, или тех, кто путешествует, подвергаются особому риску, поскольку их ситуации создают правдоподобный контекст для сфабрикованного рассказа мошенника. Мошенники часто заранее собирают и используют личные данные своих жертв из их общедоступных аккаунтов в социальных сетях, что делает истории более убедительными. Проверять Как противостоять угрозе виртуального похищения и защитить себя в Интернете? Распознавайте угрозы.
Ключевые признаки мошенничества с клонированием голоса с помощью искусственного интеллекта
Несмотря на свою сложность, клонирование голоса ИИ может проявиться через определенные предупреждающие знаки:
- Острая необходимость: Мошенник попытается убедить вас, что произойдет что-то ужасное, если немедленно не принять меры.
- факты: Мошенник не всегда знает всю историю ваших отношений с жертвой, поэтому обратите внимание на несоответствия.
- Необычные запросы: Распространенными методами являются запросы на перевод средств на банковские счета за рубежом или оплату на криптовалютный кошелек.
Эти факторы трудно принять во внимание, когда вы сталкиваетесь с ужасным сценарием, но они могут уберечь вас от мошенничества.
Что делать, если вы подозреваете мошенничество с клонированием голоса ИИ
Если вы получили звонок или голосовое сообщение от близкого человека, попавшего в беду, сохраняйте спокойствие. Мошенник попытается вызвать у вас панику и эмоциональность, поскольку это увеличивает вероятность того, что вы подвергнетесь его методам.
Если вам позвонят
Если вы хотя бы на секунду подозреваете, что звонок может быть мошенничеством с клонированием голоса, немедленно повесьте трубку. Не делитесь никакой информацией и не имейте дело с мошенниками. Вместо этого перезвоните своим близким по известному номеру, чтобы подтвердить подлинность сигнала бедствия.
Дальнейшие разговоры с мошенником также могут привести к тому, что ваш голос будет записан и клонирован.
Если вы получили голосовое сообщение
Если мошенник оставляет голосовое сообщение, немедленно сохраните аудио на телефон или ноутбук. Этот образец звука можно использовать в классификаторе речи искусственного интеллекта, чтобы определить, является ли это человеческим голосом. Классификаторы речи на базе искусственного интеллекта работают так же, как аппаратное обеспечение. Обнаружение набора текста искусственным интеллектом. Просто введите аудиофайл, и классификатор отметит его как созданный человеком или искусственным интеллектом.
Отличным инструментом для такой проверки является классификатор речи ElevenLabs. ElevenLabs используется на большинстве платформ клонирования голоса с использованием искусственного интеллекта, поэтому это идеальный инструмент для определения того, был ли клонирован голос. Вот как его использовать для идентификации звука, воспроизводимого AI:
- Перейти к Классификатор речи ElevenLabs.
- Загрузите образец голосового сообщения и нажмите «Определить синтезированную речь».
В приведенном ниже примере сообщение о бедствии было записано кем-то и загружено в рабочую книгу. Вы можете видеть, что он помечен как имеющий 2% вероятность взлома.
В следующем примере то же сообщение о бедствии было создано с использованием инструмента клонирования голоса искусственного интеллекта. Для человеческого уха звуки неразличимы. Однако инструмент оценил его как имеющий 98% вероятность того, что он будет создан искусственным интеллектом.
Хотя вы не можете на 100% полагаться на эту книгу, она может подтвердить ваши подозрения по поводу использования клонированного аудио. Вам также следует позвонить любимому человеку по известному номеру для подтверждения. Проверять Являются ли человеческие возможности или искусственный интеллект более эффективными в обнаружении технологий дипфейков?.
Профилактика — лучшая защита от мошенничества с клонированием голоса с помощью ИИ.
Иногда лучшая защита от высокотехнологичного мошенничества — это низкотехнологичные решения.
Создайте автономный пароль, известный только вашим близким, семье и друзьям. Если вы звоните в критических ситуациях, использование этого пароля может быть верным способом подтвердить личность звонящего.
Наконец, сохранение вашей личной информации на сайтах социальных сетей — это большой шаг к тому, чтобы мошенники не смогли собрать достаточно информации для создания истории. Помните: если вы не хотите, чтобы все знали об этом, лучше не делиться этим в социальных сетях. Вы можете просмотреть сейчас Какова ценность данных вашей учетной записи в социальных сетях в темной сети?
