Дипфейки: новая угроза для кибербезопасности бизнеса

В 2019 году в первом известном случае мошенничества с использованием голосовых клонов воры воссоздали голос руководителя британской энергетической компании. Когда генеральному директору компании позвонил «руководитель», он узнал немецкий акцент, манеру речи своего коллеги и перевел деньги. Через несколько часов мошенники снова вышли на связь, чтобы совершить вторую попытку кражи. Но на этот раз генеральный директор заметил, что звонок поступает из неизвестного места, и у него возникли подозрения.

В начале 2022 года ФБР опубликовало доклад, в котором предупредило общественность о новом способе мошенничества на платформах виртуальных встреч. Получив контроль над логином руководителя, злоумышленники приглашают сотрудников на встречу, где используют клонированный голос, утверждают, что у них не работает видео, и просят предоставить информацию ограниченного доступа или срочно перевести деньги.

По данным Центра жалоб на интернет-преступления ФБР, выдача себя за топ-менеджера организации с целью совершения мошенничества обошлась компаниям по всему миру более чем в 26 миллиардов долларов в период с 2016 по 2019 год. И это только те случаи, о которых известно правоохранительным органам. Большинство жертв скрывают подобные атаки, чтобы защитить свою репутацию.

Дипфейки работают на основе нейросетей. В отличие от традиционных алгоритмов, в которых программист должен заранее определить каждый шаг вычислительного процесса, нейронные сети позволяют программному обеспечению научиться выполнять поставленную задачу, анализируя примеры. Задайте сети распознавания объектов 10 000 изображений жирафов, пометьте содержимое «жираф», и в итоге сеть научится идентифицировать это млекопитающее даже на тех изображениях, которые ей никогда раньше не давали.

Раньше подобное обучение требовало больших, тщательно подобранных и маркированных наборов данных, месяцев планирования, корректировки и доработки со стороны программистов. Ситуация быстро изменилась после появления генеративных-состязательных сетей (GAN) в 2014 году. GAN — это две нейросети в одной. Онм обучаются, тестируя и давая друг другу обратную связь. GAN могут быстро генерировать и оценивать миллионы изображений, получая новую информацию на каждом шагу, при этом вмешательство человека практически не требуется.

GAN также работают с формами аудиосигналов. Дайте GAN некоторое количество часов человеческой речи, и она начнет распознавать паттерны. Введите достаточное количество речи конкретного человека, и нейросеть узнает, что делает этот голос уникальным.

Несмотря на то, что это относительно новая технология, мировой рынок клонирования голоса составил 761,3 миллиона долларов в 2020 году. По прогнозам, он достигнет 3,8 миллиарда долларов к 2027 году. Такие крупные технологические компании, как IBM, Google и Microsoft, вложили значительные средства в собственные исследования и инструменты.

Дальнейшее развитие, рост и доступность клонированных голосов практически обеспечены. Возможные варианты использования дипфейков против бизнеса:

• Подрыв имиджа и авторитета;
• Вымогательство и мошенничество;
• Содействие подделке документов;
• Фальсификация онлайн-идентификации и обман механизмов «знай своего клиента» (KYC);
• Фальсификация или манипуляция электронными доказательствами для расследования уголовных дел;
• Подрыв финансовых рынков;
• Распространение дезинформации и влияние на общественное мнение.

«Бороться с подделками невозможно», — говорит Исмаэль Пейнадо, глобальный эксперт по кибербезопасности с двухдесятилетним опытом руководства командами специалистов по безопасности и технологиям. «Чем раньше вы это примете, тем лучше. Возможно, это произойдет не сегодня, но мы столкнемся с идеальной подделкой голоса или видео. Даже персонал, полностью обученный осознанию рисков, не сможет распознать подделку».

Существуют программные решения, специализированные для обнаружения подделок, — инструменты, использующие методы глубокого обучения для выявления признаков подделки в любом контенте. Но из-за скорости, с которой развиваются технологии, методы обнаружения быстро устаревают.

Так каково же решение?

Откажитесь от электронной почты

«Во-первых, перестаньте использовать электронную почту для внутренней коммуникации. Девяносто процентов ваших проблем с безопасностью исчезнут», — говорит Пейнадо. Большинство фишинговых атак, в том числе направленных на получение доступа к частным пространствам компании, таким как Zoom, происходят по электронной почте. Поэтому используйте другой инструмент для внутренней коммуникации, например Slack. Установите агрессивные протоколы безопасности для каждого полученного электронного письма. Измените культуру кибербезопасности, чтобы устранить наиболее важные уязвимости. Если вы получаете электронное письмо или SMS, не доверяйте им.

Переезд в облако

Пейнадо также считает, что все средства коммуникации и совместной работы должны работать в облаке и включать многофакторную аутентификацию. Это самый эффективный способ снизить опасность подделки личностей, поскольку он значительно сокращает количество точек доступа к важным бизнес-данным. Даже если ноутбук вашего генерального директора будет украден, риск того, что злоумышленник сможет использовать его для доступа к информации компании или организовать дипфейк-атаку, будет минимальным.

Поддерживайте усилия по проверке цифровых данных

«По мере того как все становится более фото и аудиореалистичным, нам нужна еще одна основа в самом интернете, чтобы отображать правду или обеспечивать прозрачность для потребителей и проверяющих факты», — говорит Парсонс, старший директор Adobe Content Authenticity Initiative (CAI). С этой целью альянс создателей, технологов и журналистов Adobe CAI, основанный в 2019 году в партнерстве с Twitter и New York Times, объединил усилия с Microsoft, Intel и другими крупными игроками для разработки стандартной основы для атрибуции контента и его цифрового подтверждения. В нее встраивается неизменяемая информация, такая как время, автор и тип используемого устройства, при каждом создании или изменении цифрового контента.

Задача этой системы — создать безопасную среду для создания контента с помощью ИИ. Даже платформы для виртуальных встреч могут интегрировать эту технологию, чтобы доказать, что звонящий является тем, за кого себя выдает, независимо от того, какой голос, по мнению участников, они слышат.

Инвестируйте в оценку угроз и образование

В условиях отсутствия технологических инструментов, ограниченности стратегических мер безопасности и врага, который с каждым днем становится умнее, действенного оружия не существует. Но сотрудничество между правительствами, научными кругами и частным сектором направлено на защиту бизнеса и общества в целом.

По мнению экспертов, правительства должны принять национальные программы кибербезопасности и провести тщательную оценку своих потребностей и конкурентных преимуществ. То же самое касается и частного сектора. Независимо от того, являются ли они малыми, средними или крупными предприятиями, им необходимо инвестировать в оценку угроз и знания.

Для успеха таких инициатив, как стандартная система CAI, необходимо массовое внедрение, но на это потребуется время. Пока же руководители должны уделять первоочередное внимание уменьшению атаки своей организации и распространению информации о том, что воры, вооруженные клонированными голосами, рыщут в поисках жертв.

Хотя технология синтеза речи и открывает новые возможности для создания контента и автоматизации рабочих процессов, ее злоупотребление в виде дипфейков представляет серьезную угрозу для безопасности бизнеса.

Мошенники могут использовать эту технологию для кражи данных, финансового мошенничества и нанесения репутационного ущерба компаниям.
Поскольку выявление поддельных голосовых сообщений становится все более сложной задачей, организациям необходимо сосредоточиться на снижении рисков и обучении персонала. Отказ от использования электронной почты для внутренних коммуникаций, переход на облачные сервисы с многофакторной аутентификацией и внедрение цифровых средств проверки подлинности контента — вот лишь некоторые из рекомендованных экспертами мер.

В то время как технологические гиганты и правительства работают над созданием стандартов и систем защиты от дипфейков, каждая компания должна оценить свои риски и инвестировать в обучение сотрудников новым угрозам кибербезопасности. Только совместными усилиями мы сможем обуздать эту новую волну высокотехнологичного мошенничества.