Рынок систем обнаружения дипфейков переживает взрывной рост: к 2023 году его объем достиг 5,5 миллиардов долларов. Стартапы в этой нише развернули настоящую «гонку вооружений», используя алгоритмы машинного обучения для охоты на плоды работы другого ИИ. Чтобы научить защитные системы распознавать ложь, разработчикам приходится самим становиться создателями манипулированного контента.
Как ИИ учится ловить ИИ
В основе выявления подделок лежит принцип «ученик/учитель». Разработчики Reality Defender тренируют инференс-модели на гигантских массивах реальных и сфабрикованных данных. Сегодня технологии позволяют создать убедительный голосовой клон всего по девяти секундам аудио из соцсетей. Однако мошенникам приходится выбирать между качеством и скоростью. Если для текстового синтеза речи нужно время на обработку, то при атаках в реальном времени — например, во время телефонного звонка — злоумышленники часто жертвуют чистотой звука ради мгновенной реакции.
Цена цифрового обмана
Дипфейки превратились в мощное оружие для шантажа и финансового шпионажа. В финансовом и страховом секторах количество фишинговых атак за год подскочило на 393%. Теперь это вторая по частоте угроза кибербезопасности для бизнеса. В среднем один инцидент обходится компании в 450 тысяч долларов, но ставки растут. Весь мир облетела история сотрудника инженерной компании Arup, который перевел 25 миллионов долларов после видеозвонка с «руководством». Прогнозы неутешительны: к 2027 году убытки американских корпораций от подобных схем могут достичь 40 миллиардов долларов.
Новые уловки: от масок до массового обзвона
Методы обхода защиты эволюционируют. Старый совет «попроси собеседника помахать рукой перед лицом» больше не работает — эксперты Pindrop подтверждают, что современные ИИ-модели бесшовно отрисовывают любые движения. Теперь мошенники практикуют тактику «ковровых бомбардировок»: собирают цифровые следы сотрудников в LinkedIn и TikTok, создают голосовые слепки и одновременно атакуют работников всех уровней компании. Доходит до абсурда: злоумышленники умудряются наниматься в штат под видом разных людей, используя «цифровые маски» и фейковые аккаунты в корпоративных мессенджерах.
Защита для избранных
Пока софт для распознавания дипфейков — это привилегия банков и технологических гигантов. Рядовые пользователи остаются беззащитными. В индустрии нет единого мнения о том, как это исправить. Одни разработчики планируют выпустить потребительские продукты, другие же уверены, что защита должна стать невидимой. По их мнению, фильтры подлинности нужно встраивать напрямую в браузеры и почтовые сервисы, превращая их в подобие современных антивирусов, работающих в фоновом режиме.
