Хотите более умное понимание в вашем почтовом ящике? Подпишитесь на наши еженедельные информационные бюллетени, чтобы получить только то, что имеет значение для искусственного интеллекта предприятия, данных и лидеров безопасности. Подписаться сейчас
Поскольку удаленная работа стала нормой, в отделах корпоративных департаментов по найму появилась темная угроза: сложные фальшивые кандидаты, способствующие искусственному искусству, которые могут передавать видео-интервью, представлять убедительные резюме и даже обманывать специалистов по человеческим ресурсам, предлагая им работу.
Теперь компании участвуют в развертывании технологий расширенной проверки идентификации, чтобы бороться с тем, что эксперты по безопасности называют эскалационным кризисом мошенничества с кандидатами, в основном обусловленным генеративными инструментами ИИ и координированными усилиями иностранных субъектов, в том числе северокорейские государственные группы, стремящиеся проникнуть в американские предприятия.
Ведущая платформа проверки личности, базирующаяся в Сан-Франциско, объявила во вторник крупное расширение возможностей проверки рабочей силы, внедряя новые инструменты, специально предназначенные для обнаружения сгенерированных AI персонажей и атак в глубоких чертах во время процесса найма. Усовершенствованное решение напрямую интегрируется с основными корпоративными платформами, включая облако рабочей силы Okta и дуэт Cisco, позволяя организациям проверять личности кандидатов в режиме реального времени.
«В сегодняшней среде, обеспечение того, чтобы человек, стоящий за экраном, является тем, кем они утверждают, что это важнее, чем когда-либо»,-сказал Рик Сонг, генеральный директор и соучредитель Persona, в эксклюзивном интервью VentureBeat. «С спонсируемыми государством субъекты, проникающие в предприятия и генеративные ИИ, облегчающие подражание, чем когда-либо, наше улучшенное решение для рабочей силы IDV дает организациям уверенность в том, что каждая попытка доступа связана с реальным, проверенным человеком».
Сроки объявления Persona отражают растущую срочность в отношении того, что специалисты по кибербезопасности называют «кризисом идентичности» при удаленном найме. Согласно отчету Гартнера в апреле 2025 года, к 2028 году каждый четвертый профили кандидатов в мире будет фальшивым — ошеломляющий прогноз, который подчеркивает, как инструменты искусственного интеллекта снизили барьеры для создания убедительных ложных личностей.
75 миллионов заблокированных попыток Deepfake выявляют огромный объем мошенничества с приемом по искусственным технологиям
Угроза выходит далеко за пределы индивидуальных плохих актеров. Только в 2024 году Persona заблокировала более 75 миллионов попыток Face Spoobing Face на основе AI на всей своей платформе, которая обслуживает крупные технологические компании, включая Openai, Coursera, Instacart и Twilio. В последние годы компания наблюдала 50-кратное увеличение активности Deepfake, когда злоумышленники развернули все более сложные методы.
«Угроза северокорейского ИТ -работника реальна», — объяснила Сонг. «Но это не только Северная Корея. Многие иностранные субъекты занимаются такими, как это сейчас с точки зрения поиска способов проникнуть в организации. Инсайдерская угроза для предприятий выше, чем когда -либо».
Недавние громкие случаи подчеркнули серьезность проблемы. В 2024 году фирма по кибербезопасности Knowbe4 непреднамеренно наняла северокорейского ИТ -работника, который пытался загрузить вредоносные программы в системы компаний. По сообщениям, другие компании из списка Fortune 500 стали жертвами аналогичных схем, где иностранные субъекты используют фальшивые личности, чтобы получить доступ к чувствительным корпоративным системам и интеллектуальной собственности.
Министерство внутренней безопасности предупредило, что такие «глубокие идентичности» представляют собой растущую угрозу для национальной безопасности, когда злонамеренные актеры используют сгенерированные AI Personas для «создания правдоподобных, реалистичных видео, картинок, аудио и текста событий, которых никогда не было».
Как технология трехслойного обнаружения дает противоречие с сложными фальшивыми схемами кандидатов
Подход Сонг к борьбе с мошенничеством, сгенерированным AI, основан на том, что он называет «мультимодальной» стратегией, которая рассматривает проверку идентификации на трех различных слоях: сам ввод (фотографии, видео, документы), контекст окружающей среды (характеристики устройства, сетевые сигналы, методы захвата) и паттерны уровня популяции, которые могут указывать координированные атаки.
«Там нет серебряной пули, чтобы по -настоящему решать идентичность», — сказал Сонг. «Вы не можете взглянуть на это из одной методологии. ИИ может генерировать очень убедительный контент, если вы смотрите исключительно на уровне подачи, но все остальные части создания убедительной фальшивой идентичности все еще трудно».
Например, в то время как система ИИ может создать фотореалистический фальшивый выстрел в голову, становится гораздо сложнее одновременно подделка отпечатков устройств, характеристики сети и поведенческие паттерны, которые контролируют системы персонала. «Если ваша геолокация выключена, то часовые поясы выключены, часовые поясы выключены, то ваши сигналы окружающей среды выключены», — объяснила Сонг. «Все эти вещи должны попасть в единый кадр».
Алгоритмы обнаружения компании в настоящее время превосходят людей при выявлении DeepFakes, хотя Song признает, что это гонка вооружений. «ИИ становится все лучше и лучше, улучшаясь быстрее, чем наша способность обнаружить исключительно на уровне ввода», — сказал он. «Но мы наблюдаем за развитием и соответственно адаптируем наши модели».
Клиенты предприятия развертывают проверку личности рабочей силы за час за час
По словам Сонг, решение для проверки рабочей силы может быть развернуто удивительно быстро. Организации, которые уже используют платформы управления идентификацией Okta или Cisco, могут интегрировать инструменты проверки Persona всего за 30 минут до часа. «Интеграция невероятно быстрая», — сказал Сонг, приписывая команде Окты за создание беспроблемной связи.
Для компаний, обеспокоенных пользовательским опытом, Сонг подчеркнул, что законные кандидаты обычно завершают проверку за считанные секунды. Система предназначена для создания «трения для плохих пользователей, чтобы они не проходили», сохраняя при этом плавный опыт для подлинных кандидатов.
Основные технологические компании уже видят результаты. OpenAI, который обрабатывает миллионы проверки пользователей ежемесячно через личность, достигает 99% автоматического скрининга с задержкой всего 18 миллисекунд. Компания искусственного интеллекта использует возможности проверки санкций Persona, чтобы предотвратить доступ плохих участников добраться до своих мощных языковых моделей, сохраняя при этом опыт регистрации без трения для законных пользователей.
Рынок проверки идентификации свороты от проверки данных до доказательства кандидатов существуют
Быстрое принятие мошенничества с наемным искусством, созданным на основе ИИ, создало новую категорию рынка для проверки личности, специально предназначенной для управления рабочей силой. Традиционные компании по проверке данных, которые проверяют информацию о кандидатах после того, как предполагают, что их личность подлинна, не подготовлены для решения фундаментального вопроса о том, является ли кандидат, кем они утверждают.
«Проверка биографических данных предположим, что вы — тем, кем вы говорите, но затем проверьте предоставленную вами информацию», — объяснила Сонг. «Новая проблема в том, вы говорите, что вы говорите? И это сильно отличается от того, что традиционно решают компании».
Сдвиг к удаленной работе устранил многие традиционные механизмы проверки идентификации. «У вас никогда не было проблем, зная, что если кто -то появляется лично, вы знаете с относительно высокой уверенностью, вы тот, кто вы говорите, вы есть», — отметила Сонг. «Но если вы интервьюируете Zoom, все это может быть глубоким».
Отраслевые аналитики ожидают, что рынок проверки идентификации рабочей силы будет быстро расширяться, поскольку все больше организаций признают сферу угрозы. По данным Marketsandmarkets, к 2028 году глобальный рынок проверки идентификации достигнет 21,8 млрд. Долл. США, по сравнению с 10,9 млрд. Долл. США в 2023 году, что составляет совокупный годовой темп роста 14,9%, при этом приложения для рабочей силы представляют собой один из наиболее быстрорастущих сегментов.
Помимо обнаружения DeepFakes: будущее цифровой идентичности заключается в истории поведения
Поскольку технологическая гонка вооружений между AI-генерируемыми системами мошенничества и обнаружения усиливается, Song считает, что окончательное решение может потребовать фундаментального сдвига в том, как мы думаем о проверке идентификации. Вместо того, чтобы сосредоточиться исключительно на выявлении того, создается ли контент искусственно, он представляет будущее, в котором цифровая идентичность устанавливается посредством накопленной поведенческой истории.
«Может быть, вопрос в долгосрочной перспективе не является ли это ИИ или нет, а на самом деле, кто несет ответственность за это взаимодействие», — сказал Сонг. Компания изучает системы, где идентичность будет доказана с помощью цифрового следа человека — их истории законных транзакций, завершения курсов, покупок и проверенных взаимодействий на нескольких платформах с течением времени.
«Все предыдущие действия, которые я совершил — заказы от Doordash, завершение курса по Coursera, покупка обуви у Stockx — эти взаимодействия в долгосрочной перспективе, вероятно, — это те, которые действительно определят, кто я есть», — пояснила Сонг. Этот подход усложнит экспоненциально трудным актерам создавать убедительную ложную личность, поскольку им необходимо изготовить годы подлинной цифровой истории, а не просто убедительное видео или документ.
Решение Enhanced Persona Workforce IDV доступно немедленно, при поддержке проверки государственного идентификатора в более чем 200 странах и территориях, а также возможности интеграции с ведущими платформами управления идентификацией и доступом. Поскольку революция в удаленной работой продолжает изменять, как работают бизнес, компании оказываются в неожиданной позиции: необходимость доказать, что их кандидаты на работу являются настоящими людьми, прежде чем они смогут даже начать проверять свою квалификацию.
В цифровой эпохе, кажется, первая квалификация для любой работы может быть просто существовать.
Источник
