OpenAI пресекла деятельность базирующейся в Камбодже сети мошенников

OpenAI заявила, что пресекла деятельность скоординированной мошеннической сети, которая, по всей вероятности, возникла в Камбодже и, предположительно, действовала в городе Пойпет или его окрестностях. Этот город в провинции Бантеймеантьей неоднократно связывали в публичных сообщениях с мошенническими кол-центрами и операциями по торговле людьми. Расследование началось после того, как WhatsApp передал наводку, а впоследствии OpenAI предоставила дополнительные индикаторы угроз отраслевым партнёрам и соответствующим органам власти. Компания заблокировала аккаунты сети в ChatGPT, установив, что они использовались для поддержки масштабной преступной деятельности, а не отдельной мошеннической кампании.

Сеть использовала ChatGPT на нескольких этапах своей деятельности: для создания поддельных личностей, написания и перевода сообщений потенциальным жертвам, подготовки рекламных материалов, фабрикации подтверждающих изображений и выполнения повседневных административных задач. Такой широкий охват важен, поскольку операция не ограничивалась одним видом обмана. Её участники переключались между инвестиционным мошенничеством, романтическими аферами, фиктивными предложениями азартных игр и выдачей себя за сотрудников правоохранительных органов, выбирая или комбинируя сценарии в зависимости от того, какой из них казался наиболее эффективным для манипулирования конкретной целью.

Один из регулярно применявшихся подходов начинался с вымышленной личности на сайте знакомств. Операторы завоёвывали доверие посредством длительных личных или романтических разговоров, а затем предлагали якобы прибыльные возможности, связанные с криптовалютой или спотовой торговлей золотом. Другие аккаунты вели романтические аферы без инвестиционной составляющей. Отдельная группа выдавала себя за представителей платформ онлайн-гемблинга, обещая несуществующие бонусы или выигрыши. Некоторые мошенники представлялись сотрудниками правоохранительных органов и ложно обвиняли жертв в серьёзных преступлениях, заявляя, что во избежание дальнейших последствий необходимо заплатить штраф.

Несмотря на различия в сценариях, аккаунты действовали по единой операционной модели. Их владельцы подбирали материалы для профилей знакомств, создавали вымышленных специалистов по инвестициям, управляли поддельными персонами в социальных сетях и разрабатывали фиктивные личности сотрудников полиции или юристов. ChatGPT использовался для создания и перевода переписки в таких сервисах, как WhatsApp и Telegram, позволяя операторам общаться с жертвами, преодолевая языковые барьеры. Сеть также создавала изображения поддельных паспортов, юридических уведомлений, подтверждений покупки акций, криптовалютных сервисов и интерфейсов игровых платформ. В качестве примеров материалов, созданных внутри сети, OpenAI привела поддельный интерфейс платформы для торговли криптовалютой и сгенерированное ИИ рекламное изображение фиктивной инвестиционной схемы.

OpenAI описывает схему взаимодействия мошенников как «ping, zing, and sting» — «зацепить, увлечь и ужалить». Ping означал первоначальный контакт: операторы связывались с целями через мессенджеры, готовили публикации для социальных сетей и собирали правдоподобные сведения, подкреплявшие легенды их вымышленных персонажей. Zing представлял собой эмоциональную манипуляцию, призванную усилить вовлечённость. В сообщениях обещали гарантированную прибыль или якобы безрисковые инвестиции, использовали романтические выражения для формирования привязанности, требовали сохранять тайну либо создавали искусственную срочность, утверждая, что срок действия бонуса скоро истечёт.

Sting наступал в момент, когда участники операции пытались получить деньги или конфиденциальные финансовые данные. Жертвам предлагали внести средства, чтобы разблокировать якобы полагающееся вознаграждение, оплатить активационный сбор или погасить вымышленный уголовный штраф. Затем операторы запрашивали скриншоты переводов или реквизиты счетов в качестве подтверждения оплаты. Хотя внешне сценарий мог быть связан с романтическими отношениями, инвестициями, азартными играми или обвинениями в преступлениях, лежащая в его основе последовательность оставалась неизменной: установить контакт, создать доверие или внушить страх, а затем под этим давлением добиться платежа.

Сеть также использовала ChatGPT для задач, которые, судя по всему, обеспечивали её внутреннюю работу. Пользователи составляли объявления, переводили сообщения между сотрудниками и документировали вопросы, очевидно связанные с наймом, иммиграционным статусом, условиями труда и дисциплиной работников. Эти административные способы применения похожи на поведение, которое OpenAI, по её словам, наблюдала в ранее ликвидированных мошеннических сетях, где инструменты ИИ используются не только для общения с жертвами, но и для повседневного управления операцией.

Некоторые созданные материалы вызвали ещё одну, более сложную обеспокоенность. OpenAI обнаружила признаки возможной связи с торговлей людьми или принуждением к преступной деятельности, включая создание рекламных объявлений в социальных сетях о вакансиях «операторов чатов» в Пойпете. Компания связывает эти сигналы с многочисленными публичными сообщениями о преступных группировках в Юго-Восточной Азии, которые вербуют людей, обещая законную работу, а затем удерживают их посредством принуждения и долговой кабалы и заставляют участвовать в онлайн-мошенничестве.

OpenAI подчёркивает, что не может самостоятельно установить обстоятельства каждого вовлечённого человека. Эта оговорка важна, поскольку люди, рассылающие мошеннические сообщения, могут играть неодинаковые роли: одни могут участвовать добровольно, тогда как другие сами могут быть эксплуатируемыми работниками. Таким образом, этот случай показывает и то, как генеративный ИИ способен повышать эффективность и расширять языковой охват организованного мошенничества, и то, как мошеннические центры могут быть связаны с принуждением, торговлей людьми и подневольным трудом. В ответ OpenAI не только заблокировала аккаунты, но и поделилась информацией с партнёрами. Однако описанная деятельность также демонстрирует, почему для пресечения подобных операций необходимо сотрудничество между поставщиками ИИ, сервисами обмена сообщениями, другими технологическими компаниями и государственными органами.