Сэм Альтман предрек эпидемию массового мошенничества из-за ИИ

В ходе беседы с Мишель Боуман, заместителем председателя Федеральной резервной системы, Альтман выразил крайнюю необходимость в модернизации методов идентификации клиентов в банках. Он подчеркнул, что многие финансовые учреждения до сих пор полагаются на распознавание голоса, несмотря на то, что искусственный интеллект способен без труда его воспроизвести. «Вы просто произносите контрольную фразу — и деньги переводятся», — отметил он.

По мнению Альтмана, искусственный интеллект уже превзошёл многие традиционные способы аутентификации, за исключением паролей. Это в первую очередь касается голосовой связи, но в ближайшем будущем подобные технологии могут также затронуть видеосвязь. Например, в ходе видеозвонков через FaceTime отличить подделку от настоящего человека может оказаться невозможным.

Опасения Альтмана имеют под собой основания. Мошенники уже используют технологии для подделки голосов своих жертв, чтобы требовать выкуп или манипулировать сотрудниками компаний для совершения крупных финансовых операций. Быстрое развитие генеративных моделей делает такие атаки всё более реалистичными и распространёнными.

ФБР также высказывало предупреждения о росте киберпреступности, связанной с искусственным интеллектом, особенно в областях фишинга и социальной инженерии. Один из недавних случаев показывает, как мошенник использовал ИИ, чтобы выдать себя за сенатора США Марко Рубио с целью доступа к закрытым коммуникационным каналам.

Альтман отмечает, что OpenAI не разрабатывает инструменты для подмены личности и не несёт ответственности за риски, связанные с ними. Тем не менее, он поддерживает проект The Orb — биометрическую систему, которая использует радужную оболочку глаза для подтверждения личности. Эта технология вызвала споры из-за возможных угроз конфиденциальности. Критики также указывают на то, что видеогенератор Sora, разработанный OpenAI, может быть использован в мошеннических схемах.

В заключение обсуждения Альтман подчеркнул: «То, что мы не выпускаем технологии для подмены личности, не значит, что кто-то другой этого не сделает. Злоумышленник точно найдёт способ создать такие инструменты. Это не так сложно, и произойдёт это очень скоро».