Искусственный интеллект уже клонирует наши голоса
Недавно Spotify анонсировал функцию голосового перевода на основе искусственного интеллекта, которая позволяет подписчикам слушать глобальные подкасты на своём родном языке, сохраняя при этом оригинальный стиль авторского голоса и повествования с интонациями. Сотрудничая с такими громкими именами, как Дакс Шепард и Лекс Фридман, пилотный проект начинается с переводов на испанский, французский и немецкий языки. Этот шаг направлен на преодоление языковых барьеров и углубление взаимодействия со слушателями по всему миру. OpenAI также сообщила, что ChatGPT вскоре сможет видеть, слышать и говорить, что позволит пользователям вести голосовые диалоги.
Но это только начало... Вы когда-нибудь мечтали напевать вокальный стиль своего музыкального кумира? Новатор и музыкант-экспериментатор Холли Херндон превратила эту мечту в реальность, обучив модель искусственного интеллекта воспроизводить ее характерный голос. На недавнем выступлении на TED она рассказала о Holly+, инструменте с поддержкой искусственного интеллекта, который даёт пользователям возможность петь ее голосом.
В живой демонстрации, которая привлекла внимание публики, артист PHER использовал два микрофона. Один использовал его естественный голос, а другой преобразовал его так, чтобы он также звучал как голос Холли. Эффект был похож на захватывающий дуэт, в котором они пели дуэтом в два микрофона. Конечно, это можно рассматривать как новаторский музыкальный эксперимент или просто цифровую мимикрию, но не все так просто.
Все готово для того, чтобы клонирование голоса стало доминирующей темой в разговорах об "искусственном разуме" в ближайшие месяцы. Однако для человека, который занимает бдительную позицию в отношении непредвиденных последствий таких технологий, предоставление крупным технологическим новинкам возможности дублировать нашу голосовую идентичность открывает еще один ящик Пандоры, который, похоже, следует за каждым новым технологическим решением современности.
В этом году популярная селебрити социальных сетей Миа Дио попала в заголовки газет благодаря видеоролику TikTok, в котором показано, как она использует технологию клонирования голоса с помощью искусственного интеллекта, чтобы поймать своего парня Билли на измене. В вирусном видео героиня использовала клонированный голос Билли, чтобы поговорить со своим другом и узнать о его действиях прошлой ночью. Друг вроде бы подтвердил неверность Билли. Однако позже Миа рассказала, что весь сценарий был постановочной шуткой с участием всех сторон. Видео вызвало разговоры о простоте и этических последствиях клонирования голоса, поскольку автор отметила, что она использовала программное обеспечение ElevenLabs (всего за 4 доллара), чтобы убедительно имитировать голос Билли.
Развитие технологии клонирования голоса угрожает подорвать один из самых фундаментальных аспектов личной и финансовой безопасности: доверие. Эйфория вокруг удобства и доступности голосового банкинга омрачается громкими инцидентами, например, такими, как похищение у генерального директора британской энергетической компании суммы на 220 000 евро.
Совсем недавно технолог Роб Уильямс создал шокирующе реалистичный клон своего голоса с помощью искусственного интеллекта менее чем за минуту, используя бесплатные инструменты, к которым каждый может получить доступ в Интернете. Голос клона был настолько убедительным, что обманул даже его жену. Эта запись является своевременным напоминанием о том, что, если любимый человек внезапно позвонит вам устно и попросит перевести немного денег, не доверяйте только своим ушам — подумайте о том, чтобы установить "стоп-слово" для дополнительной безопасности.
Технологии клонирования голоса, такие как VALL-E и ElevenLabs, не просто инструменты для любителей, а мощные утилиты, способные за секунды создать почти идеальные копии человеческих голосов. Последствия выходят за рамки отдельных случаев мошенничества. Один убедительный дипфейковый звук может спровоцировать каскадные сбои в протоколе безопасности, нарушить дипломатические отношения или вызвать потрясения на фондовом рынке. Лёгкость и скорость имитации голосов ускоряют гнусную деятельность, включая кампании по дезинформации, которые могут иметь широкомасштабные социальные последствия.
Хотя голосовые банковские системы растут впечатляющими темпами, накапливая впечатляющие базы данных «голосовых отпечатков» в недрах мощных дата-центров, соответствующие достижения в протоколах безопасности не поспевают за ними. Многие финансовые учреждения все ещё сталкиваются с тонкостями многофакторной аутентификации и голосовой биометрии, которые далеко не защищены от сложных атак с клонированием голоса при помощи ИИ.
Такое упущение подвергает клиентов финансовым рискам и ставит под угрозу целостность голосовых систем в целом, что может привести к кризису доверия среди пользователей. Банковская индустрия, возможно, отвлеклась на новые блестящие технологии и удобство работы. Однако они должны умерить своё стремление к внедрению новомодных инноваций, сделав столь же сильный акцент на усилении мер безопасности. По мере того, как мы учимся ориентироваться в этом многообещающем, но опасном ландшафте, для потребителей и бизнеса становится крайне важно уделять приоритетное внимание бдительности, а не ослеплению передовыми функциями.
