Meta обнаружила в Facebook и Instagram мошеннический контент, вероятно созданный искусственным интеллектом

Meta и другие технологические гиганты пытаются решить проблему потенциального злоупотребления новыми технологиями искусственного интеллекта, особенно на выборах.

Мета обнаружила основные фотографии профиля, созданные ИИ в ходе операций по оказанию влияния с 2019 года.

В среду компания Meta заявила, что обнаружила «вероятно созданный ИИ» контент, используемый обманным путем на ее платформах Facebook и Instagram, включая комментарии, восхваляющие действия Израиля в отношении войны в Газе опубликованы ниже сообщения мировых новостных организаций и законодателей США.

Компания социальных сетей в ежеквартальном отчете по безопасности сообщила, что аккаунты выдавали себя за еврейских студентов, афроамериканцев и других заинтересованных граждан и нацелены на аудиторию в Соединенных Штатах и Канаде. Он приписал кампанию тель-авивской фирме политического маркетинга STOIC.

STOIC не сразу ответила на просьбу прокомментировать обвинения.

Почему это важно

<р>Хотя Meta обнаружила основные фотографии профиля, созданные искусственным интеллектом в ходе операций влияния с 2019 года, в отчете впервые раскрывается использование текстовой генеративной технологии искусственного интеллекта с момента ее появления в конце 2022 года.

Исследователи обеспокоены этот генеративный искусственный интеллект, который может быстро и дешево создавать человекоподобный текст, изображения и аудио, может привести к более эффективным кампаниям по дезинформации и повлиять на выборы.

В пресс-конференции руководители Meta Security заявили, что удалили израильский предвыборной кампании и не думал, что новые технологии искусственного интеллекта помешали им разрушить сети влияния, которые представляют собой скоординированные попытки распространения сообщений.

Руководители заявили, что не видели, чтобы такие сети размещали сгенерированные искусственным интеллектом изображения политиков, достаточно реалистичные, чтобы их можно было спутать с подлинными фотографиями.

Ключевая цитата

“В этих сетях есть несколько примеров того, как они, вероятно, используют генеративные инструменты искусственного интеллекта для создания контента. Возможно, это дает им возможность делать это быстрее или в большем объеме, но это не сильно повлияло на нашу способность обнаруживать их», — сказал руководитель отдела расследований угроз Meta Майк Двилянски. .

В цифрах

В отчете выделено шесть тайных операций влияния, которые «Мета» сорвала в первом квартале.

Помимо сети СТОИК, «Мета» закрыла базирующуюся в Иране сеть, сосредоточенную на конфликте между Израилем и Хамасом, хотя она не выявила любое использование генеративного ИИ в этой кампании.

Контекст

Meta и другие технологические гиганты пытались решить, как бороться с потенциальным злоупотреблением новыми технологиями ИИ, особенно на выборах.

<р>Исследователи обнаружили примеры генераторов изображений от таких компаний, как OpenAI и Microsoft, которые создают фотографии с дезинформацией, связанной с голосованием, несмотря на то, что у этих компаний есть политика в отношении такого контента.

Компании делают упор на системы цифровой маркировки для маркировки контента, созданного ИИ. на момент создания, хотя эти инструменты не работают с текстом, и исследователи сомневаются в их эффективности.

Что дальше

Мета сталкивается с ключевыми испытаниями своей защиты во время выборов в в Европейском Союзе в начале июня и в США в ноябре.

Является ли Samsung Galaxy Z Flip 5 лучшим складным телефоном, который вы считаете нужным? можно купить в Индии прямо сейчас? Мы обсуждаем новый складной телефон компании в стиле раскладушки в последнем выпуске подкаста Orbital подкаста Gadgets 360. Orbital доступен на Spotify, Gaana, JioSaavn, Google Podcasts, Apple Podcasts, Amazon Music и везде, где вы получаете свои подкасты.
Партнерские ссылки могут создаваться автоматически — подробности см. в нашем этическом заявлении.