Технология дипфейков быстро выходит из-под контроля – и женщины несут на себе основную тяжесть этого.
Сегодня будний вечер, и вы бесцельно листаете страницы социальных сетей. Среди новостей о знаменитостях, мемов и нескончаемых «дискурсов» вы натыкаетесь на порнографический клип. Большое дело – что нового? Ну, этот очень жестокий. А женщина на видео? У нее твое лицо.
На прошлой неделе вариант этого сценария произошел с Тейлор Свифт. Порнографические дипфейковые изображения мегазвезды были распространены в различных социальных сетях, включая X и Meta. Мало того, что сами изображения были сделаны без согласия певицы, но, как сообщается, они также изображали нападение на нее во время сексуальных действий без согласия.
По данным NBC News, дипфейки Swift на X собрали более 27 миллионов просмотров и более 260 000 лайков за 19 часов, прежде чем аккаунт, первоначально разместивший изображения, был заблокирован. С тех пор X заблокировал поиск по запросу «Тейлор Свифт» на сайте. Джо Бенаррок, руководитель отдела бизнес-операций компании X, назвал эту меру «временной», добавив, что она была принята с «с большой осторожностью, поскольку мы уделяем приоритетное внимание безопасности в этом вопросе».
Представитель Meta заявил: «Этот контент нарушает нашу политику, и мы удаляем его с наших платформ и принимаем меры против аккаунтов, которые его разместили. Мы продолжаем следить за этим, и если мы обнаружим какой-либо дополнительный контент, нарушающий правила, мы удалим его и примем соответствующие меры».
Под Swift понимается (согласно Mail) рассматривает возможность судебного иска против сайта deepfake, на котором были размещены изображения. Однако у многих жертв дипфейковой порнографии просто нет ни профиля, ни ресурсов, чтобы добиться справедливости таким образом.
В разгар пандемии Covid-19 Хелен Морт, поэтесса и лектор из Шеффилда, обнаружила, что на порносайте циркулируют порнографические изображения, предположительно с ней самой. Конечно, это были дипфейковые изображения. «Это было очень тревожно и тревожно», — рассказывает она GLAMOUR. «Я чувствовал себя в опасности».
Хотя поддельные изображения Хелен были удалены вскоре после того, как она узнала о них, дипфейки Тейлор Свифт напомнили ей об этом испытании. «Это вернуло мне воспоминания о моем собственном опыте», — говорит она. «Я снова начала думать об оскорбительных изображениях в мучительных деталях».
Она отмечает, что дипфейковая порнография без согласия «вероятно, шокирующе распространена». Действительно, в брифинге по политике в отношении сексуального насилия на основе изображений отмечается, что «уязвимые группы, особенно женщины и девочки, сталкиваются с повышенными рисками и уникальными проблемами в борьбе с сексуальным насилием на основе фейковых изображений».
Технология дипфейков явно выходит из-под контроля, и – сюрприз-сюрприз – основной удар от этого несут женщины и девочки. Здесь GLAMOUR исследует присущую дипфейковому порно женоненавистничество, опасности, которые оно представляет для всех женщин, и можно ли его остановить.
Что такое дипфейки?
Альянс за универсальные цифровые права определяет дипфейки как: «Синтетические медиа, которыми манипулируют с помощью цифровых технологий с целью убедительной замены сходства одного человека на сходство другого. Создание дипфейков включает в себя сбор реальных, повседневных изображений кого-то и манипулирование ими, чтобы создать ложное изображение того, что он делает или говорит что-то, чего он не делал».
Существует множество проблем, связанных с дипфейками, но, безусловно, , наиболее актуальным является использование этой технологии для создания без согласия порнографических материалов. Это по своей сути женоненавистничество: подробный отчет о дипфейках за 2023 год показал, что дипфейковая порнография составляет 98% всех дипфейковых видео, найденных в Интернете. Хуже того, 99 % жертв дипфейковой порнографии — женщины.
«Глубокое сексуальное насилие обычно связано с попыткой заставить замолчать женщин, которые открыто высказываются», — говорит профессор права Даремского университета Клэр МакГлинн, ведущий специалист в области законов о дипфейках. «Мы видим это на примере Тейлор Свифт. Мы видим это на примере женщин-политиков, где дипфейковое порно является попыткой их запугать. Мы видим это на примере многих женщин, находящихся в центре внимания общественности».
Аманда Маньям, советник по цифровым правам Equality Now, работающая на стыке технологий и закона, согласна с тем, что женщины в глазах общественности подвергаются особому риску подвергнуться дипфейковому насилию. Она рассказала журналу GLAMOUR: «Любой может стать жертвой сексуального насилия, основанного на фейковых изображениях, но женщины, находящиеся в центре внимания общественности и занимающие руководящие должности, такие как знаменитости, политики, журналисты и правозащитники, подвергаются особенной мишени».
Но то, что известные женщины становятся жертвами таким образом, также оказывает глубокое влияние на обычных женщин и девочек. Когда Элли Уилсон, сторонница реформы правосудия, написала в Твиттере о тревожной реакции на дипфейки Свифта, она была встречена шквалом оскорблений в Интернете. «Люди угрожали сделать подобные дипфейковые изображения со мной», — рассказывает она GLAMOUR. «Эти нападки за то, что я просто высказал свое мнение, подчеркивают, насколько опасно для женщин просто существовать в Интернете».
Оливия ДеРасмус, основательница и генеральный директор Communia, социальной сети, созданной женщинами и для женщин, отмечает, что даже выступление против дипфейкинга подвергает опасности других женщин. «Просто говорю о [дипфейкинге], когда женщина рисует мишень на моей спине вместе с другими правозащитниками, женщинами-журналистами, освещающими это, высказывающимися #swifties и даже женщинами-политиками, которые хотят заняться этой проблемой».
Профессор Клер МакГлинн подчеркивает, что дипфейкинг представляет угрозу для всех женщин и девочек, ссылаясь на «потенциально разрушительное воздействие на нашу частную и профессиональную жизнь».
Очевидно, что технология дипфейков быстро выходит из-под контроля. Аманда Маньям ссылается на «быстрый прогресс в области технологий и средств связи», который делает «все более простым и дешевым создание оскорбительного дипфейкового контента». Она добавляет: «Киберпространство облегчает злоупотребления, поскольку преступнику не обязательно находиться в непосредственной физической близости от жертвы».
«Кроме того, анонимность, обеспечиваемая Интернетом, создает идеальную среду, в которой преступники могут причинять вред. вреда, оставаясь при этом анонимным и его трудно отследить».
Более того, большинство стран плохо подготовлены к борьбе с вредом, причиняемым с помощью технологий, например злоупотреблениями, основанными на фейковых изображениях. В Великобритании в соответствии с Законом о безопасности в Интернете нарушение распространять фейковый порнографический контент без согласия, но это не распространяется на создание таких изображений. «Этот пробел, — объясняет Маньям, — создал благоприятную среду для преступников, которые знают, что их вряд ли найдут или накажут. Ситуация усугубляется отсутствием юридической ответственности в технологическом секторе, который в настоящее время не обязан обеспечивать безопасность за счет проектирования на этапе кодирования или создания».
Между тем, сам технологический сектор отталкивает жертв. Как рассказал Маньям GLAMOUR: «Модерация контента на технологических платформах зависит в первую очередь от жалоб жертв, но механизмы подачи жалоб, как правило, сложны в использовании, и многие платформы часто не отвечают на запросы об удалении оскорбительного контента или отвечают только через долгое время». /p>
Каков закон о дипфейках в Великобритании?
По словам Майкла Друри, юрисконсульта BCL Solicitors, «не существует прямого закона, запрещающего распространение «глубоких фейков», если только эти изображения не являются порнографическими. В этом случае недавно созданные правонарушения в соответствии с Законом о безопасности в Интернете 2023 года будут означать, что преступление было совершено до тех пор, пока лицо, чье изображение опубликовано (реальное или поддельное), не дало согласия, а лицо, которое поделилось, не верит, что оно дало свое согласие.
«Не существует прямого гражданского правонарушения, позволяющего человеку, изображенному на изображении, подать в суд. Для тех, кто находится в том же положении, что и Тейлор Свифт, очевидным решением будет полагаться на авторские права на свое изображение (если оно защищено авторским правом), нарушение законов о конфиденциальности или защите данных; преследование (как гражданское правонарушение), возможно, клевета или уголовное право в более широком смысле».
Можно ли что-нибудь сделать с технологией deepfake? Начнем с законодательства. Закон о безопасности в Интернете криминализирует распространение, а не создание, дипфейковой порнографии без согласия, которая, как сообщает GLAMOUR Софи Комптон, соосновательница #MyImageMyChoice, движения, борющегося с насилием в отношении интимных изображений, может привести к «более строгой ответственности за технологические компании». Будет ли этот закон эффективным, это другой вопрос.
Софи объясняет, что действующее законодательство позволяет технологическим компаниям эффективно «отмечать свою домашнюю работу». Она отмечает, что поисковые платформы направляют большое количество трафика на сайты с дипфейковой порнографией – может ли Закон о безопасности в Интернете ограничить это? «Правительству необходимо заняться крупными технологическими компаниями и их ролью в продвижении и получении прибыли от злоупотреблений с использованием дипфейков, а также блокировать сайты и веб-сервисы, которые получают прибыль от злоупотреблений, из основного Интернета».
<р>Профессор Клэр МакГлинн из Даремского университета отмечает, что, хотя Закон о безопасности в Интернете имеет потенциал для борьбы с дипфейковой порнографией, «существует реальный риск того, что законодательство окажется пустышкой, сплошной риторикой и небольшими изменениями». Она отмечает, что Ofcom, регулятор связи Великобритании, в настоящее время проводит консультации по поводу рекомендаций, которые он будет использовать для обеспечения соблюдения закона. «Ofcom необходимо предложить компаниям, занимающимся социальными сетями, кардинально изменить свои подходы […] Ему следует сосредоточиться на активном регулировании, способствующем усилению прав человека. Это может позволить женщинам жить более свободной жизнью в Интернете».
Однако в конечном итоге нам необходимо бороться с женоненавистнической культурой, которая позволяет пользователям создавать вредный женский контент без согласия. Хелен Морт пережила дипфейк; она спрашивает: «Каковы культурные и социальные факторы, которые заставляют людей злоупотреблять изображениями без согласия?»
Мы все еще ищем ответы.
GLAMOUR обратился к представителям Тейлор Свифт и X за комментариями.
Если ваши интимные изображения были опубликованы без вашего согласия, помните, что вы не одиноки и вам доступна помощь. Свяжитесь с горячей линией по вопросам порномести по адресу help@revengepornhelpline.org.uk. На notyourporn.com также есть пошаговое руководство, которому следует следовать, прежде чем предпринимать какие-либо действия.
Чтобы узнать больше о Люси Морган из Glamour UK, подписывайтесь на нее в Instagram @lucyalexxandra.