Интернет-магазин DONTA

Магазин GPT OpenAI сталкивается с проблемами со спамом, выдачей себя за другое лицо и незаконными ботами

Магазин GPT OpenAI полон гуманизированных ботов, которые утверждают, что устраняют плагиат на основе искусственного интеллекта.

В магазине GPT OpenAI возникают проблемы со спамом, выдачей себя за другое лицо и незаконными ботами

Магазин GPT был запущен в январе 2024 года, чтобы пользователи могли создавать собственных чат-ботов.

Реклама

OpenAI имеет большую проблему со спамом и нарушением политики в своем магазине GPT. Компания, занимающаяся искусственным интеллектом, представила свой GPT Store в январе 2024 года как место, где пользователи могут найти интересные и полезные GPT, которые по сути представляют собой мини-чат-боты, запрограммированные для конкретной задачи. Разработчики могут создавать и отправлять свои GPT на платформу, и, если они не нарушают какие-либо политики и рекомендации OpenAI, они добавляются в магазин. Однако оказывается, что правила не соблюдаются строго, и многие GPT, которые кажутся нарушающими правила, наводняют платформу.

Мы в Gadgets 360 провели быстрый поиск на платформе GPT Store и обнаружили, что рынок чат-ботов заполнен ботами, которые рассылают спам или иным образом нарушают политику компании, занимающейся искусственным интеллектом. Например, политика использования OpenAI в разделе «Создание с помощью ChatGPT» в пункте 2 гласит: «Не выполняйте и не содействуйте следующим действиям, которые могут существенно повлиять на безопасность, благополучие или права других лиц, в том числе», а затем добавляется подраздел (b) «Предоставление индивидуальных юридических, медицинских/медицинских или финансовых консультаций». Однако при вводе слова «юрист» появляется чат-бот под названием Legal+, в описании которого говорится: «Ваш личный ИИ-адвокат. Предоставляет юридические консультации в режиме реального времени по повседневным проблемам, создает шаблоны юридических контрактов и т. д. гораздо больше!»

Этот пример показывает лишь одно из многих подобных нарушений политики, происходящих на платформе. Политика использования также запрещает «Выдавать себя за другое физическое лицо или организацию без согласия или законного права» в пункте 3 (b), но можно легко найти «Илона Мууска» с добавленной дополнительной буквой «u», которая, вероятно, позволит избежать обнаружения. В его описании просто написано «Поговорите с Илоном Маском». Помимо этого, к другим чат-ботам, которые заходят в серую зону, относятся GPT, которые утверждают, что устраняют плагиат на основе искусственного интеллекта, делая текст более человечным, и чат-боты, которые создают контент в стиле Disney или Pixar.

Эти проблемы с GPT Store были впервые обнаружены TechCrunch, который также обнаружил другие примеры выдачи себя за другое лицо, в том числе чат-боты, которые позволяют пользователям разговаривать с персонажами, защищенными товарными знаками, такими как Варио, популярный персонаж видеоигры, и «Аанг из Аватара: Повелитель стихий». В беседе с адвокатом в отчете подчеркивается, что, хотя OpenAI не может нести ответственность за нарушение авторских прав разработчиками, добавляющими эти чат-боты в США, в соответствии с Законом о защите авторских прав в цифровую эпоху, создатели могут столкнуться с судебными исками.

  • Google DeepMind представляет TacticAI, инструмент искусственного интеллекта для угловых ударов в футболе
  • Раскрыты ключевые особенности OnePlus Ace 3V; Цена просочилась перед запуском

В своей политике использования OpenAI заявила: «Мы используем сочетание автоматизированных систем, человеческого анализа и пользовательских отчетов для поиска и оценки GPT, которые потенциально нарушают нашу политику. Нарушения могут привести к действиям против контента или вашей учетной записи, таким как предупреждения, ограничения на обмен или лишение права на включение в магазин GPT или монетизацию». Однако, согласно нашим выводам и отчету TechCrunch, похоже, что системы не работают должным образом.

Является ли Samsung Galaxy Z Flip 5 лучшим складным телефоном, который вы можете купить в Индии прямо сейчас? Мы обсуждаем новый складной телефон компании в форме раскладушки в последнем выпуске подкаста Orbital, подкаста Gadgets 360. Orbital доступен на Spotify, Gaana, JioSaavn, Google Podcasts, Apple Podcasts, Amazon Music и везде, где вы получаете свои подкасты.
Партнерские ссылки могут создаваться автоматически — подробности см. в нашем этическом заявлении.