Meta с открытым исходным кодом открывает свою новую модель искусственного интеллекта Llama 2: будет ли это способствовать злоупотреблениям?

Meta предлагает бесплатный доступ к Llama 2 для исследовательских целей и коммерческого использования, что, по словам компании, позволит людям провести стресс-тестирование и быстро выявить любые проблемы.

Неясно, как эта технология сравнивается с ChatGPT. Но Мета говорит, что Llama 2 была обучена на 40% больше данных, чем первая модель Llama, в том числе на более чем 1 миллионе новых человеческих аннотаций. В результате Llama 2 показала несколько лучшие результаты в различных тестах, включающих рассуждения, кодирование, навыки и знания. 

Подход с открытым исходным кодом может оказать давление на OpenAI, которая взимает с компаний плату за использование собственной технологии генеративного ИИ через API. Напротив, Цукеберг планирует позволить пользователям загружать исходный код Llama 2 с веб-сайта компании (открывается в новом окне), хотя пользователям необходимо заполнить форму, которая затем будет проверена. “Существует также оптимизированная версия, которую можно запускать локально в Windows” – добавил он. Компании смогут получить доступ к модели искусственного интеллекта на платформе облачных вычислений Microsoft Azure.  

Тем не менее, эта новость вызывает вопросы о том, попадет ли Llama 2 в чужие руки и в конечном итоге станет причиной мошенничества и других злонамеренных действий. Например, когда в феврале исходная модель Llama была предоставлена ​​исследователям, копии кода просочились и были быстро использованы для создания(открывается в новом окне) чат-бота без цензуры, способного мешать ответам.

Мета, однако утверждает, что Llama 2 с открытым исходным кодом может сделать технологию более безопасной. 

«Открытие доступа к сегодняшним моделям ИИ означает, что поколение разработчиков и исследователей может проводить их стресс-тестирование, быстро выявляя и решая проблемы, как сообщество», Компания написала(Открывается в новом окне) в отдельном сообщении в блоге. “Увидев, как эти инструменты используются другими, наши собственные команды могут учиться у них, улучшать эти инструменты и устранять уязвимости”

Вы ужасный писатель? ChatGPT может помочь, исследование показывает, что OpenAI: нет, ChatGPT не становится глупее WormGPT — это альтернатива ChatGPT без «этических рамок или ограничений» что люди уже могут генерировать большое количество дезинформации и разжигать ненависть без использования программ искусственного интеллекта. Вместо этого выпуск Llama 2 для сообщества может помочь социальной сети бороться с онлайн-токсичностью, поскольку компания уже пытается использовать ИИ для борьбы с нарушающим правила контентом. был «красной командой» Llama 2, чтобы понять, как люди могут злоупотреблять большой языковой моделью и устанавливать в ответ ограждения. «Эти процессы точной настройки безопасности являются итеративными. Мы продолжим инвестировать в безопасность посредством точной настройки и сравнительного анализа и планируем выпустить обновленные точные модели на основе этих усилий», — говорится в сообщении компании. 

Поскольку Llama 2 имеет открытый исходный код, пользователи смогут изменять его код.Тем не менее, Meta сообщает PCMag, что включает формулировку в политику приемлемого использования Llama, в которой говорится, что компания может расправиться с людьми, уличенными в злоупотреблении моделью ИИ. Это может включать в себя инициирование судебного разбирательства или расторжение любых соглашений между Meta и разработчиком программного обеспечения.