OpenAI создает комитет по безопасности и безопасности, приступая к тестированию своей следующей крупной модели искусственного интеллекта

Комитет безопасности OpenAI предоставит свои рекомендации в течение следующих 90 дней.

Комитету поручено оценка и дальнейшее развитие процессов и мер безопасности OpenAI

Реклама

Во вторник OpenAI объявила о формировании нового комитета для надзора за мерами безопасности, принимаемыми в проектах и ​​операциях компании. Комитет по безопасности и защите состоит из избранных членов совета директоров, и ему поручено оценивать и развивать процессы и меры безопасности базирующейся в Сан-Франциско фирмы в области искусственного интеллекта. Новый комитет был сформирован, когда OpenAI начала тестирование следующего поколения своей модели искусственного интеллекта (ИИ). Примечательно, что недавно компания поделилась своей модельной спецификацией — документом, в котором подчеркивается подход компании к построению ответственной и этичной модели ИИ.

Комитет безопасности OpenAI

В своем блоге компания рассказала о деталях своего недавно сформированного комитета. В сообщении говорилось: «Сегодня совет директоров OpenAI сформировал комитет по безопасности и защите во главе с директорами Бретом Тейлором (председатель), Адамом Д'Анджело, Николь Селигман и Сэмом Альтманом (генеральный директор). Этот комитет будет отвечать за выработку рекомендаций всему Совету директоров по критически важным решениям в области безопасности и защиты для проектов и операций OpenAI».

Помимо директоров, руководитель отдела готовности OpenAI Александр Мадри, руководитель отдела систем безопасности Джон Шульман , глава службы безопасности Мэтт Найт и главный научный сотрудник Якуб Пачоцкий также войдут в состав комитета.

Первой задачей комитета будет оценка и дальнейшее развитие процессов и мер безопасности компании, занимающейся искусственным интеллектом, в течение следующих 90 дней. После этого комитет поделится своими выводами и рекомендациями со всем Советом директоров. Рекомендации пройдут проверку Правления, после чего OpenAI опубликует принятые рекомендации.

OpenAI начинает тестирование модель искусственного интеллекта следующего поколения

Эти новые разработки в OpenAI связаны с новой инициативой компании. Компания приступила к тестированию следующего поколения своей модели искусственного интеллекта. Назвав ее «передовой» моделью искусственного интеллекта, компания подчеркнула, что эта недостаточно тестируемая модель большого языка (LLM) приблизит компанию на шаг к созданию общего искусственного интеллекта (AGI).

• Privacy Watchdog говорит ChatGPT все еще не соответствует стандартам точности данных
• ChatGPT предлагает платным пользователям интеграцию с Google Drive и Microsoft OneDrive

AGI — это тип ИИ, который может понимать, учиться и применять знания по широкому спектру реальных задач, сравнимые с человеческим интеллектом. Некоторые определения AGI также подчеркивают, что он способен к автономному функционированию и развитию определенного уровня самосознания.

Является ли Samsung Galaxy Z Flip 5 лучшим складным телефоном, который вы можете купить в Индии прямо сейчас? Мы обсуждаем новый складной телефон компании в форме раскладушки в последнем выпуске подкаста Orbital, подкаста Gadgets 360. Orbital доступен на Spotify, Gaana, JioSaavn, Google Podcasts, Apple Podcasts, Amazon Music и везде, где вы получаете свои подкасты.
Партнерские ссылки могут создаваться автоматически — подробности см. в нашем этическом заявлении.