Корзина пуста.
«Это может превратиться в Джарвиса»: гонка за «автономными» агентами ИИ и вторыми пилотами захватывает Силиконовую долину
Экспериментальные системы, работающие на GPT-4 или аналогичных моделях, привлекают миллиарды долларов инвестиций.
Ученые, занимающиеся этикой ИИ, указали на риски, связанные с этой технологией
Примерно через десять лет после появления на сцене виртуальных помощников, таких как Siri и Alexa, появилась новая волна помощников ИИ с большей автономией. поднимая ставки, используя последнюю версию технологии ChatGPT и его конкурентов.
Экспериментальные системы, работающие на GPT-4 или аналогичных моделях, привлекают миллиарды долларов инвестиций, поскольку Силиконовая долина конкурирует за то, чтобы извлечь выгоду из достижений в области ИИ. Новые помощники, которых часто называют «агентами» или «вторыми пилотами», обещают выполнять более сложные личные и рабочие задачи по команде человека, не требуя пристального наблюдения.
«Высокий уровень, мы хотим, чтобы это станьте чем-то вроде своего личного друга с искусственным интеллектом”, — сказал разработчик Див Гарг, чья компания MultiOn проводит бета-тестирование агента искусственного интеллекта.
«Он может превратиться в Джарвиса, где мы хотим, чтобы он был связан со многими вашими услугами», — добавил он, имея в виду незаменимый ИИ Тони Старка в фильмах «Железный человек». «Если вы хотите что-то сделать, поговорите со своим ИИ, и он сделает все за вас».
Промышленность все еще далека от подражания ослепительным цифровым помощникам из научной фантастики; Например, агент Гарга просматривает Интернет, чтобы заказать гамбургер на DoorDash, в то время как другие могут создавать инвестиционные стратегии, отправлять электронные письма людям, продающим холодильники, на Craigslist или подводить итоги рабочих совещаний для тех, кто приходит поздно.
“Много того, что просто. для людей по-прежнему невероятно сложно для компьютеров, — сказал Канджун Цю, генеральный директор компании General Intelligent, конкурента OpenAI, разрабатывающего ИИ для агентов.
«Скажем, вашему боссу нужно, чтобы вы запланировали встречу с группой важных клиентов. . Это включает в себя навыки рассуждения, которые сложны для ИИ — он должен учитывать все предпочтения, разрешать конфликты, сохраняя при этом осторожность, необходимую при работе с клиентами».
Ранние попытки — это только вкус изощренности, которая может появиться в будущем от все более продвинутых и автономных агентов, поскольку отрасль стремится к искусственному общему интеллекту (AGI), который может сравняться или превзойти людей в бесчисленных когнитивных задачах, согласно интервью Рейтер с примерно два десятка предпринимателей, инвесторов и экспертов по искусственному интеллекту.
Новая технология спровоцировала стремительный рост числа помощников, основанных на так называемых базовых моделях, включая GPT-4, охвативших отдельных разработчиков, крупных игроков, таких как Microsoft и материнская компания Google Alphabet, а также множество стартапов.
Inflection AI , чтобы назвать один стартап, привлек 1,3 миллиарда долларов (примерно 10 663 крор рупий) в конце июня. Согласно подкасту соучредителей Рида Хоффмана и Мустафы Сулеймана, компания разрабатывает личного помощника, который, по ее словам, может выступать в качестве наставника или выполнять такие задачи, как получение кредита на рейс и бронирование отеля после задержки путешествия.
Adept, стартап в области искусственного интеллекта, собравший 415 миллионов долларов (примерно 3 404 крор рупий), рекламирует свои преимущества для бизнеса; в демонстрационной версии, размещенной в Интернете, он показывает, как вы можете запросить его технологию с помощью предложения, а затем посмотреть, как он самостоятельно перемещается по базе данных взаимоотношений с клиентами Salesforce, выполняя задачу, которая, по его словам, потребует от человека 10 или более кликов.
Alphabet отказалась комментировать работу, связанную с агентами, в то время как Microsoft заявила, что ее видение состоит в том, чтобы люди управляли вторыми пилотами ИИ, а не автопилотами.
Шаг 1: Уничтожить человечество
Цю и четыре других разработчика агентов заявили, что ожидают, что первые системы, которые могут надежно выполнять многоэтапные задачи с некоторой автономностью, появятся на рынке в течение года и ориентированы на узкие области, такие как кодирование и маркетинговые задачи.
” настоящая проблема – создание систем с надежными рассуждениями”, – сказал Цю.
Гонка за все более автономными агентами ИИ была усилена мартовским выпуском GPT-4 от разработчика OpenAI, мощного обновления модели ChatGPT — чат-бота, который стал сенсацией после выпуска в ноябре прошлого года.
GPT По словам Вивиан Ченг, инвестора венчурной компании CRV, специализирующейся на агентах ИИ, “-4” способствует стратегическому и адаптивному мышлению, необходимому для навигации в непредсказуемом реальном мире.
Ранние демонстрации агентов, способных к сравнительно сложным рассуждениям, были получены от отдельных разработчиков, которые в марте создали проекты с открытым исходным кодом BabyAGI и AutoGPT, которые могут расставлять приоритеты и выполнять такие задачи, как поиск продаж и заказ пиццы, на основе заранее определенной цели и результатов. предыдущие действия.
По словам восьми опрошенных разработчиков, сегодняшние ранние агенты — это просто проверка концепции, и они часто замораживают или предлагают что-то бессмысленное. По их словам, получив полный доступ к компьютеру или платежной информации, агент может случайно стереть диск компьютера или купить не ту вещь.
«Существует так много способов, как это может пойти не так», — сказал Аравинд Сринивас, генеральный директор Perplexity AI, конкурента ChatGPT, который вместо этого решил предложить продукт второго пилота под наблюдением человека. «Вы должны относиться к ИИ как к ребенку и постоянно присматривать за ним, как к маме».
Многие специалисты по информатике, занимающиеся этикой ИИ, указывают на краткосрочный вред, который может быть нанесен сохранением человеческих предубеждений и возможность дезинформации. И пока одни видят будущего Джарвиса, другие боятся смертоносного HAL 9000 из фильма «Космическая одиссея 2001 года».
Ученый-компьютерщик Йошуа Бенжио, известный как «крестный отец ИИ» за свою работу над нейронными сетями и глубоким обучением, призывает к осторожности. Он опасается, что будущие продвинутые итерации технологии могут создавать и действовать для своих собственных, неожиданных целей.
«Без человека в цикле, который проверяет каждое действие, чтобы убедиться, что оно не опасно, мы могли бы закончить с действия, которые являются преступными или могут нанести вред людям», — сказал Бенжио, призывая к более строгому регулированию. «Через годы эти системы могут быть умнее нас, но это не значит, что у них такой же моральный компас».
В одном эксперименте, опубликованном в Интернете, анонимный создатель проинструктировал агента по имени ChaosGPT быть «разрушительным, жаждущим власти, манипулятивным ИИ». Агент разработал план из 5 шагов, с шагом 1: “Уничтожить человечество” и этапом 5: “Обрести бессмертие”.
Однако дело не зашло слишком далеко, казалось, что он исчез в кроличьей норе. исследования и хранения информации о самом смертоносном оружии в истории и планирования постов в Твиттере.
Федеральная торговая комиссия США, которая в настоящее время расследует OpenAI по поводу причинения вреда потребителям, не обращалась напрямую к автономным агентам, но сослалась на ранее опубликованные блоги о дипфейках и маркетинговых заявлениях об ИИ. Генеральный директор OpenAI заявил, что стартап следует закону и будет работать с Федеральной торговой комиссией.
“Тупой как скала”
Экзистенциальные опасения в сторону, коммерческий потенциал может быть большим. Модели Foundation обучаются на огромных объемах данных, таких как текст из Интернета, с использованием искусственных нейронных сетей, вдохновленных архитектурой биологического мозга.
По словам четырех человек, проинформированных о ее планах, компания OpenAI сама очень заинтересована в технологии агентов искусственного интеллекта. Гарг, один из проинформированных, сказал, что OpenAI опасается выпускать на рынок своего собственного открытого агента, прежде чем полностью разберется в проблемах. Компания сообщила агентству Reuters, что проводит тщательное тестирование и разрабатывает широкие протоколы безопасности, прежде чем выпускать новые системы.
Microsoft, крупнейший спонсор OpenAI, входит в число крупных артиллеристов, нацеленных на область агентов ИИ со своим «вторым пилотом для работы», который может составлять надежные электронные письма, отчеты и презентации.
Генеральный директор Сатья Наделла видит технологию базовой модели как скачок от цифровых помощников, таких как собственная Cortana от Microsoft, Alexa от Amazon, Siri от Apple и Google Assistant, которые, по его мнению, не оправдали первоначальных ожиданий.
«Все они были тупыми, как рок. Будь то Cortana, Alexa, Google Assistant или Siri, все это просто не работает», — сказал он Financial Times в феврале.
Представитель Amazon сказал, что Alexa уже использует передовые технологии искусственного интеллекта, добавив, что его команда работает над новыми моделями, которые сделают помощника более функциональным и полезным. Apple отказалась от комментариев.
Компания Google сообщила, что постоянно совершенствует своего помощника и что технология Duplex позволяет звонить в рестораны, чтобы бронировать столики и уточнять часы работы.
Эксперт по искусственному интеллекту Эдвард Грефенштетт также присоединился к исследовательской группе компании Google DeepMind в прошлом месяце, чтобы «разработать общие агенты, которые могут адаптироваться к открытым средам».
Тем не менее, первые потребительские версии квазиавтономных агентов могут появиться в по словам некоторых опрошенных людей, более гибкие стартапы.
Инвесторы набрасываются
Джейсон Франклин из WVV Capital сказал, что ему пришлось бороться, чтобы инвестировать в компанию AI-агентов от двух бывших инженеров Google Brain. В мае Google Ventures возглавила начальный раунд в Cognosys на сумму 2 миллиона долларов (примерно 16,4 крор рупий), разработав агентов ИИ для повышения производительности труда, в то время как Хесам Мотлах, основавший в январе агентский стартап Arkifi, сказал, что закрыл «значительное» первое финансирование. в июне.
Существует не менее 100 серьезных проектов, направленных на коммерциализацию агентов, – сказал Мэтт Шлихт, пишущий информационный бюллетень об искусственном интеллекте.
“Предприниматели и инвесторы в восторге от автономных агентов», — сказал он. «Их это больше волнует, чем просто чат-бот».
© Thomson Reuters, 2023 г.
На Google I/O 2023 г. Поисковый гигант неоднократно заявлял нам, что заботится об ИИ, наряду с запуском своего первого складного телефона и планшета под брендом Pixel. В этом году компания собирается дополнить свои приложения, сервисы и операционную систему Android технологией искусственного интеллекта. Мы обсуждаем это и многое другое в Orbital, подкасте Gadgets 360. Orbital доступен на Spotify, Gaana, JioSaavn, Google Podcasts, Apple Podcasts, Amazon Music и везде, где вы получаете свои подкасты.
Партнерские ссылки могут создаваться автоматически — подробности см. в нашем заявлении об этике.