OpenAI согласилась внедрить собственные модели ИИ в секретную сеть Министерства обороны после того, как у её конкурента Anthropic PBC испортились отношения с Пентагоном из-за опасений по поводу слежки и автономного оружия.

Генеральный директор OpenAI Сэм Альтман заявил в пятницу вечером, что достиг соглашения с министерством, которое отражает принципы компании по запрету «массовой слежки внутри страны и ответственности человека за применение силы, в том числе автономных систем вооружения». Стартап также разработал меры предосторожности, чтобы гарантировать корректное поведение своих моделей в процессе внедрения, сообщил Альтман в посте в социальной сети X.

В OpenAI отказались комментировать вопрос о том, заменят ли услуги компании работу, которую ранее выполняла Anthropic. Министерство обороны не ответило на запрос о комментарии, отправленный поздно вечером в пятницу.

Всего за несколько часов до этого Пентагон объявил, что Anthropic представляет угрозу для цепочки поставок. Этот шаг мог иметь серьезные последствия для бизнеса компании и усугубил конфликт между стартапом в сфере искусственного интеллекта и представителями оборонного ведомства по поводу защиты технологий компании.

В своем посте на платформе X министр обороны Пит Хегсет сообщил, что у компании Anthropic есть шесть месяцев на то, чтобы передать свои ИИ-сервисы другому поставщику. «Американские военные никогда не станут заложниками идеологических прихотей крупных технологических компаний, — написал Хегсет. — Это окончательное решение». Его пост появился вскоре после того, как президент Дональд Трамп написал в соцсетях, что приказывает федеральным агентствам отказаться от услуг Anthropic.

Компания Anthropic, которая заявила, что ее продукция не будет использоваться для слежки за американцами или нанесения ударов без участия человека, в пятницу заявила, что «никакие угрозы или наказания со стороны Министерства обороны не изменят нашу позицию в отношении массовой слежки внутри страны и полностью автономного оружия».

Ранее на этой неделе Пентагон предложил компании Anthropic условия, включающие некоторые положения, предложенные компанией в отношении слежки и автономности, сообщил источник, знакомый с ситуацией, попросив не называть его имени, поскольку переговоры не были публичными. Однако, по мнению Anthropic, эти условия не гарантируют, что ведомство не сможет отменить какие-либо ограничения, если сочтет это необходимым, сообщил источник.

Сделка OpenAI с Пентагоном грозит усугубить раскол между администрацией Трампа и компанией Anthropic, которая пользуется большой поддержкой в Кремниевой долине, где сотрудники технологических компаний встали на сторону компании и призвали другие крупные технологические компании, включая Amazon.com Inc. и Microsoft Corp., последовать их примеру.

В своем посте Альтман затронул некоторые вопросы, связанные с наблюдением и автономным оружием. Он сообщил, что Министерство обороны согласилось с его принципами и отразило их в соглашении с OpenAI, попросив ведомство «предложить те же условия всем компаниям, работающим в сфере искусственного интеллекта, которые, на наш взгляд, должны быть приемлемы для всех».

Дарио Амодей, генеральный директор Anthropic, раньше работал в OpenAI и ушел оттуда в 2020 году отчасти из-за опасений, что стартап ставит коммерциализацию и скорость выше безопасности. OpenAI начинался как некоммерческая организация, но в прошлом году был преобразован в более традиционное коммерческое предприятие. Изначально компания запрещала использовать свои технологии в военных целях, но в 2024 году изменила свою политику и разрешила такое использование. Компания также исключила слово «безопасно» из своей миссии, которая теперь звучит так: «обеспечить, чтобы общий искусственный интеллект — системы искусственного интеллекта, которые в целом умнее человека, — приносил пользу всему человечеству».

И Anthropic, и OpenAI все больше внимания уделяют прибыли, стремясь провести первичное публичное размещение акций уже в этом году, чтобы удовлетворить ажиотажный интерес инвесторов к искусственному интеллекту.

Ранее в пятницу компания OpenAI объявила, что привлекла 110 миллиардов долларов в рамках сделки, в результате которой стоимость стартапа оценивается в 730 миллиардов долларов. Это крупнейший на сегодняшний день раунд финансирования для компании, создавшей ChatGPT, и он подкрепляет дорогостоящие усилия по привлечению дополнительных вычислительных мощностей и специалистов для разработки искусственного интеллекта. Ранее в этом месяце компания Anthropic привлекла 30 миллиардов долларов от тех же инвесторов, что и OpenAI.

Амодей и Альтман на протяжении многих лет публично конфликтовали. Совсем недавно, во время саммита по искусственному интеллекту в Нью-Дели в этом месяце, они стояли рядом с премьер-министром Нарендрой Моди и демонстративно не держались за руки, в отличие от всех остальных участников.