Недавние события вокруг компании Anthropic, разрабатывающей продвинутые модели искусственного интеллекта, привлекли внимание общественности и экспертов в области технологий. Решение о закрытии доступа к мощным ИИ-моделям, таким как Fable 5, стало результатом выявленных уязвимостей и опасений правительства США относительно безопасности.
Дэвид Сакс, американский инвестор и соучредитель совета по науке и технологиям при президенте, объяснил, что проблема возникла после того, как один из партнеров компании сообщил о возможности джейлбрейка, который мог позволить обойти защитные механизмы моделей. Это вызвало серьезные опасения у властей, которые начали обсуждать дальнейшие действия с представителями Anthropic.
Сакс также отметил, что, несмотря на то что Anthropic оценила уязвимость как незначительную, правительство и независимая организация, проводившая тестирование, не согласились с этой точкой зрения. В результате, компании было предложено устранить проблему или ограничить доступ к модели, на что она не отреагировала должным образом. Это и стало причиной введения экспортных ограничений.
Правительство США, в частности администрация Дональда Трампа, приняло решение приостановить использование моделей Anthropic за пределами страны после обсуждений с высокопоставленными представителями бизнеса, включая гендиректора Amazon Энди Джасси. Он сообщил о том, что исследователи Amazon смогли получить от модели Fable 5 данные, которые могли бы быть использованы для потенциальных кибератак, что вызвало серьезную тревогу среди американских чиновников.
В результате, Anthropic была вынуждена ограничить доступ к своим самым современным моделям, как Fable 5, так и Mythos 5, для всех иностранных пользователей, включая зарубежных сотрудников самой компании. Это решение было принято с учетом требований регуляторов и направлено на обеспечение безопасности данных.
Компания также подчеркнула, что, несмотря на выполнение требований, она не согласна с тем, что выявление «узкого потенциального джейлбрейка» может служить основанием для прекращения распространения коммерческих моделей, доступных широкой аудитории. Anthropic предостерегает о возможных негативных последствиях для всей индустрии разработки ИИ, если подобные прецеденты станут привычными.
Модель Fable 5, позиционируемая как одна из самых мощных разработок компании, предназначена для решения сложных задач, связанных с рассуждениями и выполнением агентных функций. Mythos 5, в свою очередь, доступна в ограниченном режиме через проект Glasswing и также демонстрирует значительные улучшения в областях программирования, анализа данных и работы с изображениями.
В свете последних событий в Белом доме обсуждаются риски, связанные с развитием передовых ИИ-систем, и возможные меры по усилению надзора за этой областью. Такие меры могут повлиять не только на Anthropic, но и на всю индустрию, поднимая вопросы о безопасности и этике использования ИИ-технологий в будущем.
Таким образом, ситуация с Anthropic подчеркивает важность соблюдения стандартов безопасности в разработке ИИ и необходимость постоянного диалога между технологическими компаниями и государственными органами. В условиях стремительного развития технологий, компании должны быть готовы к вызовам, которые могут возникнуть в процессе внедрения инновационных решений на рынок.