Статья Хакеры получили доступ к закрытой ИИ-модели Mythos от Anthropic

[Blackbiz Bot]

Небольшая группа пользователей получила несанкционированный доступ к предварительной версии нейросети Claude Mythos от компании Anthropic. По данным агентства Bloomberg, инцидент произошел в день официального анонса контролируемого релиза.
Ситуация вызывает обоснованные вопросы. Эксперты сомневаются в способности компании обеспечить надежную изоляцию продукта. Разработчики ранее признали эту модель слишком опасной для публичного использования.

Уязвимость системы и методы проникновения​

Участники закрытого канала в Discord смогли вычислить точный URL-адрес конечной точки Mythos. Это сообщество специализируется на поиске невыпущенных моделей искусственного интеллекта.
Популярный пользователь социальной сети X Джош Кейл написал:

«Anthropic заявила, что Mythos слишком опасна для релиза. Затем четверо случайных парней в Discord получили доступ в первый же день, угадав URL…»

Группа восстановила принципы наименования внутренних ресурсов Anthropic. Они использовали информацию из масштабной утечки данных платформы Mercor. Этот инцидент с безопасностью произошел тремя неделями ранее. Один из участников также обладал легальными учетными данными для тестирования. Он работал по контракту с подрядчиком Anthropic. Комбинация этой учетной записи и угаданного адреса обеспечила группе стабильный доступ.
Взломщики регулярно использовали Mythos после успешного проникновения. Однако они избегали запросов на тему кибербезопасности. Вместо этого пользователи применяли алгоритм для рутинных задач. Например, они создавали простые веб-сайты. Представители Anthropic подтвердили факт проведения внутреннего расследования. Компания пока не обнаружила доказательств выхода доступа за пределы среды подрядчика.
Разработчики утверждают, что алгоритм Mythos способен находить и использовать уязвимости нулевого дня. Эта угроза актуальна для всех основных операционных систем и веб-браузеров. Компания запустила инициативу Project Glasswing для ограничения доступа. Технологию предоставили лишь сорока одобренным организациям. В этот список вошли Apple, Amazon и Cisco. Доступ разрешен исключительно в целях тестирования защитных систем.

Интерес государственных структур США​

Нарушение периметра безопасности совпало с новыми инициативами Белого дома. Администрация президента планирует расширить доступ к Mythos для гражданских федеральных агентств. Управление по управлению и бюджету направило письма членам кабинета министров 15 апреля. Документ описывает планы по внедрению защищенной версии алгоритма.
Эта позиция кардинально отличается от прежней политики властей. Ранее в этом году Пентагон признал Anthropic угрозой для цепочки поставок. Ведомство приняло такое решение после отказа компании снять ограничения безопасности для военных целей.
Представитель Министерства обороны Шон Парнелл написал в социальной сети X: «Мы не позволим НИ ОДНОЙ компании диктовать условия относительно того, как мы принимаем оперативные решения».
Позже федеральный судья приостановил действие этого широкого запрета. Такое решение последовало за судебным иском со стороны Anthropic. Генеральный директор компании Дарио Амодей встретился с представителями Белого дома 17 апреля. Обе стороны назвали прошедшие переговоры продуктивными. При этом Агентство национальной безопасности уже применяет модель Mythos для поиска уязвимостей. По данным издания Axios, спецслужба делает это несмотря на черный список Пентагона.
The post Хакеры получили доступ к закрытой ИИ-модели Mythos от Anthropic appeared first on BeInCrypto.

Продолжить чтение...