Статья СМИ: Пентагон создал группу для внедрения хакерских ИИ-моделей

[Blackbiz Bot]

Кибервоенное подразделение Пентагона создало специальную рабочую группу для ускорения внедрения передовых ИИ-инструментов, обладающих мощными хакерскими возможностями. Об этом пишет Politico со ссылкой на источники.
Инициатива объединит представителей Киберкомандования с АНБ и займется изучением того, как Пентагон может безопасно внедрять ведущие модели во всех аспектах своей деятельности.
Речь идет об оценке возможностей использования нейросетей в системах «высокого уровня», содержащих некоторые из самых секретных сведений.
Инициатива подчеркивает обеспокоенность Пентагона внезапным появлением разработанных частным сектором нейросетей, способных выявлять уязвимости в цифровых системах быстрее, чем лучшие хакеры мира.
На фоне этих опасений администрация Дональда Трампа готовит указ по надзору за ИИ в сфере кибербезопасности. Документ может ввести добровольную схему взаимодействия разработчиков ИИ с властями США.
По информации СМИ, компании будут просить передавать свои разработки правительству за 90 дней до публичного релиза. Еще одно предложение касается раннего доступа для операторов критической инфраструктуры, включая банки.
Обсуждение усилилось после выхода Mythos от Anthropic. В апреле компания заявила, что превью-версия модели обнаружила тысячи уязвимостей высокой степени опасности. Речь шла в том числе об основных операционных системах и браузерах.
Вместо публичного релиза фирма запустила Project Glasswing — инициативу с участием AWS, Apple, Broadcom, Cisco, CrowdStrike, Google, JPMorgan Chase, Linux Foundation, Microsoft, Nvidia и Palo Alto Networks для тестирования инструмента в защищенных условиях.
В апреле стало известно, что АНБ использует Mythos, несмотря на конфликт стартапа с Пентагоном. Неизвестно, как в агентстве применяют искусственный интеллект компании, но другие делают это для сканирования своих собственных сред на наличие уязвимостей.
Разногласия между Anthropic и Пентагоном возникли из-за нежелания фирмы разрешать применение ИИ-моделей для массовой слежки за гражданами США и разработки автономного оружия. В результате Трамп поручил всем федеральным ведомствам в течение шести месяцев полностью отказаться от использования технологий фирмы.
Напомним, в мае армия США созвала ведущих подрядчиков для внедрения ИИ в вооружения.