Anthropic предложила останавливать ИИ-модели только при риске гибели более 50 человек и ущерба свыше $1 млрд
Anthropic в частном порядке представила законодателям на Капитолийском холме черновик законопроекта о безопасности и защищённости передовых ИИ-моделей. Об этом 16 октября 2026 года сообщило издание Politico. Документ ранее не публиковался, а его содержание подтвердили три источника, знакомые с обсуждениями.
Когда правительство сможет остановить модель
Согласно тексту, государство вправе блокировать выпуск или использование модели только при предсказуемом и непосредственном риске ущерба свыше $1 млрд либо гибели или тяжёлых травм более чем 50 человек. Риск должен быть связан с созданием или распространением биологического оружия, выходом модели из-под контроля разработчика или кибератакой. Часть формулировок совпадает с положениями калифорнийских законов, в том числе SB 53.
Схема проверки выглядит так:
Будьте в курсе движения ваших монет
Алерты, котировки в реальном времени и новости рынка — в одном приложении
Наведите камеру телефона, чтобы установить
4,8 на основе 40 К оценок в App Store и Google Play
- независимые оценщики регистрируются в Министерстве торговли США и периодически проверяют лабораторию и её передовые модели;
- лаборатории могут оплачивать работу оценщиков, но сумма не должна зависеть от результатов оценки;
- при выявлении «непосредственного перечисленного риска» оценщик в течение 72 часов после завершения оценки обязан сообщить об этом в министерство;
- министерство вправе обратиться к федеральному судье Окружного суда округа Колумбия с просьбой приостановить выпуск модели.
Любому другому ведомству, агентству или должностному лицу США приостанавливать разработку, развёртывание или внутреннее использование модели прямо запрещено. Таким образом, остановить выпуск можно только через суд и по инициативе Министерства торговли.
Что говорят в Anthropic
Официальный представитель компании заявил: «Этот законопроект отражает предложения, изложенные в Advanced AI Framework компании Anthropic, которые мы продвигаем среди федеральных и штатных законодателей с июня. Это разумные меры, которые, по нашему мнению, Конгресс должен принять». По его словам, документ даёт правительству «возможность блокировать или сдерживать опасные развёртывания самых мощных моделей». Одновременно он обязывает разработчиков тестировать передовые модели, обеспечивать прозрачность результатов и проходить независимую оценку.
На чём основан законопроект
Advanced AI Framework вышел в июне 2026 года. Документ описывает обязательства разработчиков передовых моделей: тестирование на катастрофические риски, привлечение независимых оценщиков, публикацию отчётов о рисках и системных карт, а также отчётность о критических инцидентах безопасности. Кроме того, он предлагает наделить правительство полномочиями блокировать или сдерживать опасные развёртывания.
Рамки рассчитаны на разработчиков, которые обучают модели с объёмом вычислений свыше 10²⁵ FLOP и при этом получают от ИИ более $500 млн годовой выручки либо тратят на ИИ-исследования более $1 млрд. В перечень рисков входят биологическое оружие, наступательные кибероперации, потеря контроля и автоматизированные исследования и разработки, способные усилить эти угрозы.
Сам черновик законопроекта требует от компаний создавать собственные фреймворки безопасности, публиковать отчёты о прозрачности для новых передовых моделей, защищать информаторов и сообщать о критических инцидентах в Министерство торговли. Отдельные положения касаются преемственности части штатных норм о публичном раскрытии рисков, сторонней оценке и отчётности об инцидентах.
Anthropic предлагает федеральную модель, где государство получает право остановить модель лишь при чётко определённых катастрофических рисках, а решение принимает суд. Проверки поручены независимым оценщикам, а все полномочия по приостановке сосредоточены в Министерстве торговли.
На момент публикации отчёта Politico законопроект официально не был внесён в Конгресс. Его судьба зависит от того, найдёт ли текст поддержку у федеральных законодателей.
Мнение ИИ
Анализ хронологии напоминает шахматную партию. 30 сентября Амодеи вместе с другими главами техкомпаний подписал в Белом доме добровольное соглашение, где допускается со временем закрепить обязательства в законе. Через две недели Anthropic уже показывает законодателям черновик с судьёй и окном в 72 часа. «Добровольное» редко остаётся таким надолго: сначала компании пишут правила для себя, затем для всех.
Вторая нить — деньги. За 2025 год Anthropic израсходовала на прямое федеральное лоббирование $3,13 млн, а в феврале 2026 года объявила о пожертвовании $20 млн организации Public First Action, выступающей за более строгое регулирование ИИ. Какой вес получит слово «независимый» в системе, где регулируемые компании так активно участвуют в формировании правил?
