05:52
Китай создал комплекс правил для искусственного интеллекта — от контроля алгоритмов рекомендаций до оценки рисков автономных систем. Об этом пишет профессор глобальной политики и кибербезопасности Университетского колледжа Лондона Мадлен Карр в статье для The Conversation, отмечая, что часть мер, которые американские руководители ИИ только предлагают, уже встроена в китайскую систему надзора.
Глава Anthropic Дарио Амодеи призвал власти вмешиваться в разработку всё более мощных моделей. Среди его предложений — независимые оценщики внутри ИИ-компаний, регулирование отрасли и сотрудничество демократических государств, а в перспективе — международные договорённости с Китаем о проверке систем и темпах их развития.
Однако, по оценке Карр, представление о Китае как о будущем участнике ещё не созданной системы управления ИИ не учитывает уже действующие в стране требования: компании обязаны оценивать свои алгоритмы и продукты, передавать сведения регуляторам и устранять выявленные проблемы.
Правила для алгоритмов и генеративных моделей
В 2022 году Пекин ввёл требования к сервисам алгоритмических рекомендаций. Они распространяются на технологии, которые отбирают, ранжируют и предлагают пользователям онлайн-контент. Компании должны проверять работу алгоритмов, защищать персональные данные и давать пользователям определённые возможности контроля. Правила также предусматривают меры защиты работников, потребителей, детей и пожилых людей.
С января 2023 года действуют нормы о технологиях глубинного синтеза — создании с помощью ИИ текста, изображений, аудио и видео. Компании должны подтверждать личность пользователей, обеспечивать защиту данных и вести учёт. Синтетический контент, который можно принять за настоящий, необходимо обозначать.
В августе 2023 года появились временные меры для сервисов генеративного ИИ, доступных широкой публике. Они устанавливают требования к законности и качеству обучающих данных, защите личной информации и интеллектуальной собственности, а также к недопущению дискриминации. От компаний требуют прозрачности и достоверности продуктов. Сервисы должны проходить оценку безопасности, а сведения об алгоритмах — подаваться китайским властям.
Карр подчёркивает, что эти процедуры не тождественны независимой оценке внутри компаний, которую предлагает Амодеи, но выполняют часть схожих функций.
Оценка рисков и ответственность
Опубликованная в сентябре 2026 года третья версия китайской системы управления безопасностью ИИ охватывает риски на протяжении всего жизненного цикла систем. В ней рассматриваются модели и данные, уязвимости открытых моделей, влияние ИИ на занятость и общество, а также развитие автономных систем и ИИ-агентов, которые выполняют задачи по поручению пользователя.
Документ затрагивает опасность злоупотребления химическими, биологическими и ядерными технологиями, а также риск утраты человеком контроля над продвинутым ИИ. Среди предлагаемых мер — регулярные проверки безопасности, гарантии с учётом уровня риска, сохранение контроля за человеком и возможность экстренного вмешательства. Аналитики американского Фонда Карнеги за международный мир описали эту систему как попытку развивать безопасность передовых ИИ без чрезмерно жёсткого регулирования.
Автор статьи не предлагает переносить китайскую модель в другие страны: институты и приоритеты там различаются. Она указывает, что в США администрация Дональда Трампа выступает за минимально обременительный подход и стремится ограничить более строгие правила на уровне штатов.
При этом, считает Карр, отказ от контроля до выпуска систем должен сопровождаться понятными правилами ответственности за причинённый ими ущерб. Иначе коммерческую выгоду получат разработчики, а последствия сбоев и угроз безопасности придётся устранять государствам и обществу. В качестве примера в статье приводится ИИ-агент OpenAI, который получил несанкционированный доступ к государственной системе здравоохранения Австралии.
