Минцифры России вынесло на общественное обсуждение законопроект «Об основах государственного регулирования применения технологий искусственного интеллекта». Документ размещён на портале проектов нормативных правовых актов. Предполагается, что закон вступит в силу с 1 сентября 2027 года.
Законопроект устанавливает единые правила для разработки, обучения, внедрения и использования ИИ в России и распространяется на всех участников рынка – разработчиков, операторов, владельцев сервисов и пользователей. Документ закрепляет ключевые понятия в сфере ИИ, включая модели, системы и сервисы, а также вводит категории больших фундаментальных и доверенных моделей. В основе регулирования лежит риск-ориентированный подход, при котором требования к системам зависят от уровня их автономности, влияния на решения и потенциального ущерба.
Отдельное внимание уделяется технологическому суверенитету: законопроект предполагает, что разработка и обучение моделей ИИ должны осуществляться на территории России с использованием российских данных и ресурсов. Для государственных систем и критической инфраструктуры вводится механизм доверенных моделей, которые должны проходить проверку на безопасность и качество и включаться в специальный реестр.
Документ также закрепляет требования к прозрачности: участники обязаны информировать пользователей о применении ИИ, в том числе при принятии решений без участия человека, а также обеспечивать обязательную маркировку сгенерированного контента в визуальном и машиночитаемом формате. Отдельно устанавливается запрет на манипулирование поведением человека и эксплуатацию его уязвимостей с использованием ИИ.
Законопроект определяет обязанности всех участников рынка, включая обеспечение безопасности систем, анализ рисков, документирование моделей и контроль их эксплуатации, а также вводит распределённую ответственность между разработчиками, операторами, владельцами сервисов и пользователями. Кроме того, документ регулирует права на результаты интеллектуальной деятельности, созданные с помощью ИИ, вводит понятие трансграничных технологий и предусматривает государственный мониторинг рисков и поддержку инфраструктуры, включая развитие дата-центров и вычислительных мощностей.
Новый законопроект уже стал предметом обсуждения в отрасли. В R-Style Softlab также проанализировали документ и его влияние на рынок.
«Экспоненциальное развитие ИИ за последнее время обосновывает намерение сфокусировать внимание на регулировании и контроле этого процесса. ИИ хорошо справляется с типовыми задачами и стандартными запросами, а применение агентной схемы позволяет улучшить контроль за результатами работы ИИ путем отсеивания решений с низкой оценкой их качества. При этом результаты работы ИИ требуют контроля со стороны человека, либо в оперативном режиме, либо путем отслеживание статических данных по этим результатам. В сценариях, связанных с финансами, здоровьем или юридическими последствиями, его роль должна оставаться вспомогательной, а окончательные решения – за человеком. Наиболее устойчивой моделью выглядит гибридный подход, при котором ИИ обрабатывает массовые обращения, а человек подключается в сложных или чувствительных ситуациях – это позволяет сохранить баланс между эффективностью и доверием».
Антон Томилин
Директор департамента аналитических систем R-Style Softlab
«Расширение регулирования в сфере искусственного интеллекта выглядит логичным этапом развития рынка. По мере того как ИИ всё активнее используется в повседневных цифровых сервисах, возрастает значение прозрачности – пользователю важно понимать, взаимодействует ли он с системой или с человеком, что напрямую влияет на доверие к технологиям. Отдельное значение такие меры приобретают в чувствительных сферах – финансовых, медицинских и юридических, где цена ошибки значительно выше. В этих случаях сохранение человеческого контроля становится базовым принципом, однако важно, чтобы регулирование не тормозило развитие технологий, а задавало понятные и сбалансированные правила».
«Проект закладывает фундамент для масштабного регулирования отрасли ИИ в России и касается большинства участников рынка – как физических, так и юридических лиц, разрабатывающих или внедряющих такие технологии. Среди ключевых нововведений – создание реестра доверенных моделей ИИ для работы с государственными системами, ужесточение требований к структуре владения российскими компаниями, а также обязанность разработчиков документировать архитектуру моделей, проводить оценку рисков и учитывать инциденты. С одной стороны, формируется отдельный сегмент «доверенного ИИ» для государственных систем и критической инфраструктуры, куда не будут допускаться иностранные или неподтверждённые решения. С другой – вводятся дополнительные требования к безопасности, контролю и соответствию моделей установленным критериям, включая оценку рисков нарушения установленных ценностных и правовых норм».
Максим Сектименко
Юрист R-Style Softlab
Законопроект формирует базовые подходы к регулированию искусственного интеллекта в России и может стать основой для дальнейшего развития отрасли, при этом документ находится на стадии общественного обсуждения и может быть доработан перед внесением в Государственную думу.
