В Казахстане запретят создание "терминаторов"
12:19 03.03.2025 (обновлено: 12:30 03.03.2025)
© Sputnik / Виталий Белоусов
/ Подписаться
Будущий закон об искусственном интеллекте (ИИ) обсуждают в парламенте Казахстана
АСТАНА, 3 мар — Sputnik. В мажилисе (нижняя палата казахстанского парламента) состоялась презентация проекта закона "Об искусственном интеллекте" и сопутствующих ему поправок в законодательные акты, в том числе в Кодекс об административных правонарушениях.
Будущий закон представила коллегам секретарь комитета по экономической реформе и региональному развитию, депутат Екатерина Смышляева.
"Цель законопроекта — создать прозрачную, эффективную правовую базу для внедрения IT-технологий в нашу экономику. Особое внимание развитию искусственного интеллекта уделяет Глава государства, он неоднократно давал соответствующие поручения. Более того, в ходе недавнего посещения Центра развития искусственного интеллекта Глава государства особо отметил важность правильной модели регулирования именно этой технологии по той причине, что это, с одной стороны — вопрос безопасности, с другой стороны — это вопрос развития. И здесь нам важно держать баланс. Согласно этим поручениям, мы сегодня приступаем к работе над проектом Закона "Об искусственном интеллекте", — заявила т Екатерина Смышляева.
В рамках планируемых изменений ожидается внедрение новых норм для обеспечения безопасности и регулирования сферы ИИ.
Все системы искусственного интеллекта разделят по три вида по степеням риска. Это позволит регулировать их эксплуатацию в зависимости от потенциального влияния на безопасность пользователей, общества и государства.
Первая категория - вспомогательные системы искусственного интеллекта, где ИИ выполняет функции помощника, и все окончательные решения принимает исключительно пользователь.
Вторая категория - полуавтономные системы. От первой отличается тем, что пользователь дает ИИ ограниченные права на автоматизированное принятие решения в рамках заранее заданных параметров. В то же время, человек может вмешиваться в процесс принятия решений, а также изменять результаты деятельности системы.
И, наконец, третья категория - полностью автономные системы, которые принимают решения вне зависимости от заранее заданных параметров и не поддаются контролю со стороны владельца данной системы. Это именно то, что описано в различных романах "фэнтази", посвященных "восстанию машин" (самый популярный из которых – кинороман "Терминатор").
"На территории Казахстана запрещается создание и выпуск в обращение полностью автономных систем искусственного интеллекта", - подчеркнула Екатерина Смышляева в своем выступлении.
Категорическому запрету подлежит создание следующих систем ИИ.
Системы использующие подсознательные, манипулятивные или иных методы, существенно искажающих поведение человека и ограничивающих способность принимать осознанные решения, или вынуждающих принимать решения, которые могут причинить человеку вред или создавать угрозу причинения вреда жизни, здоровью и имуществу.
Системы использующие моральную или физическую уязвимость человека из-за возраста, инвалидности, социального положения и по любым иным обстоятельствам с целью причинения или создания угрозы причинения ему вреда.
Системы определение эмоций человека без его согласия (за исключением случаев, предусмотренных законами Казахстана).
Под запрет подпадает и удаленная биометрическая идентификация людей в реальном времени в общественных местах (за исключением случаев, оговоренных законодательством).
В рамках законопроекта власти Казахстана намерен создать национальную платформу искусственного интеллекта и библиотеки данных.
Будет запрещена автоматизированная обработка персональных данных (за исключением случаев, когда получено согласие или в случаях, предусмотренных законодательством Казахстана), в результате которой у субъекта персональных данных, во-первых, создается угроза причинения вреда жизни, здоровью и имуществу; во-вторых, возникают, изменяются или прекращаются права, законные интересы.
Предусмотрено введение штрафов за нарушение новых норм – для этого планируется внести соответствующие правки в КоАП РК.
Видами нарушения будут являться:
- не обеспечение собственниками или владельцами систем ИИ информирования пользователей о синтетических результатах деятельности генеративной системы ИИ, которые могут ввести их в заблуждение;
- не осуществление собственниками или владельцами систем ИИ управления рисками систем ИИ, повлекшими негативное воздействие на здоровье или благополучие людей, создание или распространения запрещенной информации, дискриминации или нарушения прав человека и иного вреда, если это действие (бездействие) не содержит признаков уголовно наказуемого деяния.
Так за нарушения, связанные с использованием ИИ, включая необеспечение информирования о синтетических результатах и неуправление рисками систем ИИ, предлагается ввести штрафы от 15 до 200 МРП (от 58 980 тенге до 786 400 тенге).
В частности, за первое нарушение:
- физические лица заплатят 15 МРП;
- средний бизнес – 30 МРП;
- крупный бизнес – 100 МРП.
При повторном нарушении в течение года штрафы увеличиваются:
- для физических лиц до 30 МРП;
- для малого бизнеса до 50 МРП;
- для среднего бизнеса до 70 МРП;
- для крупного бизнеса до 200 МРП.
Не исключен момент приостановления или запрета работы системы ИИ.
Как отметил председатель комитета по экономической реформе и региональному развитию Мажилиса Нуртай Сабильянов, законопроекты направлены на установление единой правовой базы использования технологий ИИ.
Планируется создание Национальной платформы ИИ: уже сейчас формируется государственная технологическая инфраструктура для разработки, обучения и тестирования систем ИИ в контролируемой среде, что способствует развитию отечественных решений в этой сфере.
Предлагаемые поправки предусматривают права и обязанности субъектов отношений в сфере ИИ. Кроме того, сопутствующим законопроектом обеспечивается защита прав потребителей в отношении продуктов с использованием ИИ, защита персональных данных и прочее.
