В Казахстане запретят системы ИИ, исключающие вмешательство в них человека

В рамках нового законодательства, системы ИИ будут делиться на низкий, средний и высокий риск. По словам депутата мажилиса Екатерины Смышляевой, системы с низким риском не вызовут особого интереса у регуляторов и смогут развиваться самостоятельно. В то время как высокие и средние риски будут подлежать законодательному регулированию, поскольку эти технологии могут затрагивать здоровье и жизнь граждан, а также госуправление и процесс принятия решений.

Презентация закона также подчеркивает, что в Казахстане будет запрещено разрабатывать и внедрять системы, принимающие решения без возможности человеческого вмешательства. Это должно минимизировать вероятность неожиданных и неконтролируемых последствий.

Кроме того, проект закона определяет базу и статус для национальной платформы искусственного интеллекта.

Как отметила Екатерина Смышляева, государства, стремящиеся развивать технологии ИИ, сегодня активно инвестируют в эту сферу. Казахстан не станет исключением и также выделит средства на создание своей национальной платформы.

В законопроекте также установлены требования для владельцев и разработчиков ИИ по информированию пользователей о том, что они взаимодействуют с искусственным интеллектом, а также о принципах его работы.

Дополнительно, в рамках поправок предусмотрены строгие меры для защиты персональных данных и предотвращения манипуляций, включая ограничения на использование ИИ для оценки людей по социальным, биометрическим и поведенческим критериям, а также запрет на создание ИИ, способного манипулировать поведением человека.