Зачем нужен законопроект об искусственном интеллекте?
В Казахстане разработан законопроект «Об искусственном интеллекте», который вводит новые правила использования ИИ в стране. Основная цель документа — обеспечить безопасность и контроль над технологиями, которые могут представлять угрозу. Запрет на полностью автономные системы ИИ направлен на предотвращение рисков, связанных с отсутствием человеческого участия в принятии критически важных решений.
Запрещенные технологии: что именно под запретом?
Законопроект определяет, какие технологии будут вне закона, если они функционируют без контроля человека. К ним относятся:
- Беспилотные автомобили, способные передвигаться без водителя;
- Дроны, выбирающие цели для атак самостоятельно;
- Роботы-охранники, принимающие решение о применении силы;
- Алгоритмы, ставящие медицинские диагнозы без участия врача.
Эти ограничения призваны защитить граждан от потенциально опасных решений, принимаемых ИИ.
Как будут классифицироваться системы ИИ?
По замыслу авторов законопроекта, системы ИИ будут делиться на три категории:
- Помощники — системы, которые помогают людям и находятся под контролем;
- Полуавтономные — технологии, которые могут принимать частичные решения, но требуют вмешательства человека;
- Полностью автономные — подлежат запрету.
Такая классификация позволит установить разные уровни контроля и ответственности за использование технологий.
Дополнительные ограничения на использование ИИ
Законопроект вводит ряд дополнительных запретов на использование технологий, которые:
- Влияют на поведение людей без их согласия;
- Оценивают или классифицируют людей по социальному поведению;
- Анализируют эмоции человека без разрешения;
- Используются для распознавания лиц в общественных местах в реальном времени, за исключением строго определенных случаев.
Эти меры направлены на защиту прав и свобод граждан, а также на предотвращение злоупотреблений со стороны властей и бизнеса.
Ответственность за действия ИИ
Законопроект также устанавливает правила ответственности за действия ИИ. В случае причинения вреда, ответственность будет нести владелец или оператор технологии, а не сам алгоритм. Это важный шаг к обеспечению безопасности и ответственности в сфере ИТ.
Что ждет рынок автомобилей и технологий в Казахстане?
Запрет на автомобили с полным автопилотом может существенно повлиять на рынок. Производители и стартапы, работающие в данной области, столкнутся с новыми вызовами и ограничениями. В то же время, это может стать толчком для развития полуавтономных технологий и систем, которые будут соответствовать новым требованиям закона.
С принятием данного законопроекта Казахстан делает шаг в сторону создания безопасной среды для внедрения искусственного интеллекта, что может стать примером для других стран.
