В ЕС вступил в силу закон, ограничивающий использование ИИ

По словам разработчиков акта, он создан с учётом потенциальных рисков для безопасности, здоровья и основных прав граждан. Новый закон предусматривает разделение ИИ-систем по уровню риска. Системы, создающие неприемлемые угрозы, например технологии социального рейтинга, запрещаются, а высокорисковые системы подлежат обязательному анализу, оценке соответствия, регулярному мониторингу и обеспечению человеческого надзора.

Системы, не представляющие значительного риска, также должны соответствовать минимальным требованиям по прозрачности и безопасности. Закон ограничивает использование ИИ для оценки эмоций в образовательных учреждениях и на рабочих местах, а также применение технологий, воздействующих на поведение людей через обман или использование уязвимостей. Технологии распознавания лиц в общественных местах запрещены, за исключением случаев, когда они используются правоохранительными органами для расследования тяжёлых преступлений, таких как торговля людьми или терроризм.

Разработчики и операторы ИИ обязаны проводить оценку рисков, документировать меры по их снижению и предоставлять информацию о принципах работы своих систем. Закон устанавливает систему надзора и контроля на национальном и европейском уровнях с возможностью применения санкций, а также предусматривает исключения для систем, используемых в целях национальной безопасности.

Также закон предусматривает создание надзорных органов на национальном и европейском уровнях, которые будут проводить проверки, обеспечивать соблюдение норм и налагать штрафы за нарушения.

Немецкий отраслевой союз Bitkom раскритиковал закон за недостаточную правовую определённость и высокую нагрузку на компании.