Еврокомиссия предложила полностью запретить использование систем искусственного интеллекта (ИИ), которые манипулируют сознанием человека. Такая инициатива, под названием Скоординированный план, предложена в связи с тем, что ИИ представляет «явную угрозу жизни и правам человека».

Под запретом окажутся, в том числе и игрушки, в которых используются голосовые подсказки и побуждающие к опасному поведению несовершеннолетних (в частности, содержащие призывы к суициду или хулиганским действиям).

Под полный запрет подпадут и те системы ИИ, которые используются для так называемого социального скоринга (т.е. для моделирования поведения конкретного человека в социальных сетях в зависимости от его пола, возраста и других личностных характеристик) и позволяют правительствам проводить «социальную оценку общества».

Кроме того, ограничат использование искусственного интеллекта, применяемого для проверки документов при пересечении границы, биометрических данных и участвующего в кредитной оценке заемщика. Такие системы ИИ будут допускаться на рынок только при условии предоставления всей информации пользователю, а также наличия высокого уровня безопасности данных и четкого документирования всех процессов.

Также станет обязательным требование о предупреждении клиентов чат-ботов о том, что они ведут общение не с живым человеком, а с «ботом».

Европейский парламент и государства-члены ЕС должны будут принять предложения Еврокомиссии по европейскому подходу к системам ИИ и продукции машинного оборудования в рамках обычной законодательной процедуры. После того, как новые правила примут, их напрямую начнут применять на всей территории ЕС. Параллельно с этим ЕК продолжит сотрудничество с государствами-членами для реализации действий, предложенных в Скоординированном плане.