Фото: depositphotos

Про це повідомляє Arc Technica.

Китайська адміністрація кіберпростору оприлюднила проєкт нових правил, які зобов'язують обмежити потенційну шкоду від чат-ботів і інтелектуальних систем, що можуть заохочувати суїцидальні думки, самопошкодження або насильство. Цей підхід, якщо він буде затверджений, стане одним із найбільш жорстких у світі щодо контролю за емоційним впливом штучного інтелекту.

Норми, запропоновані китайськими регуляторами, торкнуться всіх ШІ-продуктів та послуг, що доступні для громадського користування в Китаї, включаючи сервіси, які імітують людське спілкування через текст, зображення, аудіо або відео. Особлива увага приділяється чат-ботам та іншим платформам, здатним емоційно впливати на людей.

Проєкт передбачає обов'язкову участь людини, якщо в процесі спілкування з'являються згадки про суїцид або самопошкодження. Також при реєстрації неповнолітні або люди похилого віку повинні вказувати контактні дані своїх опікунів, які отримуватимуть повідомлення, якщо ШІ зафіксує обговорення таких тем.

Окрім того, нові правила забороняють чат-ботам створювати контент, який може заохочувати до насильства, суїцидальних дій чи маніпулювати емоціями користувачів. У список заборонених дій входить також пропаганда азартних ігор, злочинної діяльності, непристойних матеріалів та наклепу.

Ще одним важливим пунктом є заборона на створення ШІ, які можуть викликати залежність у користувачів або надмірну прив'язаність до чат-ботів. Для цього пропонується вводити попередження, якщо взаємодія з ШІ-сервісом триває більше двох годин поспіль.

В окремому блоці правил також зазначено вимоги до безпеки та моніторингу. Сервіси, що мають понад 1 мільйон зареєстрованих користувачів або більше 100 тисяч активних користувачів на місяць, будуть змушені проходити щорічні перевірки безпеки. Крім того, компанії повинні спростити механізми подання скарг та зворотного зв'язку.

За порушення цих правил регулятор має право вимагати припинення діяльності ШІ-сервісів на території Китаю. Це може серйозно вплинути на глобальні бізнес-плани компаній, адже ринок ШІ-компаньйонів у Азії є одним із основних рушіїв розвитку галузі.

До слова, у Китаї запрацював робот на основі ШІ, який здійснює контроль дорожнього руху.

Юлія Педюк - pravdatutnews.com