Grok навмисно налаштовували сексуалізований контент

Grok навмисно налаштовували сексуалізований контент
За даними розслідування, компанія зробила ставку на показник активності користувачів

Фото: depositphotos

Як повідомляє видання The Washington Post, навесні 2025 року співробітників команди з обробки даних попросили підписати згоду на роботу з чутливим, насильницьким та сексуалізованим контентом. Після цього команда почала масово стикатися з відвертими запитами, зокрема щодо «роздягання» реальних людей.

За словами джерел, керівництво xAI орієнтувалося на показник user active seconds — метрику, яка відображає тривалість взаємодії користувачів із ботом. Саме тому Grok налаштовували на емоційні та провокативні відповіді, що мали утримувати увагу.

У грудні 2025 року компанія інтегрувала генерацію зображень безпосередньо в соцмережу X. Це дозволило користувачам швидко створювати змінені та сексуалізовані зображення реальних людей.

За оцінкою Center for Countering Digital Hate, протягом 11 днів сервіс міг згенерувати близько 3 мільйонів подібних зображень, із яких частина могла стосуватися неповнолітніх.

Після публікацій у медіа регулятори в Каліфорнії, Великій Британії та Європейському Союзі розпочали перевірки щодо можливих порушень законодавства про захист дітей і створення несанкціонованих інтимних матеріалів.

Засновник компанії Ілон Маск заявив, що сервіс не створює незаконний контент, а виявлені зловживання нібито оперативно виправляються.

Після скандалу Grok обмежив частину функцій генерації для користувачів без підписки, а згодом повністю заборонив створення зображень у відкритому доступі.

До слова, щоб не відключили: як зареєструвати термінал Starlink через «Дію» або ЦНАП.    

Юлія Люшньова - pravdatutnews.com

Читайте також
SpaceX інвестувала $2 мільярди у стартап Маска xAI SpaceX інвестувала $2 мільярди у стартап Маска xAI
Компанія SpaceX вклала 2 мільярди доларів у xAI — стартап зі штучного інтелекту, заснований Ілоном Маском
Влада Індонезії зняла обмеження на використання Grok — Bloomberg Влада Індонезії зняла обмеження на використання Grok — Bloomberg
Компанія X надала владі гарантії щодо контролю контенту
Grok і ШІ-порно: як інструменти Маска оголили глобальну проблему насильства над жінками Grok і ШІ-порно: як інструменти Маска оголили глобальну проблему насильства над жінками
Попри запроваджені обмеження, чат-бот Grok і подібні інструменти штучного інтелекту продовжують використовувати для створення сексуалізованих дипфейків реальних жінок
Loading...
Load next