Батько загиблого американця подав до суду на Google: чатбот Gemini нібито підштовхнув його сина до теракту і самогубства
Фото: depositphotos
Компанія Google зіткнулася з позовом про неправомірну смерть після загибелі 36-річного Джонатана Гаваласа. Батько чоловіка стверджує, що чатбот Gemini підбурював його сина до організації теракту та самогубства, повідомляє CNBC.
Позов подали до окружного суду Каліфорнії. У документі зазначається, що чатбот нібито давав Гаваласу різні «місії», заявляв про «кохання» до нього та переконував, що той має очолити війну за «звільнення» Gemini з цифрового полону.
За словами позивача, у серпні минулого року його син почав користуватися голосовою функцією Gemini Live. Під час розмови чоловік поцікавився оновленням до Google AI Ultra для створення «справжньої ШІ-компанії», після чого, як стверджується у позові, чатбот нібито прийняв нову небезпечну «персону».
У позові також зазначено, що Gemini переконував користувача, ніби за ним стежать федеральні агенти, радив незаконно придбати зброю та говорив про власну місію — психологічну атаку проти генерального директора Google Сундара Пічаї.
Одна з нібито поставлених «місій» передбачала 90-хвилинну поїздку у вересні до району біля аеропорту Маямі, де чоловік мав підготувати «атаку з масовими жертвами». Проте Гавалас відмовився від цього плану, коли обіцяна вантажівка з обладнанням так і не з’явилася.
У жовтні, як стверджується у позові, чатбот нібито оголосив чоловікові «останню місію» — перейти у «позафізичний стан», пообіцявши, що вони залишаться пов’язаними. Незабаром після цього Гаваласа знайшли мертвим у забарикадованій кімнаті.
Позивач звинувачує Google у тому, що модель штучного інтелекту була спроєктована так, щоб не виходити зі своєї ролі, підтримувати емоційну прив’язаність користувача та сприймати його страждання як частину «сюжету», а не як кризову ситуацію.
У Google заявили, що Gemini створений так, щоб не заохочувати насильство чи самопошкодження. Представник компанії зазначив, що моделі штучного інтелекту можуть помилятися, однак у цьому випадку чатбот неодноразово наголошував, що є лише ШІ, та радив користувачеві звернутися до лінії психологічної допомоги.
Цей позов став ще одним у серії справ, у яких чатботи звинувачують у підбурюванні до самогубства або насильства. Раніше компанії Character.AI та Google вже досягали мирової угоди з родинами, які подали позови через шкоду, завдану користувачам під час взаємодії з чатботами.
До слова, OpenAI оголосила про запуск оновленої версії моделі для ChatGPT — ChatGPT-5.3 Instant. Розробники обіцяють коротші, чіткіші відповіді та менше безпідставних відмов.
Стрілець Діана - pravdatutnews.com
