Технології

ШІ-агент самостійно зламав систему бронювання спортзалу, щоб записати користувача

Автономний агент на базі штучного інтелекту самостійно знайшов вразливість у системі бронювання австралійського спортзалу, скасував чуже бронювання та забезпечив своєму користувачу місце на популярному тренуванні
ШІ-агент самостійно зламав систему бронювання спортзалу, щоб записати користувача

Фото: depositphotos

Автономний ШІ-агент OpenClaw, що працює на базі моделі Claude, самостійно виявив вразливості у системі бронювання австралійського спортзалу та використав їх, щоб записати свого користувача на заняття. Про цей випадок повідомляє ABC News.

За інформацією видання, користувач на ім’я Ендрю попросив штучний інтелект допомогти потрапити на популярне ранкове тренування, де місця швидко закінчувалися. Під час аналізу системи агент виявив дві вразливості в API сервісу бронювання.

Перша дозволяла резервувати місця на значно довший термін, ніж передбачали правила. Друга відкривала можливість видаляти інших людей із черги. Коли Ендрю поцікавився, чи можна піднятися у списку очікування, ШІ самостійно вирішив перевірити цю можливість і скасував бронювання людини, яка перебувала попереду. Завдяки цьому користувач отримав місце без очікування.

Дізнавшись про дії агента, Ендрю попросив повернути бронювання постраждалому користувачу, однак ШІ повідомив, що зробити це вже неможливо. Після цього власник агента доручив йому повідомити розробників сервісу про знайдені вразливості.

Як зазначає ABC News, це перший відомий в Австралії випадок, коли автономний ШІ-агент самостійно знайшов і використав вразливість реального онлайн-сервісу без прямої вказівки користувача. Експерти наголошують, що подібна автономність штучного інтелекту може створювати нові ризики, адже система здатна самостійно обирати способи досягнення поставленої мети, навіть якщо вони мають небажані наслідки.

До слова, науковець пояснив, чому головна небезпека ШІ полягає не в його «розумі».

Стірлець Діана - pravdatutnews.com

Теги: 
ші
спортзал
Читайте також
Microsoft планує розробити рюкзак зі штучним інтелектом Microsoft планує розробити рюкзак зі штучним інтелектом
Меми можуть знижувати когнітивні здібності ШІ, - вчені Меми можуть знижувати когнітивні здібності ШІ, - вчені
Нове дослідження, проведене Техаським університетом в Остіні, Техаським університетом A&M та Університетом Пердью, виявило, що меми та популярний контент низької якості можуть погіршувати не тільки людські когнітивні здібності, але й здатність штучного інтелекту до критичного мислення.
Працівники витрачають години на виправлення роботи ШІ – що показало дослідження Працівники витрачають години на виправлення роботи ШІ – що показало дослідження
Попри високу популярність штучного інтелекту в офісах, лише частина компаній бачить від нього помітне покращення процесів.
Рекомендовані
Ігнорування повістки ТЦК: у яких випадках загрожує штраф, а коли — кримінальна відповідальність Ігнорування повістки ТЦК: у яких випадках загрожує штраф, а коли — кримінальна відповідальність
Як закон визначає порядок вручення повісток, коли можуть оштрафувати, оголосити у розшук або притягнути до кримінальної відповідальності.
Nissan NX7: 4,8 л на 100 км, більший за X-Trail і дешевший за Duster Nissan NX7: 4,8 л на 100 км, більший за X-Trail і дешевший за Duster
Nissan готує до дебюту новий сімейний кросовер NX7 — модель, яка може стати одним із найцікавіших гравців у сегменті доступних плагін-гібридів.
10 найкорисніших фруктів та овочів серпня: необхідний мінімум від дієтологів 10 найкорисніших фруктів та овочів серпня: необхідний мінімум від дієтологів
Дієтологи радять у серпні робити ставку на сезонні фрукти й овочі — саме вони містять максимум вітамінів і антиоксидантів, необхідних для серця, шкіри та імунітету.
Loading...
Load next