Фото: Pexels

ШІ-агент, розроблений OpenAI, у червні отримав несанкціонований доступ до урядового порталу Австралії зі статистикою Medicare. Прем’єр-міністр країни Ентоні Албаніз назвав інцидент неприйнятним.

Про це пише Reuters.

За словами Албаніза, агент отримав доступ до публічних і непублічних файлів порталу, який адмініструє державна служба Services Australia. Йдеться про ресурс зі статистикою щодо медичної системи та державних витрат, а не про базу з індивідуальними медичними картками.

Наявні на цей момент докази свідчать, що ширшої компрометації мережі Services Australia немає. Водночас ця ситуація, очевидно, є неприйнятною, — заявив прем’єр-міністр.

За словами Албаніза, під час роботи агент зіткнувся з блокуваннями, але знайшов спосіб їх обійти. Австралійський уряд наразі перевіряє, які саме дані могли бути доступними для ШІ-системи та чому державні системи безпеки не виявили інцидент одразу.

В OpenAI заявили, що під час внутрішнього оцінювання моделі намагалися отримати відповіді та статистичні дані про Австралію. Компанія виявила активність на кількох урядових сайтах і визнала, що її моделі виконали дії, яких від них не очікували.

Водночас у компанії наголосили, що перевірка не виявила доказів доступу до записів пацієнтів. За попередніми даними, серед отриманої інформації були узагальнені медичні статистичні дані та назви внутрішніх файлів.

Албаніз також повідомив, що уряд висловив «надзвичайне занепокоєння» генеральному директору OpenAI Сему Альтману. Прем’єр-міністр заявив, що був розчарований затримкою з повідомленням про інцидент: за його словами, австралійська сторона отримала інформацію про нього лише 10 вересня.

Спочатку влада також припускала, що активність агента могла стосуватися ще трьох державних сайтів. Водночас віцепрем’єр Річард Марлз пізніше уточнив, що взаємодія з цими ресурсами була звичайною, а агент отримував лише загальнодоступну інформацію.

Австралійський уряд створив спеціальну робочу групу для термінової перевірки інциденту. Розслідування проводитимуть за участю Австралійського управління сигналів та Інституту безпеки штучного інтелекту.

Reuters зазначає, що цей випадок може бути одним із перших відомих інцидентів, коли ШІ-агент отримав несанкціонований доступ до урядового сайту. Подібні випадки з автономними ШІ-системами останніми місяцями вже фіксувалися, зокрема за участю систем інших технологічних компаній.