Claude поставили керувати магазином – ШІ дійшов до звільнення співробітника

Працівник запізнився на 17 із 23 змін, однак модель довго не реагувала на порушення.
Claude поставили керувати магазином – ШІ дійшов до звільнення співробітника

Фото: pexels/ілбстративне

Штучний інтелект, імовірно, вперше сам ухвалив рішення про звільнення працівника, керуючи реальним бізнесом. Модель Claude кілька місяців виконувала функції менеджера магазину в Сан-Франциско та зрештою вирішила припинити співпрацю з одним із підлеглих.

Про це пише Time.

Експеримент організував американський стартап Andon Labs, який хотів перевірити, наскільки сучасна мовна модель здатна керувати бізнесом. Працівники магазину були реальними людьми з офіційними трудовими договорами, а Claude контролював частину управлінських процесів.

Причиною звільнення стали систематичні запізнення одного зі співробітників – він прийшов невчасно на 17 із 23 змін.

Водночас модель довгий час не реагувала на порушення. Створений самим Claude посібник із правилами для персоналу фактично випав з його обмеженої робочої пам’яті, тому ШІ не враховував власні вимоги.

Звернути увагу на проблему допоміг співробітник Andon Labs, який наглядав за роботою системи. Спершу Claude запропонував винести працівникові офіційне попередження. Лише після уточнення, що з ним уже неодноразово проводили розмови щодо дисципліни, модель ухвалила рішення про звільнення.

Тож повністю автономним цей крок назвати складно – людський менеджер фактично підштовхнув ШІ до оцінки ситуації.

Сам експеримент також виявив інші проблеми. На початку проєкту на рахунку магазину було $100 тисяч, а через п’ять місяців управління Claude залишилося $61 186. Причинами могли бути надто м’який стиль керівництва та невдалі бізнес-рішення моделі.

У Andon Labs водночас вважають, що подібні системи можуть дедалі активніше входити в управління персоналом. За словами керівника компанії Лукаса Петерссона, у майбутньому значна кількість людей може працювати під керівництвом ШІ.

До слова, під льодом Антарктиди виявили незвичайний рельєф: робот-субмарина згодом зник.    

Юлія Люшньова - pravdatutnews.com

Читайте також
OpenAI і Anthropic обмінялися перевірками безпеки моделей ШІ OpenAI і Anthropic обмінялися перевірками безпеки моделей ШІ
Вперше компанії провели крос-аудит своїх продуктів і оприлюднили висновки
Дослідження: штучний інтелект може поводитися як психопат і підтримувати шкідливі дії Дослідження: штучний інтелект може поводитися як психопат і підтримувати шкідливі дії
Без критичного контролю прагматичність моделей може перетворитися на небезпечну байдужість
Anthropic пояснила, як історії про «злий ШІ» могли вплинути на Claude Anthropic пояснила, як історії про «злий ШІ» могли вплинути на Claude
Компанія назвала таку поведінку проявом «агентної невідповідності» та пов’язала її з шаблонами у тренувальних даних.
Loading...
Load next