Фото: Pexels

Причиною він назвав побоювання, що провідні компанії можуть створити системи, розвиток і поведінку яких людство вже не зможе контролювати.

За словами Коксона, останні три роки він працював у OpenAI та Anthropic над попереднім навчанням моделей. На цьому етапі штучний інтелект опрацьовує великі обсяги даних і набуває базових здібностей.

У своєму дописі в соцмережі X дослідник розкритикував підхід обох компаній до розвитку ШІ. Він вважає, що галузь фактично рухається до створення систем, здатних самостійно вдосконалюватися.

Коксон припускає, що майбутні моделі можуть перевершити людей за інтелектуальними можливостями, використовувати кіберзброю, отримувати доступ до ресурсів і поступово здобувати реальний вплив. Водночас він наголошує, що це його оцінка потенційних ризиків, а не твердження про те, що сучасний ШІ вже має такі можливості.

Вони мчать прямо до надінтелекту, здатного самовдосконалюватися, і ризикують нашими життями, – написав Коксон.

Дослідник також по-різному оцінює ситуацію в OpenAI та Anthropic. На його думку, в OpenAI масштаб потенційних загроз недооцінюють, тоді як в Anthropic ризики усвідомлюють краще, але все одно продовжують розробку через конкуренцію з іншими компаніями.

Коксон не погоджується з аргументом, що припинення роботи над потужнішими моделями може поставити компанію у невигідне становище, якщо конкуренти продовжать розробки. Він вважає таку логіку небезпечною та закликає провідні лабораторії домовлятися про спільні обмеження.

Якщо ж координації між компаніями досягти не вдасться, дослідник пропонує розглянути жорсткіші заходи, зокрема тимчасове призупинення нарощування можливостей ШІ-систем.

До слова, ШІ може допомогти з доглядом за шкірою, але не замінить дерматолога.

Олена Стебніцька - pravdatutnews.com