Дослідник з безпеки штучного інтелекту Еван Х’юбінгер з Anthropic вважає, що ймовірність загибелі людства через штучний інтелект протягом наступних 10 років перевищує 10%. Його заява з’явилася після того, як інший спеціаліст у галузі штучного інтелекту Джейкоб Коксон звільнився з Anthropic, заявивши, що компанії «грають із нашими життями».
Коксон, який раніше працював дослідником і в Anthropic, і в OpenAI, повідомив у пості в соцмережі X, що вирішив піти через побоювання з приводу занадто швидкого розвитку технологій. За його словами, люди, які створюють сучасні ШІ-системи, «щиро впевнені, що вони можуть вбити всіх нас до кінця десятиліття».
«Не недооцінюйте силу цієї технології. Незабаром це будуть надлюдські системи, які зможуть зламати будь-що, за ніч змінити будь-яку галузь та отримати реальні владу та ресурси». — Джейкоб Коксон, колишній дослідник Anthropic та OpenAI
Його публікація набрала понад 140 мільйонів переглядів і знову розігріла давню суперечку: чи зможуть люди безпечно створювати та контролювати ШІ-моделі, які стають все більш потужними. На тлі підготовки Anthropic та OpenAI до можливих публічних розміщень акцій частина дослідників закликає сповільнити розвиток технологій.
Еван Х’юбінгер, керівник напряму безпеки штучного інтелекту в Anthropic, підтримав слова Коксона. Він заявив, що компанії дійсно вважають за можливий сценарій, за якого штучний інтелект призведе до загибелі людства.
«Джейкоб має рацію — ми справді щиро вважаємо, що штучний інтелект може вбити всіх людей. Особисто я оцінюю ймовірність того, що це відбудеться протягом наступного десятиліття, більш ніж 10%». — Еван Х’юбінгер, керівник напряму безпеки штучного інтелекту в Anthropic
За словами Х’юбінгера, Anthropic намагається розв’язати проблему безпеки, але компанія поки не має плану, який гарантував би контроль над майбутніми надрозумними системами.
Однією з головних небезпек, яку обговорюють фахівці, є рекурсивне самовдосконалення. Це сценарій, за якого штучний інтелект зможе самостійно створювати досконаліші версії себе без участі людини. Зараз таких можливостей штучний інтелект не має, але компанії попереджають, що їхня поява може значно ускладнити контроль над технологіями.
Раніше такі побоювання вже висловлювали керівники та дослідники з індустрії. У 2023 році глава OpenAI Сем Альтман, керівник Anthropic Даріо Амодеї та інші фахівці підписали заяву, в якій закликали вважати зниження ризику вимирання людства через штучний інтелект глобальним пріоритетом нарівні з пандеміями та ядерною війною.
У науковому середовищі для оцінки подібних сценаріїв іноді використовують термін p(doom) — умовну ймовірність катастрофічного результату розвитку штучного інтелекту. При цьому серед експертів немає єдиної думки: одні вважають такі ризики реальними та вимагають регулювання технологій, інші називають їх надмірними й такими, що відвертають від більш нагальних проблем.
Дискусія щодо контролю за штучним інтелектом вже перейшла на рівень законодавства. Наприклад, у США обговорюються ініціативи, які мають створити правила для розробки та впровадження передових моделей, включаючи FRONTIER Act та законопроєкт про тимчасове призупинення розробки штучного надрозуму.
Більше цікавого:
- Чи може штучний інтелект замість вас вдало спланувати день?
- Чи може штучний інтелект створити вакцину проти раку? Поки ні, але є одне «але»
- Оголення людей через штучний інтелект. Чому це проблема і як з цим намагаються боротися
Джерело: CNBC