Генеральний директор OpenAI Сем Альтман поділився своїми поглядами на майбутнє штучного інтелекту. У ході недавнього виступу його попросили розповісти про найбільш тривожні сценарії, пов’язані зі штучним інтелектом, які викликають у нього занепокоєння та «позбавляють сну». Керівник компанії, що стоїть за ChatGPT, виділив три найбільш жахливі ситуації.
Сценарій 1: «Погані хлопці отримують суперінтелект першими»
Звучить як сюжет науково-фантастичного фільму: якась група не найдобріших людей поширює ультрапросунуту систему штучного інтелекту, яка перетворить життя звичайних людей на пекло.
Наприклад, подібна технологія потрапляє не в ті руки, решті світу поки нема чого їй протиставити, і лиходії вирішують використовувати надінтелект для розробки біологічної зброї, щоб вивести з ладу енергосистему Сполучених Штатів, зламати фінансову систему та викрасти всі гроші американців.
Розробник зазначив, що потенціал штучного інтелекту у сферах біотехнологій та кібербезпеки вже «досить великий», і його команда «невпинно попереджає про це», проте ці слова поки що не сприймаються серйозно.
Сценарій 2: Інциденти зі «втратою контролю»
За такого розвитку подій штучний інтелект може почати ігнорувати запити людини, відмовлятися виконувати поставлені завдання або навіть самоналаштовуватися, дотримуючись власних бажань. «З урахуванням того, що системи стають все більш потужними, така проблема може стати реальністю», — зазначив глава OpenAI.
Сценарій 3: «Штучний інтелект випадково захоплює світ»
Альтман припускає і такий розвиток подій, причому це може статися майже непомітно суспільству. Нейромережі можуть настільки глибоко інтегруватися у повсякденне життя, що стануть незамінними. На його думку, захоплення може навіть не викликати негативної реакції у людей.
Глава OpenAI також припустив, що в майбутньому президент США може довірити штучному інтелекту управління країною, передавши йому значну частину прийняття рішень зі схвалення суспільства.
Обговорюючи штучний інтелект у ширшому контексті, Альтман підкреслив, що передбачити його розвиток та вплив є вкрай складним, попри заяви багатьох експертів про протилежне. «Це нова і надто складна система [для точного прогнозування]», — зазначив він.
Детальніше думки Сема Альтмана можна почути в інтерв’ю.
Більше цікавого:
- Чи зможе успішно працювати IT-компанія, де всі співробітники агенти зі штучним інтелектом? Дослідження
- Коли нейромережі можуть припустити смерть людини: нове дослідження Anthropic
- 11 лідерів, які змінюють штучний інтелект, — від Сема Альтмана до «хресної матері штучного інтелекту»
Джерело: Electron media group