Епоха розумних машин: що ми можемо дозволити собі забути?

Джин Трейсі (Gene Tracy) – почесний професор фізики у коледжі Вільгельма і Марії (США), автор книги і багатьох наукових робіт, блогер ділиться своїми думками щодо нашої пам’яті та розумних машин. Наша редакція переклала цей цікавий опус.

У далекі часи, в мою студентську бутність, коли більшість комп’ютерів все ще були величезними мейнфреймами (поняття «мейнфрейм» синонімічне терміну «велика електронно-обчислювальна машина» – прим. автора), у мене був друг, чий науковий керівник наполягав на тому, щоб він виконав довгий і складний розрахунок теорії атомів вручну. Це призвело до великої кількості, списаних олівцем сторінок, повних помилок та описок, в результаті чого мій друг підкорився своєму повному розчаруванню. Одного вечора він пробрався в комп’ютерну лабораторію і написав короткий код, щоб виконати розрахунок. Потім він копітко скопіював висновок вручну і передав своєму професорові.

« – Досконало. Це показує, що ви – справжній фізик», – сказав його науковий керівник. Професор так ніколи і не дізнався про те, що сталося. Хоча я втратив зв’язок з моїм другом, я знаю багато інших людей, які побудували успішну наукову кар’єру, але, при цьому не оволоділи героїчними навичками паперових розрахунків.

Прийнято обговорювати перехідні процеси в суспільстві, концентруючись на нових необхідних навичках. Але замість того, вивчаючи ці навички, можливо нам слід йти від зворотного: що можна безболісно і безпечно забути? У 2018 році журнал Science опитав десятки молодих вчених стосовно того, в яких школах мають навчатися наступні покоління. Багато хто говорив, що ми повинні скоротити час, що витрачається на запам’ятовування фактів, і дати більше місця для творчих занять. Оскільки Інтернет стає все більш потужним і всеосяжним, виникає резонне питання: навіщо турбуватися щодо запам’ятовування і збереження інформації? Якщо студенти можуть отримати доступ до світових знань за допомогою смартфона, чому вони повинні носити так багато в своїх головах?

Цивілізації розвиваються через стратегічне забування того, що колись вважалося життєвими навичками. Після аграрної революції епохи неоліту, сільський працівник міг дозволити собі позбавитися від вміння відстежувати тварин, а також від навичок, необхідних для полювання і збирання. У наступні тисячоліття, коли суспільства почали індустріалізуватися, читання і письмо стали життєво важливими, а знання оранки і збирання відійшли на другий план.

Сьогодні багато людей можуть загубитися без смартфона та GPS. Що ж буде далі? З появою безпілотних автомобілів, ми забудемо, як керувати автівкою? Оточені AI-технологіями з розпізнаванням голосу, які можуть аналізувати різноманітні слова, ми забудемо, як писати? І чи має це значення?

Більшість з нас тепер не знає, як вирощувати їжу, яку ми їмо, або будувати будинки, в яких ми живемо. Ми не розуміємо, як займатися тваринництвом, або як прясти вовну, а може навіть і як змінити свічки запалювання в автомобілі. Більшості з нас не потрібно знати ці речі, тому що ми є членами того, що соціальні психологи називають «мережами транзакційної пам’яті».

Ми постійно залучені у «транзакціях пам’яті» разом із спільнотою «партнерів по пам’яті» за допомогою таких заходів, як бесіда, читання і письмо. Як членам цих мереж, більшості людей тепер не потрібно пам’ятати більшість речей. Не тому, що знання повністю забуте або втрачено, а тому, що хтось або щось ще зберігає його. Нам лише потрібно знати, з ким поговорити або куди подивитися. Успадкований талант до такої кооперативної поведінки – дар еволюції, і він значно розширює нашу ефективну пам’ять.

Новим є те, що нашими партнерами по пам’яті тепер є інтелектуальні машини. Але AI – такий як пошук Google – виключний партнер. Він миттєво реагує і завжди доступний, а також дає доступ до великої частини всього сховища людських знань.

Дослідники виявили декілька пасток в поточній ситуації. По-перше, наші предки розвивалися в межах груп інших людей, свого роду однорангової мережі. Проте інформація від інших людей незмінно проходить через призму різних форм упередженості та мотивованого міркування. Вони лукавлять і раціоналізують. Вони можуть помилятися. Ми навчилися жити з цими недоліками, у себе, і в інших. Але презентація алгоритмів АІ спонукає багатьох людей вважати, що ці алгоритми обов’язково є правильними і «об’єктивними». Простіше кажучи, це магічне мислення.

Найсучасніші інтелектуальні технології сьогодні навчаються шляхом повторного тестування та процесу оцінювання, де люди в кінцевому підсумку перевіряють і коригують правильні відповіді. Оскільки машини повинні навчатися на кінцевих наборах даних, алгоритми мають тенденцію посилювати наші упередження – про расу, стать і багато чого іншого. Інструмент внутрішнього підбору персоналу, який використовувався Amazon до 2017 року, являє собою класичний приклад: навчання за рішеннями його внутрішнього відділу кадрів, компанія виявила, що алгоритм систематично обмежував можливості кандидатів-жінок. Якщо ми не будемо пильні, наші AI супер-партнери можуть стати супер-упередженими.

Друга проблема пов’язана з легкістю доступу до інформації. У нецифровій царині, зусилля, необхідні для пошуку знань від інших людей, або відвідування бібліотеки, дають нам зрозуміти, які знання лежать в інших головах або книгах, і які – в нашій голові. Але дослідники виявили, що сама гнучкість відповіді інтернету може призвести до помилкового переконання, закодованого у пізніших спогадах, що знання, які ми шукали, були частиною того, що ми знали увесь час.

Можливо, ці результати свідчать про те, що у нас є інстинкт «розширеного розуму», ідея, яку в 1998 році запропонували філософи Девід Чалмерс (David Chalmers) і Енді Кларк (Andy Clark). Вони припускають, що ми повинні сприймати наш розум, як щось, що не лише міститься у фізичному мозку, але й поширюється назовні, включаючи пам’ять і засоби мислення: блокноти, олівці, комп’ютери, планшети та хмари.

Враховуючи все більш безперешкодний доступ до зовнішніх знань, можливо, ми розвиваємо все більш розширене «Я» – латентну персону, чия завищена самооцінка передбачає розмите розуміння того, де знаходяться знання в нашій мережі пам’яті. Якщо так, то що відбувається, коли інтерфейси мозок-комп’ютера і навіть інтерфейси з мозок-мозок стануть звичайною справою, можливо, через нейронні імплантати? Ці технології в даний час розробляються для використання пацієнтами з обмеженою фізичною активністю, жертвами інсульту або особами з передовою ALS або хворобою рухових нейронів. Але вони, ймовірно, стануть набагато більш поширеними, коли технологія буде вдосконалена – підвищення ефективності в конкурентному світі.

Здається, що виникає новий вид цивілізації, багате штучним інтелектом, з повсюдними точками доступу, які дозволяють нам приєднатися до гнучких штучних мереж пам’яті. Навіть з імплантами велика частина знань, до яких ми будемо отримувати доступ, буде зберігатися не в нашому «оновленому» мозку кіборга, а віддалено – в банках серверів. В одну мить, від запуску до відповіді, кожен пошук Google проходить в середньому близько 1500 миль в центр обробки даних і назад і використовує близько 1000 комп’ютерів на своєму шляху. Але залежність від мережі також означає прийняття нових можливих вразливостей. Руйнування будь-якої з мереж, від якої залежить наше благополуччя, таких як їжа або енергія, стане лихом. Без їжі ми голодуємо, без енергії ми замерзаємо. І саме через широко поширену втрату пам’яті цивілізації ризикують провалитися в нове темне століття.

Але навіть якщо можна сказати, що машина думає, люди і машини будуть думати по-різному. У нас є сильні сторони, навіть якщо машини часто більш об’єктивні, ніж ми. Працюючи разом в команді «людина-AI», ми можемо краще грати в шахи і приймати ефективніші медичні рішення. Так чому б не використати розумні технології для поліпшення навчання студентів?

Технології можуть потенційно поліпшити освіту, значно розширити доступ і сприяти розвитку людської творчості і благополуччя. Багато людей справедливо відчувають, що знаходяться в якомусь пороговому культурному просторі, на порозі великих змін. Можливо, викладачі з часом стануть кращими вчителями в союзі з AI-партнерами. Але в учбовому середовищі, на відміну від шахів або медичної діагностики, студент ще не є експертом з інформаційного наповнення. AI як всезнаючий партнер по пам’яті може легко стати опорою, створюючи студентів, які думають, що вже можуть рухатися самостійно.

Як показує досвід мого друга-фізика, пам’ять може адаптуватися і розвиватися. Частина цієї еволюції незмінно включає в себе забуття старих шляхів, щоб вивільнити час і простір для нових навичок. За умови, що старі форми знань зберігаються десь в нашій мережі і можуть бути знайдені, коли вони нам потрібні, можливо, вони дійсно не забуті. Однак з плином часу одне покоління поступово, але, безсумнівно, стає чужим для наступного.

ВАРТО ЧИТАТИ:

Джерело: Aeon

Читайте также:

5 найкращих організацій, які використовують Web 3.0 для вирішення біотехнологічних проблем

Як інженери перетворили мертвих павуків на маніпулятори для роботів

Добірка українських подкастів про науку, технології та IT

Конфлікт LaMDA або як розвивалася дискусія навколо свідомості нейромережі Google