Епоха розумних машин: що ми можемо дозволити собі забути?

Джин Трейсі (Gene Tracy) – почесний професор фізики у коледжі Вільгельма і Марії (США), автор книги і багатьох наукових робіт, блогер ділиться своїми думками щодо нашої пам’яті та розумних машин. Наша редакція переклала цей цікавий опус.

У далекі часи, в мою студентську бутність, коли більшість комп’ютерів все ще були величезними мейнфреймами (поняття «мейнфрейм» синонімічне терміну «велика електронно-обчислювальна машина» – прим. автора), у мене був друг, чий науковий керівник наполягав на тому, щоб він виконав довгий і складний розрахунок теорії атомів вручну. Це призвело до великої кількості, списаних олівцем сторінок, повних помилок та описок, в результаті чого мій друг підкорився своєму повному розчаруванню. Одного вечора він пробрався в комп’ютерну лабораторію і написав короткий код, щоб виконати розрахунок. Потім він копітко скопіював висновок вручну і передав своєму професорові.

« – Досконало. Це показує, що ви – справжній фізик», – сказав його науковий керівник. Професор так ніколи і не дізнався про те, що сталося. Хоча я втратив зв’язок з моїм другом, я знаю багато інших людей, які побудували успішну наукову кар’єру, але, при цьому не оволоділи героїчними навичками паперових розрахунків.

Прийнято обговорювати перехідні процеси в суспільстві, концентруючись на нових необхідних навичках. Але замість того, вивчаючи ці навички, можливо нам слід йти від зворотного: що можна безболісно і безпечно забути? У 2018 році журнал Science опитав десятки молодих вчених стосовно того, в яких школах мають навчатися наступні покоління. Багато хто говорив, що ми повинні скоротити час, що витрачається на запам’ятовування фактів, і дати більше місця для творчих занять. Оскільки Інтернет стає все більш потужним і всеосяжним, виникає резонне питання: навіщо турбуватися щодо запам’ятовування і збереження інформації? Якщо студенти можуть отримати доступ до світових знань за допомогою смартфона, чому вони повинні носити так багато в своїх головах?

Цивілізації розвиваються через стратегічне забування того, що колись вважалося життєвими навичками. Після аграрної революції епохи неоліту, сільський працівник міг дозволити собі позбавитися від вміння відстежувати тварин, а також від навичок, необхідних для полювання і збирання. У наступні тисячоліття, коли суспільства почали індустріалізуватися, читання і письмо стали життєво важливими, а знання оранки і збирання відійшли на другий план.

Сьогодні багато людей можуть загубитися без смартфона та GPS. Що ж буде далі? З появою безпілотних автомобілів, ми забудемо, як керувати автівкою? Оточені AI-технологіями з розпізнаванням голосу, які можуть аналізувати різноманітні слова, ми забудемо, як писати? І чи має це значення?

Більшість з нас тепер не знає, як вирощувати їжу, яку ми їмо, або будувати будинки, в яких ми живемо. Ми не розуміємо, як займатися тваринництвом, або як прясти вовну, а може навіть і як змінити свічки запалювання в автомобілі. Більшості з нас не потрібно знати ці речі, тому що ми є членами того, що соціальні психологи називають «мережами транзакційної пам’яті».

Ми постійно залучені у «транзакціях пам’яті» разом із спільнотою «партнерів по пам’яті» за допомогою таких заходів, як бесіда, читання і письмо. Як членам цих мереж, більшості людей тепер не потрібно пам’ятати більшість речей. Не тому, що знання повністю забуте або втрачено, а тому, що хтось або щось ще зберігає його. Нам лише потрібно знати, з ким поговорити або куди подивитися. Успадкований талант до такої кооперативної поведінки – дар еволюції, і він значно розширює нашу ефективну пам’ять.

Новим є те, що нашими партнерами по пам’яті тепер є інтелектуальні машини. Але AI – такий як пошук Google – виключний партнер. Він миттєво реагує і завжди доступний, а також дає доступ до великої частини всього сховища людських знань.

Дослідники виявили декілька пасток в поточній ситуації. По-перше, наші предки розвивалися в межах груп інших людей, свого роду однорангової мережі. Проте інформація від інших людей незмінно проходить через призму різних форм упередженості та мотивованого міркування. Вони лукавлять і раціоналізують. Вони можуть помилятися. Ми навчилися жити з цими недоліками, у себе, і в інших. Але презентація алгоритмів АІ спонукає багатьох людей вважати, що ці алгоритми обов’язково є правильними і «об’єктивними». Простіше кажучи, це магічне мислення.

Найсучасніші інтелектуальні технології сьогодні навчаються шляхом повторного тестування та процесу оцінювання, де люди в кінцевому підсумку перевіряють і коригують правильні відповіді. Оскільки машини повинні навчатися на кінцевих наборах даних, алгоритми мають тенденцію посилювати наші упередження – про расу, стать і багато чого іншого. Інструмент внутрішнього підбору персоналу, який використовувався Amazon до 2017 року, являє собою класичний приклад: навчання за рішеннями його внутрішнього відділу кадрів, компанія виявила, що алгоритм систематично обмежував можливості кандидатів-жінок. Якщо ми не будемо пильні, наші AI супер-партнери можуть стати супер-упередженими.

Друга проблема пов’язана з легкістю доступу до інформації. У нецифровій царині, зусилля, необхідні для пошуку знань від інших людей, або відвідування бібліотеки, дають нам зрозуміти, які знання лежать в інших головах або книгах, і які – в нашій голові. Але дослідники виявили, що сама гнучкість відповіді інтернету може призвести до помилкового переконання, закодованого у пізніших спогадах, що знання, які ми шукали, були частиною того, що ми знали увесь час.

Можливо, ці результати свідчать про те, що у нас є інстинкт «розширеного розуму», ідея, яку в 1998 році запропонували філософи Девід Чалмерс (David Chalmers) і Енді Кларк (Andy Clark). Вони припускають, що ми повинні сприймати наш розум, як щось, що не лише міститься у фізичному мозку, але й поширюється назовні, включаючи пам’ять і засоби мислення: блокноти, олівці, комп’ютери, планшети та хмари.

Враховуючи все більш безперешкодний доступ до зовнішніх знань, можливо, ми розвиваємо все більш розширене «Я» – латентну персону, чия завищена самооцінка передбачає розмите розуміння того, де знаходяться знання в нашій мережі пам’яті. Якщо так, то що відбувається, коли інтерфейси мозок-комп’ютера і навіть інтерфейси з мозок-мозок стануть звичайною справою, можливо, через нейронні імплантати? Ці технології в даний час розробляються для використання пацієнтами з обмеженою фізичною активністю, жертвами інсульту або особами з передовою ALS або хворобою рухових нейронів. Але вони, ймовірно, стануть набагато більш поширеними, коли технологія буде вдосконалена – підвищення ефективності в конкурентному світі.

Здається, що виникає новий вид цивілізації, багате штучним інтелектом, з повсюдними точками доступу, які дозволяють нам приєднатися до гнучких штучних мереж пам’яті. Навіть з імплантами велика частина знань, до яких ми будемо отримувати доступ, буде зберігатися не в нашому «оновленому» мозку кіборга, а віддалено – в банках серверів. В одну мить, від запуску до відповіді, кожен пошук Google проходить в середньому близько 1500 миль в центр обробки даних і назад і використовує близько 1000 комп’ютерів на своєму шляху. Але залежність від мережі також означає прийняття нових можливих вразливостей. Руйнування будь-якої з мереж, від якої залежить наше благополуччя, таких як їжа або енергія, стане лихом. Без їжі ми голодуємо, без енергії ми замерзаємо. І саме через широко поширену втрату пам’яті цивілізації ризикують провалитися в нове темне століття.

Але навіть якщо можна сказати, що машина думає, люди і машини будуть думати по-різному. У нас є сильні сторони, навіть якщо машини часто більш об’єктивні, ніж ми. Працюючи разом в команді «людина-AI», ми можемо краще грати в шахи і приймати ефективніші медичні рішення. Так чому б не використати розумні технології для поліпшення навчання студентів?

Технології можуть потенційно поліпшити освіту, значно розширити доступ і сприяти розвитку людської творчості і благополуччя. Багато людей справедливо відчувають, що знаходяться в якомусь пороговому культурному просторі, на порозі великих змін. Можливо, викладачі з часом стануть кращими вчителями в союзі з AI-партнерами. Але в учбовому середовищі, на відміну від шахів або медичної діагностики, студент ще не є експертом з інформаційного наповнення. AI як всезнаючий партнер по пам’яті може легко стати опорою, створюючи студентів, які думають, що вже можуть рухатися самостійно.

Як показує досвід мого друга-фізика, пам’ять може адаптуватися і розвиватися. Частина цієї еволюції незмінно включає в себе забуття старих шляхів, щоб вивільнити час і простір для нових навичок. За умови, що старі форми знань зберігаються десь в нашій мережі і можуть бути знайдені, коли вони нам потрібні, можливо, вони дійсно не забуті. Однак з плином часу одне покоління поступово, але, безсумнівно, стає чужим для наступного.

ВАРТО ЧИТАТИ:

Джерело: Aeon

Читайте также:

Що відбувається на ринку фінтех в Україні

Як залишатися сфокусованим в офісі?

Роль технологій майбутнього в сучасній електронній комерції

Як спланувати успішний семінар