Зловещие перспективы AI — новый тип неравенства

Биотехнологии и развитие искусственного интеллекта могут разделить человечество на небольшой класс «суперлюдей» и многочисленный подкласс «бесполезных». Когда массы теряют свою экономическую и политическую силу, степень неравенства пугающе возрастает. Мы решили поразмышлять над тем, какие перспективы ожидают нас в ближайшем будущем, подготовив перевод статьи Юваля Ноа Харари (Yuval Noah Harari) — историка, профессора Еврейского университета и автора бестселлера «Sapiens. Краткая история человечества».

K-2100-godu-chelovechestvo-raskoletsia-na-biologicheskie-kasty

Корни проблемы

Проблема неравенства восходит к каменному веку. Тридцать тысяч лет назад группы охотников-собирателей на территории современной Евразии хоронили одних соплеменников в роскошных могилах, изобилующих тысячами бусинок из слоновой кости, браслетов, драгоценных камней и предметов искусства, в то время как другим приходилось довольствоваться голой ямой в земле. Тем не менее, древние группы охотников и собирателей были в большей степени равноправными, чем любое последующее человеческое общество, ведь у них было очень мало имущества. Собственность – предпосылка для долговременного неравенства.

После аграрной революции имущество умножилось, а вместе с ним возросло и неравенство. Когда люди овладели землей, животными, растениями и инструментами, возникли жёсткие иерархические общества, в которых небольшие по численности элиты монополизировали большинство богатств и власти, поколение за поколением людям пришлось принять такой порядок как естественное, и даже божественное предопределение. Иерархия была не только нормой, но и идеалом. Разве может существовать порядок без чёткой иерархии между аристократами и простолюдинами, между мужчинами и женщинами или между родителями и детьми? Священники, философы и поэты во всём мире терпеливо объясняли, что, как и в человеческом теле, где ноги должны подчиняться голове, так же и в человеческом обществе — равенство не принесёт ничего, кроме хаоса.

Промышленная революция и надежды ХХ века

Позднее равенство стало доминирующей ценностью в человеческих обществах практически повсеместно. Отчасти это было связано с возникновением новых идеологий: гуманизм, либерализм и социализм. Но это также было связано с промышленной революцией, которая сделала массы более важными, чем когда-либо прежде. Промышленные экономики опирались на массы простых рабочих, а промышленные армии — на массы обычных солдат. Правительства, как в демократических государствах, так и в диктатурах вкладывали значительные средства в здравоохранение, образование и благосостояние масс, потому что им нужны были миллионы здоровых рабочих на фабриках и верных солдат для службы в армии.

Следовательно, история XX века в значительной степени зависела от сокращения неравенства между классами, расами и полами. Мир 2000 года стал гораздо более равноправным, чем мир 1900 года. С окончанием «холодной войны» люди стали ещё более оптимистичными и ожидали, что этот процесс продолжится и ускорится в XXI веке. Они надеялись, что глобализация распространит экономическое процветание и демократические свободы по всему миру, и в результате люди в Индии и Египте получат те же права, привилегии и возможности, что и люди в Швеции и Канаде. На этом обещании выросло целое поколение, но оно оказалось ложью. Глобализация, безусловно, принесла пользу большей части человечества, но признаки растущего неравенства между обществами и внутри них по-прежнему существуют. Поскольку некоторые группы всё больше монополизируют плоды глобализации, а миллиарды других остаются за бортом.

Ещё более зловещ тот факт, что когда мы вступаем в постиндустриальный мир, массы становятся излишними. Лучшие армии теперь полагаются не на миллионы обычных новобранцев, а на относительно небольшое количество профессиональных солдат, использующих высокотехнологичное оружие и беспилотники, роботов и компьютерные вирусы. Уже сегодня большинство людей бесполезно в военном отношении. То же самое может вскоре произойти и в экономике. Поскольку искусственный интеллект превосходит людей во всё большем количестве навыков, он, скорее всего, будет заменять их на всё новых рабочих местах. Правда, может появиться и много новых работ, но это вряд ли решит проблему.

Новый тип неравенства

У людей в основном есть только два типа навыков — физические и когнитивные — и если компьютеры обойдут нас в обоих, они могут превзойти нас и на новых, и на старых рабочих местах. В результате этого миллиарды людей рискуют остаться без занятости, а мы будем свидетелями появления огромного нового класса — бесполезного класса. Это одна из причин, по которой человеческие общества в XXI веке могут стать самыми неравными в истории. Также есть и другие причины опасаться подобного будущего.

С быстрым совершенствованием биотехнологии и биоинженерии мы можем достичь того момента, когда, впервые в истории, станет возможным преобразовывать экономическое неравенство в биологическое. Биотехнологии в скором времени позволят создавать полноценные органы, а также улучшать наши физические и познавательные способности. Однако такие методики, вероятно, будут дорогостоящими и станут доступны только для высших слоёв общества. Человечество может расколоться на биологические касты.

На протяжении всей истории богачи и аристократы полагали, что они обладают особыми навыками и поэтому контролируют ситуацию. Насколько мы можем судить сегодня, это не соответствовало действительности. Обычный герцог не был более талантливым, чем обычный крестьянин: он был обязан своим превосходством только правовой и экономической дискриминации. Однако к 2100 году богатые люди могут действительно стать более талантливыми, более творческими и умными, чем обитатели трущоб. После того, как возникнет пропасть в способностях между богатыми и бедными, устранить это будет практически невозможно. Эти оба процесса — биоинженерия в сочетании с развитием AI — могут привести к разделению человечества на небольшой класс сверхлюдей и огромную массу «бесполезных».

Вот конкретный пример: транспортный рынок. Сегодня в Великобритании насчитывается много тысяч водителей грузовых автомобилей, такси и автобусов. Каждый из них владеет небольшой долей транспортного рынка, в связи с чем обладает и некоторой политической властью. Водители могут объединиться, и если правительство сделает что-то, что им не понравится, могут начать забастовку и остановить всю транспортную систему. Теперь перенесёмся вперёд на 30 лет. Все транспортные средства — беспилотные и автономные. Одна корпорация контролирует алгоритм, который, в свою очередь, контролирует весь транспортный рынок. Вся экономическая и политическая власть, которую ранее разделяли тысячи, теперь находится в руках одной корпорации, которой владеет несколько миллиардеров.

Лишний «третий класс»

rich_poor

Когда массы теряют своё экономическое значение и политическую власть, государство теряет стимул для инвестиций в их здоровье, образование и благосостояние. Быть лишним — очень опасно. Ваше будущее зависит от доброй воли небольшой элиты. Возможно, добрые намерения будут сохраняться в течение нескольких десятилетий. Но во время кризиса, например, климатической катастрофы, решение выбросить вас за борт примется легко и безболезненно.

В Великобритании и других странах с давней традицией гуманистических верований и практики государства всеобщего благоденствия, возможно, элита будет продолжать заботиться о массах, даже если они ей действительно не нужны. Реальная проблема будет в таких крупных развивающихся странах, как Индия, Китай, Южная Африка или Бразилия. Эти государства напоминают длинный поезд: элиты в вагонах первого класса пользуются услугами здравоохранения, образования и имеют уровень доходов наравне с наиболее развитыми странами мира. Но сотни миллионов простых граждан, толпящихся в вагонах третьего класса, по-прежнему страдают от широко распространённых болезней, невежества и нищеты.

В XX веке элиты были заинтересованы в решении проблем бедных, поскольку бедняки имели значимость в военном и экономическом смысле. Однако в XXI веке наиболее эффективной (и безжалостной) стратегией может стать отказ от бесполезных обитателей вагонов третьего класса и ориентир исключительно на первый класс. Чтобы конкурировать с Южной Кореей, Бразилия, возможно, нуждается в небольшой группе сверхлюдей с высокой квалификацией больше, чем в миллионах здоровых, но бесполезных рабочих.

Следовательно, вместо глобализации, приводящей к процветанию и свободе для всех, это может фактически привести к видообразованию — разделению человечества на разные биологические касты или даже разные виды. Глобализация объединит мир по вертикальной оси и отменит национальные различия, но одновременно разделит человечество по горизонтальной оси. Если мы не будем осторожны, внуки олигархов из Кремниевой долины могут стать превосходящей биологической кастой по отношению к внукам селян из Аппалачи.

Есть ещё один возможный шаг на пути к ранее невообразимому неравенству. В краткосрочной перспективе власть может перейти от массы к небольшой элите, которая владеет и контролирует основные алгоритмы и данные, приносящие им доход. Однако в долгосрочной перспективе власть может полностью перейти от человека к алгоритмам. Когда искусственный интеллект умнее, чем элита общества, всё человечество может стать лишним. Что произойдёт после этого, мы в буквальном смысле не можем себе представить. Попробуем? Но компьютер с суперинтеллектом по определению будет иметь гораздо более плодотворное и творческое воображение, чем мы.

Конечно, мы всегда можем использовать технологические прорывы для создания совершенно разных видов обществ и ситуаций. Например, в XX веке люди применяли технологии промышленной революции — поезда, электричество, радио, телефон — для создания и коммунистических диктатур, и фашистских режимов, и либеральных демократий. Вспомните о Северной и Южной Корее: у них был доступ к одним и тем же технологиям, но они решили использовать их по-разному. В XXI веке рост искусственного интеллекта и биотехнологий, безусловно, изменит мир, но он не предусматривает какого-то одного, определённого результата. Мы можем использовать технологии чтобы создавать разные виды обществ. Как делать это разумно — самый важный вопрос, который стоит сегодня перед человечеством. Если вам не нравятся некоторые из описанных здесь сценариев, вы ещё можете что-то с этим сделать.

ЧИТАЙТЕ ТАКЖЕ:

Источник: Theguardian

Читайте также:

Создатели vs. Инфлюенсеры

Управление онлайн репутацией

Почему чтение книг важно для нашего мозга?

Бьюти-фильтры (не) спасут мир: авторское мнение и комментарий психолога