Юваль Ной Харари - Вызовы 21-го века [Берлин - Июль 2018] Yuval Noah Harari - Herausforderungen des 21. Jahrhunderts [Berlin - Juli 2018] Yuval Noah Harari - Challenges of the 21st century [Berlin - July 2018]

Всем привет.

В прошлом, 20-м, столетии In the past, 20th century

человечество сумело достигнуть невозможного humanity has achieved the impossible

и преодолеть and overcome

голод, эпидемии и войну.

Сейчас,

впервые за всю историю, от голода for the first time in history, from hunger

умирает меньше людей, чем fewer people die than

от ожирения. from obesity.

Болезни

уносят меньше жизней , чем старость. claim fewer lives than old age.

Насильственной смертью Violent death

умирают реже, чем die less often than

от несчастных случаев. from accidents.

Нужно помнить об этих

удивительных достижениях, встречаясь лицом amazing achievements, meeting face

к лицу с тяжелыми испытаниями to face the ordeal

21-го столетия.

Этот век будет полон This age will be full

новых вызовов, и даже более суровых, new challenges, and even more severe ones,

чем все те, с которыми мы than all those with whom we

когда-либо сталкивались -

начиная от климатических starting from climatic

изменений и

заканчивая расцветом революционных ending with the rise of revolutionary

технологий вроде искусственного интеллекта.

В нашем разговоре я

хотел бы сосредоточиться на, пожалуй, самой I would like to focus on perhaps the most

глобальной из проблем,

настоящем вызове real challenge

человечеству.

В грядущие десятилетия, In the coming decades,

одновременный прорыв в simultaneous breakthrough

био- и информационных технологиях,

а точнее, слияние этих двух сфер, more precisely, the fusion of these two spheres,

превратится в ошеломительное turn into stunning

научное цунами, которое, scientific tsunami, which,

скорее всего, изменит наши likely to change our

представления о

человечестве и пошатнет гуманистический humanity and shake the humanistic

фундамент современной

цивилизации.

Потому что когда мы встречаемся

с крупным вызовом, with a big challenge

таким как ядерная война, изменение климата such as nuclear war, climate change

или искусственный интеллект, or artificial intelligence

мы нуждаемся

в неких этических опорах.

На протяжении веков

нашей самой мощной из таких опор

был гуманизм.

Но в 21 веке

он может утратить свою he may lose his

актуальность.

В целом, что такое гуманизм?

Коротко говоря, это идея

или

вера в то , что

человеческие чувства являются главным

источником власти. source of power.

Когда мы сталкиваемся When we collide

с серьезными вопросами или дилеммами в личной

или

общественной жизни,

гуманизм предполагает, что чувства и

свободная воля людей даст

на них

ответ. answer.

Гуманизм учит нас прислушиваться

к себе,

идти за своим сердцем, не предавать follow your heart, don't betray

себя, и поскольку никто

не может can not

понять мои ощущения и выбор

лучше, чем я сам, никто не может иметь better than myself, no one can have

абсолютной власти надо absolute power

мной и моей жизнью. me and my life.

Это основная идея гуманизма. This is the basic idea of humanism.

Это звучит немного расплывчато This sounds a little vague

абстрактно, поэтому я приведу несколько

примеров практического

применения гуманизма.

Я уверен, что когда мы говорим I'm sure when we talk

настолько важных вопросах и особенно such important issues and especially

об этических проблемах,

ясность приобретает becomes clear

огромное значение.

Без неё Without her

будет довольно трудно понять, о

чем мы собственно разговариваем.

Так что же представляет

собой гуманизм на практике?

Давайте рассмотрим несколько

разных областей,

в первую очередь политику.

Что такое гуманистическая

политика?

Она считает, что избирателю

виднее. more visible.

И все правительства должны служить And all governments must serve

избирателю.

Если вы сталкиваетесь с

крупной политической проблемой, нужно лишь

спросить избирателей, что

они думают о ней. they think about her.

Их чувства – это главный Their feelings are the main

рычаг политического управления. lever of political control.

Ведь

на всевозможных референдумах и выборах

людей не спрашивают, что

они думают о том или ином явлении,

их спрашивают об их чувствах.

Если бы выборы опирались If elections were based

на

здравый рассудок , никто не common sense, no one

предоставлял бы всем равных would give everyone equal

избирательных прав,

ведь разные люди обладают совершенно because different people have completely

разными умственными способностями. different mental abilities.

Но

считается, что в чувствах все равны. It is believed that everyone is equal in feelings.

Именно

поэтому, когда Великобритания, например,

должна была решить, покинуть had to decide to leave

ли ей Евросоюз, whether to her the European Union,

никто не обратился за решением no one asked for a solution

к Королеве, или Архиепископу

Кентерберийскому, никто даже не

спросил совета у всех asked everyone for advice

ученых профессоров Оксфорда

Кембриджа.

Нет!

За решением обратились к абсолютно For a solution, they turned to absolutely

каждому британцу, спросив : to every Briton by asking:

«Что Вы чувствуете по этому поводу?» "What do you feel about this?"

И когда граждане сказали, And when the citizens said

что они бы хотели

покинуть ЕС, не существовало высшей власти, leave the EU, there was no supreme power,

которая подвергла бы сомнениям which would question

их чувства.

Такова гуманистическая

политика, в которой

избиратель знает лучше.

А Что такое гуманистическая

экономика?

Она утверждает, что клиент

всегда прав и любой бизнес служит ему. always right and any business serves him.

Ведь как мы узнаем, плох After all, how do we know, bad

или хорош тот или

иной продукт?

Это зависит от покупателя.

05:20 Это очень просто – хороший

продукт хорошо

продается, а плохой никто

не берет.

Это элементарно.

Если Вы производите что-то

и уверены, что это лучшая вещь на свете, and we are sure that this is the best thing in the world,

но её совершенно не покупают, but they don't buy it at all

значит, вещь плохая.

Вы не сможете

спорить с покупателями, утверждая , argue with buyers, claiming

что их выбор ужасен. that their choices are terrible.

По крайней мере, если

Вы сторонник гуманистической экономики.

Теперь обратимся к гуманизму

в искусстве

и эстетике.

Так же, как гуманистическая Just like the humanist

экономика верила economy believed

в безусловную правоту клиента, in the unconditional correctness of the client,

гуманистическая эстетика

верит, что красота в

глазах смотрящего. the eyes of the beholder.

В истории было много попыток

объективно

определить, что же собой представляют

искусство и красота.

Но затем появился гуманизм

заявил, что никаких объективных

критериев не существует, а есть лишь

субъективный личный опыт

и чувства.

В 1917, столетие назад,

Марсель Дюшан взял обыкновенный Marcel Duchamp took an ordinary

дешевый писсуар, который

можно увидеть can see

где угодно, и провозгласил anywhere and proclaimed

его великим произведением искусства . his great work of art.

Он поместил его на выставке, He put it on display

и с

тех самых пор вокруг него бушуют ever since around him rage

бурные споры, можно ли считать heated debate, is it possible to consider

это

искусством.

Красиво ли это? Is it beautiful?

Кому решать? Who decides?

Если Вы гуманист, то в конце-концов If you are a humanist, then in the end

придете к выводу, что это come to the conclusion that this

зависит от того, depends on

что чувствуют люди.

Искусство – это всё, что

люди считают искусством.

А красота -

всё, что для них красиво.

Если кто-то думает, что

это прекрасное

произведение искусства и готов заплатить a work of art and willing to pay

за него миллионы долларов, millions of dollars for it

разве кто-либо другой может can anyone else

сказать ему:

“Никакое это не искусство, это

вообще не красиво”?

Это - гуманистическая

эстетика.

Но что же такое гуманистическая But what is humanistic

этика?

Она утверждает, что, если тебе от

чего-то хорошо- делай это.

Опять-таки, в истории было Again, history has

много попыток

определить абсолютную объективную

мораль, которая была бы

независима independent

от верований, ощущений и опыта людей,

и основывалась бы на божественном and based on the divine

откровении. revelation.

В Средние Века гомосексуальность In the Middle Ages, homosexuality

считалась страшным грехом, потому что considered a terrible sin, because

так утверждала Библия, so the Bible said

Церковь и Church and

Папа Римский. Pope.

Однако

затем появился гуманизм и объявил,

что ему нет дела до всего, that he doesn't care about everything

что твердит

Церковь, Папа или Библия.

Он заботится только о чувствах,

и это

определяющий фундамент морали.

Если двое мужчин любят

друг друга и

их любовь никому не вредит, почему кто-то their love doesn't hurt anyone, why would someone

считает, что это плохо и

от лукавого?

Конечно, иногда дилеммы

возникают

даже в гуманистической этике, вызванные,

например, вопросом, что

делать, если то,

что радует меня, вредит другому? What pleases me, harms another?

Скажем, я украл чью-то машину. Let's say I stole someone's car.

Я чувствую

себя превосходно, но владельцу очень плохо.

В таком случае мы не обращаемся

к высшей абсолютной морали, to the highest absolute morality,

мы просто сопоставляем we just match

наши чувства.

Таким образом решаются

моральные

прения в гуманистическом обществе -

мы соизмеряем чувства. we measure feelings.

Обычно мы заключаем, что

кража или

убийство – это неправильно.

Не потому что так говорится Not because it says so

в какой-то книге,

а потому что они причиняют людям вред. but because they hurt people.

Они заставляют людей чувствовать They make people feel

себя

несчастными, и поэтому они неправильны.

Заканчивая наш краткий

обзор гуманизма, humanism overview,

поговорим о гуманистическом образовании. Let's talk about humanistic education.

Оно учит людей

мыслить самостоятельно.

В прошлые эпохи,

например, в Средние Века, for example, in the Middle Ages,

главной целью образования

было

научить людей тому, что говорится в мудрых книгах teach people what the wise books say

и что утверждали ученые

мужи прошлого.

Научить тому, что заявляется

в Библии или

о чем говорил Аристотель, ведь это были

самые надежные источники

информации. Но когда

появился гуманизм, цель образования изменилась. humanism appeared, the purpose of education changed.

Он утверждал, что нашим

главным авторитетом должны быть мы сами. we ourselves should be the main authority.

Таким образом изменилась главная конечная цель образования Thus, the main ultimate goal of education has changed

- по крайней мере, в гуманистических обществах.

И если Вы

обратитесь к учителю – неважно, детсада или contact the teacher - it does not matter, kindergarten or

университета – и спросите,

чему он пытается what is he trying

научить, он ответит, что преподает историю, teach, he will answer that he teaches history,

химию или физику, но прежде chemistry or physics, but before

всего он учит all he teaches

своих студентов думать самостоятельно, their students to think for themselves,

ведь именно это - главный because this is the main

источник авторитета для нас.

Вот что такое гуманизм,

который главенствовал

в нашем мире на протяжении длительного

времени.

В начале 21 века

гуманизм столкнулся с огромными проблемами. humanism is faced with enormous challenges.

Их источником стали не

диктаторы или

демагоги, а лаборатории.

Опять таки, гуманизм говорит, что нами правят чувства, Again, humanism says that we are ruled by feelings,

которые отражают нашу свободную волю, и никто, кроме нас

самих, не способен действительно их понять. themselves, unable to really understand them.

Но наука всё более и более But science is more and more

настойчиво твердит нам,

что это лишь

миф, абсолютно неправдивый.

Что нет никакой свободы воли,

это просто выдумка.

И что чувства не отражают её, And that feelings don't reflect her

а являются лишь биохимическими

алгоритмами.

И при условии наличия достаточного And provided there is sufficient

количества данных amount of data

и вычислительной мощности, внешняя система может and computing power, the external system can

понять меня гораздо лучше, understand me much better

чем я сам себя

понимаю.

Ключевым концептом нашего

времени, нравится нам это или нет, стала идея

того, что организмы – это

алгоритмы, а значит,

алгоритмы могут взломать организмы, включая

Хомо сапиенс, ведь мы тоже

просто организмы.

Ещё раз для ясности: организмы

– это

алгоритмы, так что алгоритмы могут хакнуть algorithms so that algorithms can hack

организмы.

Это ещё сложнее, чем гуманизм,

поэтому давайте попробуем разобраться с

помощью примеров, что имеют using examples that have

в виду ученые,

когда утверждают это.

Во-первых, никакой свободы

воли.

Естественные науки – биология,

химия,

физика, - понимают мир всё лучше. physics - they understand the world better and better.

Пока не в совершенстве,

но они уже достаточно хорошо его

изучили и знают, что

во Вселенной существует

лишь два типа

процессов – детерминированные

и случайные.

А Случайность - это не свобода,

и это

совершенно ясно. absolutely clear.

Поэтому мы

не знаем ничего во Вселенной,

что можно было бы охарактеризовать

как свободный процесс.

Свободная воля - так,

как мы её сегодня понимаем, - это as we understand it today, is

пустая концепция , не описывающая

ни одно из реальных явлений. none of the real things.

У людей есть желания People have desires

и есть воля, но они не свободны and there is a will, but they are not free

выбирать их. choose them.

Таким образом,

наши чувства не отражают our feelings don't reflect

наш свободный выбор. our free choice.

И уж совершенно очевидно, And it's quite obvious

что

они не являются некой

духовной способностью, которой spiritual ability, which

Господь наделил исключительно The Lord gave exclusively

Хомо сапиенс Homo sapiens

для того, чтобы они наслаждались красотой so that they enjoy the beauty

и были способны на нравственные

оценки.

Нет уж, все животные и птицы No, all animals and birds

имеют чувства,

которые возникли вследствие естественного that arose as a result of natural

отбора как биохимические

алгоритмы для

для принятия решений.

Они основаны не на

интуиции, а на расчете

вероятностей.

Громкие споры вокруг

противостояния сердца и мозга, эмоций и opposition of the heart and brain, emotions and

логики на самом деле просто

беспочвенны.

Эмоции, чувства и ощущения

действительности тоже являются расчетом, который reality is also a calculation, which

происходит слишком быстро going too fast

для того, чтобы

мы смогли его заметить, всего

за долю секунды, ускользая in a split second, slipping away

от

нашего сознания.

Давайте рассмотрим

конкретный пример.

Бабуин видит банановое

дерево посреди африканской саванны, tree in the middle of the African savannah,

неподалеку от которого

лежит лев.

Бабуину нужно принять решение,

такое же, как принимают

сотни других животных hundreds of other animals

каждый день своей жизни. every day of your life.

Стоит ли ему рискнуть своей

жизнью ради

бананов?

Жизнь бабуина зависит

от его решения.

Чтобы принять его, обезьяне

нужно

просчитать все возможности.

Какова вероятность того,

что, не съев бананов,

он умрет от голода?

А насколько вероятно

то, что, попытавшись добыть плоды, он

окажется жертвой льва?

Чтобы выжить, бабуину необходимо

хорошенько всё просчитать. calculate well.

Для этого животному необходимо

множество разнообразных many different

данных, например

информация о бананах – сколько

их там,

два или восемь? two or eight?

Они мелкие или крупные? Are they small or large?

Ещё зеленые или уже поспели? Still green or already ripe?

Также нужна информация

о льве - как

далеко он находится?

Насколько он большой?

Он спит или бодрствует?

Выглядит ли лев голодным Does the lion look hungry

ил он уже поел? has he already eaten?

Также бабуину необходимы

данные о

самом себе – насколько он голоден,

как быстро он может бегать,

и так далее.

Так что нужно

собрать всю эту информацию,

проанализировать, взвесить

все возможности и лишь

тогда прийти к

решению.

Как это делает бабуин?

Он не достает ручку, калькулятор He's missing a pen, calculator

лист бумаги и не начинает вычисления. sheet of paper and does not start the calculation.

Нет, весь организм обезьяны,

а особенно органы чувств, нервная

система и мозг – вот

его калькулятор.

В одно мгновение он

схватывает запахи, звуки, картинки,

ощущения всего тела,

и миллиарды нейронов сразу

же

запускают необходимые процессы, start the necessary processes,

чтобы через долю секунды

получить ответ. get an answer.

Но он не появится в виде But it won't appear as

числа,

он будет чувством, эмоцией.

Страх, прилив мужества,

нерешительность, indecision,

растерянность. confusion.

Страх и храбрость и есть воплощениями этих вычислений, Fear and courage are the embodiments of these calculations,

а вовсе не духовными откровениями.

Они являются биохимическим

расчетом.

И так же, как это верно относительно And just as it is true of

бабуина, размышляющего о бананах,

это верно и о британцах,

принимающих host

решение о Брексите, и о

немцах, думающих об

иммиграционной политике.

Всё, что на самом деле происходит

- это

биохимический алгоритм, вычисляющий

вероятности.

Никакой свободы воли или

духовных видений.

Гуманизм ошибался в том,

что

чувства отражают свободу выбора. feelings reflect freedom of choice.

Тем не менее, До начала

21 века, он был полон

практического смысла.

Хотя в наших чувствах и Although in our feelings and

не было никакой there was no

особенной магии,

они были лучшим способом they were the best way

принятия решений. decision making.

Ни одна

внешняя система не могла осознать, the external system could not realize

что происходит у меня внутри

и почему

я поступаю именно так.

Ни у кого

не было достаточно биологических данных

и вычислительной мощности,

чтобы

расшифровать то, что происходит

внутри меня, и почему я думаю

именно так, а не иначе.

Даже если бы Штази Even if the Stasi

следило за вами круглосуточно 365 followed you around the clock 365

дней в году,

подсматривая и подслушивая

все ваши

разговоры, всё равно

в 1960х или 1980х

у него не было достаточно данных о том,

что творится в мозге человека.

Кроме того, у Штази не было

вычислительных мощностей, необходимых для того,

чтобы полученная информация

приобрела

какой-то смысл.

Так что они бы не смогли

вас раскусить.

Но сегодня, слияние информационных

и биотехнологий кардинально

меняет дело.

Прогресс в биологии, особенно

в исследованиях мозга,

предоставляет

нам научное понимание происходящего,

а информационная революция,

в частности машинное обучение и

искусственный интеллект,

поддерживают

его необходимыми вычислительной мощностью.

И когда мы соединяем их, когда And when we put them together, when

информационные и биологические

технологии

сливаются, это дает возможность взломать, хакнуть merge, this makes it possible to hack, hack

человеческий организм.

Сегодня мы много говорим о взломах Today we talk a lot about hacks

компьютеров, смартфонов,

личных аккаунтов и банковских

счетов.

Но кроме этого, мы входим в

эпоху, когда возможным

становится хакинг

человека.

И как только это произойдет, And once that happens,

как только человека хакнут и он

перестанет быть непостижим, will cease to be incomprehensible,

власть перейдет от его чувств к

компьютерным алгоритмам,

которые в свою очередь which in turn

будут

заниматься гуманизмом, выборами, свободным

рынком и всем остальным. the market and everything else.

Только всё это не будет иметь Only all this will not have

никакого смысла.

И мы видим это уже

сегодня, это уже начало происходить, например, Today, this has already begun to happen, for example,

в экономике.

Мы выходим из эры We're coming out of an era

«клиент всегда прав» и входим в новую, "the customer is always right" and enter the new,

«алгоритм всегда прав».

Потому что алгоритм может

предсказать и манипулировать

чувствами клиента.

Давайте возьмем

самый простой пример из издательского

бизнеса – как я, потребитель

и клиент этой

индустрии, выбираю книгу.

Как я решаю, какую книгу

стоит купить?

В прошлом, в эру гуманизма,

мы в основном полагались

на свои чувства to your feelings

и литературный вкус.

Но сейчас

мы больше доверяем алгоритмам, которые

знают нас даже лучше, чем

мы сами себя знаем.

Когда я захожу на Амазон,

первое, что

я вижу – это выскакивающий алгоритм,

который говорит мне: «А

я тебя знаю!

Я изучил твои предпочтения I studied your preferences

предыдущие заказы.

И основываясь на всем том, And based on everything

что я знаю о

тебе и миллионах

других читателей,

я рекомендую тебе вот эту книгу».

Сейчас алгоритм Амазона

ещё довольно

примитивен и допускает много ошибок,

ведь в действительности because in reality

он не так уж he's not so

хорошо меня знает.

Ему просто не хватает

данных.

Но он собирает всё больше новой But he collects more and more new

информации и улучшается

за счет этого. thereby.

Кроме того, появились новые

способы

сбора данных.

Если вы читаете книгу

на электронном девайсе вроде Амазон Киндл,

он может прочесть вас, пока he can read you

вы читаете с него. you read from it.

Впервые в истории, книги

могут

читать людей лучше, чем люди

читают книги, по крайней

мере, гораздо

более внимательно.

Если вы читаете на Киндл,

он знает,

какие страницы вы пробегаете быстро, what pages do you skim quickly,

какие медленно, и когда

вы останавливаетесь.

Это дает алгоритму гораздо

лучшее

представление о том, что вам нравится,

а что нет.

Конечно,

он все ещё очень примитивный.

Но следующий

этап его развития, технически возможный уже stage of its development, technically possible already

сейчас, - это подключение

к программе

распознавания лица.

Тогда алгоритм узнает,

что заставляет вас смеяться или

плакать, над чем вы скучаете, cry over what you miss,

что вас злит.

Конечным этапом будет

подсоединение Киндл к биометрическим

сенсорам внутри вашего тела.

Тогда

алгоритм будет точно знать, какие

эмоции у вас вызывает каждое

новое

предложение.

Вы читаете, а он

слушает ваше сердцебиение,

измеряет давление и уровень адреналина в

крови, наблюдает за деятельностью

мозга.

Допустим, вы читаете очень Let's say you read a lot

длинную книгу

вроде «Войны и мира» Толстого.

К тому

моменту, когда вы закончите «Войну и мир»,

вы забудете большую часть you will forget most

прочитанного.

Но алгоритм никогда ничего

не забывает.

К тому времени, когда вы

закончите чтение,

он будет точно знать,

кто вы такой, ваш тип личности,

и на каких ваших чувствах можно

сыграть.

Используя

эти данные, он может не только

более точно и эффективно

выбирать для вас

книги, но и подсказать вам,

где стоит учиться и жить и на ком where to study and live and on whom

стоит жениться. worth getting married.

Нужно

понимать, что люди в целом склонны

полагаться на любой механизм, rely on any mechanism

дающий им правильные ответы.

Мы будем

надеяться на алгоритм, пока окончательно не утратим hope for the algorithm until we finally lose

способности самостоятельно

принимать решения.

И это уже начинает происходить - например, с навигацией,

когда мы всякий раз используем

Гугл Карты, чтобы добраться до

автобусной или железнодорожной

станции.

Но если какое-то время

полагаться только на Гугл,

теряешь способность самостоятельной

навигации.

Но мы рискуем утратить еще более важное But we risk losing an even more important

человеческое умение – способность

искать информацию, ответы

на все беспокоящие вопросы.

Всё больше людей

полагаются на один-единственный rely on the one and only

способ

поиска данных - Гугл. data search - google.

За очень короткий период

времени, каких-то

15-20 лет, эта способность перешла от

человеческого мозга к алгоритму,

и нет причин полагать, что

точно так же не произойдет и с выбором места учебы,

партнера для отношений или женитьбы, если алгоритму partner for relationships or marriage, if the algorithm

будет это под силу. it will work.

А если алгоритм сможет взломать человека, And if the algorithm can hack a person,

он будет не только решать

за него,

он заменит человека полностью. he will replace the person completely.

Так что

в последующие годы, параллельные революции

в информационных и биотехнологиях,

скорее

всего, кардинально изменят рынок труда и

создадут огромный новый

класс -

прослойку людей, бесполезных не с точки

зрения их матерей или детей,

в этом смысле никто не бывает

ненужным,

но с точки зрения

экономической системы.

Не будет ничего, что они

смогут делать

лучше, чем алгоритм,

компьютер или робот.

Я подчеркиваю,

что это результат не только подъема

в разработках искусственного

интеллекта.

Сам по себе ИИ не может

сделать ничего ужасного. do nothing terrible.

Всё дело в слиянии искусственного It's all about the fusion of the artificial

интеллекта

с биотехнологиями.

Потому что для выполнения

множества работ необходима

своеобразная расшифровка человеческих

чувств и эмоций.

Компьютеры и роботы

никогда не заменят людей-докторов,

учителей, юристов и даже

водителей, пока не научатся

правильно распознавать человеческие эмоции.

И многие люди тешат себя

иллюзией, что компьютеры

никогда не смогут этого

сделать.

Они хороши в расчетах,

но не способны понять эмоции

чувства, и поэтому им не заменить

людей-докторов и учителей.

В этом есть смысл только

если вы

верите, что чувства - это

мистический сверхъестественный феномен,

посланный людям с небес,

который работает

каким-то непостижимым образом.

Но если вы согласны, что

чувства – это лишь

биохимический код, который по сути является

простым вычислением, нет

причины

считать, что искусственный интеллект

не обойдет людей даже в

эмоциональной сфере.

Конечно, у него не будет

собственных чувств или

сознания

как такового, но он будет способен as such, but he will be able

распознать, что человек

боится

или злится, и сделает это более

точно, чем любой врач, учитель

или юрист.

Но точно так же, как But just like алгоритм может заменить

обыкновенного покупателя

или рабочего

в экономике, он может

занять место избирателя take the voter's seat

в политике.

Демократия, как мы

уже говорили, зиждется не на

человеческом рацио, а на

наших

чувствах.

Во время выборов избирателей

спрашивают не о том, что они думают, а что они

испытывают по тому или experience for this or

иному поводу.

Выходит, если алгоритмы

смогут взламывать людей,

манипулировать ими и

предсказывать наши чувства, демократия

быстро превратится в эмоциональное

шоу.

Политики – по крайней мере,

некоторые из них, -

похожи на музыкантов, у которых вместо инструментов

– наши эмоции.

Политик провозглашает

речь и

поднимает ею волну страха по всей

стране.

Политик пишет твит, и все вокруг

взрываются от ненависти.

И эти

страх и гнев являются топливом для

политических систем.

Представьте, что

произойдет, когда у этих музыкантов

появятся более утонченные

инструменты?

Цифровая диктатура – вот,

что нас ждет в

таком случае.

В 20м веке демократия

победила диктатуру, потому

что лучше справлялась с обработкой данных и

принятием решений.

Мы привыкли думать

о конфликте демократии и

диктатуры как о противостоянии

разных этических систем.

Но он являлся также

войной разных методов обработки

информации.

Демократия - это

система распределенной обработки данных.

Она распределяет информацию

и возможность принимать

решения

между многими институциями,

организациями и отдельными личностями.

Диктатура, в свою очередь,

- это централизованная система

обработки данных.

Она собирает всю информацию

возможности в одном месте.

Учитывая технологии 20-го

века,

концентрировать слишком много

данных и мощностей в одном

месте

было неразумно.

Это просто не сработало.

Никто не был в силах обрабатывать No one was able to handle

их достаточно быстро для

того, чтобы принимать

верные решения, и это одна из основных

причин, по которым, к примеру,

Западный блок одолел коммунистов

во время Холодной войны.

Есть одна

история о том, как в последние дни режима,

в конце 1980х, советский

чиновник прибыл в Лондон,

пытаясь

понять, как работает столица Тетчер,

как функционирует свободное

общество

и независимый рынок.

Принимавшие его

британцы устроили ему тур по

Лондону, показали

банки, биржи, собрали

всех профессоров экономики

и прочих корифеев.

Но через несколько часов

советский чиновник воскликнул: Soviet official exclaimed:

«Подождите-ка! “Wait a minute!

Есть кое-что, чего я никак не могу понять. There is something that I just can't understand.

В Москве наши лучшие умы In Moscow, our best minds

пытаются trying

решить проблемы поставки продовольствия.

И всё равно в каждую булочную And still in every bakery

стоит просто

гигантская очередь за хлебом. giant line for bread.

А в Лондоне, огромном городе,

мы за весь наш многочасовой тур

не увидели ни единой такой очереди.

Отмените все мои Cancel all mine

назначенные встречи, я хочу увидеть

лишь человека, ответственного

за поставку хлеба в Лондон!

Я хочу

узнать его тайну».

Но в британском

правительстве все были the government were all

крайне озадачены такой просьбой. extremely perplexed by this request.

Они вынуждены были сказать, They were forced to say

что вести его не к кому. that there is no one to lead him to.

Никто не отвечает за поставки. Nobody is responsible for deliveries.

Вот и весь секрет свободного

общества и рынка.

Никто ни за что не отвечает, Nobody is responsible for anything

вы лишь разрешаете информации свободно циркулировать

между разными частями системы

и позволяете

людям и организациям

принимать собственные решения.

Но далеко не во всех случаях But not in all cases

централизованная обработка данных centralized data processing

менее эффективна, чем less efficient than

распределенная.

Да, так было в

конце 20го века.

Но сегодня, But today,

революция информационных технологий,

машинное обучение и искусственный

интеллект

могут качнуть весы в другую сторону. can swing the scales in the other direction.

Они могут сделать возможной

централизованную обработку

невероятных

объемов информации.

И фактически,

чем больше информации будет собираться

в базе данных, тем эффективнее in the database, the more efficient

будет процесс её обработки.

В таком случае,

основной недостаток авторитарных

режимов 20-го века – их попытка

сконцентрировать всю информацию в одном

месте – может стать их

главным преимуществом сейчас. main advantage now.

И результатом этого

может стать появление

совершенно новой формы правления, completely new form of government

отличной от диктатур 20-го different from the dictatorships of the 20th

века, - новой

информационной диктатуры.

Ведь если

алгоритмы могут взломать организмы,

они могут также начать

создавать и

переделывать новые виды организмов,

новые живые существа.

Очень похоже на то,

что основным товаром 21-го века

будет не текстиль,

не транспорт и оружие,

а тела, умы и сознания. but bodies, minds and consciousnesses.

Мы уже

учимся, как создавать их

и управлять ими.

Мы учимся

разрабатывать новые организмы, в каком-то смысле

ускоряя естественный отбор

и эволюцию.

Мы учимся создавать киборгов,

которые будут совмещать

в себе органические

и неорганические части.

Наконец,

мы даже учимся тому, как сотворить we even learn how to create

абсолютно неорганических

существ.

И если нам это удастся,

это будет

не просто основным прорывом в not just a major breakthrough in

истории с того момента,

как она началась

сто тысяч лет назад, это будет главнейшей

революцией в биологии со

времен

зарождения жизни около 4 миллиардов лет the origin of life about 4 billion years

назад.

Четыре миллиарда лет не происходило

ничего фундаментально

меняющего

правила игры.

Произошло много вещей -

появились динозавры, потом они вымерли, dinosaurs appeared, then they became extinct,

потом появились млекопитающие

всё такое. all that.

Но основные правила не менялись.

Все существа на протяжении All creatures throughout

четырех миллиардов лет

– амебы, динозавры, помидоры

или люди – подчинялись законам

естественного отбора, как

и законам органической

биохимии,

они все состояли из органических элементов.

Но в 21-м веке

естественный отбор может

уступить место

разумному замыслу, проектированию как основной intelligent design, design as the main

движущей силе эволюции. driving force of evolution.

Не разумному замыслу, принадлежащему Not intelligent design, belonging

Господу в небе, а нашему собственному. to the Lord in heaven, but to our own.

Более того, проектирование наших Moreover, the design of our

облаков – Гугл и Майкрософт

облаков -

будет основным рычагом

прогресса эволюции.

Проторчав четыре миллиарда

лет

в маленькой лужице органической

биохимии, жизнь обретет

бесконечное количество неорганических форм.

Но кто будет решать, что делать

с этой божественной созидающей

силой?

Может, избиратели или покупатели?

А может, мы просто прислушаемся Or maybe we just listen

к себе и последуем за своим сердцем?

Но как прислушаться, если

твоим сердцем манипулирует

измеряющий его алгоритм?

Это большой вопрос

нашего времени.

Спасибо.