×

我們使用cookies幫助改善LingQ。通過流覽本網站,表示你同意我們的 cookie policy.


image

TED Talks + Video : Science / Brain / Health / Biology, Nita Farahany / When technology can read minds, how will we protect our privacy?

Nita Farahany / When technology can read minds, how will we protect our privacy?

In the months following the 2009 presidential election in Iran, protests erupted across the country. The Iranian government violently suppressed what came to be known as the Iranian Green Movement, even blocking mobile signals to cut off communication between the protesters. My parents, who emigrated to the United States in the late 1960s, spend substantial time there, where all of my large, extended family live. When I would call my family in Tehran during some of the most violent crackdowns of the protest, none of them dared discuss with me what was happening. They or I knew to quickly steer the conversation to other topics. All of us understood what the consequences could be of a perceived dissident action. But I still wish I could have known what they were thinking or what they were feeling. What if I could have? Or more frighteningly, what if the Iranian government could have? Would they have arrested them based on what their brains revealed? That day may be closer than you think.

With our growing capabilities in neuroscience, artificial intelligence and machine learning, we may soon know a lot more of what's happening in the human brain. As a bioethicist, a lawyer, a philosopher and an Iranian-American, I'm deeply concerned about what this means for our freedoms and what kinds of protections we need. I believe we need a right to cognitive liberty, as a human right that needs to be protected. If not, our freedom of thought, access and control over our own brains and our mental privacy will be threatened.

Consider this: the average person thinks thousands of thoughts each day. As a thought takes form, like a math calculation or a number, a word, neurons are interacting in the brain, creating a miniscule electrical discharge. When you have a dominant mental state, like relaxation, hundreds and thousands of neurons are firing in the brain, creating concurrent electrical discharges in characteristic patterns that can be measured with electroencephalography, or EEG. In fact, that's what you're seeing right now. You're seeing my brain activity that was recorded in real time with a simple device that was worn on my head. What you're seeing is my brain activity when I was relaxed and curious. To share this information with you, I wore one of the early consumer-based EEG devices like this one, which recorded the electrical activity in my brain in real time. It's not unlike the fitness trackers that some of you may be wearing to measure your heart rate or the steps that you've taken, or even your sleep activity. It's hardly the most sophisticated neuroimaging technique on the market. But it's already the most portable and the most likely to impact our everyday lives.

This is extraordinary. Through a simple, wearable device, we can literally see inside the human brain and learn aspects of our mental landscape without ever uttering a word. While we can't reliably decode complex thoughts just yet, we can already gauge a person's mood, and with the help of artificial intelligence, we can even decode some single-digit numbers or shapes or simple words that a person is thinking or hearing, or seeing.

Despite some inherent limitations in EEG, I think it's safe to say that with our advances in technology, more and more of what's happening in the human brain can and will be decoded over time. Already, using one of these devices, an epileptic can know they're going to have an epileptic seizure before it happens. A paraplegic can type on a computer with their thoughts alone. A US-based company has developed a technology to embed these sensors into the headrest of automobilies so they can track driver concentration, distraction and cognitive load while driving. Nissan, insurance companies and AAA have all taken note. You could even watch this choose-your-own-adventure movie "The Moment," which, with an EEG headset, changes the movie based on your brain-based reactions, giving you a different ending every time your attention wanes.

This may all sound great, and as a bioethicist, I am a huge proponent of empowering people to take charge of their own health and well-being by giving them access to information about themselves, including this incredible new brain-decoding technology. But I worry. I worry that we will voluntarily or involuntarily give up our last bastion of freedom, our mental privacy. That we will trade our brain activity for rebates or discounts on insurance, or free access to social-media accounts ... or even to keep our jobs. In fact, in China, the train drivers on the Beijing-Shanghai high-speed rail, the busiest of its kind in the world, are required to wear EEG devices to monitor their brain activity while driving. According to some news sources, in government-run factories in China, the workers are required to wear EEG sensors to monitor their productivity and their emotional state at work. Workers are even sent home if their brains show less-than-stellar concentration on their jobs, or emotional agitation.

It's not going to happen tomorrow, but we're headed to a world of brain transparency. And I don't think people understand that that could change everything. Everything from our definitions of data privacy to our laws, to our ideas about freedom. In fact, in my lab at Duke University, we recently conducted a nationwide study in the United States to see if people appreciated the sensitivity of their brain information. We asked people to rate their perceived sensitivity of 33 different kinds of information, from their social security numbers to the content of their phone conversations, their relationship history, their emotions, their anxiety, the mental images in their mind and the thoughts in their mind. Shockingly, people rated their social security number as far more sensitive than any other kind of information, including their brain data. I think this is because people don't yet understand or believe the implications of this new brain-decoding technology. After all, if we can know the inner workings of the human brain, our social security numbers are the least of our worries. (Laughter)

Think about it. In a world of total brain transparency, who would dare have a politically dissident thought? Or a creative one? I worry that people will self-censor in fear of being ostracized by society, or that people will lose their jobs because of their waning attention or emotional instability, or because they're contemplating collective action against their employers. That coming out will no longer be an option, because people's brains will long ago have revealed their sexual orientation, their political ideology or their religious preferences, well before they were ready to consciously share that information with other people.

I worry about the ability of our laws to keep up with technological change. Take the First Amendment of the US Constitution, which protects freedom of speech. Does it also protect freedom of thought? And if so, does that mean that we're free to alter our thoughts however we want? Or can the government or society tell us what we can do with our own brains? Can the NSA spy on our brains using these new mobile devices? Can the companies that collect the brain data through their applications sell this information to third parties? Right now, no laws prevent them from doing so. It could be even more problematic in countries that don't share the same freedoms enjoyed by people in the United States. What would've happened during the Iranian Green Movement if the government had been monitoring my family's brain activity, and had believed them to be sympathetic to the protesters? Is it so far-fetched to imagine a society in which people are arrested based on their thoughts of committing a crime, like in the science-fiction dystopian society in "Minority Report. " Already, in the United States, in Indiana, an 18-year-old was charged with attempting to intimidate his school by posting a video of himself shooting people in the hallways ... Except the people were zombies and the video was of him playing an augmented-reality video game, all interpreted to be a mental projection of his subjective intent.

This is exactly why our brains need special protection. If our brains are just as subject to data tracking and aggregation as our financial records and transactions, if our brains can be hacked and tracked like our online activities, our mobile phones and applications, then we're on the brink of a dangerous threat to our collective humanity.

Before you panic, I believe that there are solutions to these concerns, but we have to start by focusing on the right things. When it comes to privacy protections in general, I think we're fighting a losing battle by trying to restrict the flow of information. Instead, we should be focusing on securing rights and remedies against the misuse of our information. If people had the right to decide how their information was shared, and more importantly, have legal redress if their information was misused against them, say to discriminate against them in an employment setting or in health care or education, this would go a long way to build trust. In fact, in some instances, we want to be sharing more of our personal information. Studying aggregated information can tell us so much about our health and our well-being, but to be able to safely share our information, we need special protections for mental privacy. This is why we need a right to cognitive liberty. This right would secure for us our freedom of thought and rumination, our freedom of self-determination, and it would insure that we have the right to consent to or refuse access and alteration of our brains by others. This right could be recognized as part of the Universal Declaration of Human Rights, which has established mechanisms for the enforcement of these kinds of social rights.

During the Iranian Green Movement, the protesters used the internet and good old-fashioned word of mouth to coordinate their marches. And some of the most oppressive restrictions in Iran were lifted as a result. But what if the Iranian government had used brain surveillance to detect and prevent the protest? Would the world have ever heard the protesters' cries? The time has come for us to call for a cognitive liberty revolution. To make sure that we responsibly advance technology that could enable us to embrace the future while fiercely protecting all of us from any person, company or government that attempts to unlawfully access or alter our innermost lives.

Thank you.

(Applause)


Nita Farahany / When technology can read minds, how will we protect our privacy? Nita Farahany / Wie können wir unsere Privatsphäre schützen, wenn die Technik unsere Gedanken lesen kann? Nita Farahany / When technology can read minds, how will we protect our privacy? Nita Farahany / Cuando la tecnología pueda leer la mente, ¿cómo protegeremos nuestra intimidad? ニタ・ファラハニー / テクノロジーが心を読めるようになったら、私たちはどうやってプライバシーを守るのか? Nita Farahany / Kiedy technologia może czytać w myślach, jak będziemy chronić naszą prywatność? Nita Farahany / Quando a tecnologia conseguir ler as mentes, como é que vamos proteger a nossa privacidade? Нита Фарахани / Когда технологии смогут читать мысли, как мы будем защищать нашу конфиденциальность? Nita Farahany / Teknoloji zihinleri okuyabildiğinde, mahremiyetimizi nasıl koruyacağız? Ніта Фарахані / Коли технології зможуть читати думки, як ми будемо захищати нашу приватність? Nita Farahany / 当技术可以读心时,我们将如何保护我们的隐私? Nita Farahany / 當技術可以讀懂思想時,我們將如何保護我們的隱私?

In the months following the 2009 presidential election in Iran, protests erupted across the country. 2009年にイランで大統領選挙が行われた数か月後、抗議行動が全国的に発生しました。 Nos meses seguintes à eleição presidencial de 2009 no Irã, protestos eclodiram em todo o país. В течение нескольких месяцев после президентских выборов 2009 года в Иране по всей стране вспыхнули протесты. The Iranian government violently suppressed what came to be known as the Iranian Green Movement, even blocking mobile signals to cut off communication between the protesters. Le gouvernement iranien a violemment supprimé ce qui allait devenir le Mouvement vert iranien, bloquant même les signaux mobiles pour couper la communication entre les manifestants. イラン政府は、イランのグリーン運動と呼ばれるようになったものを激しく抑制し、抗議者間の通信を遮断するために移動信号をさえ遮断しました。 Правительство Ирана жестоко подавило то, что стало известно как «Иранское зеленое движение», даже блокируя мобильные сигналы, чтобы прервать связь между протестующими. My parents, who emigrated to the United States in the late 1960s, spend substantial time there, where all of my large, extended family live. 1960 年代後半に米国に移住した私の両親は、私の大家族全員が住んでいる場所で、かなりの時間をそこで過ごしています。 Мои родители, эмигрировавшие в Соединенные Штаты в конце 1960-х годов, проводят там много времени, где живет вся моя большая семья. When I would call my family in Tehran during some of the most violent crackdowns of the protest, none of them dared discuss with me what was happening. Als ich meine Familie in Teheran während einiger der gewalttätigsten Niederschlagungen des Protests anrief, wagte keiner von ihnen, mit mir zu diskutieren, was passiert war. テヘランで最も暴力的なデモの取り締まりが行われている時期に、私が家族に電話をかけたとき、誰も何が起きているのかあえて私に話そうとはしませんでした。 Когда я звонил своей семье в Тегеран во время одного из самых жестоких разгонов протеста, никто из них не осмеливался обсуждать со мной, что происходит. They or I knew to quickly steer the conversation to other topics. 彼らまたは私は、会話を他のトピックにすばやく誘導することを知っていました. Eles ou eu sabíamos direcionar rapidamente a conversa para outros tópicos. Они или я знали, как быстро перевести разговор на другие темы. All of us understood what the consequences could be of a perceived dissident action. 私たち全員が、反体制派の行動と認識された結果がどうなるかを理解していました。 Todos nós entendíamos quais poderiam ser as consequências de uma ação dissidente percebida. Все мы понимали, какими могут быть последствия предполагаемого диссидентского действия. But I still wish I could have known what they were thinking or what they were feeling. それでも、彼らが何を考えているのか、何を感じているのかを知りたかったのです。 Mas eu ainda gostaria de saber o que eles estavam pensando ou o que estavam sentindo. Но мне все же хотелось бы знать, о чем они думали и что чувствовали. What if I could have? もし私が持つことができたら? E se eu pudesse? Что, если бы я мог? Or more frighteningly, what if the Iranian government could have? Oder noch erschreckender, was wäre, wenn die iranische Regierung hätte? もっと恐ろしいことに、もしイラン政府が持つことができたら? Или, что еще более пугающе, что, если бы иранское правительство могло это сделать? Would they have arrested them based on what their brains revealed? Hätten sie sie verhaftet, basierend auf dem, was ihr Gehirn enthüllte? 彼らの脳が明らかにしたことに基づいて、彼らは彼らを逮捕したでしょうか? Eles os teriam prendido com base no que seus cérebros revelaram? Арестовали бы они их на основании того, что показал их мозг? That day may be closer than you think. その日は、あなたが思っているよりも近いかもしれません。 Esse dia pode estar mais perto do que você imagina. Этот день может быть ближе, чем вы думаете.

With our growing capabilities in neuroscience, artificial intelligence and machine learning, we may soon know a lot more of what's happening in the human brain. Com nossas crescentes capacidades em neurociência, inteligência artificial e aprendizado de máquina, em breve poderemos saber muito mais sobre o que está acontecendo no cérebro humano. Благодаря нашим растущим возможностям в области нейробиологии, искусственного интеллекта и машинного обучения мы скоро сможем узнать гораздо больше о том, что происходит в человеческом мозгу. As a bioethicist, a lawyer, a philosopher and an Iranian-American, I'm deeply concerned about what this means for our freedoms and what kinds of protections we need. 生命倫理学者、弁護士、哲学者、そしてイラン系アメリカ人として、私はこれが私たちの自由にとって何を意味し、どのような保護が必要かについて深く懸念しています. Como bioeticista, advogado, filósofo e iraniano-americano, estou profundamente preocupado com o que isso significa para nossas liberdades e quais tipos de proteção precisamos. Как специалист по биоэтике, юрист, философ и американец иранского происхождения я глубоко обеспокоен тем, что это означает для наших свобод и в какой защите мы нуждаемся. I believe we need a right to cognitive liberty, as a human right that needs to be protected. 守るべき人権として、認知の自由が必要だと思います。 Я считаю, что нам нужно право на когнитивную свободу как право человека, которое необходимо защищать. If not, our freedom of thought, access and control over our own brains and our mental privacy will be threatened. そうでなければ、私たちの思考の自由、私たち自身の脳へのアクセスとコントロール、そして私たちの精神的プライバシーが脅かされます. Caso contrário, nossa liberdade de pensamento, acesso e controle sobre nossos próprios cérebros e nossa privacidade mental estarão ameaçados. В противном случае наша свобода мысли, доступ к собственному мозгу и контроль над ним, а также наша ментальная конфиденциальность окажутся под угрозой.

Consider this: the average person thinks thousands of thoughts each day. 考えてみてください: 平均的な人は、毎日何千もの考えを考えています。 Considere isto: a pessoa média pensa milhares de pensamentos todos os dias. Подумайте вот о чем: средний человек обдумывает тысячи мыслей каждый день. As a thought takes form, like a math calculation or a number, a word, neurons are interacting in the brain, creating a miniscule electrical discharge. 数学の計算や数字、言葉のように、思考が形成されると、ニューロンが脳内で相互作用し、微小な放電が発生します。 Когда мысль принимает форму, как математический расчет или число, слово, нейроны взаимодействуют в мозге, создавая крошечный электрический разряд. When you have a dominant mental state, like relaxation, hundreds and thousands of neurons are firing in the brain, creating concurrent electrical discharges in characteristic patterns that can be measured with electroencephalography, or EEG. リラックスのような優勢な精神状態にあるとき、脳内で数百、数千のニューロンが発火し、脳波計 (EEG) で測定できる特徴的なパターンで同時に放電が発生します。 Когда у вас доминирующее психическое состояние, такое как расслабление, сотни и тысячи нейронов активируются в мозге, создавая одновременные электрические разряды в характерных паттернах, которые можно измерить с помощью электроэнцефалографии или ЭЭГ. In fact, that's what you're seeing right now. 実際、それはあなたが今見ているものです。 На самом деле, это то, что вы видите прямо сейчас. You're seeing my brain activity that was recorded in real time with a simple device that was worn on my head. 頭に装着したシンプルなデバイスでリアルタイムに記録された私の脳の活動を見ています。 Вы видите активность моего мозга, записанную в режиме реального времени с помощью простого устройства, которое я носила на голове. What you're seeing is my brain activity when I was relaxed and curious. あなたが見ているのは、私がリラックスして好奇心旺盛だったときの脳の活動です。 То, что вы видите, это активность моего мозга, когда я был расслаблен и любопытен. To share this information with you, I wore one of the early consumer-based EEG devices like this one, which recorded the electrical activity in my brain in real time. この情報を共有するために、私はこのような初期の消費者ベースの EEG デバイスの 1 つを装着しました。これは私の脳内の電気的活動をリアルタイムで記録しました。 Para compartilhar essas informações com você, usei um dos primeiros dispositivos de eletroencefalograma baseados no consumidor, como este, que registrava a atividade elétrica em meu cérebro em tempo real. Чтобы поделиться с вами этой информацией, я надел одно из первых потребительских устройств ЭЭГ, подобное этому, которое регистрировало электрическую активность в моем мозгу в режиме реального времени. It's not unlike the fitness trackers that some of you may be wearing to measure your heart rate or the steps that you've taken, or even your sleep activity. 心拍数や歩数、さらには睡眠活動を測定するために装着しているフィットネス トラッカーと同じです。 Não é diferente dos rastreadores de fitness que alguns de vocês podem usar para medir sua frequência cardíaca ou os passos que você deu, ou até mesmo sua atividade de sono. Это мало чем отличается от фитнес-трекеров, которые некоторые из вас могут носить для измерения частоты сердечных сокращений, шагов, которые вы предприняли, или даже активности сна. It's hardly the most sophisticated neuroimaging technique on the market. これは、市場で最も洗練された神経画像技術とは言えません。 Это едва ли не самый сложный метод нейровизуализации на рынке. But it's already the most portable and the most likely to impact our everyday lives. しかし、それはすでに最もポータブルであり、私たちの日常生活に最も影響を与える可能性があります.

This is extraordinary. これは異常です。 Through a simple, wearable device, we can literally see inside the human brain and learn aspects of our mental landscape without ever uttering a word. シンプルなウェアラブル デバイスを介して、文字通り人間の脳の内部を見て、言葉を発することなく精神的な風景の側面を学ぶことができます。 Por meio de um dispositivo simples e vestível, podemos literalmente ver dentro do cérebro humano e aprender aspectos de nossa paisagem mental sem nunca dizer uma palavra. С помощью простого носимого устройства мы можем буквально заглянуть внутрь человеческого мозга и изучить аспекты нашего ментального ландшафта, даже не произнося ни слова. While we can't reliably decode complex thoughts just yet, we can already gauge a person's mood, and with the help of artificial intelligence, we can even decode some single-digit numbers or shapes or simple words that a person is thinking or hearing, or seeing. 複雑な思考を確実に解読することはまだできませんが、すでに人の気分を測定することはできます。また、人工知能の助けを借りて、人が考えたり聞いたりしている 1 桁の数字や形、簡単な言葉を解読することさえできます。または見ています。 Хотя мы еще не можем надежно расшифровать сложные мысли, мы уже можем оценить настроение человека, а с помощью искусственного интеллекта мы можем даже расшифровать некоторые однозначные числа или формы или простые слова, которые человек думает или слышит. или видеть.

Despite some inherent limitations in EEG, I think it's safe to say that with our advances in technology, more and more of what's happening in the human brain can and will be decoded over time. 脳波には固有の制限がありますが、テクノロジーの進歩により、人間の脳で起こっていることの多くが時間の経過とともに解読できるようになり、解読されるようになると言っても過言ではありません. Apesar de algumas limitações inerentes ao EEG, acho que é seguro dizer que, com nossos avanços na tecnologia, cada vez mais o que está acontecendo no cérebro humano pode e será decodificado ao longo do tempo. Несмотря на некоторые присущие ЭЭГ ограничения, я думаю, можно с уверенностью сказать, что благодаря нашим достижениям в области технологий все больше и больше того, что происходит в человеческом мозгу, может и будет со временем расшифровываться. Already, using one of these devices, an epileptic can know they're going to have an epileptic seizure before it happens. すでに、これらのデバイスの 1 つを使用することで、てんかん患者はてんかん発作が起こる前にそれを知ることができます。 Уже с помощью одного из этих устройств эпилептик может знать, что у него будет эпилептический припадок до того, как он произойдет. A paraplegic can type on a computer with their thoughts alone. 対麻痺者は、自分の考えだけでコンピューターに入力できます。 Um paraplégico pode digitar em um computador apenas com seus pensamentos. Паралич нижних конечностей может печатать на компьютере только своими мыслями. A US-based company has developed a technology to embed these sensors into the headrest of automobilies so they can track driver concentration, distraction and cognitive load while driving. 米国を拠点とする企業は、これらのセンサーを自動車のヘッドレストに埋め込む技術を開発し、運転中のドライバーの集中力、注意散漫、認知負荷を追跡できるようにしました。 Uma empresa sediada nos EUA desenvolveu uma tecnologia para incorporar esses sensores no encosto de cabeça de automóveis para que eles possam rastrear a concentração, a distração e a carga cognitiva do motorista durante a condução. Американская компания разработала технологию встраивания этих датчиков в подголовники автомобилей, чтобы они могли отслеживать концентрацию водителя, его отвлечение и когнитивную нагрузку во время вождения. Nissan, insurance companies and AAA have all taken note. 日産、保険会社、AAA はすべて注意を払っています。 A Nissan, as companhias de seguros e a AAA tomaram nota. Nissan, страховые компании и AAA приняли это к сведению. You could even watch this choose-your-own-adventure movie "The Moment," which, with an EEG headset, changes the movie based on your brain-based reactions, giving you a different ending every time your attention wanes. 脳波ヘッドセットを使用すると、脳に基づく反応に基づいて映画が変化し、注意力が衰えるたびに異なる結末が得られます。 Você pode até assistir a este filme de aventura "The Moment", que, com um fone de ouvido EEG, muda o filme com base em suas reações baseadas no cérebro, dando a você um final diferente toda vez que sua atenção diminui. Вы даже можете посмотреть этот приключенческий фильм «Момент», который с помощью гарнитуры ЭЭГ меняет фильм в зависимости от ваших мозговых реакций, давая вам новый конец каждый раз, когда ваше внимание ослабевает.

This may all sound great, and as a bioethicist, I am a huge proponent of empowering people to take charge of their own health and well-being by giving them access to information about themselves, including this incredible new brain-decoding technology. これは素晴らしいことのように聞こえるかもしれませんが、私は生命倫理学者として、この信じられないほど新しい脳解読技術を含む、自分自身に関する情報にアクセスできるようにすることで、人々が自分自身の健康と幸福を管理できるようにすることを大いに支持しています。 Все это может звучать великолепно, и как специалист по биоэтике я являюсь ярым сторонником предоставления людям возможности взять на себя ответственность за свое здоровье и благополучие, предоставляя им доступ к информации о себе, включая эту невероятную новую технологию декодирования мозга. But I worry. でも心配です。 I worry that we will voluntarily or involuntarily give up our last bastion of freedom, our mental privacy. 自由の最後の砦である精神的プライバシーを自発的または非自発的に放棄するのではないかと心配しています。 Eu me preocupo que nós vamos, voluntária ou involuntariamente, desistir de nosso último bastião de liberdade, nossa privacidade mental. Я беспокоюсь, что мы, вольно или невольно, откажемся от нашего последнего оплота свободы, нашей ментальной неприкосновенности. That we will trade our brain activity for rebates or discounts on insurance, or free access to social-media accounts ... or even to keep our jobs. 保険のリベートや割引、またはソーシャルメディアアカウントへの無料アクセスと引き換えに、脳の活動を交換すること...さらには仕事を続けること. Que trocaremos nossa atividade cerebral por descontos ou descontos em seguros, ou acesso gratuito a contas de mídia social... ou até mesmo para manter nossos empregos. Что мы будем обменивать нашу мозговую активность на скидки или скидки на страховку, или бесплатный доступ к учетным записям в социальных сетях… или даже на то, чтобы сохранить наши рабочие места. In fact, in China, the train drivers on the Beijing-Shanghai high-speed rail, the busiest of its kind in the world, are required to wear EEG devices to monitor their brain activity while driving. 実際、中国では、世界で最も忙しい北京-上海高速鉄道の運転士は、運転中の脳活動を監視するために EEG デバイスを着用する必要があります。 De fato, na China, os maquinistas do trem de alta velocidade Pequim-Xangai, o mais movimentado do gênero no mundo, são obrigados a usar dispositivos de EEG para monitorar sua atividade cerebral enquanto dirigem. Фактически, в Китае машинисты высокоскоростной железной дороги Пекин-Шанхай, самой загруженной в своем роде в мире, обязаны носить устройства ЭЭГ, чтобы контролировать активность своего мозга во время вождения. According to some news sources, in government-run factories in China, the workers are required to wear EEG sensors to monitor their productivity and their emotional state at work. 一部のニュースソースによると、中国の政府が運営する工場では、労働者は脳波センサーを装着して、生産性と職場での感情状態を監視する必要があります。 De acordo com algumas fontes de notícias, em fábricas administradas pelo governo na China, os trabalhadores são obrigados a usar sensores de EEG para monitorar sua produtividade e seu estado emocional no trabalho. Согласно некоторым источникам новостей, на государственных фабриках в Китае рабочие должны носить датчики ЭЭГ, чтобы контролировать свою производительность и эмоциональное состояние на работе. Workers are even sent home if their brains show less-than-stellar concentration on their jobs, or emotional agitation. 仕事に対する脳の集中力が著しく低下したり、感情的に動揺したりすると、労働者は家に帰されることさえあります。 Os trabalhadores são até mandados para casa se seus cérebros mostrarem uma concentração menos que estelar em seus empregos ou agitação emocional. Рабочих даже отправляют домой, если их мозг демонстрирует менее чем звездную концентрацию на работе или эмоциональное возбуждение.

It's not going to happen tomorrow, but we're headed to a world of brain transparency. 明日には実現しませんが、私たちは脳の透明性の世界に向かっています。 Это не произойдет завтра, но мы движемся в мир прозрачности мозга. And I don't think people understand that that could change everything. そして、それがすべてを変える可能性があることを人々は理解していないと思います。 И я не думаю, что люди понимают, что это может все изменить. Everything from our definitions of data privacy to our laws, to our ideas about freedom. データ プライバシーの定義から法律、自由に関する考え方まで、すべてです。 Все, от наших определений конфиденциальности данных до наших законов и наших представлений о свободе. In fact, in my lab at Duke University, we recently conducted a nationwide study in the United States to see if people appreciated the sensitivity of their brain information. Tatsächlich haben wir in meinem Labor an der Duke University kürzlich eine landesweite Studie in den Vereinigten Staaten durchgeführt, um zu sehen, ob die Menschen die Sensibilität ihrer Gehirninformationen schätzen. 実際、デューク大学の私の研究室では最近、米国で全国規模の調査を実施し、人々が脳情報の感度を高く評価しているかどうかを確認しました. На самом деле, в моей лаборатории в Университете Дьюка мы недавно провели общенациональное исследование в Соединенных Штатах, чтобы выяснить, ценят ли люди чувствительность информации своего мозга. We asked people to rate their perceived sensitivity of 33 different kinds of information, from their social security numbers to the content of their phone conversations, their relationship history, their emotions, their anxiety, the mental images in their mind and the thoughts in their mind. 私たちは人々に、社会保障番号から電話での会話の内容、交際歴、感情、不安、心のイメージ、考えに至るまで、33 種類の情報に対する感受性を評価してもらいました。 . Pedimos às pessoas que classificassem sua sensibilidade percebida em 33 tipos diferentes de informações, desde seus números de seguro social até o conteúdo de suas conversas telefônicas, seu histórico de relacionamento, suas emoções, sua ansiedade, as imagens mentais em sua mente e os pensamentos em sua mente. . Мы попросили людей оценить свою воспринимаемую чувствительность к 33 различным видам информации, от их номеров социального страхования до содержания их телефонных разговоров, истории их отношений, их эмоций, их беспокойства, ментальных образов и мыслей в их уме. . Shockingly, people rated their social security number as far more sensitive than any other kind of information, including their brain data. Erschreckenderweise bewerteten die Menschen ihre Sozialversicherungsnummer als weitaus sensibler als jede andere Art von Informationen, einschließlich ihrer Gehirndaten. 衝撃的なことに、人々は自分の社会保障番号を、脳のデータを含む他のどの種類の情報よりもはるかに機密性が高いと評価しました。 Surpreendentemente, as pessoas classificaram seu número de previdência social como muito mais sensível do que qualquer outro tipo de informação, incluindo seus dados cerebrais. Поразительно, но люди считали свой номер социального страхования гораздо более конфиденциальной, чем любая другая информация, включая данные их мозга. I think this is because people don't yet understand or believe the implications of this new brain-decoding technology. Ich denke, das liegt daran, dass die Menschen die Implikationen dieser neuen Technologie zur Entschlüsselung des Gehirns noch nicht verstehen oder glauben. これは、人々がまだこの新しい脳解読技術の意味を理解していないか、信じていないためだと思います. Я думаю, это потому, что люди еще не понимают или не верят в последствия этой новой технологии декодирования мозга. After all, if we can know the inner workings of the human brain, our social security numbers are the least of our worries. 結局のところ、人間の脳の内部の仕組みを知ることができれば、社会保障番号の心配はほとんどなくなります。 Afinal, se pudermos conhecer o funcionamento interno do cérebro humano, nossos números de previdência social são a menor de nossas preocupações. В конце концов, если мы можем знать внутреннюю работу человеческого мозга, наши номера социального страхования — это наименьшая из наших забот. (Laughter)

Think about it. In a world of total brain transparency, who would dare have a politically dissident thought? 脳が完全に透明な世界で、誰があえて政治的に反体制的な考えを持つでしょうか? Em um mundo de total transparência cerebral, quem ousaria ter um pensamento politicamente dissidente? В мире полной прозрачности мозга, кто посмеет мыслить политически диссидентски? Or a creative one? それともクリエイティブ? Или творческий? I worry that people will self-censor in fear of being ostracized by society, or that people will lose their jobs because of their waning attention or emotional instability, or because they're contemplating collective action against their employers. 人々が社会から追放されることを恐れて自己検閲するのではないか、注意力の低下や感情の不安定さのために仕事を失うのではないか、または雇用主に対する集団行動を考えているために人々が職を失うのではないかと心配しています. Eu me preocupo que as pessoas se autocensurem com medo de serem marginalizadas pela sociedade, ou que as pessoas percam seus empregos por causa de sua atenção em declínio ou instabilidade emocional, ou porque estão contemplando uma ação coletiva contra seus empregadores. Я беспокоюсь, что люди будут подвергать себя самоцензуре, опасаясь быть подвергнутыми остракизму со стороны общества, или что люди потеряют работу из-за снижения внимания или эмоциональной нестабильности, или из-за того, что они обдумывают коллективные действия против своих работодателей. That coming out will no longer be an option, because people's brains will long ago have revealed their sexual orientation, their political ideology or their religious preferences, well before they were ready to consciously share that information with other people. 人々の脳は、性的指向、政治的イデオロギー、または宗教的嗜好を、他の人々と意識的に共有する準備が整うずっと前に明らかにしているため、カミングアウトはもはやオプションではありません. Que sair do armário não será mais uma opção, porque o cérebro das pessoas há muito tempo revelou sua orientação sexual, sua ideologia política ou suas preferências religiosas, muito antes de estarem prontas para compartilhar conscientemente essas informações com outras pessoas. Этот выход больше не будет вариантом, потому что мозг людей уже давно раскрыл свою сексуальную ориентацию, свою политическую идеологию или свои религиозные предпочтения, задолго до того, как они были готовы сознательно поделиться этой информацией с другими людьми.

I worry about the ability of our laws to keep up with technological change. 私は、私たちの法律が技術の変化に追いつく能力について心配しています。 Eu me preocupo com a capacidade de nossas leis de acompanhar as mudanças tecnológicas. Меня беспокоит способность наших законов идти в ногу с технологическими изменениями. Take the First Amendment of the US Constitution, which protects freedom of speech. 言論の自由を保護する合衆国憲法修正第 1 条を例にとってみましょう。 Возьмите Первую поправку к Конституции США, защищающую свободу слова. Does it also protect freedom of thought? それは思想の自由も保護しますか? And if so, does that mean that we're free to alter our thoughts however we want? もしそうなら、それは私たちが自分の考えを好きなように自由に変えることができるということですか? И если да, значит ли это, что мы вольны изменять свои мысли, как захотим? Or can the government or society tell us what we can do with our own brains? あるいは、政府や社会は、私たちが自分の頭脳で何ができるかを教えてくれるでしょうか? Или правительство или общество могут сказать нам, что мы можем делать с собственным мозгом? Can the NSA spy on our brains using these new mobile devices? NSA は、これらの新しいモバイル デバイスを使用して、私たちの脳をスパイできますか? Может ли АНБ шпионить за нашим мозгом с помощью этих новых мобильных устройств? Can the companies that collect the brain data through their applications sell this information to third parties? アプリケーションを通じて脳データを収集する企業は、この情報を第三者に販売できますか? As empresas que coletam os dados cerebrais por meio de seus aplicativos podem vender essas informações para terceiros? Right now, no laws prevent them from doing so. 現在、彼らがそうするのを妨げる法律はありません。 It could be even more problematic in countries that don't share the same freedoms enjoyed by people in the United States. 米国の人々が享受しているのと同じ自由を共有していない国では、さらに問題になる可能性があります. Это может быть еще более проблематичным в странах, которые не разделяют тех же свобод, которыми пользуются люди в Соединенных Штатах. What would've happened during the Iranian Green Movement if the government had been monitoring my family's brain activity, and had believed them to be sympathetic to the protesters? 政府が私の家族の脳の活動を監視していて、彼らが抗議者に同情していると信じていたら、イランの緑の運動の間に何が起こったでしょうか? Что бы произошло во время иранского Зеленого движения, если бы правительство следило за мозговой активностью моей семьи и полагало, что они симпатизируют протестующим? Is it so far-fetched to imagine a society in which people are arrested based on their thoughts of committing a crime, like in the science-fiction dystopian society in "Minority Report. 『マイノリティ・リポート』に登場するSFのディストピア社会のように、犯罪を犯したという思い込みで人が逮捕される社会を想像するのは、そんなに突飛なことでしょうか? É tão absurdo imaginar uma sociedade em que as pessoas são presas com base em seus pensamentos de cometer um crime, como na sociedade distópica de ficção científica em "Minority Report". Неужели так надумано представить себе общество, в котором людей арестовывают на основании их мыслей о совершении преступления, как в научно-фантастическом обществе-антиутопии в «Особом мнении». " Already, in the United States, in Indiana, an 18-year-old was charged with attempting to intimidate his school by posting a video of himself shooting people in the hallways ... Except the people were zombies and the video was of him playing an augmented-reality video game, all interpreted to be a mental projection of his subjective intent. すでに、米国のインディアナ州では、18 歳の少年が、廊下で人を撃った自分のビデオを投稿して、学校を脅迫しようとしたとして起訴されました。ただし、人々はゾンビで、ビデオは彼のものでした。拡張現実のビデオ ゲームをプレイしているが、そのすべてが彼の主観的な意図の精神的投影であると解釈されている。 "Já, nos Estados Unidos, em Indiana, um jovem de 18 anos foi acusado de tentar intimidar sua escola postando um vídeo dele mesmo atirando em pessoas nos corredores... Só que as pessoas eram zumbis e o vídeo era dele jogando um videogame de realidade aumentada, tudo interpretado como uma projeção mental de sua intenção subjetiva. " Уже в Соединенных Штатах, в Индиане, 18-летнему подростку было предъявлено обвинение в попытке запугать его школу, разместив видео, на котором он стреляет в людей в коридорах ... За исключением того, что люди были зомби, а видео было с ним. играя в видеоигру с дополненной реальностью, все это интерпретируется как мысленная проекция его субъективного намерения.

This is exactly why our brains need special protection. これがまさに、私たちの脳が特別な保護を必要とする理由です。 Именно поэтому наш мозг нуждается в особой защите. If our brains are just as subject to data tracking and aggregation as our financial records and transactions, if our brains can be hacked and tracked like our online activities, our mobile phones and applications, then we're on the brink of a dangerous threat to our collective humanity. 私たちの脳が、財務記録や取引と同じようにデータの追跡と集計の対象である場合、オンライン活動、携帯電話、アプリケーションのように脳がハッキングされ追跡される可能性がある場合、私たちは危険な脅威に直面しています.私たちの集合的な人間性。 Se nossos cérebros estão tão sujeitos ao rastreamento e agregação de dados quanto nossos registros e transações financeiras, se nossos cérebros podem ser hackeados e rastreados como nossas atividades online, nossos telefones celulares e aplicativos, então estamos à beira de uma ameaça perigosa para nossa humanidade coletiva. Если наш мозг так же подвержен отслеживанию и агрегированию данных, как и наши финансовые записи и транзакции, если наш мозг можно взломать и отследить, как наши действия в Интернете, наши мобильные телефоны и приложения, то мы находимся на грани опасной угрозы для наше коллективное человечество.

Before you panic, I believe that there are solutions to these concerns, but we have to start by focusing on the right things. パニックになる前に、これらの懸念には解決策があると思いますが、正しいことに焦点を当てることから始めなければなりません. Прежде чем вы начнете паниковать, я считаю, что есть решения этих проблем, но мы должны начать с того, что сосредоточимся на правильных вещах. When it comes to privacy protections in general, I think we're fighting a losing battle by trying to restrict the flow of information. 一般的なプライバシー保護に関して言えば、情報の流れを制限しようとすることで、私たちは負け戦を戦っていると思います。 Когда дело доходит до защиты конфиденциальности в целом, я думаю, что мы ведем безнадежную битву, пытаясь ограничить поток информации. Instead, we should be focusing on securing rights and remedies against the misuse of our information. 代わりに、情報の悪用に対する権利と救済策を確保することに焦点を当てる必要があります。 Вместо этого мы должны сосредоточиться на обеспечении прав и средств правовой защиты от неправомерного использования нашей информации. If people had the right to decide how their information was shared, and more importantly, have legal redress if their information was misused against them, say to discriminate against them in an employment setting or in health care or education, this would go a long way to build trust. 人々が自分の情報がどのように共有されるかを決定する権利を持ち、さらに重要なことに、自分の情報が自分に対して悪用された場合、たとえば雇用環境や医療や教育で差別するなどの法的救済がある場合、これは大いに役立つでしょう。信頼を築くこと。 Se as pessoas tivessem o direito de decidir como suas informações foram compartilhadas e, mais importante, ter reparação legal se suas informações fossem usadas indevidamente contra elas, digamos, para discriminá-las em um ambiente de trabalho ou em saúde ou educação, isso ajudaria muito para construir confiança. Если бы люди имели право решать, как их информация будет передана, и, что более важно, иметь право на юридическую защиту, если их информация была использована против них неправомерно, скажем, для дискриминации их при приеме на работу, в здравоохранении или образовании, это имело бы большое значение. чтобы завоевать доверие. In fact, in some instances, we want to be sharing more of our personal information. 実際、場合によっては、より多くの個人情報を共有したいと考えています。 На самом деле, в некоторых случаях мы хотим делиться большей частью нашей личной информации. Studying aggregated information can tell us so much about our health and our well-being, but to be able to safely share our information, we need special protections for mental privacy. 集約された情報を研究することで、私たちの健康と幸福について多くのことを知ることができますが、情報を安全に共有できるようにするには、精神的なプライバシーを特別に保護する必要があります。 Estudar informações agregadas pode nos dizer muito sobre nossa saúde e nosso bem-estar, mas para poder compartilhar nossas informações com segurança, precisamos de proteções especiais para a privacidade mental. Изучение агрегированной информации может многое рассказать нам о нашем здоровье и самочувствии, но для того, чтобы иметь возможность безопасно делиться информацией, нам нужны особые меры защиты конфиденциальности ума. This is why we need a right to cognitive liberty. これが、認知の自由に対する権利が必要な理由です。 Вот почему нам нужно право на свободу познания. This right would secure for us our freedom of thought and rumination, our freedom of self-determination, and it would insure that we have the right to consent to or refuse access and alteration of our brains by others. この権利は、私たちの思考と反芻の自由、自己決定の自由を保証し、他人による脳へのアクセスと変更に同意または拒否する権利を保証します。 Esse direito garantiria para nós nossa liberdade de pensamento e ruminação, nossa liberdade de autodeterminação, e garantiria que temos o direito de consentir ou recusar o acesso e a alteração de nossos cérebros por outros. Это право гарантировало бы нам нашу свободу мысли и размышлений, нашу свободу самоопределения, и оно гарантировало бы, что у нас есть право давать согласие на доступ или изменение нашего мозга другими. This right could be recognized as part of the Universal Declaration of Human Rights, which has established mechanisms for the enforcement of these kinds of social rights. この権利は、これらの種類の社会的権利を行使するためのメカニズムを確立した世界人権宣言の一部として認められる可能性があります。 Este direito poderia ser reconhecido como parte da Declaração Universal dos Direitos Humanos, que estabeleceu mecanismos para a efetivação desses tipos de direitos sociais. Это право можно было бы признать частью Всеобщей декларации прав человека, которая установила механизмы для обеспечения соблюдения этих видов социальных прав.

During the Iranian Green Movement, the protesters used the internet and good old-fashioned word of mouth to coordinate their marches. イランの緑の運動の間、抗議者たちはインターネットと古き良き時代の口コミを使用して行進を調整しました。 Durante o Movimento Verde Iraniano, os manifestantes usaram a internet e o bom e velho boca a boca para coordenar suas marchas. Во время иранского Зеленого движения протестующие использовали Интернет и старое доброе молва для координации своих маршей. And some of the most oppressive restrictions in Iran were lifted as a result. その結果、イランで最も抑圧的な制限のいくつかが解除されました。 E algumas das restrições mais opressivas no Irã foram levantadas como resultado. В результате были сняты некоторые из самых жестких ограничений в Иране. But what if the Iranian government had used brain surveillance to detect and prevent the protest? しかし、もしイラン政府が抗議行動を検知して阻止するために脳監視を使用していたとしたら? Mas e se o governo iraniano tivesse usado vigilância cerebral para detectar e impedir o protesto? Но что, если бы иранское правительство использовало наблюдение за мозгом, чтобы обнаружить и предотвратить протест? Would the world have ever heard the protesters' cries? 世界は抗議者の叫び声を聞いたことがありますか? The time has come for us to call for a cognitive liberty revolution. 認知的自由革命を呼びかける時が来ました。 Пришло время призвать к революции когнитивной свободы. To make sure that we responsibly advance technology that could enable us to embrace the future while fiercely protecting all of us from any person, company or government that attempts to unlawfully access or alter our innermost lives. 私たちの最も奥深い生活に不法にアクセスしたり変更したりしようとする個人、企業、政府から私たち全員を厳重に保護しながら、未来を受け入れることを可能にするテクノロジーを責任を持って進歩させること。 Para garantir que avançamos com responsabilidade a tecnologia que pode nos permitir abraçar o futuro enquanto protegemos ferozmente todos nós de qualquer pessoa, empresa ou governo que tente acessar ou alterar ilegalmente nossas vidas mais íntimas. Чтобы убедиться, что мы ответственно продвигаем технологии, которые могут позволить нам идти в будущее, яростно защищая всех нас от любого человека, компании или правительства, которые пытаются незаконно получить доступ или изменить нашу сокровенную жизнь.

Thank you.

(Applause)