×

我們使用cookies幫助改善LingQ。通過流覽本網站，表示你同意我們的 cookie 政策.

立即開始學習本課
image

人工知能は人間を超えるか (Will AI surpass human?), 人工知能は人間を超えるか Chapter 06 (4)

人工 知能 は 人間 を 超える か Chapter 06 (4)

あるいは 、「 遺伝子 工学 と 結びつく こと で 生命 化 する のだ 」 と 言った と して 、 どのように 遺伝子 工学 が 人工 知能 と 組み合わさ れる と 自己 再 生産 する もの が できる の か と いう 、 ごく わずか でも 可能 性 の ある 方法 は 提示 されて いない 。 映画 『 ターミネーター 』 の ような 世界 観 は 、 馴染み の ある もの で は あって も 、 そう なる 科学 的な 根拠 は 乏しい と 言わ ざる を 得 ない 。

人工 知能 が 人間 を 征服 する 心配 を する 必要 は ない 。

それ が 私 の 現 時点 で の 結論 である 。

人工 知能 学会 で は 、２０１４ 年 に 倫理 委員 会 を 立ち上げ 、 人工 知能 が 社会 に もたらす インパクト に ついて 議論 を 進めて いる 。

初代 の 倫理 委員 長 は 私 が 務めて いる が 、 そこ で の 議論 を 紹介 しよう 。 機械 と 人間 が 入り 混じる 社会 に なって きた の は 紛れ も ない 事実 である 。 その 意味 で 、 人間 の 知的 処理 の 幅 は より 広がって おり 、 人間 社会 は それ に 適応 して いる 。 一方 で 、 シンギュラリティ で 議論 されて いる ような 「 真に 自己 を 設計 できる 人工 知能 」 の 実現 は 遠く 、 現在 の ところ 、 その 糸口 さえ も つかめて いない 。 それ が 技術 の 現状 である 。

と は いえ 、 人工 知能 の 可能 性 を 過小 評価 して は いけない 。

専門 家 は 自ら の 技術 を 過小 評価 し がちである 。 人工 知能 は 社会 の インフラ に なる こと は 確実であり 、 さまざまな 問題 が 起きる 前 に 議論 を 尽くす 必要 が ある 。 専門 家 と して 、 予見 できる もの は 予見 して おく べきであり 、 そこ に 何らか の 線 を 引く べき か どう かも 議論 する 必要 が ある 。 また 、 あり うる 最悪の シナリオ を 考え 、 その 対応 を 列挙 する こと も 専門 家 の 果たす べき 役割 であろう 。

こうした 倫理 観 は 研究 者 自身 で は なく 、 社会 全体 が つくって いく もの である 。

したがって 、 オープンに 議論 しなければ なら ない 。 人工 知能 は 「 万 人 の ため の もの 」 である べきである 。 また 、 人工 知能 は 「 人間 の 尊厳 」 を 犯して は なら ない だろう 。

人工 知能 が こうした 倫理 観 に 沿って 正しく 使わ れる ため に は 、 使わ れる 人工 知能 の 動作 や 技術 の 透明 性 が 高い こと 、 それ が 人間 に 説明 可能である こと 、 制御 権 を 複数 の 人間 （ 市民 ） に 分散 する こと など も 重要な 観点 と なる はずだ 。

いずれ に して も 、 まず 議論 す べき は 、「 人工 知能 が 将来 持つ べき 倫理 」 で は なく 、「 人工 知能 を 使う 人間 の 倫理 」 や 「 人工 知能 を つくる 人 に 対する 倫理 」 である 。

特定の 職業 が なくなる 可能 性 が ある ように 、 人工 知能 の 普及 が 短期 に もたらす 社会 的 あるいは 個人 へ の 顕著な 影響 に ついて は 配慮 す べきであろう 。

科学 技術 の 進化 に よって 、 労働 が 変化 する こと は よく ある こと だ と して も 、 大きな 教育 投資 を 受けた 人 が 、 その 恩恵 に 預かれ ない と いう こと に 対して 、 社会 的な 配慮 が 必要な 場合 が ある かも しれ ない 。 また 、 生産 性 の 向上 に よる 富 の 再 分配 を どう する か と いう 問題 も ある 。

どのような 人工 知能 を つくれば よい か と いう 議論 を する 際 に 、「 心 」 の 問題 は 重要だ 。

心 は 生命 と 同等 あるいは それ 以上 に 人間 の 本質 を 占め 、 心 を 持つ （ あるいは 一見 する と 心 を 持つ ように 見える ） 人工 知能 を つくって よい か どう か と いう の は 、 大きな 論点 である 。 この 点 を 考えて おか ない と 、 人工 知能 に 恋愛 感情 を 抱いて しまう 、 人工 知能 プログラム を 停止 さ せて よい か で 争い が 起きる など 、 さまざまな 問題 を 誘発 する 可能 性 が ある 。 現 時点 で 人工 知能 が 暴走 する ような 未来 は 考えられ ない が 、 そういった 不安 を 社会 が 持つ のであれば 、 それ に 対して 専門 家 が その 可能 性 と 対策 を 示し 、 社会 と コンセンサス を とる 努力 を し 続ける こと に 意味 が ある 。 社会 を 構成 する 一人ひとり が 、 この 社会 を どうして いきたい か が 、 最も 重要な こと な のだ から 。 最後 の 章 で は 、 具体 的に 、 社会 や 産業 が どう 変わって いく 可能 性 が ある の か 、 その 中 で 人 ・ 企業 ・ 国 は どう 動いて いけば よい の か を 述べて いこう 。

われわれ は 人工 知能 に どんな 未来 を 描けば いい のだろう か 。

（＊ 注 46） リカレントネットワーク に 関する 研究 、 たとえば ＬＳＴＭ （ Long Short - Term Memory ） と 呼ば れる ニューラルネットワーク の 研究 が 進んで いる 。 （＊ 注 47） ０ 歳 児 の 赤ちゃん を 観察 した こと の ある 人 であれば 、 赤ちゃん が 「 すさまじい 力 」 で 食べ物 を 握りつぶして しまう 場面 を 見た こと が ある だろう 。 実際 、 すさまじく は ない のだ が 、 やはり コップ を つかむ とき の つかみ 方 と 、 サンドイッチ を つかむ とき の つかみ 方 は 、 大人 は 区別 して いる のである 。

（＊ 注 48） こうした スポーツ に おける 言語 化 （ あるいは メタ 認知 ） の 意義 に ついて は 、 中京 大学 の 諏訪 正樹 氏 が 研究 を 行って いる 。 （＊ 注 49） リチャード ・ ドーキンス 『 利己 的な 遺伝子 』（ 増補 新装 版 、 紀伊 國屋 書店 、２００６ 年 ） （＊ 注 50） ジェラルド ・ Ｍ ・ エーデルマン 『 脳 は 空 より 広い か 「 私 」 と いう 現象 を 考える 』（ 草 思 社 、２００６ 年 ） 。

人工 知能 は 人間 を 超える か Chapter 06 (4) じんこう|ちのう||にんげん||こえる||chapter Will Artificial Intelligence Surpass Humans Chapter 06 (4) L'intelligence artificielle dépassera-t-elle l'homme ? Chapitre 06 (4) A inteligência artificial ultrapassará o ser humano Capítulo 06 (4)

あるいは 、「 遺伝子 工学 と 結びつく こと で 生命 化 する のだ 」 と 言った と して 、 どのように 遺伝子 工学 が 人工 知能 と 組み合わさ れる と 自己 再 生産 する もの が できる の か と いう 、 ごく わずか でも 可能 性 の ある 方法 は 提示 されて いない 。 |いでんし|こうがく||むすびつく|||せいめい|か||||いった||||いでんし|こうがく||じんこう|ちのう||くみあわさ|||じこ|さい|せいさん||||||||||||かのう|せい|||ほうほう||ていじ|さ れて| Or, by saying, "It becomes alive by being linked with genetic engineering," and how genetic engineering can be combined with artificial intelligence to create self-reproduction is possible, even if only a little. No sexual method has been presented. 映画 『 ターミネーター 』 の ような 世界 観 は 、 馴染み の ある もの で は あって も 、 そう なる 科学 的な 根拠 は 乏しい と 言わ ざる を 得 ない 。 えいが||||せかい|かん||なじみ||||||||||かがく|てきな|こんきょ||とぼしい||いわ|||とく| Even if the world view like the movie "Terminator" is familiar, it must be said that the scientific basis for doing so is scarce.

人工 知能 が 人間 を 征服 する 心配 を する 必要 は ない 。 じんこう|ちのう||にんげん||せいふく||しんぱい|||ひつよう|| We need not worry about artificial intelligence conquering humans.

それ が 私 の 現 時点 で の 結論 である 。 ||わたくし||げん|じてん|||けつろん| That is my conclusion at this point.

人工 知能 学会 で は 、２０１４ 年 に 倫理 委員 会 を 立ち上げ 、 人工 知能 が 社会 に もたらす インパクト に ついて 議論 を 進めて いる 。 じんこう|ちのう|がっかい|||とし||りんり|いいん|かい||たちあげ|じんこう|ちのう||しゃかい|||いんぱくと|||ぎろん||すすめて| In 2014, the Society for Artificial Intelligence established an ethics committee to discuss the impact of artificial intelligence on society.

初代 の 倫理 委員 長 は 私 が 務めて いる が 、 そこ で の 議論 を 紹介 しよう 。 しょだい||りんり|いいん|ちょう||わたくし||つとめて||||||ぎろん||しょうかい| I am serving as the first Ethics Committee Chair, and I would like to introduce you to some of the discussions that have taken place. 機械 と 人間 が 入り 混じる 社会 に なって きた の は 紛れ も ない 事実 である 。 きかい||にんげん||はいり|まじる|しゃかい||||||まぎれ|||じじつ| It is an undeniable fact that society has become a mixture of machines and humans. その 意味 で 、 人間 の 知的 処理 の 幅 は より 広がって おり 、 人間 社会 は それ に 適応 して いる 。 |いみ||にんげん||ちてき|しょり||はば|||ひろがって||にんげん|しゃかい||||てきおう|| In this sense, the range of human intellectual processing is widening, and human society is adapting to it. 一方 で 、 シンギュラリティ で 議論 されて いる ような 「 真に 自己 を 設計 できる 人工 知能 」 の 実現 は 遠く 、 現在 の ところ 、 その 糸口 さえ も つかめて いない 。 いっぽう||||ぎろん|さ れて|||しんに|じこ||せっけい||じんこう|ちのう||じつげん||とおく|げんざい||||いとぐち|||| On the other hand, the realization of "artificial intelligence that can truly design itself" as discussed in the Singularity is far from certain, and at present, even a clue to that goal has not been found. それ が 技術 の 現状 である 。 ||ぎじゅつ||げんじょう| That is the state of the art.

と は いえ 、 人工 知能 の 可能 性 を 過小 評価 して は いけない 。 |||じんこう|ちのう||かのう|せい||かしょう|ひょうか||| Nevertheless, the potential of artificial intelligence should not be underestimated.

専門 家 は 自ら の 技術 を 過小 評価 し がちである 。 せんもん|いえ||おのずから||ぎじゅつ||かしょう|ひょうか|| Experts tend to underestimate their own skills. 人工 知能 は 社会 の インフラ に なる こと は 確実であり 、 さまざまな 問題 が 起きる 前 に 議論 を 尽くす 必要 が ある 。 じんこう|ちのう||しゃかい||いんふら|||||かくじつであり||もんだい||おきる|ぜん||ぎろん||つくす|ひつよう|| Artificial intelligence is certain to become part of society's infrastructure, and we need to exhaust the discussion before various problems arise. 専門 家 と して 、 予見 できる もの は 予見 して おく べきであり 、 そこ に 何らか の 線 を 引く べき か どう かも 議論 する 必要 が ある 。 せんもん|いえ|||よけん||||よけん||||||なんらか||せん||ひく|||||ぎろん||ひつよう|| As experts, we should foresee what we can foresee, and we need to discuss whether we should draw any lines. また 、 あり うる 最悪の シナリオ を 考え 、 その 対応 を 列挙 する こと も 専門 家 の 果たす べき 役割 であろう 。 |||さいあくの|しなりお||かんがえ||たいおう||れっきょ||||せんもん|いえ||はたす||やくわり| It is also the role of the expert to consider possible worst-case scenarios and enumerate possible responses.

こうした 倫理 観 は 研究 者 自身 で は なく 、 社会 全体 が つくって いく もの である 。 |りんり|かん||けんきゅう|もの|じしん||||しゃかい|ぜんたい||||| These ethics are created not by the researchers themselves, but by society as a whole.

したがって 、 オープンに 議論 しなければ なら ない 。 |おーぷんに|ぎろん|し なければ|| Therefore, we must be open to discussion. Por lo tanto, debemos discutirlo abiertamente. 人工 知能 は 「 万 人 の ため の もの 」 である べきである 。 じんこう|ちのう||よろず|じん|||||| Artificial intelligence should be "for everyone. また 、 人工 知能 は 「 人間 の 尊厳 」 を 犯して は なら ない だろう 。 |じんこう|ちのう||にんげん||そんげん||おかして|||| Artificial intelligence must not violate human dignity.

人工 知能 が こうした 倫理 観 に 沿って 正しく 使わ れる ため に は 、 使わ れる 人工 知能 の 動作 や 技術 の 透明 性 が 高い こと 、 それ が 人間 に 説明 可能である こと 、 制御 権 を 複数 の 人間 （ 市民 ） に 分散 する こと など も 重要な 観点 と なる はずだ 。 じんこう|ちのう|||りんり|かん||そって|まさしく|つかわ|||||つかわ||じんこう|ちのう||どうさ||ぎじゅつ||とうめい|せい||たかい||||にんげん||せつめい|かのうである||せいぎょ|けん||ふくすう||にんげん|しみん||ぶんさん|||||じゅうような|かんてん||| In order for artificial intelligence to be used properly in accordance with such ethics, it should be highly transparent in terms of its operation and technology, explainable to humans, and decentralized to multiple humans (citizens).

いずれ に して も 、 まず 議論 す べき は 、「 人工 知能 が 将来 持つ べき 倫理 」 で は なく 、「 人工 知能 を 使う 人間 の 倫理 」 や 「 人工 知能 を つくる 人 に 対する 倫理 」 である 。 |||||ぎろん||||じんこう|ちのう||しょうらい|もつ||りんり||||じんこう|ちのう||つかう|にんげん||りんり||じんこう|ちのう|||じん||たいする|りんり| In any case, the first thing to discuss is not "the ethics that artificial intelligence should have in the future," but "the ethics of the people who use artificial intelligence" and "the ethics of the people who create artificial intelligence.

特定の 職業 が なくなる 可能 性 が ある ように 、 人工 知能 の 普及 が 短期 に もたらす 社会 的 あるいは 個人 へ の 顕著な 影響 に ついて は 配慮 す べきであろう 。 とくていの|しょくぎょう|||かのう|せい||||じんこう|ちのう||ふきゅう||たんき|||しゃかい|てき||こじん|||けんちょな|えいきょう||||はいりょ|| As certain professions may disappear, we should be mindful of the significant short-term social and individual impacts of the proliferation of artificial intelligence.

科学 技術 の 進化 に よって 、 労働 が 変化 する こと は よく ある こと だ と して も 、 大きな 教育 投資 を 受けた 人 が 、 その 恩恵 に 預かれ ない と いう こと に 対して 、 社会 的な 配慮 が 必要な 場合 が ある かも しれ ない 。 かがく|ぎじゅつ||しんか|||ろうどう||へんか|||||||||||おおきな|きょういく|とうし||うけた|じん|||おんけい||あずかれ||||||たいして|しゃかい|てきな|はいりょ||ひつような|ばあい||||| Even though technological change in the workforce is common, there may be social considerations that prevent those who have made a large educational investment from benefiting from it. また 、 生産 性 の 向上 に よる 富 の 再 分配 を どう する か と いう 問題 も ある 。 |せいさん|せい||こうじょう|||とみ||さい|ぶんぱい|||||||もんだい|| There is also the question of how to redistribute wealth through productivity gains.

どのような 人工 知能 を つくれば よい か と いう 議論 を する 際 に 、「 心 」 の 問題 は 重要だ 。 |じんこう|ちのう|||||||ぎろん|||さい||こころ||もんだい||じゅうようだ When discussing what kind of artificial intelligence to build, the question of the mind is important.

心 は 生命 と 同等 あるいは それ 以上 に 人間 の 本質 を 占め 、 心 を 持つ （ あるいは 一見 する と 心 を 持つ ように 見える ） 人工 知能 を つくって よい か どう か と いう の は 、 大きな 論点 である 。 こころ||せいめい||どうとう|||いじょう||にんげん||ほんしつ||しめ|こころ||もつ||いっけん|||こころ||もつ||みえる|じんこう|ちのう|||||||||||おおきな|ろんてん| The mind is as much or more a part of human nature than life, and the question of whether we should create an artificial intelligence with a mind (or the appearance of a mind) is a major point of contention. この 点 を 考えて おか ない と 、 人工 知能 に 恋愛 感情 を 抱いて しまう 、 人工 知能 プログラム を 停止 さ せて よい か で 争い が 起きる など 、 さまざまな 問題 を 誘発 する 可能 性 が ある 。 |てん||かんがえて||||じんこう|ちのう||れんあい|かんじょう||いだいて||じんこう|ちのう|ぷろぐらむ||ていし||||||あらそい||おきる|||もんだい||ゆうはつ||かのう|せい|| Failure to consider this point may lead to a variety of problems, such as romantic feelings toward the artificial intelligence or disputes over whether or not to shut down the artificial intelligence program. 現 時点 で 人工 知能 が 暴走 する ような 未来 は 考えられ ない が 、 そういった 不安 を 社会 が 持つ のであれば 、 それ に 対して 専門 家 が その 可能 性 と 対策 を 示し 、 社会 と コンセンサス を とる 努力 を し 続ける こと に 意味 が ある 。 げん|じてん||じんこう|ちのう||ぼうそう|||みらい||かんがえ られ||||ふあん||しゃかい||もつ||||たいして|せんもん|いえ|||かのう|せい||たいさく||しめし|しゃかい||こんせんさす|||どりょく|||つづける|||いみ|| At this point, a future in which artificial intelligence runs amok is unthinkable, but if society is concerned about such a future, it makes sense for experts to present the possibilities and countermeasures, and to continue taking steps to reach a consensus with society. 社会 を 構成 する 一人ひとり が 、 この 社会 を どうして いきたい か が 、 最も 重要な こと な のだ から 。 しゃかい||こうせい||ひとりひとり|||しゃかい|||いき たい|||もっとも|じゅうような|||| The most important thing is what each and every member of society wants to do with this society. 最後 の 章 で は 、 具体 的に 、 社会 や 産業 が どう 変わって いく 可能 性 が ある の か 、 その 中 で 人 ・ 企業 ・ 国 は どう 動いて いけば よい の か を 述べて いこう 。 さいご||しょう|||ぐたい|てきに|しゃかい||さんぎょう|||かわって||かのう|せい||||||なか||じん|きぎょう|くに|||うごいて||||||のべて| In the last chapter, we will discuss how society and industry are likely to change, and how people, companies, and countries should act in response.

われわれ は 人工 知能 に どんな 未来 を 描けば いい のだろう か 。 ||じんこう|ちのう|||みらい||えがけば||| What kind of future should we envision for artificial intelligence?

（＊ 注 46） リカレントネットワーク に 関する 研究 、 たとえば ＬＳＴＭ （ Long Short - Term Memory ） と 呼ば れる ニューラルネットワーク の 研究 が 進んで いる 。 そそ|||かんする|けんきゅう||ｌｓｔｍ|long|short|term|memory||よば||||けんきゅう||すすんで| (*Note 46) Research on recurrent networks, such as neural networks called LSTM (Long Short-Term Memory), is in progress. （＊ 注 47） ０ 歳 児 の 赤ちゃん を 観察 した こと の ある 人 であれば 、 赤ちゃん が 「 すさまじい 力 」 で 食べ物 を 握りつぶして しまう 場面 を 見た こと が ある だろう 。 そそ|さい|じ||あかちゃん||かんさつ|||||じん||あかちゃん|||ちから||たべもの||にぎりつぶして||ばめん||みた|||| (*Note 47) If you have ever observed a baby at age 0, you have probably seen a baby crush food with "tremendous force. 実際 、 すさまじく は ない のだ が 、 やはり コップ を つかむ とき の つかみ 方 と 、 サンドイッチ を つかむ とき の つかみ 方 は 、 大人 は 区別 して いる のである 。 じっさい|||||||こっぷ||||||かた||さんどいっち||||||かた||おとな||くべつ||| In fact, it is not terrible, but adults still make a distinction between grabbing a cup and grabbing a sandwich.

（＊ 注 48） こうした スポーツ に おける 言語 化 （ あるいは メタ 認知 ） の 意義 に ついて は 、 中京 大学 の 諏訪 正樹 氏 が 研究 を 行って いる 。 そそ||すぽーつ|||げんご|か|||にんち||いぎ||||ちゅうきょう|だいがく||すわ|まさき|うじ||けんきゅう||おこなって| (*Note 48) Masaki Suwa of Chukyo University has conducted research on the significance of verbalization (or metacognition) in such sports. （＊ 注 49） リチャード ・ ドーキンス 『 利己 的な 遺伝子 』（ 増補 新装 版 、 紀伊 國屋 書店 、２００６ 年 ） （＊ 注 50） ジェラルド ・ Ｍ ・ エーデルマン 『 脳 は 空 より 広い か 「 私 」 と いう 現象 を 考える 』（ 草 思 社 、２００６ 年 ） 。 そそ|||りこ|てきな|いでんし|ぞうほ|しんそう|はん|きい|くにや|しょてん|とし|そそ||ｍ||のう||から||ひろい||わたくし|||げんしょう||かんがえる|くさ|おも|しゃ|とし (*Note 49) Richard Dawkins, The Selfish Gene, Kinokuniya Shoten, 2006 (*Note 50) Gerald M. Edelman, The Brain is Wider than the Sky: The Phenomenon of "I" (Kusoshisha, 2006) .