人工 知能 は 人間 を 超える か Chapter 06 (3) じんこう|ちのう||にんげん||こえる||chapter Will Artificial Intelligence Surpass Humans Chapter 06 (3) L'intelligence artificielle dépassera-t-elle l'homme ? Chapitre 06 (3) A inteligência artificial ultrapassará o ser humano Capítulo 06 (3) Превзойдет ли искусственный интеллект человека Глава 06 (3)

その 意味 を 人工 知能 の 観点 から 考える と どう なる だろう か 。 |いみ||じんこう|ちのう||かんてん||かんがえる|||||

言語 の 果たす 役割 と も 関係 が ある が 、 社会 が 概念 獲得 の 「 頑健 性 」 を 担保 して いる 可能 性 が ある 。 げんご||はたす|やくわり|||かんけい||||しゃかい||がいねん|かくとく||がんけん|せい||たんぽ|||かのう|せい||

複数 の 人間 に 共通 して 現れる 概念 は 、 本質 を とらえて いる 可能 性 が 高い 。 ふくすう||にんげん||きょうつう||あらわれる|がいねん||ほんしつ||||かのう|せい||たかい

つまり 「 ノイズ を 加えて も 」 出て くる 概念 と 同じで 、「 生きて いる 場所 や 環境 が 異なる の に 共通に 出て くる 概念 」 は 何らか の 普遍 性 を 持って いる 可能 性 が 高い のだ 。 |||くわえて||でて||がいねん||おなじで|いきて||ばしょ||かんきょう||ことなる|||きょうつうに|でて||がいねん||なんらか||ふへん|せい||もって||かのう|せい||たかい|

言語 は 、 こうした 頑健 性 を 高める こと に 役立って いる の かも しれ ない 。 げんご|||がんけん|せい||たかめる|||やくだって|||||

そう 考える と 、 人間 の 社会 が やって いる こと は 、 現実 世界 の ものごと の 特徴 量 や 概念 を とらえる 作業 を 、 社会 の 中 で 生きる 人 たち 全員 が 、 お互いに コミュニケーション を とる こと に よって 、 共同 して 行って いる と 考える こと も できる 。 |かんがえる||にんげん||しゃかい||||||げんじつ|せかい||||とくちょう|りょう||がいねん|||さぎょう||しゃかい||なか||いきる|じん||ぜんいん||おたがいに|こみゅにけーしょん||||||きょうどう||おこなって|||かんがえる|||

進化 生物 学 者 の リチャード ・ ドーキンス 氏 が 唱えた 、 人 から 人 へ 受け継が れる 文化 的な 情報 である 「 ミーム 」 も 近い 考え 方 だ が 、 現実 世界 を 適切に 表す 特徴 表現 を 受け継いで いる と 考える 点 は 異なる （＊ 注 49）。 しんか|せいぶつ|まな|もの||||うじ||となえた|じん||じん||うけつが||ぶんか|てきな|じょうほう||||ちかい|かんがえ|かた|||げんじつ|せかい||てきせつに|あらわす|とくちょう|ひょうげん||うけついで|||かんがえる|てん||ことなる|そそ

そして 、 そうして 得た 世界 に 関する 本質 的な 抽象 化 を たくみに 利用 する こと に よって 、 種 と して の 人類 が 生き残る 確率 を 上げて いる 。 ||えた|せかい||かんする|ほんしつ|てきな|ちゅうしょう|か|||りよう|||||しゅ||||じんるい||いきのこる|かくりつ||あげて|

つまり 、 人間 と いう 種 全体 が やって いる こと も 、 個体 が やって いる ものごと の 抽象 化 も 、 統一 的な 視点 で とらえる こと が できる かも しれ ない 。 |にんげん|||しゅ|ぜんたい||||||こたい||||||ちゅうしょう|か||とういつ|てきな|してん||||||||

「 世界 から 特徴 量 を 発見 し 、 それ を 生存 に 活 かす 」 と いう こと である 。 せかい||とくちょう|りょう||はっけん||||せいぞん||かつ|||||

企業 など の 組織 の 構造 も 、「 抽象 化 」 と いう 観点 で 見る と 、 特徴 表現 の 階層 構造 と 近い もの が ある 。 きぎょう|||そしき||こうぞう||ちゅうしょう|か|||かんてん||みる||とくちょう|ひょうげん||かいそう|こうぞう||ちかい|||

下 の 階層 の 人 は 現場 を 見て いる 。 した||かいそう||じん||げんば||みて|

上 に 行く と 抽象 度 が 上がる 。 うえ||いく||ちゅうしょう|たび||あがる

一 番 上 は 最も 大局 的な 情報 を 見て いる 。 ひと|ばん|うえ||もっとも|たいきょく|てきな|じょうほう||みて|

これ が 上下 に 連携 を とる こと で 、 組織 と して の 的確な 認識 、 および それ に 基づく 判断 を して いる のだ 。 ||じょうげ||れんけい|||||そしき||||てきかくな|にんしき||||もとづく|はんだん||||

脳 内 で 行わ れる 、 あるいは ディープラーニング が 行って いる 抽象 化 は 、 符号 化 （ エンコーディング ） と 復 号 化 （ デコーディング ） と して 実現 されて いる 。 のう|うち||おこなわ|||||おこなって||ちゅうしょう|か||ふごう|か|||ふく|ごう|か||||じつげん|さ れて| その こと と 通信 、 つまり 異なる 主体 が 情報 を やりとり する こと は 、 本質 的に きわめて 近い 。 |||つうしん||ことなる|しゅたい||じょうほう||||||ほんしつ|てきに||ちかい

その ため 、 組織 内 で やりとり （ 通信 ） を する こと に よって 、 組織 自体 が 脳 と 同じ ような 抽象 化 の 機構 を 持つ と いう の も 不思議で は ない 。 ||そしき|うち|||つうしん||||||そしき|じたい||のう||おなじ||ちゅうしょう|か||きこう||もつ|||||ふしぎで||

認知 心理 学 者 の ジェラルド ・ エーデルマン 氏 は 、 脳 の 中 に も 種 の 進化 と 同じ 、 選択 と 淘汰 の メカニズム が 働いて いる と 主張 した （＊ 注 50）。 にんち|しんり|まな|もの||||うじ||のう||なか|||しゅ||しんか||おなじ|せんたく||とうた||めかにずむ||はたらいて|||しゅちょう||そそ

われわれ が 生きる この 世界 に おいて 、 複雑な 問題 を 解く 方法 は 、 実は 、 選択 と 淘汰 、 つまり 遺伝 的な 進化 の アルゴリズム しか ない の かも しれ ない 。 ||いきる||せかい|||ふくざつな|もんだい||とく|ほうほう||じつは|せんたく||とうた||いでん|てきな|しんか||||||||

優れた もの は 繁栄 し 、 その バリエーション を 残し 、 劣った もの は 淘汰 さ れる 。 すぐれた|||はんえい|||||のこし|おとった|||とうた||

人間 の 脳 の 中 でも 、 予測 と いう 目的 に 役立つ ニューロン の 一群 は 残り 、 そう で ない もの は 消えて ゆく と いう ような 構造 が ある ので は ない だろう か 。 にんげん||のう||なか||よそく|||もくてき||やくだつ|||いちぐん||のこり||||||きえて|||||こうぞう|||||||

私 の 研究 室 で は 、 ディープラーニング を こうした 選択 と 淘汰 の メカニズム に よって 実現 しよう と いう 研究 を 行って いる 。 わたくし||けんきゅう|しつ||||||せんたく||とうた||めかにずむ|||じつげん||||けんきゅう||おこなって|

組織 の 進化 も 、 生物 の 進化 も 、 脳 の 中 の 構造 の 変化 も 、 実は 同じ メカニズム で 行われて いる ので は ない か 。 そしき||しんか||せいぶつ||しんか||のう||なか||こうぞう||へんか||じつは|おなじ|めかにずむ||おこなわ れて||||| そう 考える と 、 個人 と 組織 、 そして 種 と の 関係 性 は 思った より も 密であり 、 そして 「 システム の 生存 」 と いう ひと つ の 目的 に 向けて 、 備わって いる の かも しれ ない 。 |かんがえる||こじん||そしき||しゅ|||かんけい|せい||おもった|||みつであり||しすてむ||せいぞん||||||もくてき||むけて|そなわって|||||

序章 でも 触れた ように 、２０１４ 年の暮れ 、 スティーブン ・ ホーキング 氏 は インタビュー に 答えて 、「 完全な 人工 知能 を 開発 できたら 、 それ は 人類 の 終焉 を 意味 する かも しれ ない 」 と 語った 。 じょしょう||ふれた||としのくれ|||うじ||いんたびゅー||こたえて|かんぜんな|じんこう|ちのう||かいはつ||||じんるい||しゅうえん||いみ||||||かたった

「 人工 知能 の 発明 は 人類 史上 最大 の 出来事 だった 。 じんこう|ちのう||はつめい||じんるい|しじょう|さいだい||できごと|

だが 同時に 、『 最後 』 の 出来事 に なって しまう 可能 性 も ある 」 と も 述べて いる 。 |どうじに|さいご||できごと||||かのう|せい|||||のべて|

人工 知能 が 自分 の 意思 を 持って 自立 し 、 自分 自身 を 設計 し 直す ように なる かも しれ なく なった とき に は 、 人類 は 太刀打ち でき ない と いう 危惧 である 。 じんこう|ちのう||じぶん||いし||もって|じりつ||じぶん|じしん||せっけい||なおす||||||||||じんるい||たちうち|||||きぐ|

テスラモーターズ や スペース Ｘ の ＣＥＯ 、 イーロン ・ マスク 氏 は 「 人工 知能 に は かなり 慎重に 取り組む 必要 が ある 。 ||すぺーす|ｘ||ｃｅｏ||ますく|うじ||じんこう|ちのう||||しんちょうに|とりくむ|ひつよう||

結果 的に 悪魔 を 呼び出して いる こと に なる から だ 。 けっか|てきに|あくま||よびだして||||||

ペンタグラム と 聖 水 を 手 に した 少年 が 悪魔 に 立ち向かう 話 を みなさん も ご存じ だろう 。 ||せい|すい||て|||しょうねん||あくま||たちむかう|はなし||||ごぞんじ|

彼 は 必ず 悪魔 を 支配 できる と 思って いる が 、 結局 でき は し ない のだ 」 と 述べて いる 。 かれ||かならず|あくま||しはい|||おもって|||けっきょく|||||||のべて|

そうした 議論 の 中 で 最も 極端な もの が 、 シンギュラリティ ─ 技術 的 特異 点 が くる と いう 議論 である 。 |ぎろん||なか||もっとも|きょくたんな||||ぎじゅつ|てき|とくい|てん|||||ぎろん|

著名な 実業 家 レイ ・ カーツワイル 氏 が この 概念 を 提唱 して おり 、 シンギュラリティ 大学 と いう 教育 プログラム まで つくって いる 。 ちょめいな|じつぎょう|いえ|れい||うじ|||がいねん||ていしょう||||だいがく|||きょういく|ぷろぐらむ|||

カーツワイル 氏 は 、 人工 知能 、 遺伝子 工学 、 ナノテクノロジー と いう ３ つ が 組み合わさる こと で 、「 生命 と 融合 した 人工 知能 」 が 実現 する と いう 立場 だ 。 |うじ||じんこう|ちのう|いでんし|こうがく||||||くみあわさる|||せいめい||ゆうごう||じんこう|ちのう||じつげん||||たちば|

シンギュラリティ と いう の は 、 人工 知能 が 自分 の 能力 を 超える 人工 知能 を 自ら 生み出せる ように なる 時点 を 指す 。 |||||じんこう|ちのう||じぶん||のうりょく||こえる|じんこう|ちのう||おのずから|うみだせる|||じてん||さす

自分 以下 の もの を いくら 再 生産 して も 、 自分 の 能力 を 超える こと は ない が 、 自分 の 能力 を 少し で も 上回る もの が つくれる ように なった とき 、 その 人工 知能 は さらに 賢い もの を つくり 、 それ が さらに 賢い もの を つくる 。 じぶん|いか|||||さい|せいさん|||じぶん||のうりょく||こえる|||||じぶん||のうりょく||すこし|||うわまわる||||||||じんこう|ちのう|||かしこい|||||||かしこい|||

それ を 無限に 繰り返す こと で 、 圧倒 的な 知能 が いきなり 誕生 する 、 と いう ストーリー である 。 ||むげんに|くりかえす|||あっとう|てきな|ちのう|||たんじょう||||すとーりー|

ほんの わずか でも 自分 より も 賢い 人工 知能 を 生み出す こと が できた 瞬間 から 、 人工 知能 は 新たな ステージ に 突入 する 。 |||じぶん|||かしこい|じんこう|ちのう||うみだす||||しゅんかん||じんこう|ちのう||あらたな|すてーじ||とつにゅう|

数学 的に は 、０・９ を １０００ 回 かける と ほぼ ０ だ が 、１・１ を １０００ 回 かける と 、 非常に 大きな 数 （10 の 41 乗 ） に なる こと から 、 容易に 想像 できる だろう 。 すうがく|てきに|||かい|||||||かい|||ひじょうに|おおきな|すう||じょう|||||よういに|そうぞう||

かけ合わせる 数 が １・０ を わずかで も 超える と 、 いきなり 無限大に 発散 する こと から 「 特異 点 」 と 呼ばれて いる 。 かけあわせる|すう|||||こえる|||むげんだいに|はっさん||||とくい|てん||よば れて| 特異 点 の 先 は 、 誰 も 予測 する こと が でき ない 。 とくい|てん||さき||だれ||よそく|||||

人間 で は とうてい 理解 でき ない ような レベル に 達する 可能 性 すら ある 。 にんげん||||りかい||||れべる||たっする|かのう|せい||

人間 が 働か なくて も 社会 の 生産 性 が 上がって いく と したら 、 人間 は いったい 何 を すれば いい のだろう か 。 にんげん||はたらか|||しゃかい||せいさん|せい||あがって||||にんげん|||なん|||||

人間 の 存在 価値 は どう なって しまう のだろう か 。 にんげん||そんざい|かち||||||

人工 知能 は 人類 始まって 以来 の 最大 の リスク な の か 。 じんこう|ちのう||じんるい|はじまって|いらい||さいだい||りすく|||

人工 知能 は 「 人類 最後 の 発明 」 に なる のだろう か 。 じんこう|ちのう||じんるい|さいご||はつめい||||

夢 物語 である 。 ゆめ|ものがたり|

いま ディープラーニング で 起こり つつ ある こと は 、「 世界 の 特徴 量 を 見つけ 特徴 表現 を 学習 する 」 こと であり 、 これ 自体 は 予測 能力 を 上げる 上 で きわめて 重要である 。 |||おこり|||||せかい||とくちょう|りょう||みつけ|とくちょう|ひょうげん||がくしゅう|||||じたい||よそく|のうりょく||あげる|うえ|||じゅうようである

ところが 、 この こと と 、 人工 知能 が 自ら の 意思 を 持ったり 、 人工 知能 を 設計 し 直したり する こと と は 、 天 と 地 ほど 距離 が 離れて いる 。 ||||じんこう|ちのう||おのずから||いし||もったり|じんこう|ちのう||せっけい||なおしたり|||||てん||ち||きょり||はなれて|

その 理由 を 簡単に 言う と 、「 人間 ＝ 知能 ＋ 生命 」 である から だ 。 |りゆう||かんたんに|いう||にんげん|ちのう|せいめい|||

知能 を つくる こと が できた と して も 、 生命 を つくる こと は 非常に 難しい 。 ちのう|||||||||せいめい|||||ひじょうに|むずかしい

いまだかつて 、 人類 が 新たな 生命 を つくった こと が ある だろう か 。 |じんるい||あらたな|せいめい|||||||

仮に 生命 を つくる こと が できる と して 、 それ が 人類 より も 優れた 知能 を 持って いる 必然 性 が どこ に ある のだろう か 。 かりに|せいめい||||||||||じんるい|||すぐれた|ちのう||もって||ひつぜん|せい||||||

あるいは 逆に 、 人類 より も 知能 の 高い 人工 知能 に 「 生命 」 を 与える こと が 可能だろう か 。 |ぎゃくに|じんるい|||ちのう||たかい|じんこう|ちのう||せいめい||あたえる|||かのうだろう|

自ら を 維持 し 、 複製 できる ような 生命 が できて 初めて 、 自ら を 保存 したい と いう 欲求 、 自ら の 複製 を 増やしたい と いう 欲求 が 出て くる 。 おのずから||いじ||ふくせい|||せいめい|||はじめて|おのずから||ほぞん|し たい|||よっきゅう|おのずから||ふくせい||ふやし たい|||よっきゅう||でて| それ が 「 征服 したい 」 と いう ような 意思 に つながる 。 ||せいふく|し たい||||いし|| 生命 の 話 を 抜き に して 、 人工 知能 が 勝手に 意思 を 持ち 始める かも と 危惧 する の は 滑稽である 。 せいめい||はなし||ぬき|||じんこう|ちのう||かってに|いし||もち|はじめる|||きぐ||||こっけいである

思考 実験 と して 、 仮に 、 人工 知能 が 人工 知能 を 生み出せた と して 、 人類 を 征服 する に は どう すれば いい か を 考えて みよう 。 しこう|じっけん|||かりに|じんこう|ちのう||じんこう|ちのう||うみだせた|||じんるい||せいふく|||||||||かんがえて|

自分 は マッドサイエンティスト であり 、 人類 に 絶望 して いる と いう シナリオ だ 。 じぶん||||じんるい||ぜつぼう|||||しなりお|

私 は 次の 方法 を 考えた 。 わたくし||つぎの|ほうほう||かんがえた

これ を 自ら 増える ように して 、 いつか 人類 を 征服 する ように して しまおう 。 ||おのずから|ふえる||||じんるい||せいふく||||

まず 、 人工 知能 が 主体 的に 行動 し 、 世界 を 観測 できる ように 、 ロボット を つなぐ こと に しよう 。 |じんこう|ちのう||しゅたい|てきに|こうどう||せかい||かんそく|||ろぼっと|||||

そして 、「 自分 を 残したい 」「 増やしたい 」 と いう ような 「 欲望 」 を 埋め込んで おこう 。 |じぶん||のこし たい|ふやし たい||||よくぼう||うめこんで| ロボット であれば 、 自分 を 再 生産 する 必要 が ある ので 、 ロボット 工場 を 持って おく 必要 が ある 。 ろぼっと||じぶん||さい|せいさん||ひつよう||||ろぼっと|こうじょう||もって||ひつよう||

しかし 、 工場 で ロボット を 生産 する に は 、 ロボット の 材料 、 鉄 や 半導体 の ような もの を つくる か 、 買って こ ない と いけない 。 |こうじょう||ろぼっと||せいさん||||ろぼっと||ざいりょう|くろがね||はんどうたい|||||||かって||||

鉄 を 自分 で つくる の は 大変だ から 、 買って くる こと に しよう 。 くろがね||じぶん|||||たいへんだ||かって||||

しかたない から 人間 から 買う か 。 ||にんげん||かう|

鉄 を 買って くる に は お 金 を 稼が ない と いけない 。 くろがね||かって|||||きむ||かせが|||

どう しよう か ……。

この ほう が より 簡単だ 。 ||||かんたんだ

そして 、 人間 を 支配 する と うれしい と 感じる 「 欲望 」 を 埋め込んで おこう 。 |にんげん||しはい|||||かんじる|よくぼう||うめこんで|

コピー は 簡単だ から 、 ウイルス の ように 増殖 する 。 こぴー||かんたんだ||ういるす|||ぞうしょく|

ウイルス を 改変 し 続ける ような プログラム に すれば よい 。 ういるす||かいへん||つづける||ぷろぐらむ|||

人間 を 支配 する に は 、 どう すれば よい だろう か 。 にんげん||しはい||||||||

いろいろな データベース に アクセス して 人間 の 行動 を 学習 し 、 彼ら に 思い通りの 行動 を とら せる ように すれば よい 。 |でーたべーす||あくせす||にんげん||こうどう||がくしゅう||かれら||おもいどおりの|こうどう||||||

データベース に アクセス し 、 少し おかしな 命令 を 試行 錯誤 で 出して いこう 。 でーたべーす||あくせす||すこし||めいれい||しこう|さくご||だして|

そして ついに は 人類 を 思う が まま に 操 れる はずだ ……。 |||じんるい||おもう||||みさお||

プログラム を 一 度 でも 書いた こと の ある 人 なら わかる と 思う が 、 そんな こと は 絶対 に ない 。 ぷろぐらむ||ひと|たび||かいた||||じん||||おもう|||||ぜったい||

プログラム は 、 一部 でも 間違える と 動か ない 。 ぷろぐらむ||いちぶ||まちがえる||うごか|

こんな 巨大な プログラム を 、 ほか の 人 に バレ ない ように 、 しかも 試行 錯誤 せ ず に つくる の は 不可能である 。 |きょだいな|ぷろぐらむ||||じん||||||しこう|さくご|||||||ふかのうである

そして 、 進化 の プロセス に おける 淘汰 圧 を 受けて いない ため 、 例外 や 環境 の 変化 に とても 弱い 。 |しんか||ぷろせす|||とうた|あっ||うけて|||れいがい||かんきょう||へんか|||よわい そこ で 今度 は 、 先 に 生命 を 発生 さ せ 、 そこ に 知能 を 埋め込む ような 方法 を とろう 。 ||こんど||さき||せいめい||はっせい|||||ちのう||うめこむ||ほうほう||

生命 の つくり 方 は 、 環境 を 仮定 し 、 選択 と 淘汰 に より 、 よい もの を 残す こと で 実現 できる 。 せいめい|||かた||かんきょう||かてい||せんたく||とうた||||||のこす|||じつげん|

複数 の 人工 知能 が 動く 環境 を 用意 して ランダム な 要素 を 組み込んで おき 、 さまざまな 環境 変化 が 起こって も 生き残る もの を 増やして いく 。 ふくすう||じんこう|ちのう||うごく|かんきょう||ようい||||ようそ||くみこんで|||かんきょう|へんか||おこって||いきのこる|||ふやして|

人工 知能 の 基本 的な 能力 を 備える ように して おけば 、 知性 が 高い 人工 知能 が 出現 し 、 それ が 人間 と 話し 始め 、 人間 を 支配 し 始める だろう ……。 じんこう|ちのう||きほん|てきな|のうりょく||そなえる||||ちせい||たかい|じんこう|ちのう||しゅつげん||||にんげん||はなし|はじめ|にんげん||しはい||はじめる|

生命 が 出現 し 、 それ が 知能 を 持つ に 至る まで 、 いったい 何 億 年 待たなければ なら ない のだろう か 。 せいめい||しゅつげん||||ちのう||もつ||いたる|||なん|おく|とし|またなければ||||

こうした 人工 的な 生命 を つくり出す 研究 は 、 人工 生命 、 進化 計算 など の 分野 で 古くから 行われて いる 。 |じんこう|てきな|せいめい||つくりだす|けんきゅう||じんこう|せいめい|しんか|けいさん|||ぶんや||ふるくから|おこなわ れて| 生命 現象 は 、 知能 と 同じ くらい 深遠で 興味深い もの だ が 、 生命 が 発生 する と いう こと と 、 それ が 知能 を 持つ と いう こと の 間 に は 、 圧倒 的な 乖離 が ある 。 せいめい|げんしょう||ちのう||おなじ||しんえんで|きょうみぶかい||||せいめい||はっせい||||||||ちのう||もつ|||||あいだ|||あっとう|てきな|かいり||

地球 上 に いる あらゆる 生物 は 人間 より も 極端に 知能 が 低く 、 哺乳 類 や 鳥類 、 魚類 など の 一部 の 高等 生物 を 除いて 、 ほとんど が 生涯 を 通じて 学習 し ない 。 ちきゅう|うえ||||せいぶつ||にんげん|||きょくたんに|ちのう||ひくく|ほにゅう|るい||ちょうるい|ぎょるい|||いちぶ||こうとう|せいぶつ||のぞいて|||しょうがい||つうじて|がくしゅう||

われわれ 人類 が 預かり 知ら ぬ ところ で 、 少人数 の マッドサイエンティスト に よって 、 人類 を 征服 する ような 人工 知能 が 生み出さ れる と いう 話 は 、「 自己 再 生産 」 と いう 仕組み の 難し さ を 理解 して いない 人 の 意見 であり 、 現実 味 が ない 。 |じんるい||あずかり|しら||||しょうにんずう|||||じんるい||せいふく|||じんこう|ちのう||うみださ||||はなし||じこ|さい|せいさん|||しくみ||むずかし|||りかい|||じん||いけん||げんじつ|あじ|| The idea that a small number of mad scientists can create artificial intelligence that will conquer mankind without our knowledge is the opinion of someone who does not understand the difficulty of the "self-reproduction" mechanism, and is therefore unrealistic.