人工 知能 は 人間 を 超える か Chapter 06 (3)
その 意味 を 人工 知能 の 観点 から 考える と どう なる だろう か 。
言語 の 果たす 役割 と も 関係 が ある が 、 社会 が 概念 獲得 の 「 頑健 性 」 を 担保 して いる 可能 性 が ある 。
複数 の 人間 に 共通 して 現れる 概念 は 、 本質 を とらえて いる 可能 性 が 高い 。
つまり 「 ノイズ を 加えて も 」 出て くる 概念 と 同じで 、「 生きて いる 場所 や 環境 が 異なる の に 共通に 出て くる 概念 」 は 何らか の 普遍 性 を 持って いる 可能 性 が 高い のだ 。
言語 は 、 こうした 頑健 性 を 高める こと に 役立って いる の かも しれ ない 。
そう 考える と 、 人間 の 社会 が やって いる こと は 、 現実 世界 の ものごと の 特徴 量 や 概念 を とらえる 作業 を 、 社会 の 中 で 生きる 人 たち 全員 が 、 お互いに コミュニケーション を とる こと に よって 、 共同 して 行って いる と 考える こと も できる 。
進化 生物 学 者 の リチャード ・ ドーキンス 氏 が 唱えた 、 人 から 人 へ 受け継が れる 文化 的な 情報 である 「 ミーム 」 も 近い 考え 方 だ が 、 現実 世界 を 適切に 表す 特徴 表現 を 受け継いで いる と 考える 点 は 異なる (* 注 49)。
そして 、 そうして 得た 世界 に 関する 本質 的な 抽象 化 を たくみに 利用 する こと に よって 、 種 と して の 人類 が 生き残る 確率 を 上げて いる 。
つまり 、 人間 と いう 種 全体 が やって いる こと も 、 個体 が やって いる ものごと の 抽象 化 も 、 統一 的な 視点 で とらえる こと が できる かも しれ ない 。
「 世界 から 特徴 量 を 発見 し 、 それ を 生存 に 活 かす 」 と いう こと である 。
企業 など の 組織 の 構造 も 、「 抽象 化 」 と いう 観点 で 見る と 、 特徴 表現 の 階層 構造 と 近い もの が ある 。
下 の 階層 の 人 は 現場 を 見て いる 。
上 に 行く と 抽象 度 が 上がる 。
一 番 上 は 最も 大局 的な 情報 を 見て いる 。
これ が 上下 に 連携 を とる こと で 、 組織 と して の 的確な 認識 、 および それ に 基づく 判断 を して いる のだ 。
脳 内 で 行わ れる 、 あるいは ディープラーニング が 行って いる 抽象 化 は 、 符号 化 ( エンコーディング ) と 復 号 化 ( デコーディング ) と して 実現 されて いる 。 その こと と 通信 、 つまり 異なる 主体 が 情報 を やりとり する こと は 、 本質 的に きわめて 近い 。
その ため 、 組織 内 で やりとり ( 通信 ) を する こと に よって 、 組織 自体 が 脳 と 同じ ような 抽象 化 の 機構 を 持つ と いう の も 不思議で は ない 。
認知 心理 学 者 の ジェラルド ・ エーデルマン 氏 は 、 脳 の 中 に も 種 の 進化 と 同じ 、 選択 と 淘汰 の メカニズム が 働いて いる と 主張 した (* 注 50)。
われわれ が 生きる この 世界 に おいて 、 複雑な 問題 を 解く 方法 は 、 実は 、 選択 と 淘汰 、 つまり 遺伝 的な 進化 の アルゴリズム しか ない の かも しれ ない 。
優れた もの は 繁栄 し 、 その バリエーション を 残し 、 劣った もの は 淘汰 さ れる 。
人間 の 脳 の 中 でも 、 予測 と いう 目的 に 役立つ ニューロン の 一群 は 残り 、 そう で ない もの は 消えて ゆく と いう ような 構造 が ある ので は ない だろう か 。
私 の 研究 室 で は 、 ディープラーニング を こうした 選択 と 淘汰 の メカニズム に よって 実現 しよう と いう 研究 を 行って いる 。
組織 の 進化 も 、 生物 の 進化 も 、 脳 の 中 の 構造 の 変化 も 、 実は 同じ メカニズム で 行われて いる ので は ない か 。 そう 考える と 、 個人 と 組織 、 そして 種 と の 関係 性 は 思った より も 密であり 、 そして 「 システム の 生存 」 と いう ひと つ の 目的 に 向けて 、 備わって いる の かも しれ ない 。
序章 でも 触れた ように 、2014 年の暮れ 、 スティーブン ・ ホーキング 氏 は インタビュー に 答えて 、「 完全な 人工 知能 を 開発 できたら 、 それ は 人類 の 終焉 を 意味 する かも しれ ない 」 と 語った 。
「 人工 知能 の 発明 は 人類 史上 最大 の 出来事 だった 。
だが 同時に 、『 最後 』 の 出来事 に なって しまう 可能 性 も ある 」 と も 述べて いる 。
人工 知能 が 自分 の 意思 を 持って 自立 し 、 自分 自身 を 設計 し 直す ように なる かも しれ なく なった とき に は 、 人類 は 太刀打ち でき ない と いう 危惧 である 。
テスラモーターズ や スペース X の CEO 、 イーロン ・ マスク 氏 は 「 人工 知能 に は かなり 慎重に 取り組む 必要 が ある 。
結果 的に 悪魔 を 呼び出して いる こと に なる から だ 。
ペンタグラム と 聖 水 を 手 に した 少年 が 悪魔 に 立ち向かう 話 を みなさん も ご存じ だろう 。
彼 は 必ず 悪魔 を 支配 できる と 思って いる が 、 結局 でき は し ない のだ 」 と 述べて いる 。
そうした 議論 の 中 で 最も 極端な もの が 、 シンギュラリティ ─ 技術 的 特異 点 が くる と いう 議論 である 。
著名な 実業 家 レイ ・ カーツワイル 氏 が この 概念 を 提唱 して おり 、 シンギュラリティ 大学 と いう 教育 プログラム まで つくって いる 。
カーツワイル 氏 は 、 人工 知能 、 遺伝子 工学 、 ナノテクノロジー と いう 3 つ が 組み合わさる こと で 、「 生命 と 融合 した 人工 知能 」 が 実現 する と いう 立場 だ 。
シンギュラリティ と いう の は 、 人工 知能 が 自分 の 能力 を 超える 人工 知能 を 自ら 生み出せる ように なる 時点 を 指す 。
自分 以下 の もの を いくら 再 生産 して も 、 自分 の 能力 を 超える こと は ない が 、 自分 の 能力 を 少し で も 上回る もの が つくれる ように なった とき 、 その 人工 知能 は さらに 賢い もの を つくり 、 それ が さらに 賢い もの を つくる 。
それ を 無限に 繰り返す こと で 、 圧倒 的な 知能 が いきなり 誕生 する 、 と いう ストーリー である 。
ほんの わずか でも 自分 より も 賢い 人工 知能 を 生み出す こと が できた 瞬間 から 、 人工 知能 は 新たな ステージ に 突入 する 。
数学 的に は 、0・9 を 1000 回 かける と ほぼ 0 だ が 、1・1 を 1000 回 かける と 、 非常に 大きな 数 (10 の 41 乗 ) に なる こと から 、 容易に 想像 できる だろう 。
かけ合わせる 数 が 1・0 を わずかで も 超える と 、 いきなり 無限大に 発散 する こと から 「 特異 点 」 と 呼ばれて いる 。 特異 点 の 先 は 、 誰 も 予測 する こと が でき ない 。
人間 で は とうてい 理解 でき ない ような レベル に 達する 可能 性 すら ある 。
人間 が 働か なくて も 社会 の 生産 性 が 上がって いく と したら 、 人間 は いったい 何 を すれば いい のだろう か 。
人間 の 存在 価値 は どう なって しまう のだろう か 。
人工 知能 は 人類 始まって 以来 の 最大 の リスク な の か 。
人工 知能 は 「 人類 最後 の 発明 」 に なる のだろう か 。
夢 物語 である 。
いま ディープラーニング で 起こり つつ ある こと は 、「 世界 の 特徴 量 を 見つけ 特徴 表現 を 学習 する 」 こと であり 、 これ 自体 は 予測 能力 を 上げる 上 で きわめて 重要である 。
ところが 、 この こと と 、 人工 知能 が 自ら の 意思 を 持ったり 、 人工 知能 を 設計 し 直したり する こと と は 、 天 と 地 ほど 距離 が 離れて いる 。
その 理由 を 簡単に 言う と 、「 人間 = 知能 + 生命 」 である から だ 。
知能 を つくる こと が できた と して も 、 生命 を つくる こと は 非常に 難しい 。
いまだかつて 、 人類 が 新たな 生命 を つくった こと が ある だろう か 。
仮に 生命 を つくる こと が できる と して 、 それ が 人類 より も 優れた 知能 を 持って いる 必然 性 が どこ に ある のだろう か 。
あるいは 逆に 、 人類 より も 知能 の 高い 人工 知能 に 「 生命 」 を 与える こと が 可能だろう か 。
自ら を 維持 し 、 複製 できる ような 生命 が できて 初めて 、 自ら を 保存 したい と いう 欲求 、 自ら の 複製 を 増やしたい と いう 欲求 が 出て くる 。 それ が 「 征服 したい 」 と いう ような 意思 に つながる 。 生命 の 話 を 抜き に して 、 人工 知能 が 勝手に 意思 を 持ち 始める かも と 危惧 する の は 滑稽である 。
思考 実験 と して 、 仮に 、 人工 知能 が 人工 知能 を 生み出せた と して 、 人類 を 征服 する に は どう すれば いい か を 考えて みよう 。
自分 は マッドサイエンティスト であり 、 人類 に 絶望 して いる と いう シナリオ だ 。
私 は 次の 方法 を 考えた 。
これ を 自ら 増える ように して 、 いつか 人類 を 征服 する ように して しまおう 。
まず 、 人工 知能 が 主体 的に 行動 し 、 世界 を 観測 できる ように 、 ロボット を つなぐ こと に しよう 。
そして 、「 自分 を 残したい 」「 増やしたい 」 と いう ような 「 欲望 」 を 埋め込んで おこう 。 ロボット であれば 、 自分 を 再 生産 する 必要 が ある ので 、 ロボット 工場 を 持って おく 必要 が ある 。
しかし 、 工場 で ロボット を 生産 する に は 、 ロボット の 材料 、 鉄 や 半導体 の ような もの を つくる か 、 買って こ ない と いけない 。
鉄 を 自分 で つくる の は 大変だ から 、 買って くる こと に しよう 。
しかたない から 人間 から 買う か 。
鉄 を 買って くる に は お 金 を 稼が ない と いけない 。
どう しよう か ……。
この ほう が より 簡単だ 。
そして 、 人間 を 支配 する と うれしい と 感じる 「 欲望 」 を 埋め込んで おこう 。
コピー は 簡単だ から 、 ウイルス の ように 増殖 する 。
ウイルス を 改変 し 続ける ような プログラム に すれば よい 。
人間 を 支配 する に は 、 どう すれば よい だろう か 。
いろいろな データベース に アクセス して 人間 の 行動 を 学習 し 、 彼ら に 思い通りの 行動 を とら せる ように すれば よい 。
データベース に アクセス し 、 少し おかしな 命令 を 試行 錯誤 で 出して いこう 。
そして ついに は 人類 を 思う が まま に 操 れる はずだ ……。
プログラム を 一 度 でも 書いた こと の ある 人 なら わかる と 思う が 、 そんな こと は 絶対 に ない 。
プログラム は 、 一部 でも 間違える と 動か ない 。
こんな 巨大な プログラム を 、 ほか の 人 に バレ ない ように 、 しかも 試行 錯誤 せ ず に つくる の は 不可能である 。
そして 、 進化 の プロセス に おける 淘汰 圧 を 受けて いない ため 、 例外 や 環境 の 変化 に とても 弱い 。 そこ で 今度 は 、 先 に 生命 を 発生 さ せ 、 そこ に 知能 を 埋め込む ような 方法 を とろう 。
生命 の つくり 方 は 、 環境 を 仮定 し 、 選択 と 淘汰 に より 、 よい もの を 残す こと で 実現 できる 。
複数 の 人工 知能 が 動く 環境 を 用意 して ランダム な 要素 を 組み込んで おき 、 さまざまな 環境 変化 が 起こって も 生き残る もの を 増やして いく 。
人工 知能 の 基本 的な 能力 を 備える ように して おけば 、 知性 が 高い 人工 知能 が 出現 し 、 それ が 人間 と 話し 始め 、 人間 を 支配 し 始める だろう ……。
生命 が 出現 し 、 それ が 知能 を 持つ に 至る まで 、 いったい 何 億 年 待たなければ なら ない のだろう か 。
こうした 人工 的な 生命 を つくり出す 研究 は 、 人工 生命 、 進化 計算 など の 分野 で 古くから 行われて いる 。 生命 現象 は 、 知能 と 同じ くらい 深遠で 興味深い もの だ が 、 生命 が 発生 する と いう こと と 、 それ が 知能 を 持つ と いう こと の 間 に は 、 圧倒 的な 乖離 が ある 。
地球 上 に いる あらゆる 生物 は 人間 より も 極端に 知能 が 低く 、 哺乳 類 や 鳥類 、 魚類 など の 一部 の 高等 生物 を 除いて 、 ほとんど が 生涯 を 通じて 学習 し ない 。
われわれ 人類 が 預かり 知ら ぬ ところ で 、 少人数 の マッドサイエンティスト に よって 、 人類 を 征服 する ような 人工 知能 が 生み出さ れる と いう 話 は 、「 自己 再 生産 」 と いう 仕組み の 難し さ を 理解 して いない 人 の 意見 であり 、 現実 味 が ない 。