人工 知能 は 人間 を 超える か Chapter06(3)

その 意味 を 人工 知能 の 観点 から 考える と どう なる だろう か 。

言語 の 果たす 役割 と も 関係 が ある が 、 社会 が 概念 獲得 の 「 頑健 性 」 を 担保 して いる 可能 性 が ある 。

複数 の 人間 に 共通 して 現れる 概念 は 、本質 を とらえて いる 可能性 が 高い 。

つまり 「ノイズ を 加えて も 」出てくる 概念 と 同じで 、「生きている 場所 や 環境 が 異なる のに 共通に 出てくる 概念 」は 何らかの 普遍性 を 持っている 可能性 が 高い のだ 。

言語 は 、こうした 頑健性 を 高める こと に 役立っている の かもしれない 。

そう 考える と 、人間 の 社会 が やっている こと は 、現実 世界 の ものごと の 特徴量 や 概念 を とらえる 作業 を 、社会 の 中 で 生きる 人 たち 全員 が 、お互いに コミュニケーション を とる こと に よって 、共同して 行っている と 考える こと も できる 。

進化 生物 学者 の リチャード ・ ドーキンス 氏 が 唱えた 、 人 から人 へ 受け 継が れる 文化 的 な 情報 である 「 ミーム 」 も 近い 考え 方 だ が 、 現実 世界 を 適切に 表す 特徴 表現 を 受け 継いで いる と 考える 点 は 異なる （＊ 注 49）。

そして 、そうして 得た 世界 に 関する 本質的な 抽象化 を たくみに 利用する こと に よって 、種 としての 人類 が 生き残る 確率 を 上げている 。

つまり 、人間 という 種 全体 が やっている こと も 、個体 が やっている ものごと の 抽象化 も 、統一的な 視点 で とらえる こと が できる かもしれない 。

「世界 から 特徴 量 を 発見 し 、それ を 生存 に 活かす 」という こと である 。

企業 など の 組織 の 構造 も 、「抽象化 」と いう 観点 で 見る と 、特徴 表現 の 階層 構造 と 近い もの が ある 。

下 の 階層 の 人 は 現場 を 見ている 。

上 に 行く と 抽象 度 が 上がる 。

一番上 は 最も 大局的 な 情報 を 見ている 。

これ が 上下 に 連携 を とる こと で 、組織 として の 的確な 認識 、および それ に 基づく 判断 を している のだ 。

脳 内 で 行わ れる 、あるいは ディープラーニング が 行って いる 抽象 化 は 、 符号 化 （エンコーディング ）と 復号 化 （デコーディング ）と して 実現 されて いる 。 その こと と 通信 、つまり 異なる 主体 が 情報 を やりとり する こと は 、本質的に きわめて 近い 。

その ため 、組織 内 で やりとり （通信 ）を する こと に よって 、組織 自体 が 脳 と 同じ ような 抽象化 の 機構 を 持つ と いう の も 不思議 で は ない 。

認知 心理 学者 の ジェラルド ・エーデルマン 氏 は 、脳 の 中 に も 種 の 進化 と 同じ 、選択 と 淘汰 の メカニズム が 働いている と 主張した （＊注 50 ）。

われわれ が 生きる この 世界 に おいて 、複雑な 問題 を 解く 方法 は 、実は 、選択 と 淘汰 、つまり 遺伝的な 進化 の アルゴリズム しか ない の かも しれない 。

優れた もの は 繁栄 し 、その バリエーション を 残し 、劣った もの は 淘汰 さ れる 。

人間 の 脳 の 中 でも 、予測 という 目的 に 役立つ ニューロン の 一群 は 残り 、そう で ない もの は 消えて ゆく という ような 構造 が ある ので は ない だろう か 。

私 の 研究室 で は 、ディープラーニング を こうした 選択 と 淘汰 の メカニズム に よって 実現 しよう と いう 研究 を 行っている 。

組織 の 進化 も 、生物 の 進化 も 、脳 の 中 の 構造 の 変化 も 、実は 同じ メカニズム で 行われている のではないか 。 そう 考える と 、個人 と 組織 、そして 種 との 関係性 は 思った より も 密であり 、そして 「システム の 生存 」と いう ひとつ の 目的 に 向けて 、備わっている のかもしれない 。

序章 でも 触れた ように 、２０１４ 年 の 暮れ 、スティーブン・ホーキング 氏 は インタビュー に 答えて 、「完全な 人工 知能 を 開発 できたら 、それ は 人類 の 終焉 を 意味する かも しれない 」と 語った 。

「人工 知能 の 発明 は 人類 史上 最大 の 出来事 だった 。

だが 同時に 、『最後 』の 出来事 に なってしまう 可能性 も ある 」と も 述べている 。

人工 知能 が 自分 の 意思 を 持って 自立 し 、自分自身 を 設計 し直す ように なる かも しれなく なった とき に は 、人類 は 太刀打ち できない と いう 危惧 である 。

テスラモーターズ や スペース ＸのＣＥＯ、イーロン・マスク氏は「人工知能にはかなり慎重に取り組む必要がある。

結果 的に 悪魔 を 呼び出して いる こと に なる から だ 。

ペンタグラム と 聖水 を 手 に した 少年 が 悪魔 に 立ち向かう 話 を みなさん も ご存じ だろう 。

彼 は 必ず 悪魔 を 支配 できる と 思っている が 、結局 でき は しない のだ 」と 述べている 。

そうした 議論 の 中 で 最も 極端な もの が 、シンギュラリティ ─技術的 特異点 が くる と いう 議論 である 。

著名な 実業 家 レイ ・カーツワイル 氏 が この 概念 を 提唱 して おり 、シンギュラリティ 大学 という 教育 プログラム まで つくって いる 。

カーツワイル 氏 は 、人工 知能 、遺伝子 工学 、ナノテクノロジー と いう ３ つ が 組み合わさる こと で 、「生命 と 融合 した 人工 知能 」が 実現 する という 立場 だ 。

シンギュラリティ という の は 、人工 知能 が 自分 の 能力 を 超える 人工 知能 を 自ら 生み出せる ように なる 時点 を 指す 。

自分 以下 の もの を いくら 再生産 して も 、自分 の 能力 を 超える こと は ない が 、自分 の 能力 を 少し でも 上回る もの が つくれる ように なった とき 、その 人工知能 は さらに 賢い もの を つくり 、それ が さらに 賢い もの を つくる 。

それ を 無限に 繰り返す こと で 、圧倒的な 知能 が いきなり 誕生 する 、という ストーリー である 。

ほんの わずか でも 自分 より も 賢い 人工 知能 を 生み出す こと が できた 瞬間 から 、人工 知能 は 新たな ステージ に 突入 する 。

数学 的に は 、０・９ を １０００ 回 かける と ほぼ ０ だが 、１・１ を １０００ 回 かける と 、非常に 大きな 数 （10 の 41 乗 ）に なる こと から 、容易に 想像 できる だろう 。

かけ合わせる 数 が １・０ を わずかで も 超える と 、いきなり 無限大に 発散する こと から 「特異点 」と 呼ばれている 。 特異 点 の 先 は 、誰 も 予測 する こと が できない 。

人間 で は とうてい 理解 でき ない ような レベル に 達する 可能性 すら ある 。

人間 が 働か なくて も 社会 の 生産性 が 上がって いく と したら 、人間 は いったい 何 を すれば いい の だろうか 。

人間 の 存在 価値 は どう なって しまう のだろうか 。

人工 知能 は 人類 始まって 以来 の 最大 の リスク な の か 。

人工 知能 は 「人類 最後 の 発明 」に なる の だろう か 。

夢 物語 である 。

いま ディープラーニング で 起こり つつ ある こと は 、「世界 の 特徴量 を 見つけ 特徴 表現 を 学習 する 」こと であり 、これ 自体 は 予測 能力 を 上げる 上 で きわめて 重要である 。

ところが 、この こと と 、人工 知能 が 自ら の 意思 を 持ったり 、人工 知能 を 設計 し 直したり する こと と は 、天 と 地 ほど 距離 が 離れて いる 。

その 理由 を 簡単に 言う と 、「人間 ＝知能 ＋生命 」である から だ 。

知能 を つくる こと が できた と しても 、生命 を つくる こと は 非常に 難しい 。

いまだかつて 、人類 が 新たな 生命 を つくった こと が ある だろう か 。

仮に 生命 を つくる こと が できる と して 、それ が 人類 より も 優れた 知能 を 持って いる 必然性 が どこ に ある のだろう か 。

あるいは 逆に 、人類 より も 知能 の 高い 人工 知能 に 「生命 」を 与える こと が 可能 だろう か 。

自ら を 維持 し 、複製 できる ような 生命 が できて 初めて 、自ら を 保存 したい と いう 欲求 、自ら の 複製 を 増やしたい と いう 欲求 が 出てくる 。 それ が 「征服 したい 」と いう ような 意思 に つながる 。 生命 の 話 を 抜き に して 、人工 知能 が 勝手に 意思 を 持ち始める かも と 危惧する のは 滑稽である 。

思考 実験 として 、仮に 、人工 知能 が 人工 知能 を 生み出せた と して 、人類 を 征服 する に は どう すれば いい か を 考えて みよう 。

自分 は マッドサイエンティスト であり 、人類 に 絶望 している と いう シナリオ だ 。

私 は 次 の 方法 を 考えた 。

これ を 自ら 増える ように して 、いつか 人類 を 征服 する ように してしまおう 。

まず 、人工 知能 が 主体的に 行動 し 、世界 を 観測 できる ように 、ロボット を つなぐ こと に しよう 。

そして 、「自分 を 残したい 」「増やしたい 」という ような 「欲望 」を 埋め込んで おこう 。 ロボット であれば 、自分 を 再生産 する 必要 が ある ので 、ロボット工場 を 持っておく 必要 が ある 。

しかし 、工場 で ロボット を 生産 する に は 、ロボット の 材料 、鉄 や 半導体 の ような もの を つくる か 、買って こない と いけない 。

鉄 を 自分 で つくる の は 大変 だ から 、買って くる こと に しよう 。

しかたない から 人間 から 買う か 。

鉄 を 買って くる に は お金 を 稼が ない と いけない 。

どう しよう か …… 。

この ほう が より 簡単 だ 。

そして 、人間 を 支配 する と うれしい と 感じる 「欲望 」を 埋め込んで おこう 。

コピー は 簡単 だ から 、ウイルス の ように 増殖 する 。

ウイルス を 改変 し 続ける ような プログラム に すれば よい 。

人間 を 支配 する に は 、どう すれば よい だろう か 。

いろいろな データベース に アクセス して 人間 の 行動 を 学習 し 、彼ら に 思い通りの 行動 を とらせる ように すれば よい 。

データベース に アクセス し 、少し おかしな 命令 を 試行錯誤 で 出して いこう 。

そして ついに は 人類 を 思う が まま に 操れる はずだ …… 。

プログラム を 一 度 でも 書いた こと の ある 人 なら わかる と 思う が 、そんな こと は 絶対 に ない 。

プログラム は 、一部 でも 間違える と 動かない 。

こんな 巨大な プログラム を 、ほか の 人 に バレ ない ように 、しかも 試行錯誤 せずに つくる のは 不可能である 。

そして 、進化 の プロセス に おける 淘汰圧 を 受けて いない ため 、例外 や 環境 の 変化 に とても 弱い 。 そこ で 今度 は 、先に 生命 を 発生 させ 、そこに 知能 を 埋め込む ような 方法 を とろう 。

生命 の つくり 方 は 、環境 を 仮定 し 、選択 と 淘汰 に より 、よい もの を 残す こと で 実現 できる 。

複数 の 人工知能 が 動く 環境 を 用意して ランダムな 要素 を 組み込んで おき 、さまざまな 環境変化 が 起こっても 生き残る もの を 増やしていく 。

人工 知能 の 基本的な 能力 を 備える ように しておけば 、知性 が 高い 人工 知能 が 出現 し 、それ が 人間 と 話し 始め 、人間 を 支配 し 始める だろう …… 。

生命 が 出現 し 、それ が 知能 を 持つ に 至る まで 、いったい 何 億 年 待たなければ ならない のだろう か 。

こうした 人工 的な 生命 を つくり出す 研究 は 、人工生命 、進化 計算 など の 分野 で 古くから 行われている 。 生命 現象 は 、知能 と 同じ くらい 深遠で 興味深い もの だが 、生命 が 発生 する という こと と 、それ が 知能 を 持つ という こと の 間 には 、圧倒的な 乖離 が ある 。

地球 上 に いる あらゆる 生物 は 人間 より も 極端に 知能 が 低く 、哺乳類 や 鳥類 、魚類 など の 一部 の 高等 生物 を 除いて 、ほとんど が 生涯 を 通じて 学習しない 。

われわれ 人類 が 預かり 知ら ぬ ところ で 、少人数 の マッドサイエンティスト に よって 、人類 を 征服 する ような 人工 知能 が 生み出さ れる という 話 は 、「自己 再生産 」と いう 仕組み の 難しさ を 理解 して いない 人 の 意見 であり 、現実味 が ない 。