人工 知能 は 人間 を 超える か Chapter06(4)

あるいは 、「 遺伝子 工学 と 結びつく こと で 生命 化 する のだ 」 と 言った と して 、 どのよう に 遺伝子 工学 が人工 知能 と 組み合わさ れる と 自己 再 生産 する もの が できる の か と いう 、 ごく わずか でも 可能 性 の ある 方法 は 提示 されて いない 。 映画 『ターミネーター 』の ような 世界観 は 、馴染み の ある もの で は あっても 、そう なる 科学的な 根拠 は 乏しい と 言わざるを得ない 。

人工 知能 が 人間 を 征服 する 心配 を する 必要 は ない 。

それ が 私 の 現時点 で の 結論 である 。

人工 知能 学会 で は 、２０１４ 年 に 倫理 委員会 を 立ち上げ 、人工 知能 が 社会 に もたらす インパクト に ついて 議論 を 進めて いる 。

初代 の 倫理 委員長 は 私 が 務めて いる が 、そこ での 議論 を 紹介 しよう 。 機械 と 人間 が 入り混じる 社会 に なって きた の は 紛れもない 事実 である 。 その 意味 で 、人間 の 知的 処理 の 幅 は より 広がって おり 、人間 社会 は それ に 適応 して いる 。 一方 で 、シンギュラリティ で 議論 されて いる ような 「真に 自己 を 設計 できる 人工 知能 」の 実現 は 遠く 、現在 の ところ 、その 糸口 さえ も つかめて いない 。 それ が 技術 の 現状 である 。

と は いえ 、人工 知能 の 可能性 を 過小 評価 して は いけない 。

専門家 は 自ら の 技術 を 過小評価 し がち である 。 人工 知能 は 社会 の インフラ に なる こと は 確実であり 、さまざまな 問題 が 起きる 前 に 議論 を 尽くす 必要 が ある 。 専門家 として 、予見 できる もの は 予見しておく べきであり 、そこに 何らかの 線 を 引く べきか どうか も 議論する 必要がある 。 また 、あり うる 最悪の シナリオ を 考え 、その 対応 を 列挙する こと も 専門家 の 果たす べき 役割 であろう 。

こうした 倫理 観 は 研究者 自身 で は なく 、社会 全体 が つくって いく もの である 。

したがって 、オープンに 議論 しなければ ならない 。 人工 知能 は 「万 人 の ため の もの 」である べき である 。 また 、人工 知能 は 「人間 の 尊厳 」を 犯して は なら ない だろう 。

人工知能 が こうした 倫理 観 に 沿って 正しく 使われる ために は 、使われる 人工知能 の 動作 や 技術 の 透明性 が 高い こと 、それ が 人間 に 説明可能である こと 、制御権 を 複数 の 人間 （市民 ）に 分散する こと など も 重要な 観点 と なる はずだ 。

いずれ に して も 、 まず 議論 すべき は 、「 人工 知能 が 将来 持つ べき 倫理 」 で は なく 、「 人工 知能 を 使う人間 の 倫理 」 や 「 人工 知能 を つくる人 に 対する 倫理 」 である 。

特定の 職業 が なくなる 可能性 が ある ように 、人工 知能 の 普及 が 短期 に もたらす 社会的 あるいは 個人 へ の 顕著な 影響 に ついて は 配慮 すべきであろう 。

科学 技術 の 進化 に よって 、労働 が 変化 する こと は よく ある こと だ と しても 、大きな 教育 投資 を 受けた 人 が 、その 恩恵 に 預かれない という こと に 対して 、社会的な 配慮 が 必要な 場合 が ある かも しれない 。 また 、生産性 の 向上 に よる 富 の 再分配 を どうする か と いう 問題 も ある 。

どのような 人工 知能 を つくれば よい か と いう 議論 を する 際 に 、「心 」の 問題 は 重要 だ 。

心 は 生命 と 同等 あるいは それ 以上 に 人間 の 本質 を 占め 、心 を 持つ （あるいは 一見 する と 心 を 持つ ように 見える ）人工 知能 を つくって よい か どうか という の は 、大きな 論点 である 。 この 点 を 考えて おかない と 、人工 知能 に 恋愛 感情 を 抱いて しまう 、人工 知能 プログラム を 停止 させて よい か で 争い が 起きる など 、さまざまな 問題 を 誘発 する 可能性 が ある 。 現時点 で 人工知能 が 暴走 する ような 未来 は 考えられない が 、そういった 不安 を 社会 が 持つ のであれば 、それに 対して 専門家 が その 可能性 と 対策 を 示し 、社会 と コンセンサス を とる 努力 を し続ける こと に 意味 が ある 。 社会 を 構成 する 一人ひとり が 、この 社会 を どうして いきたい か が 、最も 重要な こと な のだ から 。 最後 の 章 で は 、具体的に 、社会 や 産業 が どう 変わって いく 可能性 が ある の か 、その 中 で 人 ・企業 ・国 は どう 動いて いけば よい のか を 述べて いこう 。

われわれ は 人工 知能 に どんな 未来 を 描けば いい のだろう か 。

（＊ 注 46） リカレントネットワーク に 関する 研究 、 たとえば ＬＳＴＭ （ Long Short - Term Memory ） と 呼ば れる ニューラルネットワーク の 研究 が 進んで いる 。 （＊ 注 47） ０ 歳 児 の 赤ちゃん を 観察 した こと の ある人 であれば 、 赤ちゃん が 「 すさまじい 力 」 で 食べ物 を 握りつぶして しまう 場面 を 見た こと が ある だろう 。 実際 、 すさまじく は ない のだ が 、 やはり コップ を つかむ とき の つかみ 方 と 、 サンドイッチ を つかむ とき の つかみ 方 は 、 大人 は 区別 して いる のである 。

（＊ 注 48） こうした スポーツ に おける 言語 化 （ あるいは メタ 認知 ） の 意義 に ついて は 、 中京 大学 の 諏訪 正樹 氏 が 研究 を 行って いる 。 （＊ 注 49） リチャード ・ ドーキンス 『 利己 的 な 遺伝子 』（ 増補 新装 版 、 紀伊 國屋 書店 、２００６ 年 ） （＊ 注 50） ジェラルド ・ Ｍ ・ エーデルマン 『 脳 は 空 より 広い か 「 私 」 と いう 現象 を 考える 』（ 草 思 社 、２００６ 年 ） 。