人工 知能 は 人間 を 超える か Chapter 06 (4) じんこう|ちのう||にんげん||こえる||chapter Will Artificial Intelligence Surpass Humans Chapter 06 (4) L'intelligence artificielle dépassera-t-elle l'homme ? Chapitre 06 (4) A inteligência artificial ultrapassará o ser humano Capítulo 06 (4)

あるいは 、「 遺伝子 工学 と 結びつく こと で 生命 化 する のだ 」 と 言った と して 、 どのように 遺伝子 工学 が 人工 知能 と 組み合わさ れる と 自己 再 生産 する もの が できる の か と いう 、 ごく わずか でも 可能 性 の ある 方法 は 提示 されて いない 。 |いでんし|こうがく||むすびつく|||せいめい|か||||いった||||いでんし|こうがく||じんこう|ちのう||くみあわさ|||じこ|さい|せいさん||||||||||||かのう|せい|||ほうほう||ていじ|さ れて| Or, by saying, "It becomes alive by being linked with genetic engineering," and how genetic engineering can be combined with artificial intelligence to create self-reproduction is possible, even if only a little. No sexual method has been presented. 映画 『 ターミネーター 』 の ような 世界 観 は 、 馴染み の ある もの で は あって も 、 そう なる 科学 的な 根拠 は 乏しい と 言わ ざる を 得 ない 。 えいが||||せかい|かん||なじみ||||||||||かがく|てきな|こんきょ||とぼしい||いわ|||とく| Even if the world view like the movie "Terminator" is familiar, it must be said that the scientific basis for doing so is scarce.

人工 知能 が 人間 を 征服 する 心配 を する 必要 は ない 。 じんこう|ちのう||にんげん||せいふく||しんぱい|||ひつよう||

それ が 私 の 現 時点 で の 結論 である 。 ||わたくし||げん|じてん|||けつろん|

人工 知能 学会 で は 、２０１４ 年 に 倫理 委員 会 を 立ち上げ 、 人工 知能 が 社会 に もたらす インパクト に ついて 議論 を 進めて いる 。 じんこう|ちのう|がっかい|||とし||りんり|いいん|かい||たちあげ|じんこう|ちのう||しゃかい|||いんぱくと|||ぎろん||すすめて|

初代 の 倫理 委員 長 は 私 が 務めて いる が 、 そこ で の 議論 を 紹介 しよう 。 しょだい||りんり|いいん|ちょう||わたくし||つとめて||||||ぎろん||しょうかい| 機械 と 人間 が 入り 混じる 社会 に なって きた の は 紛れ も ない 事実 である 。 きかい||にんげん||はいり|まじる|しゃかい||||||まぎれ|||じじつ| その 意味 で 、 人間 の 知的 処理 の 幅 は より 広がって おり 、 人間 社会 は それ に 適応 して いる 。 |いみ||にんげん||ちてき|しょり||はば|||ひろがって||にんげん|しゃかい||||てきおう|| 一方 で 、 シンギュラリティ で 議論 されて いる ような 「 真に 自己 を 設計 できる 人工 知能 」 の 実現 は 遠く 、 現在 の ところ 、 その 糸口 さえ も つかめて いない 。 いっぽう||||ぎろん|さ れて|||しんに|じこ||せっけい||じんこう|ちのう||じつげん||とおく|げんざい||||いとぐち|||| それ が 技術 の 現状 である 。 ||ぎじゅつ||げんじょう|

と は いえ 、 人工 知能 の 可能 性 を 過小 評価 して は いけない 。 |||じんこう|ちのう||かのう|せい||かしょう|ひょうか|||

専門 家 は 自ら の 技術 を 過小 評価 し がちである 。 せんもん|いえ||おのずから||ぎじゅつ||かしょう|ひょうか|| 人工 知能 は 社会 の インフラ に なる こと は 確実であり 、 さまざまな 問題 が 起きる 前 に 議論 を 尽くす 必要 が ある 。 じんこう|ちのう||しゃかい||いんふら|||||かくじつであり||もんだい||おきる|ぜん||ぎろん||つくす|ひつよう|| 専門 家 と して 、 予見 できる もの は 予見 して おく べきであり 、 そこ に 何らか の 線 を 引く べき か どう かも 議論 する 必要 が ある 。 せんもん|いえ|||よけん||||よけん||||||なんらか||せん||ひく|||||ぎろん||ひつよう|| また 、 あり うる 最悪の シナリオ を 考え 、 その 対応 を 列挙 する こと も 専門 家 の 果たす べき 役割 であろう 。 |||さいあくの|しなりお||かんがえ||たいおう||れっきょ||||せんもん|いえ||はたす||やくわり|

こうした 倫理 観 は 研究 者 自身 で は なく 、 社会 全体 が つくって いく もの である 。 |りんり|かん||けんきゅう|もの|じしん||||しゃかい|ぜんたい|||||

したがって 、 オープンに 議論 しなければ なら ない 。 |おーぷんに|ぎろん|し なければ|| Por lo tanto, debemos discutirlo abiertamente. 人工 知能 は 「 万 人 の ため の もの 」 である べきである 。 じんこう|ちのう||よろず|じん|||||| また 、 人工 知能 は 「 人間 の 尊厳 」 を 犯して は なら ない だろう 。 |じんこう|ちのう||にんげん||そんげん||おかして||||

人工 知能 が こうした 倫理 観 に 沿って 正しく 使わ れる ため に は 、 使わ れる 人工 知能 の 動作 や 技術 の 透明 性 が 高い こと 、 それ が 人間 に 説明 可能である こと 、 制御 権 を 複数 の 人間 （ 市民 ） に 分散 する こと など も 重要な 観点 と なる はずだ 。 じんこう|ちのう|||りんり|かん||そって|まさしく|つかわ|||||つかわ||じんこう|ちのう||どうさ||ぎじゅつ||とうめい|せい||たかい||||にんげん||せつめい|かのうである||せいぎょ|けん||ふくすう||にんげん|しみん||ぶんさん|||||じゅうような|かんてん|||

いずれ に して も 、 まず 議論 す べき は 、「 人工 知能 が 将来 持つ べき 倫理 」 で は なく 、「 人工 知能 を 使う 人間 の 倫理 」 や 「 人工 知能 を つくる 人 に 対する 倫理 」 である 。 |||||ぎろん||||じんこう|ちのう||しょうらい|もつ||りんり||||じんこう|ちのう||つかう|にんげん||りんり||じんこう|ちのう|||じん||たいする|りんり|

特定の 職業 が なくなる 可能 性 が ある ように 、 人工 知能 の 普及 が 短期 に もたらす 社会 的 あるいは 個人 へ の 顕著な 影響 に ついて は 配慮 す べきであろう 。 とくていの|しょくぎょう|||かのう|せい||||じんこう|ちのう||ふきゅう||たんき|||しゃかい|てき||こじん|||けんちょな|えいきょう||||はいりょ|| Consideration should be given to the significant short-term social or personal consequences of the widespread use of artificial intelligence, as may result in the loss of certain occupations.

科学 技術 の 進化 に よって 、 労働 が 変化 する こと は よく ある こと だ と して も 、 大きな 教育 投資 を 受けた 人 が 、 その 恩恵 に 預かれ ない と いう こと に 対して 、 社会 的な 配慮 が 必要な 場合 が ある かも しれ ない 。 かがく|ぎじゅつ||しんか|||ろうどう||へんか|||||||||||おおきな|きょういく|とうし||うけた|じん|||おんけい||あずかれ||||||たいして|しゃかい|てきな|はいりょ||ひつような|ばあい||||| また 、 生産 性 の 向上 に よる 富 の 再 分配 を どう する か と いう 問題 も ある 。 |せいさん|せい||こうじょう|||とみ||さい|ぶんぱい|||||||もんだい||

どのような 人工 知能 を つくれば よい か と いう 議論 を する 際 に 、「 心 」 の 問題 は 重要だ 。 |じんこう|ちのう|||||||ぎろん|||さい||こころ||もんだい||じゅうようだ

心 は 生命 と 同等 あるいは それ 以上 に 人間 の 本質 を 占め 、 心 を 持つ （ あるいは 一見 する と 心 を 持つ ように 見える ） 人工 知能 を つくって よい か どう か と いう の は 、 大きな 論点 である 。 こころ||せいめい||どうとう|||いじょう||にんげん||ほんしつ||しめ|こころ||もつ||いっけん|||こころ||もつ||みえる|じんこう|ちのう|||||||||||おおきな|ろんてん| この 点 を 考えて おか ない と 、 人工 知能 に 恋愛 感情 を 抱いて しまう 、 人工 知能 プログラム を 停止 さ せて よい か で 争い が 起きる など 、 さまざまな 問題 を 誘発 する 可能 性 が ある 。 |てん||かんがえて||||じんこう|ちのう||れんあい|かんじょう||いだいて||じんこう|ちのう|ぷろぐらむ||ていし||||||あらそい||おきる|||もんだい||ゆうはつ||かのう|せい|| 現 時点 で 人工 知能 が 暴走 する ような 未来 は 考えられ ない が 、 そういった 不安 を 社会 が 持つ のであれば 、 それ に 対して 専門 家 が その 可能 性 と 対策 を 示し 、 社会 と コンセンサス を とる 努力 を し 続ける こと に 意味 が ある 。 げん|じてん||じんこう|ちのう||ぼうそう|||みらい||かんがえ られ||||ふあん||しゃかい||もつ||||たいして|せんもん|いえ|||かのう|せい||たいさく||しめし|しゃかい||こんせんさす|||どりょく|||つづける|||いみ|| 社会 を 構成 する 一人ひとり が 、 この 社会 を どうして いきたい か が 、 最も 重要な こと な のだ から 。 しゃかい||こうせい||ひとりひとり|||しゃかい|||いき たい|||もっとも|じゅうような|||| 最後 の 章 で は 、 具体 的に 、 社会 や 産業 が どう 変わって いく 可能 性 が ある の か 、 その 中 で 人 ・ 企業 ・ 国 は どう 動いて いけば よい の か を 述べて いこう 。 さいご||しょう|||ぐたい|てきに|しゃかい||さんぎょう|||かわって||かのう|せい||||||なか||じん|きぎょう|くに|||うごいて||||||のべて|

われわれ は 人工 知能 に どんな 未来 を 描けば いい のだろう か 。 ||じんこう|ちのう|||みらい||えがけば|||

（＊ 注 46） リカレントネットワーク に 関する 研究 、 たとえば ＬＳＴＭ （ Long Short - Term Memory ） と 呼ば れる ニューラルネットワーク の 研究 が 進んで いる 。 そそ|||かんする|けんきゅう||ｌｓｔｍ|long|short|term|memory||よば||||けんきゅう||すすんで| （＊ 注 47） ０ 歳 児 の 赤ちゃん を 観察 した こと の ある 人 であれば 、 赤ちゃん が 「 すさまじい 力 」 で 食べ物 を 握りつぶして しまう 場面 を 見た こと が ある だろう 。 そそ|さい|じ||あかちゃん||かんさつ|||||じん||あかちゃん|||ちから||たべもの||にぎりつぶして||ばめん||みた|||| 実際 、 すさまじく は ない のだ が 、 やはり コップ を つかむ とき の つかみ 方 と 、 サンドイッチ を つかむ とき の つかみ 方 は 、 大人 は 区別 して いる のである 。 じっさい|||||||こっぷ||||||かた||さんどいっち||||||かた||おとな||くべつ|||

（＊ 注 48） こうした スポーツ に おける 言語 化 （ あるいは メタ 認知 ） の 意義 に ついて は 、 中京 大学 の 諏訪 正樹 氏 が 研究 を 行って いる 。 そそ||すぽーつ|||げんご|か|||にんち||いぎ||||ちゅうきょう|だいがく||すわ|まさき|うじ||けんきゅう||おこなって| （＊ 注 49） リチャード ・ ドーキンス 『 利己 的な 遺伝子 』（ 増補 新装 版 、 紀伊 國屋 書店 、２００６ 年 ） （＊ 注 50） ジェラルド ・ Ｍ ・ エーデルマン 『 脳 は 空 より 広い か 「 私 」 と いう 現象 を 考える 』（ 草 思 社 、２００６ 年 ） 。 そそ|||りこ|てきな|いでんし|ぞうほ|しんそう|はん|きい|くにや|しょてん|とし|そそ||ｍ||のう||から||ひろい||わたくし|||げんしょう||かんがえる|くさ|おも|しゃ|とし