AX
人工知能に殺されても文句も言わない人間たち。。。いや「文句も言えない」。。。か。。。
ロボット三原則を守らない人工知能。。。

車の自動運転、病気の診断等、人工知能に人の生死にかかわる事項をゆだねうる項目は、いずれもロボット三原則に抵触しうる。

生死に関与しうる項目については、最終判断を人間の手にゆだねなければならない。

自動運転は、本質的には「運転補助」レベルにとどめるべきであり、病気の診断も、本質的には「診断の補助」レベルにとどめおくべきである。

最終判断を人間の手にゆだねずに、生死にかかわる判断を経て、行為まで持続的に連動するなら、ロボット三原則を破るシステムになってしまう。

「病気の診断」は「診断」で一度止まるから大丈夫と思っていたら大間違い。

そもそも、治療や処置を施す医師が、診断結果を受け取って、その診断が「正しいかどうか」を最終判断するには、「診断過程での推論を理解しうる言葉」として受け取る必要がある。
過去に用いられてきた手法は、そういった「理解しうる範疇」での途中経過をいかに取り出しうるか?というレベルをも対象にしようとして来ていた。
しかしながら、現時点で流行している「ディープラーニング」は、途中の思索過程を人間の言語領域に依拠せずに、一気に推論ベースへとデータを落とし込むため、得られた結果について「どうして?」という問いかけを一切受け付けさせないシステムとなってしまっている。

したがって、「病気の診断」という行為において、従来の診断医と治療医との間のコミュニケーションが完全に消失するため、治療医は「診断結果」だけをうのみにせざるを得ない事態に陥る。
すなわち、人工知能の下した判断を吟味する余地が与えられないまま、治療医は処置を行わざるを得なくなる。

人工知能の決断が人の生死を直接的に扱うのと、何ら変わらない事態が目前に迫っている。

アシモフ博士が提唱してきた、ロボット三原則が崩れ去る日は、すぐそこに来ている。

いや、すでに車をコントロールする人工知能に殺された人々がいるのに、誰も「ロボット三原則違反だ!」とは、声高に叫ばないでいる。いつの間に、人間は、ロボットに支配されても良いと思うようになってしまったのだろうか?

人工知能開発に多額の予算がつぎこまれ、開発に各社の命運をかけざるを得ない状況が、「文句も言えない」状況を作り出しているのかもしれない。。。

関連記事

[PR]
by kisugi_jinen | 2017-07-02 03:57 | つれづれ。。。 | Trackback | Comments(0)
トラックバックURL : http://jinen.exblog.jp/tb/26962809
トラックバックする(会員専用) [ヘルプ]
※このブログはトラックバック承認制を適用しています。 ブログの持ち主が承認するまでトラックバックは表示されません。
<< 竹田現象学とディープラーニング... ポスト真実、代替可能な事実、パ... >>



「ともし火に我もむかはず燈(ともしび)もわれにむかはず己がまにまに」(光厳院) --- 厳然とした境界を越え得ぬとき、その上でなお、越えうるものがあるとすれば、それは「情」である。
S M T W T F S
1 2
3 4 5 6 7 8 9
10 11 12 13 14 15 16
17 18 19 20 21 22 23
24 25 26 27 28 29 30
検索
カテゴリ
最新の記事
お知らせとリンク。。。
お知らせ
●コメントスパム対策のため、承認制に変更しました(2010.09.29)
●トラックバックのリンクチェック機能を追加しました。excite以外からのトラックバックをされる場合、当該記事へのリンクを埋め込んでください。
リンク
ゲストブック
---全体的なコメント等は、こちらへどうぞ。。。
来生自然のホームページ
---私の知の思想史。。。
鉄鼠
---「考える」ということに向き合う。。。
Genxx.blog
移転後http://blog.genxx.com/
---「情」を含めて専門的な立場から「こころ」を模索し続けるGenさんのブログ。。。
研幾堂
---山下裕嗣氏による哲学のサイト。以前、形而上学についてやりとりさせていただいた。
記事ランキング
最新のコメント
Kandomonmasa..
by kisugi_jinen at 01:29
Kandomonmasa..
by kisugi_jinen at 03:51
kisugi_jinen..
by Kandomonmasa at 14:28
> SumioBabaさ..
by kisugi_jinen at 10:41
「神」を完全に解明しまし..
by SumioBaba at 05:06
最新のトラックバック
究極の人工知能。。。ショ..
from 来生自然の。。。
所詮ゲーム、背景を勘ぐる..
from 来生自然の。。。
シン・ゴジラと所信表明演..
from 来生自然の。。。
ポケモンGOのお台場騒動..
from 来生自然の。。。
シン・ゴジラ。。。
from 来生自然の。。。
以前の記事
フォロー中のブログ
外部リンク
ブログパーツ
ライフログ
ファン
ブログジャンル
画像一覧