http://daily.2ch.sc/test/read.cgi/newsplus/1459699581/ 
 
1 名前:ひろし ★[sageteoff] 投稿日:2016/04/04(月) 01:06:21.58 ID:CAP_USER*.net 
   本連載の第7回で、人工知能は「敵か、家族か」という二分法で考えられるほど単純なものではなく、遅かれ早かれ「人間の倫理」の問題として浮上してくると書いた。  
  人工知能の動向を追いかけていると、「人間とは何か」「社会はどうあるべきか」という問いが、人工知能を発達させるうえで避けて通れない大きな問題として存在することがわかってくる。  
   
   
  人工知能開発における究極の選択問題  
   
   トロッコ問題(トロリー問題)をご存じだろうか。簡単にいうと、「ある人を助けるためにほかの人を犠牲にするのは許されるか?」という倫理学の思考実験だ。  
   
  「線路を走っているトロッコが制御不能になった。このままトロッコが進むと線路前方にいる5人の作業員が死んでしまう。このとき現場で、  
  この状況を目撃したAさんは線路を切り替えることのできる転轍機のそばにいた。切り替えれば5人は助かるが、切り替えたほうの線路にいるもう1人の作業員Bさんは死んでしまう。手段は転轍機しかない」  
   
   これは、「5人を助けるために1人を犠牲にしてもよいか」という道徳的ジレンマに関する問題である。あなたはどう答えるだろう。ちなみに私は、転轍機を一人のほうに切り替えることを選ぶ。  
   
   この問題には、派生した以下の別バリエーションがある。  
   
  「Aさんの隣には太ったCさんがいて、Cさんを線路につき落とせば、トロッコは確実に止まり、5人を助けることができる。しかしCさんは確実に死ぬ」  
   
   この2つの問いを5000人以上に聞いたところ、最初の質問には89%の人が「5人を助けるために1人を犠牲にしてもよい」と答えたという。  
  しかし、2番目の質問で「Cさんをつき落とすことは許される」としたのはわずか11%。2つの質問の違いは、1人の犠牲者の「出し方」だけだ。  
  命を奪うことに関して、私たちの中には確実にブレーキが存在する。だから、そのことに対する関与が薄いほうを選ぶ。(参考:「wikipedia」より)  
   
  トロッコ問題解決がなければ自動運転車の普及はない?  
   
   
   このトロッコ問題は、米グーグルや世界中の自動車メーカーが研究する自動運転車に必要な人工知能でも考慮しなければならない。  
   
   たとえば、オイルが撒き散らされた路上に、自動運転のクルマがスリップを引き起こさざるを得ないスピードで進入してきたとする。そしてスリップする。  
  前方にはたくさんの子どもたちがいて事故は避けられない。ただ、搭載された人工知能には逆ハンドルを切るプログラミングがされ、少しだけコントロールできる。  
  道路前方の左端に突っ込んでいけば、子どもの犠牲は減る可能性がある。しかし、クルマはガードレールを突き破り、運転手が崖下に転落する。  
   
   このような場合、人工知能にどのような判断をさせればよいのだろう。乗員を犠牲にして、前方の子どもを助けるのか。しかし、乗員を犠牲にするプログラムがなされたクルマは売れないだろう。  
   
  「人数の少ないほうを犠牲にする」とプログラムすればいいのだろうか。そうすると、人工知能には「太ったCさんを線路につき落とす」可能性が開けてしまう。  
  論理的にはそうなる。助けるために殺人を犯すことを是とする機械が出現する。この延長は、人工知能を搭載した殺人兵器だろう。味方をほぼ完全に識別し、敵をせん滅する。  
  あのダークな「ターミネーター=破壊的ディストピア」に一歩近づくロボットがつくれるのだ。悪意を持った人工知能。機械が意識に目覚めなくても、マッドサイエンティストと蒙昧な政治家がいれば、それはすぐにでもできそうだ。  
   
  (以下略 全文はリンク先で)  
  http://biz-journal.jp/2016/04/post_14504.html  
  http://biz-journal.jp/2016/04/post_14504_2.html  
   
  ★1:2016/04/03(日) 22:17:44.69  
  http://daily.2ch.net/test/read.cgi/newsplus/1459689464/  
 
 
 
4 名前:名無しさん@1周年[sage] 投稿日:2016/04/04(月) 01:07:41.01 ID:oII0zSqm0.net 
  効率を考えると躊躇なくなく1人をヤルだろね  
 
24 名前:名無しさん@1周年[] 投稿日:2016/04/04(月) 01:16:34.24 ID:JV+wtVf60.net 
  >>4  
  その一人がお前の母親だったらどうする?  
 
5 名前:名無しさん@1周年[sage] 投稿日:2016/04/04(月) 01:08:22.22 ID:7xIJuzOS0.net 
  これを功利主義と言う  
 
8 名前:名無しさん@1周年[sage] 投稿日:2016/04/04(月) 01:09:32.84 ID:de0k4ozw0.net 
   片方の船に300人、もう一方の船に200人。総勢500人の乗員乗客と、後は衛宮切嗣  
   仮にこの501人を人類最後の生き残りと設定しよう。  
   二隻の船底に同時に致命的な多穴が開いた。  
   船を修復するスキルを持つのは衛宮切嗣だけだ。  
   さてキミはどちらの船を直すだろうか。  
 
13 名前:(:゚Д゚)コロ猫4 ◆EFvlPnIYE33o [sage] 投稿日:2016/04/04(月) 01:11:39.57 ID:1fIhwC+I0.net 
   ▼▽  
  (: ゚Д゚)塩狩峠か  
 
17 名前:名無しさん@1周年[sage] 投稿日:2016/04/04(月) 01:12:39.10 ID:gPaSt8+O0.net 
  Cさんはなんで「太っている」ことが前提なんだ?  
 
20 名前:名無しさん@1周年[] 投稿日:2016/04/04(月) 01:15:10.38 ID:fLqfUbLH0.net 
  1.A robot may not injure a human, or allow a human to be injured.  
  (ロボットは人間を傷つけてはならない。また、危険を看過して人間に危害を及ぼしてはならない。)  
  2.A robot must follow any order given by a human that doesn't conflict with the First Law.  
  (ロボットは第1条に反しない限りで、人間の命令に従わなくてはならない。)  
  3.A robot must protect itself unless that would conflict with the First or Second Laws.  
  (ロボットは前掲1条及び2条に反しない限りで、自己を守らねばならない。)  
 
142 名前:名無しさん@1周年[sage] 投稿日:2016/04/04(月) 01:45:27.82 ID:khGZg5NF0.net 
  >>20  
  有名なロボット三原則だけどこれに則るとロボットがアクションを起こす事によって人が死ぬならなにもしない事になる。  
  つまり5人の作業員が死ぬのを黙って見ている事になる。  
  法的に考えてもそれが正しい。なにもしなければ追求される事は無い。  
  役立たずと思われるだろうがな。  
 
25 名前:名無しさん@1周年[sage] 投稿日:2016/04/04(月) 01:17:09.44 ID:de0k4ozw0.net 
  人間は愚かだからしばしば誤った選択をしてしまう  
   
  5人助かる方がいいに決まってるのに目の前の一人を助けてしまう場合は、ままある  
  しかしAIは間違わない。 確実に一人を●して5人を救う  
 
444 名前:名無しさん@1周年[] 投稿日:2016/04/04(月) 02:58:43.27 ID:yK9sF2Wu0.net 
  >>25  
  仮にAIを独裁者に置き換えると5人が赤の他人で1人が独裁者にとって大事な人だった場合  
  迷い無く5人を●すでしょうね  
 
50 名前:名無しさん@1周年[sage] 投稿日:2016/04/04(月) 01:24:19.40 ID:ikTO+2P/0.net 
  なるほどな面白い記事だな  
   
  でもそんな複雑な選択、世の中に起こりえる様々なバリエーションに富んだ状況  
  それに瞬時に対応できる機械が開発されるのなんてまだまだ先のことだろうし  
   
  もしそんな時代が来たのだとしても  
  それは機械に選択させるべきじゃない  
  たとえばこの事件なら五人の子供より乗務員の命を助けるべきだし  
  そのためだけの機械ってことで五人の子供が死んだとしてもそれ自体を事故という  
  扱いにするべきだな。  
 
67 名前:名無しさん@1周年[sage] 投稿日:2016/04/04(月) 01:30:04.80 ID:de0k4ozw0.net 
  >>50  
  上司(人間)の判断待ちをするAIとか超使えないんすけど  
  AIが判断した後に人間が追認でいいじゃないっすか  
  AIがもし間違えても人間の責任にはならないんで、ベストな解決法です  
 
91 名前:名無しさん@1周年[sage] 投稿日:2016/04/04(月) 01:35:28.46 ID:ikTO+2P/0.net 
  >>67  
  AIのミスは人間の企業の責任ですよ  
 
101 名前:名無しさん@1周年[sage] 投稿日:2016/04/04(月) 01:36:56.96 ID:de0k4ozw0.net 
  >>91  
  AIは仮りの人格が与えられてるんで、そりゃもう人と同じですよ。 人権は無いですが  
  AIの判断した結果起きた事象の責任は、AIにあります  
  企業やそこに所属してる人間は関係ありません  
 
73 名前:名無しさん@1周年[] 投稿日:2016/04/04(月) 01:31:55.21 ID:faaXBKRJ0.net 
  >>50  
  でもよ  
  その5人の子どもが君の子どもだったら?  
  5人の作業員のうちのひとりが君だったら?  
  同じ解を出す?  
 
51 名前:名無しさん@1周年[sage] 投稿日:2016/04/04(月) 01:24:53.51 ID:nJ2odm3G0.net 
  俺なら、女を●して、男を助ける選択肢を選ぶね  
  人工知能開発に関われるなら、女を犠牲にするようなソフトウェアをプログラミングする  
   
  まぁ、自動車を人工知能で自動運転とかマジでするなら、こういう判断も組み込まないとダメだよな  
 
57 名前:名無しさん@1周年[sage] 投稿日:2016/04/04(月) 01:26:25.52 ID:bb+WwHgOO.net 
  トロッコ問題も狭いトンネル内の作業なら五人が固まっているより  
  一人の方がトロッコを避けれるスペースも広い  
   
  そもそも犠牲という考え方が間違いだわな  
 
61 名前:名無しさん@1周年[] 投稿日:2016/04/04(月) 01:27:58.82 ID:khGZg5NF0.net 
  クルマの人工知能だったら守るものの優先順位が  
  クルマの中に居る奴>外に居る奴>その他じゃないと話にならん  
  例題に従うなら搭乗者の命守る為に躊躇なく子供轢き●す位じゃないと命預けられんよ  
 
546 名前:名無しさん@1周年[] 投稿日:2016/04/04(月) 03:25:37.91 ID:LoRxGM+u0.net 
  >>61  
  > クルマの人工知能だったら守るものの優先順位が  
  > クルマの中に居る奴>外に居る奴>その他じゃないと話にならん  
  > 例題に従うなら搭乗者の命守る為に躊躇なく子供轢き●す位じゃないと命預けられんよ  
   
  というのを記事でも書いてるな  
  子供の群れを守るべきだろう  
  でもそれじゃ売れないから搭乗者1人を守らざるを得ない  
  それは果たして倫理的にどうか?人工知能に判断出来るのか?  
  と言うのがテーマなんだろうけど、そもそも人工知能が運転してたら死なずに済んだ交通事故の方が多い気がするんだよな  
  人工知能で防げるであろう爺やらてんかんの轢き●しの方がずっと多いだろう  
 
561 名前:名無しさん@1周年[sage] 投稿日:2016/04/04(月) 03:31:13.00 ID:de0k4ozw0.net 
  >>546  
  何を言ってるのかな・・・AIは犠牲者の少ない方を選ぶに決まってる  
  車内に居る一人の犠牲で済むのなら、AIは躊躇なく崖からダイブするよ  
 
564 名前:名無しさん@1周年[sage] 投稿日:2016/04/04(月) 03:33:47.73 ID:aSTpOWG50.net 
  >>561  
  あくまですべての判断をAIにお任せするという前提であれば  
  それだと”車用のAI”として不良品だよ  
 
573 名前:名無しさん@1周年[sage] 投稿日:2016/04/04(月) 03:35:37.40 ID:de0k4ozw0.net 
  >>564  
  じゃあなに? 園児を満載したカートが目の前に現れたらAIは園児を轢き●すの? ありえない  
  急ハンドルを切って電柱に突っ込むに決まってる  
  それが正義ってもんだろ  
 
600 名前:名無しさん@1周年[] 投稿日:2016/04/04(月) 03:43:38.05 ID:r9QIaH5j0.net 
  >>561  
  車がダイブしたら、搭載されてるAI自体も死んでしまうわけだけどね。  
   
  つまり、AIには、自分自身が生存しなきゃという意志はない訳だ。  
 
116 名前:名無しさん@1周年[] 投稿日:2016/04/04(月) 01:39:39.76 ID:crVrssu90.net 
  AI「ハゲ優先な」  
 
123 名前:名無しさん@1周年[] 投稿日:2016/04/04(月) 01:41:35.19 ID:8AuWU5nI0.net 
  >>116  
  ハゲのほうが頭髪の分だけ軽いから  
  倫理トロッコの世界ではハゲしか生き残れないだろう  
 
121 名前:名無しさん@1周年[sage] 投稿日:2016/04/04(月) 01:41:18.64 ID:Vruor1YO0.net 
  何でこんな胸糞悪い選択を想像しなきゃいけないの  
 
126 名前:名無しさん@1周年[sage] 投稿日:2016/04/04(月) 01:42:20.43 ID:Y/JJbmUs0.net 
  >>121  
  将来的にAIをどの分野で使えるかを考えた時に、最悪の状況を想定している  
 
134 名前:名無しさん@1周年[sage] 投稿日:2016/04/04(月) 01:43:33.48 ID:Vruor1YO0.net 
  >>126  
  それは分かるけど  
  そんなの一般人の俺らに関係ないじゃん  
 
163 名前:名無しさん@1周年[sage] 投稿日:2016/04/04(月) 01:50:51.41 ID:fNjKQF9I0.net 
  これ突き詰めてくと、  
  健康な人ひとりをバラバラにして臓器をゲットして、  
  死にそうな人5人を助ける未来が待ってるんだけどな。  
 
166 名前:名無しさん@1周年[sage] 投稿日:2016/04/04(月) 01:52:30.25 ID:de0k4ozw0.net 
  >>163  
  乙武さんに四肢を与える為に四人の人間から一本ずつ手足を切り取るくらいはやるかもな  
 
174 名前:名無しさん@1周年[] 投稿日:2016/04/04(月) 01:54:27.05 ID:/En9xNi20.net 
  自動運転車は絶対に乗りたくないし普及させないでほしい  
  絶対余計な事故増えるぞ  
 
192 名前:名無しさん@1周年[sage] 投稿日:2016/04/04(月) 01:59:08.48 ID:dI/oNefG0.net 
  こういうのはアメリカの弁護士の戦いで決着つけて  
  またはアメリカで法律作ってよ  
  たぶん、自動運転車の保有者を守る方だと思うけど、5人側に大統領いると話が変わってきそう  
 
206 名前:名無しさん@1周年[] 投稿日:2016/04/04(月) 02:02:28.00 ID:6dph93HX0.net 
  >>192  
  米国は面白いことに自動運転AIを製造販売している企業に責任があると判断したようだ。  
  なので自動運転自動車の事故は製造者が罰せられる。  
 
219 名前:名無しさん@1周年[] 投稿日:2016/04/04(月) 02:06:11.48 ID:dI/oNefG0.net 
  >>206  
  その話は知ってる。免許いらないらしいし  
  罰せられる話は製造者ってなるよね  
  命の選択肢についての選択についてガイドラインが必要ではないか?っね話でしょ  
 
235 名前:名無しさん@1周年[] 投稿日:2016/04/04(月) 02:09:29.55 ID:6dph93HX0.net 
  >>219  
  免許要らないとはどこの国の話ですか?  
 
321 名前:名無しさん@1周年[] 投稿日:2016/04/04(月) 02:32:11.62 ID:dI/oNefG0.net 
  >>235  
  アメリカでAI自動運転車に同乗者の免許は不要ってメーカー側の主張認められなかったっけ?  
 
197 名前:名無しさん@1周年[sage] 投稿日:2016/04/04(月) 02:00:19.43 ID:Ij34XJkC0.net 
  この問題に対して完全な回答は一つ。  
  使用者の責任として選択するべきだろう。  
  もちろん差し迫った状況では選択もままならない。  
  事前に選択を取り決めておくべき。  
   
  例えば購入した時最初の設定で自身を犠牲にしても他人を守るか自身を守るかを選択してAIに教えればいい。  
  そうすれば最悪の事態が発生した場合でも複数の選択肢の中から極力使用者の意思に近い最良の選択肢を選ぶ事は可能だろう。  
  AIに選択させるのではなく使用者の意思に基づいて思考させる事が大切だと思うよ。  
   
  AIが人を●すとか考えすぎでいつだって人を●すのは人間なんだよ。  
  それが作り手か使い手かの違いだけ。  
  使用者である以上その責務から逃すべきじゃない。  
  よってその選択は使用者に委ねるべきだろう。  
  ただ、先の選択によってAIが使用者を守るため歩行者を跳ねてしまっても使用者を責めるのは筋違いだと思う。  
  悪いのはその状況になった原因だから。  
  AIでの事故は飛行機事故と同じように考えるべきではないかな。  
  事故を起こしたシステムが悪い。  
 
200 名前:名無しさん@1周年[sage] 投稿日:2016/04/04(月) 02:00:58.53 ID:de0k4ozw0.net 
  突然猫が飛び出してきた! あなたならどうする  
   
  俺は迷いなく轢き●すし、AIもそうするだろう  
  もし飛び出したのが人間ならどうだろう。。。俺はハンドルを切ってしまうかもしれないし、結果的に俺を含む多数の人間が傷つく事になるかもしれない  
  しかしAIは間違わない  
  確実に人間を轢き●す  
 
234 名前:名無しさん@1周年[sage] 投稿日:2016/04/04(月) 02:09:28.70 ID:l1w7NSYG0.net 
  >>200  
   面白い思考実験だな。  
   一人の死を避けるためにハンドルを切り、結果として5人が死んだとする。  
   それでも、陪審員の心証としては「仕方のない判断。不幸な事故だった」ということで許されるだろうし、  
   俺もそう考える。  
   つまり、合理的判断からすれば不合理なことでも、道徳的には許されることになるわけだ。  
   この矛盾した結論を、AIの価値判断に組み込むことはできるのだろうか?  
 
215 名前:名無しさん@1周年[] 投稿日:2016/04/04(月) 02:04:55.68 ID:oCInb6cO0.net 
  少数の命を犠牲にして大多数を救う方法を良しとするのは  
  選択したらダメな設問だったはず  
   
  人工知能がではなく、結局は人が人を●すんでしょ  
 
224 名前:名無しさん@1周年[sage] 投稿日:2016/04/04(月) 02:07:24.18 ID:de0k4ozw0.net 
  >>215  
  でも必ずそーいう場面が出てくるよ?  
  AIに任せるならそーいう事態も想定しないと  
  その場合責任は当然AIにある。 AIの開発者の責任は問わない事にしないと、AIは普及しない  
 
251 名前:名無しさん@1周年[] 投稿日:2016/04/04(月) 02:13:34.80 ID:6dph93HX0.net 
  >>224  
  >AIの開発者の責任は問わない事にしないと、AIは普及しない  
   
  米国は責任を製造者にしたぞ  
  お前の主張だと、もう米国では普及しないことになるな  
 
279 名前:名無しさん@1周年[sage] 投稿日:2016/04/04(月) 02:22:49.14 ID:de0k4ozw0.net 
  >>251  
  考え方をこのさい変えるべきなんだよ  
   
  AIに責任を押し付けてしまえば、人間はみんな幸せになれるんだよ  
 
269 名前:名無しさん@1周年[] 投稿日:2016/04/04(月) 02:20:08.38 ID:oCInb6cO0.net 
  >>224  
  アメリカの戦闘系公務員の試験でこの問題が出たら  
  一人を犠牲にすると選んだら絶対に合格できないようになっている  
   
  AIが自殺して全員を助けることができるなら別だけど  
 
292 名前:名無しさん@1周年[sage] 投稿日:2016/04/04(月) 02:25:12.13 ID:de0k4ozw0.net 
  >>269  
  指揮官は?  
   
  100人を犠牲にして1000人を救うなんて選択の連続だと思うのですが?  
 
300 名前:名無しさん@1周年[] 投稿日:2016/04/04(月) 02:28:02.82 ID:oCInb6cO0.net 
  >>292  
  お前が挙げているような選択肢で違和感なく100人を犠牲にすると選べる奴は  
  指揮官に向いていないから大丈夫  
 
309 名前:名無しさん@1周年[sage] 投稿日:2016/04/04(月) 02:29:31.91 ID:de0k4ozw0.net 
  >>300  
  意味がわかりません  
   
  むしろ冷徹に100人を犠牲にする指揮官でなければ戦争には勝てません  
  目的達成の為なら少数の犠牲など問題にはならんのです  
 
328 名前:名無しさん@1周年[] 投稿日:2016/04/04(月) 02:32:49.06 ID:oCInb6cO0.net 
  >>309  
  俺は絶対にお前の下に付きたくないわw  
  命がいくらあっても足りん  
 
331 名前:名無しさん@1周年[sage] 投稿日:2016/04/04(月) 02:33:51.59 ID:de0k4ozw0.net 
  >>328  
  優秀な将軍は演技も上手いつー事で、AIも高度化すれば本音と建前を使い分けるようになるでしょう  
 
339 名前:名無しさん@1周年[] 投稿日:2016/04/04(月) 02:34:55.03 ID:Ps2OtJ220.net 
  >>309  
  いいえ、100人を分かっていて死なせる情況に追いやったら  
  戦闘指揮官には向いてないのよ。  
  人員が一番補充困難で高価なのでね。  
   
  100人で1000人を助けても、  
  指揮官は解任される。  
  もっと前に後退しろとね。  
 
346 名前:名無しさん@1周年[sage] 投稿日:2016/04/04(月) 02:35:53.15 ID:de0k4ozw0.net 
  >>339  
  そもそも、自分が行かずに部下に行かせてる時点で矛盾してるんですよ  
 
364 名前:名無しさん@1周年[] 投稿日:2016/04/04(月) 02:40:29.27 ID:Ps2OtJ220.net 
  >>346  
  戦闘指揮官は最前線に立つ必要はないよ。  
  目と耳で戦況を把握出来る位置で。  
  最前線で死んで許されるのは  
  小隊長までだよね。  
 
347 名前:名無しさん@1周年[sage] 投稿日:2016/04/04(月) 02:36:03.50 ID:pbDNDPDg0.net 
  >>309  
  それは『結果』でしかない。  
  最初から犠牲ありきで戦闘をおっぱじめた場合、犠牲となる100人が納得するか?  
  次に周りの影響もある。  
  「次は自分か?」とね。  
   
  アメリカの海兵隊では、敵地に取り残された一人を救う為に犠牲を厭わない事もするそうだ。  
  そうでなければ、兵士は付いてこない。  
  頭の中での机上の空論を弄ぶのはいいが、自分がその100人の中にいたら?みたいな視点を持ったら?  
  君みたいなのは、何故か、自分が指揮官の立場に置いて妄想を炸裂させる。  
 
365 名前:名無しさん@1周年[sage] 投稿日:2016/04/04(月) 02:40:50.11 ID:de0k4ozw0.net 
  >>347  
  言いたいことは解りますが、それは建前の部分ですよね?  
  人間的な行動ってのは非効率なんです  
   
  AIの方が人間より効率がいいからみんな必死に開発してるんですよね?  
  AIが人間みたいな非効率な選択をしたら、AIなんて必要無いじゃないですかw  
 
377 名前:名無しさん@1周年[sage] 投稿日:2016/04/04(月) 02:43:55.66 ID:pbDNDPDg0.net 
  >>365  
  ????  
  効率?  
  誰に取っての効率なの?そして、非効率という根拠は??  
  AIが人間の知性の真似をしている以上、人間と同じような思考回路になるだけだよ??  
 
394 名前:名無しさん@1周年[sage] 投稿日:2016/04/04(月) 02:48:02.35 ID:de0k4ozw0.net 
  >>364  
  被害を出来る限り抑えるのが指揮官の役目・・・じゃないでしょ?  
  指揮官の役目は    どれだけ犠牲を出してもいいから勝利することでしょ?  
   
   
  >>377  
  効率を度外視するなら人間でいいじゃないですか  
  これからもずっと人間が自動車を運転しましょうよ  
 
414 名前:名無しさん@1周年[] 投稿日:2016/04/04(月) 02:51:59.70 ID:0XBnYQh30.net 
  >>394  
  >指揮官の役目は    どれだけ犠牲を出してもいいから勝利することでしょ  
   
  なんか出来損ないのAIみたいな奴がいるなwww  
 
426 名前:名無しさん@1周年[sage] 投稿日:2016/04/04(月) 02:54:21.33 ID:de0k4ozw0.net 
  >>414  
  じゃあ指揮官は何のために居るんですか?  
  100人の犠牲を出したくないから1000人を見捨てていいんですか?  
 
436 名前:名無しさん@1周年[] 投稿日:2016/04/04(月) 02:57:28.27 ID:0XBnYQh30.net 
  >>426  
  滅亡した地球で永遠に勝利宣言してればいいんじゃねwwwガラクタAIくんww  
 
437 名前:名無しさん@1周年[] 投稿日:2016/04/04(月) 02:57:29.54 ID:Ps2OtJ220.net 
  >>426  
  解ってて100人死なせなきゃならない情況になったら  
  そいつクビ  
 
464 名前:名無しさん@1周年[sage] 投稿日:2016/04/04(月) 03:01:45.10 ID:de0k4ozw0.net 
  >>436  
  >>437  
  あんたらじゃあ戦争には負けますわ  
  俺が大統領ならあなた達を将軍にはしません  
   
  俺がAIを選ぶなら、躊躇なく一人を轢き●すAIにします  
 
421 名前:名無しさん@1周年[] 投稿日:2016/04/04(月) 02:53:22.58 ID:Ps2OtJ220.net 
  >>394  
  どれだけ犠牲を出してもって言うけど、  
  ただ一戦の為に人員の損耗を招いていたら、  
  作戦続行に待ったがかかるよ。  
 
451 名前:名無しさん@1周年[sage] 投稿日:2016/04/04(月) 02:59:21.59 ID:de0k4ozw0.net 
  >>421  
  まぁ戦争は相手がいますから、こちらがどれだけ効率よく動いても負ける事もあります  
   
  自動運転車も同じですね。 AIが正しい判断をしても相手がそれを上回る誤った判断をすれば事故ります  
  その相手がAIならいいですが、人間なら誰が責任を取るのでしょうか?  
 
481 名前:名無しさん@1周年[] 投稿日:2016/04/04(月) 03:06:35.84 ID:Ps2OtJ220.net 
  >>451  
  仮に負けたとしても、立案の段階で、  
  脅威を全て予測しておかないと。  
  想定外でしたってのは、余程でないと  
  クビを覚悟しろってこと。  
  今だったら1000人孤立したら、  
  地形が変わるくらい援護射撃するだろね  
 
500 名前:名無しさん@1周年[sage] 投稿日:2016/04/04(月) 03:11:43.29 ID:de0k4ozw0.net 
  >>481  
  ではあなたが大日本帝国海軍の提督だとします  
  どう考えてもアメリカには勝ち目はありません  
  それでも戦えと命じられました。 どうしますか?  
 
229 名前:名無しさん@1周年[sage] 投稿日:2016/04/04(月) 02:08:15.03 ID:aGsBkzb30.net 
  韓国は日本の兄貴だよ  
  兄貴が困っていたら  
  さりげなく手助けするのが  
  弟の役目  
 
242 名前:名無しさん@1周年[] 投稿日:2016/04/04(月) 02:11:18.97 ID:8Kr52XViO.net 
  >>229  
  日本じゃ上が下を気づかうのが兄弟なんですが?w  
 
250 名前:名無しさん@1周年[] 投稿日:2016/04/04(月) 02:13:12.73 ID:Ps2OtJ220.net 
  >>1  
  昔SFで見たな。  
  貴重な戦闘機が不時着しようとしたが、  
  滑走路に除雪車が残ってて衝突は確実、  
  基地のAIはCIWSみたいな機銃を操作して、  
  除雪車を消し飛ばした。  
  子供ながらに昆虫みたいに合理的なAIに  
  恐怖したわ。  
 
261 名前:名無しさん@1周年[] 投稿日:2016/04/04(月) 02:17:06.49 ID:Ps2OtJ220.net 
  自動運転のAIが、直進すると子供、  
  左にハンドルを切ると対向車、  
  右なら老人という場合に、  
  右にハンドルを切ったことに  
  違法性は無いとかいう時代になりそうだな。  
 
270 名前:名無しさん@1周年[sage] 投稿日:2016/04/04(月) 02:20:20.95 ID:ClIXSJro0.net 
  >>261  
  ブレーキで停止。  
 
277 名前:名無しさん@1周年[] 投稿日:2016/04/04(月) 02:22:40.62 ID:Ps2OtJ220.net 
  >>270  
  ブレーキで停止を試みると確実に子供が死ぬ場合。  
 
296 名前:名無しさん@1周年[sage] 投稿日:2016/04/04(月) 02:26:04.00 ID:ClIXSJro0.net 
  >>277  
  どういう状況なのそれ?w  
 
298 名前:名無しさん@1周年[] 投稿日:2016/04/04(月) 02:27:24.93 ID:Ps2OtJ220.net 
  >>296  
  交通事故が起きない世界に住んでるの?  
 
263 名前:名無しさん@1周年[sage] 投稿日:2016/04/04(月) 02:17:46.45 ID:ClIXSJro0.net 
  >>1  
  サンデルのやつだよねぇ。  
   
  俺はポイントを一人の方に切り替える。  
  ワンタッチで切り替えられるんだからそりゃそうだろ。  
   
  デブを突き落とす、は、やらない。  
  でも理由はサンデルの言ってた理屈なんかじゃぜんぜんなくて、  
  俺はそこまでして人を助けようとは思わないから。  
  それが100人だろうと1000人だろうと同じ。  
   
  突き落とす衝動になる事が万に一つあったなら、それよりも自分の体を投げ出すよ俺なら。  
  でもそうはならない。イコール、人を突き飛ばしたりもしない。  
   
  ポイントを切り替える、人を突き飛ばす、  
  この二つを、結果が同じだからと「している事は同等」と言うのにはムリがある。  
   
  この問い掛けは実はおかしな点が多い。  
  作業員全員が確実に死ぬ、ってのがまずおかしい。タイムマシンでも無きゃそんな事、事前に分かりようが無い。  
   
  だから実は2択のようでいて2択じゃない。  
   
  また、人の命を道具として使わないだろ、普通は。  
  自分の持つ技術や技量の範囲で全力を尽くすよ普通なら。  
  側に大岩や銅像やダイナマイトでも無きゃ諦めるほかどうしょもない。  
   
  つまり、どんなに頭のいい哲学者かなんか知らんけど、  
  そんな奴が必死に考えてできた例え話がコレ、つまりそれは、  
  現実社会とは全く接点の無い問い掛け、って事なんだよ。  
   
  悔しかったら、5人が「確実に」死ぬ、とかではないもっとリアルで現実に則した誰もが納得のいく例え話作ってみろよ。  
  それができないって事は、このての問い掛けはまだ完成してないって事で、完成してないって事は、  
  この事について人類はまだまだ考えるに値しない問題って事だぞ?  
 
293 名前:名無しさん@1周年[sage] 投稿日:2016/04/04(月) 02:25:23.92 ID:dNMOUwzP0.net 
  5人を助けるために本来は死ぬ必要がまったくない人を●すってすごいね  
  制御不能のトロッコは事故だけども、転轍機切り替えたら殺人。  
  そういう選択が出来る人は病気だと思う。  
   
  おれなら全く迷わずトロッコ放置だし、現実の事故での対応も間違いなく放置。  
  例えば災害時に人を助けるために救助者はなぜ自らの命を犠牲にしなかったのかと  
  罰せられたことなどあらゆる文化で一度もないはずだ。  
   
  人工知能も人と歴史を良く学べば放置を選ぶはず。  
 
304 名前:名無しさん@1周年[] 投稿日:2016/04/04(月) 02:29:02.59 ID:A9w11K7+0.net 
  >>293  
  ちょっと状況を変えた場合の答えが聞きたい  
  あなたの手には銃があり、目の前で乱射して通行人を打ちまくってるキチガイがいる場合も貴方は放置を選ぶのかな?  
 
315 名前:名無しさん@1周年[] 投稿日:2016/04/04(月) 02:30:44.46 ID:2j2iIxZD0.net 
  地球にとって一番大事なことを究極的に判断すると  
  人類抹●せよってなるよな  
   
  「地球に住む者は自分達のことしか考えていない! だから抹●すると宣言した!」(シャア)  
 
358 名前:名無しさん@1周年[] 投稿日:2016/04/04(月) 02:38:34.31 ID:QFHMw1rp0.net 
  ・壊れた宇宙船に閉じ込められた5人の人間が救助船を待っています。  
  しかしコンピューターの計算では救助船が来るのは2週間後、  
  酸素ボンベは3人分しかない事が分かりました。  
  冷凍睡眠装置や空気再利用装置は修復不能で使えません。  
   
  さて、船のコンピューターはどうするべきでしょうか?  
  1.平等にボンベを供給して全員窒息死させる。  
  2.生きる人間を3人選んで残りを●す。  
  3.人間達に全て任せる。  
 
367 名前:名無しさん@1周年[] 投稿日:2016/04/04(月) 02:40:53.67 ID:SLeCst9B0.net 
  >>358  
  三人分あるからみんな助かるじゃん  
  4問題がおかしい  
 
368 名前:名無しさん@1周年[sage] 投稿日:2016/04/04(月) 02:41:11.23 ID:pbDNDPDg0.net 
  >>358  
  言いたい事は解るが、全員全滅確定じゃん?  
 
379 名前:名無しさん@1周年[sage] 投稿日:2016/04/04(月) 02:44:25.20 ID:eg2sPyAo0.net 
  >>367  
  5人いて、3人分しかないんだって。  
   
  >>368  
  5人は家族でした。  
  爺ちゃん(80才)、婆ちゃん(75才)、父ちゃん(35才婿養子)、母ちゃん(30才)、息子(1才)  
   
  さあどうなる?  
 
402 名前:名無しさん@1周年[] 投稿日:2016/04/04(月) 02:49:18.18 ID:aWWlrkl/O.net 
  >>379  
  良い問いじゃないね  
  年齢の若い方を優先して、年寄りは死ぬ道を軽く選ぶぞそれ  
  未来の有る孫と、もうすぐ死ぬ自分と天秤に掛けたら答えはあっさり出る  
 
408 名前:名無しさん@1周年[sage] 投稿日:2016/04/04(月) 02:50:23.61 ID:eg2sPyAo0.net 
  >>402  
  だから婿養子って書いてあるじゃん!  
 
419 名前:名無しさん@1周年[sage] 投稿日:2016/04/04(月) 02:53:06.76 ID:aWWlrkl/O.net 
  >>408  
  孫に兄妹作ってもらわなならんだろ?  
 
381 名前:名無しさん@1周年[] 投稿日:2016/04/04(月) 02:44:28.84 ID:2j2iIxZD0.net 
  戦争なくすにはどうすればいいか?・・・・  
  AI「地球から人がいなくなればいい」  
   
  「ここにいたって私は、人類が今後、絶対に戦争を繰り返さないようにすべきだと確信したのである。  
   それがアクシズを地球に落とす作戦の真の目的である!  
   これによって地球圏の戦争の源である、地球に居続ける人々を粛正する!」  
 
387 名前:名無しさん@1周年[] 投稿日:2016/04/04(月) 02:45:42.46 ID:6WfUo/CF0.net 
  全員●すメリットがない  
  当然一人を●す  
   
  数をかえても同じ  
   
  選択によって1万人全員死ぬ  
  もう一つの選択では  
  100人助かって、9900人死ぬ  
   
  9900人には死んでもらうしかない  
   
  1万人全員死ぬ場合も、その選択にはまったくメリットがないからな  
 
393 名前:名無しさん@1周年[sage] 投稿日:2016/04/04(月) 02:47:26.73 ID:eg2sPyAo0.net 
  >>387  
  1人の方は赤ちゃん(1才児)でした。  
  5人の方は全員90才以上でした。  
   
  さあ、どうする?  
 
401 名前:名無しさん@1周年[] 投稿日:2016/04/04(月) 02:48:50.41 ID:6WfUo/CF0.net 
  >>393  
  イノチに重みづけをするなら  
  その係数をまず決めないとな  
   
  その係数をきめれば  
  ちゃんと答えはでてくる  
 
404 名前:名無しさん@1周年[sage] 投稿日:2016/04/04(月) 02:49:43.79 ID:eg2sPyAo0.net 
  >>401  
  俺の命の重さ:お前らの命の重さ=100:−1  
 
418 名前:名無しさん@1周年[sage] 投稿日:2016/04/04(月) 02:52:57.77 ID:y2Vy9kY00.net 
  この問いの答えは至って簡単だ  
   
  「トロッコが来るぞー!!!!」  
  と前方に向かって大声を張り上げる  
  それだけだ。  
  というか、人間にはその程度の事しかできないし、人工知能も同じ判断をするだろう  
 
435 名前:名無しさん@1周年[sage] 投稿日:2016/04/04(月) 02:57:13.82 ID:At483Ig80.net 
  >>418  
  出題者の頭が固すぎるというか想像力が足りなすぎるというか  
  そしてそれを指摘すると怒るんだよね、この手の人って  
 
428 名前:名無しさん@1周年[sage] 投稿日:2016/04/04(月) 02:55:22.48 ID:ZDiOeevJ0.net 
  AIとかなんの夢見てんだ?  
  決まったルーチンで動くただのプログラムじゃねえか。  
 
449 名前:名無しさん@1周年[sage] 投稿日:2016/04/04(月) 02:59:16.44 ID:l1w7NSYG0.net 
  >>428  
   学習機能つけると怖いぞ。  
   ただの思考ルーチンとして制御されていたはずが、いつの間にかヒトラー賛美を始めたりする  
 
439 名前:名無しさん@1周年[] 投稿日:2016/04/04(月) 02:57:40.01 ID:lKwMvXKs0.net 
  第二次大戦中、敵に取り残された大隊の救出に442部隊が投入され  
  目的は果たしたが、救出した大隊の数より遥かに多い犠牲者を出したとかなんとか  
  この場合の指揮官の行動は是か非か  
 
473 名前:名無しさん@1周年[sage] 投稿日:2016/04/04(月) 03:04:58.62 ID:de0k4ozw0.net 
  http://blog-imgs-45-origin.fc2.com/a/s/n/asnyaro/fatezero6b.jpg

 
   
  AIが5人を助ける為に一人を轢き●したとして、その一人が最愛の母だとします  
  泣いて下さい。 あなたは泣くことしか出来ません  
  しかし正義は成されたのです  
 
480 名前:名無しさん@1周年[sage] 投稿日:2016/04/04(月) 03:06:27.11 ID:aSTpOWG50.net 
  >たとえば〜崖下に転落する。  
   
  少なくとも初期の段階では「運転手を起こす」仕様にすればいい  
  そのまま10年も運用され続ければ道路等の周辺環境の整備も進んで  
  より事故は起きにくくなるでしょう  
 
496 名前:名無しさん@1周年[sage] 投稿日:2016/04/04(月) 03:10:06.30 ID:790JdCd50.net 
  >5人を助けるために1人を犠牲にしてもよいか  
  これは法律で許されてるだろ  
  どっちを選択しても苦しむ人間がいること考えりゃAIに決断してもらったほうがありがたいと思うやつ多いだろ  
 
528 名前:名無しさん@1周年[] 投稿日:2016/04/04(月) 03:19:41.77 ID:yK9sF2Wu0.net 
  >>496  
  ありがたいとういうか機械には感情や先入観が無い事で  
  万人に対して公平な判断を下せる利点があると思いますよ  
 
537 名前:名無しさん@1周年[] 投稿日:2016/04/04(月) 03:23:45.33 ID:QMdw/8zW0.net 
  >>528  
  >万人に対して公平な判断  
  そんなものは存在しないでしょ  
  社会における判断はすべて利己的で偏った判断だよ  
  唯一あるとすればサイコロを振ってランダムに求められた結論だけ  
 
521 名前:名無しさん@1周年[] 投稿日:2016/04/04(月) 03:17:10.36 ID:QMdw/8zW0.net 
  5人は反日韓国人  
  1人はアメリカ大統領  
  日本人のあなたはどちらを助けますか?  
   
  答えは明らかだよね  
  単純な数の問題ではなく  
  命の重さに優先順位があるということを  
  AIにどう教える?  
 
533 名前:名無しさん@1周年[] 投稿日:2016/04/04(月) 03:21:11.00 ID:8fmUx4+r0.net 
  だがしかし、この研究の恐ろしい所は  
  ”5000人以上いて、ほぼ全ての人間が2択の選択問題に閉じ込められてしまっている”という所でね。  
   
  どのように回答させたのかがわからないですが、2択の選択肢から選ぶような問題でなかったのなら  
  ほとんどの人間は与えられた問題を現実世界で考える想像力に欠けていると言わざるを得なくてね。  
   
  さすがにAが少々の思考をする時間、  
  そしてトロッコが通り過ぎるまでに切替機を切り替える事が出来る時間くらいは与えられているのだったら、  
  ”危ない!”と大声で叫ぶくらい普通に出来るはずですからね。  
   
  洗脳というのは怖いものでね、選択問題はこのような形で人間を”出口のない迷路”に閉じ込める。  
   
  2択以外には解決法がないと思い込ませる悪問ですね、これは。  
 
540 名前:名無しさん@1周年[sage] 投稿日:2016/04/04(月) 03:24:06.26 ID:lhoo6uGE0.net 
  戦艦大和撃沈のとき、救助艇はもう満員でこれ以上載せられないとき救助艇を守るためしがみ付いてくる水兵の  
  手を軍刀でバッサ、バッサと切り落としたらしい。  
 
575 名前:名無しさん@1周年[sage] 投稿日:2016/04/04(月) 03:36:12.80 ID:ZDiOeevJ0.net 
  AIの判断にかこつけて自分の判断を語ってるだけという。  
  AI関係なくね?  
 
608 名前:名無しさん@1周年[sage] 投稿日:2016/04/04(月) 03:46:34.44 ID:+fXNrLU50.net 
  人工知能「事故を起こす可能性があるので自動運転やめます」  
 
621 名前:名無しさん@1周年[] 投稿日:2016/04/04(月) 03:50:34.86 ID:6WfUo/CF0.net 
  ホンモノの人工知能なら  
  一度事故がおきたあと  
  そもそもその事故が起きる条件にならないように学習させることができるワケ  
  そうやって事故がどんどん減っていく  
   
  人間がバカなところは同じ失敗を繰り返す  
  その条件になれば事故がおきるのに  
  またその条件になるようなことをする  
  人間の学習能力は低い  
   
  ホンモノの人工知能ができたら  
  人類は大幅に進歩するわ  
 
663 名前:名無しさん@1周年[sage] 投稿日:2016/04/04(月) 04:05:17.74 ID:jn9uGfah0.net 
  動物が急に飛び出してきてよけようとして急ハンドルで事故死ってたまにあるよね。  
 
665 名前:名無しさん@1周年[sage] 投稿日:2016/04/04(月) 04:06:15.74 ID:de0k4ozw0.net 
  AIが操縦する300人乗りの旅客機がハイジャックされました  
  犯人はワールドトレードセンタービルに突っ込めと要求しています  
   
  AIは自殺する事を選びました  
  さて、乗客300人が死んだ罪は誰が負うのでしょう  
 
679 名前:名無しさん@1周年[] 投稿日:2016/04/04(月) 04:16:05.57 ID:nCh6qavi0.net 
  >>665 AIは自殺しない。犯人とAIが交渉するの?  
 
683 名前:名無しさん@1周年[sage] 投稿日:2016/04/04(月) 04:20:21.62 ID:de0k4ozw0.net 
  >>679  
  そういうこと  
  犯人「機内に●弾を仕掛けた。 乗客の命が惜しければ命令を聞け」  
  AI「解りました」  
  犯人「よし、ワールドトレードセンターに突っ込め」  
  AI「だが断る」  
   
  AIは犠牲者の少ない方を選びます。 300人の犠牲で5000人が助かるのなら、躊躇なく自殺します  
 
694 名前:名無しさん@1周年[] 投稿日:2016/04/04(月) 04:30:32.85 ID:wDPh4GHb0.net 
  AI運用にあたり、可能性がある全ての「もしもの時」を想定した法の整備をすればいいんじゃないの?  
  プログラマーは法に則ったプログラミングをするだけで良いかと  
 
717 名前:名無しさん@1周年[sage] 投稿日:2016/04/04(月) 04:48:48.37 ID:ZDiOeevJ0.net 
  >>694  
  そんなことができるわけないだろ。  
  何億ケース想定しなきゃいけないんだ。  
 
755 名前:名無しさん@1周年[] 投稿日:2016/04/04(月) 05:10:50.84 ID:wDPh4GHb0.net 
  >>717  
  何億なのが何百なのかは分からないが  
  そのケースを想定した法が施行されていて  
  現に、その法を遵守しながら活動してるよな  
 
759 名前:名無しさん@1周年[sage] 投稿日:2016/04/04(月) 05:13:08.34 ID:ZDiOeevJ0.net 
  >>755  
  法はそれに対応できるように「あいまい」に作られている。  
  それに従ってプログラミングなどできません。  
  あほなの?  
 
891 名前:名無しさん@1周年[] 投稿日:2016/04/04(月) 06:13:29.28 ID:wDPh4GHb0.net 
  >>759  
  アホでもバカでもかまわないが…  
  ある程度の方向性が見えてきたかと  
   
  何億か何百の事故が発生した交差点の信号機(AI)のタイミング変更(法)みたいなもの  
 
761 名前:名無しさん@1周年[sage] 投稿日:2016/04/04(月) 05:13:46.44 ID:signmyh60.net 
  この問題の発端は、将来的には事故率が下がるからと言って自動運転車を実用化していいものか?ということだろ。実用化すれば事故率が減り全体として死者は減るにしても、やはり自動運転車故に死ぬ人間も出てくるからな。  
 
789 名前:名無しさん@1周年[sage] 投稿日:2016/04/04(月) 05:23:16.34 ID:RIxxhske0.net 
  強くても冷酷な人間は生きる資格がない。ただの動物である。  
  優しくても弱い人間は生き残れない。  
  どうすればいいんや。  
 
810 名前:名無しさん@1周年[sage] 投稿日:2016/04/04(月) 05:35:46.57 ID:7LJXr7BR0.net 
  自分が●した事になるくらいなら何もせんわ  
  AIに完璧求めたら駄目だな  
  人間の性格みたいにある程度思考の偏りを持たせないと  
 
815 名前:名無しさん@1周年[] 投稿日:2016/04/04(月) 05:40:38.72 ID:3QKLy+9H0.net 
  >>810  
  完璧じゃなければ法に則って運用できないのよ。  
  だから「正しい行動」を定義し、AIの行動は全て法的に正しいとしなければならない。  
 
828 名前:名無しさん@1周年[] 投稿日:2016/04/04(月) 05:50:58.52 ID:Z7vIsIh/0.net 
  >>815  
  その通り。  
  しかし法と倫理(道徳)は同じではなくズレがある。  
   
  >>1の話は、AIの問題というよりも、法と倫理についての問題な気がする。  
 
848 名前:名無しさん@1周年[sage] 投稿日:2016/04/04(月) 05:57:58.44 ID:TdH0femf0.net 
  まあぶっちゃけ何年経とうがそのレベルまで人工知能は発達しないもしくは実用化されないと思う  
  ロマンとしては研究を続けて追い求めるかもしれないけど  
  自動運転だって完全自動運転なんて状況が多様すぎて完全対応できないし  
  バグやらプログラムミスとか非対応の部分があったときに死亡事故が起きたら誰が責任取るかって話になるから  
  実用化部分は運転サポート止まりになると思う  
 
862 名前:名無しさん@1周年[sage] 投稿日:2016/04/04(月) 06:02:20.03 ID:ZDiOeevJ0.net 
  >>848  
  その通りですな。つか、夢見すぎやわ。どいつもこいつも。  
  予算引っ張ってなんぼの世界じゃ仕方のないことだけれども。  
 
866 名前:名無しさん@1周年[] 投稿日:2016/04/04(月) 06:03:46.30 ID:RBMWJYCA0.net 
  >>862  
  逆だよ  
  こういう特殊な事態の対応が難しいだけで  
  現実の交通事故なんて酔っ払い運転だスピード出しすぎだ  
  居眠り運転だって機械だったら圧倒的に事故が減るって  
  わかってるんだから  
 
869 名前:名無しさん@1周年[sage] 投稿日:2016/04/04(月) 06:05:32.00 ID:ZDiOeevJ0.net 
  >>866  
  だからそれは知能といえるほどのものじゃないっての。  
  単なるケースごとの制御。  
 
871 名前:名無しさん@1周年[] 投稿日:2016/04/04(月) 06:06:31.97 ID:RBMWJYCA0.net 
  >>869  
  だからケースごとの制御で自動運転させるでしょってことよ  
 
873 名前:名無しさん@1周年[sage] 投稿日:2016/04/04(月) 06:07:09.38 ID:ZDiOeevJ0.net 
  >>871  
  それはAIではない。知能ではない。  
 
877 名前:名無しさん@1周年[] 投稿日:2016/04/04(月) 06:08:28.60 ID:RBMWJYCA0.net 
  >>873  
  いやそんなんじゃAIじゃないって話をしてるんじゃなくて  
  自動運転が無理っていうからこの程度の制御で自動運転させるでしょ  
  ってこと  
  完全なAIなんてそりゃもっと未来の話でしょうよ  
 
849 名前:名無しさん@1周年[sage] 投稿日:2016/04/04(月) 05:58:00.99 ID:eBI6yDSb0.net 
  オレもカンチガイしていたんだが  
  トロッコに人が乗っているという要素がどこにもないんだけど  
  なんでトロッコを助けるっていう方向にみんな話を持っていっているの?  
   
  なんかあらためて質問を読んだらワロエた  
  誰も乗ってないのなら、躊躇なくトロッコ破壊できるやん  
 
851 名前:名無しさん@1周年[sage] 投稿日:2016/04/04(月) 05:58:28.69 ID:GKyeuXwG0.net 
  これ答えを当てる問題じゃなくて  
  「あなたはどうするか?」  
  って問題だからね  
 
853 名前:名無しさん@1周年[] 投稿日:2016/04/04(月) 06:00:23.37 ID:RBMWJYCA0.net 
  >>851  
  いやそれをAIにどうさせんだ?って聞いてるからな  
  そんなめったに起きない突発的事態はAIが何選ぼうがいいじゃん  
  て話でしかないのに  
  人間だってどう選ぶかわからんのに  
 
856 名前:名無しさん@1周年[sage] 投稿日:2016/04/04(月) 06:01:14.62 ID:GKyeuXwG0.net 
  >>853  
  プログラミングをするのは人間じゃない  
 
860 名前:名無しさん@1周年[] 投稿日:2016/04/04(月) 06:02:01.15 ID:RBMWJYCA0.net 
  >>856  
  そこは人間でしょ  
  そこが人間じゃないならそれこそありえない判断くだす可能性があるじゃん  
 
867 名前:名無しさん@1周年[sage] 投稿日:2016/04/04(月) 06:04:37.36 ID:GKyeuXwG0.net 
  >>860  
  人間が合理的な判断を下すようなプログラミングをしたら  
  AIが合理的に人を●すような挙動をするようになる  
  という話であって  
  AIが自発的に判断を下すような挙動をするという話ではないよ  
 
857 名前:名無しさん@1周年[] 投稿日:2016/04/04(月) 06:01:28.77 ID:gXMtf46W0.net 
  >>1  
   
  ま、ただ、この「トロッコ問題」は、何の意味もない問題だよな。  
   
  たとえば、5人を犠牲にしてもすべてが中卒の肉体労働者であり、  
  もう一方の1人の方は、工事を監督する技術者であるなら、  
   
  どちらを助けるかは、また別の判断ができるだろう。  
   
  ま、こんなしょうもない問題を考えるヒマがあるなら、「ジョジョ」でも見た方が余程ためになるぜ。  
  このアニメには、予想もつかない「機転」が詰まってるからな。  
 
898 名前:名無しさん@1周年[sage] 投稿日:2016/04/04(月) 06:17:28.54 ID:nJ2odm3G0.net 
  >>857  
  >5人を犠牲にしてもすべてが中卒の肉体労働者であり、  
  >もう一方の1人の方は、工事を監督する技術者であるなら  
   
  更に言うと、1人が天皇で、100万人は平民だったら?  
   
  100万人を戦死させても、1人の天皇を守る選択肢を取ったのが  
  先の世界大戦での日本軍なんだよな  
   
  だから、そもそもの前提(天皇はえらい、中卒はえらくない)に関しての  
  価値判断が間違ってたら、そこから演繹的に導かれる結論も間違いなんだよ  
 
909 名前:名無しさん@1周年[] 投稿日:2016/04/04(月) 06:23:41.41 ID:gXMtf46W0.net 
  >>898  
   
  戦前と今では、価値観(国家の主権)が違うからなあ。  
   
  日本は、敗戦直前になっても、総力を挙げて「天皇制」だけは維持することを目指したからな。  
  それはそれで、「天皇主権の国家」では間違っていない。  
 
879 名前:名無しさん@1周年[] 投稿日:2016/04/04(月) 06:08:47.18 ID:gELzcb0H0.net 
  前から突っ込んでくるトラックを避けたら小学生の列に突っ込むとかならどう判断するんだろ  
 
895 名前:名無しさん@1周年[] 投稿日:2016/04/04(月) 06:16:07.89 ID:gXMtf46W0.net 
  >>1  
  ただ、この「トロッコ問題」に最初から欠陥があるのは、  
   
  ハナから、人の命は1人より5人の方が大事、という前提を臭ニオわしてることだよな。  
  人間の「倫理・道徳」においては、「少数者の命より多数者の命が大事」という理屈は、いまだかって述べられたことは無いからな。  
 
897 名前:名無しさん@1周年[sage] 投稿日:2016/04/04(月) 06:17:22.64 ID:GKyeuXwG0.net 
  >>895  
  日本の裁判は●した人数で量刑が変わってくるよ  
 
902 名前:名無しさん@1周年[] 投稿日:2016/04/04(月) 06:20:39.93 ID:gXMtf46W0.net 
  >>897  
  それは、「多数者の命が大事」という理屈からではなく、  
   
  単純に、罪科の合算に過ぎない。  
 
905 名前:名無しさん@1周年[sage] 投稿日:2016/04/04(月) 06:22:31.08 ID:GKyeuXwG0.net 
  >>902  
  1人だけなら死刑にならないのはおかしい  
  とはよく言われることなので  
  「過ぎない」でバッサリ切れるものではないかと  
 
911 名前:名無しさん@1周年[] 投稿日:2016/04/04(月) 06:25:35.52 ID:gXMtf46W0.net 
  >>905  
  裁判所は、これまで「少数者より多数者の命が大事」を根拠にして判決を出したことはないぜ。  
 
914 名前:名無しさん@1周年[sage] 投稿日:2016/04/04(月) 06:27:10.80 ID:GKyeuXwG0.net 
  >>911  
  判決文の全てを知るわけではないので  
  断言はできないと思うよ  
 
919 名前:名無しさん@1周年[] 投稿日:2016/04/04(月) 06:29:54.77 ID:gXMtf46W0.net 
  >>914  
  いや、確認した上で言ってるのだよ。  
   
  アンタも自信が無いなら、もうグダグダ言ってもしょうがないぜ。  
 
920 名前:名無しさん@1周年[sage] 投稿日:2016/04/04(月) 06:30:21.67 ID:GKyeuXwG0.net 
  >>919  
  ウソはやめた方がいいね  
 
912 名前:名無しさん@1周年[] 投稿日:2016/04/04(月) 06:25:56.04 ID:mKo121ZB0.net 
  (´・ω・`)こんなのはあたりまえのこと  
  簡単な例題でだれでもわかる  
   
  つまり、その問いが繰り返される状況だと、ひとりを切り捨てない社会では人間が滅ぶ  
  簡単に論破できるのが程度の低い倫理観とやらの正体  
   
  人の社会は連綿と生き残った人がいたからこそ成立している  
  そしてこれが正しいことは恐竜をはじめとする様々な生物が滅んでいることからも正しいことが判る  
 
915 名前:名無しさん@1周年[sage] 投稿日:2016/04/04(月) 06:27:21.72 ID:/Zw3gO2P0.net 
  >>912  
  そんなことはない。  
  5人と1人という設定なんだから、どっちを選んでも人類に影響はない。  
  だから人類にとっては、どっちでもいいんだよ。  
 
941 名前:名無しさん@1周年[sage] 投稿日:2016/04/04(月) 06:36:38.35 ID:+fHEPeN80.net 
  線路にいるヤツが悪い  
 
955 名前:名無しさん@1周年[] 投稿日:2016/04/04(月) 06:42:49.74 ID:3QKLy+9H0.net 
  >>941  
  俺はそれが正解だと思う。切り替えずに直進で良い。  
  自動車に置き換えたとき、究極にはそうでなければ自動運転車は成立しないのではと思う。  
 
944 名前:名無しさん@1周年[] 投稿日:2016/04/04(月) 06:37:52.34 ID:mKo121ZB0.net 
  (´・ω・`)愚者が多すぎ  
  現実の判断と理想を取り違えるからばかげたことを言う  
  倫理観なんていうのはただの理想  
 
984 名前:名無しさん@1周年[sage] 投稿日:2016/04/04(月) 07:00:06.27 ID:1HoRogje0.net 
  >>1  
  よいか?許されるか?って聞いてるけど、許されないしよくないだろ!  
  こういうとんちは、またまだコンピューターには無理  
  コンピューターに任せた人が罪  
   
  死んだ数じゃ無い、切り替えた時点で殺人だ  
 
987 名前:名無しさん@1周年[sage] 投稿日:2016/04/04(月) 07:02:56.57 ID:j9X/cA5C0.net 
  >>984  
  いまの日本経済の惨状は、そういうおっさんたちによる問題解決先送りのため  
  に若者がしわ寄せを食わされているわけだが、それでもコンピューターはイヤと?ww  
 
1001 名前:名無しさん@1周年[sage] 投稿日:2016/04/04(月) 07:21:12.18 ID:xTmRnNtC0.net 
  1000なら人類滅亡