http://daily.2ch.sc/test/read.cgi/newsplus/1459699581/
1 名前:ひろし ★[sageteoff] 投稿日:2016/04/04(月) 01:06:21.58 ID:CAP_USER*.net
本連載の第7回で、人工知能は「敵か、家族か」という二分法で考えられるほど単純なものではなく、遅かれ早かれ「人間の倫理」の問題として浮上してくると書いた。
人工知能の動向を追いかけていると、「人間とは何か」「社会はどうあるべきか」という問いが、人工知能を発達させるうえで避けて通れない大きな問題として存在することがわかってくる。
人工知能開発における究極の選択問題
トロッコ問題(トロリー問題)をご存じだろうか。簡単にいうと、「ある人を助けるためにほかの人を犠牲にするのは許されるか?」という倫理学の思考実験だ。
「線路を走っているトロッコが制御不能になった。このままトロッコが進むと線路前方にいる5人の作業員が死んでしまう。このとき現場で、
この状況を目撃したAさんは線路を切り替えることのできる転轍機のそばにいた。切り替えれば5人は助かるが、切り替えたほうの線路にいるもう1人の作業員Bさんは死んでしまう。手段は転轍機しかない」
これは、「5人を助けるために1人を犠牲にしてもよいか」という道徳的ジレンマに関する問題である。あなたはどう答えるだろう。ちなみに私は、転轍機を一人のほうに切り替えることを選ぶ。
この問題には、派生した以下の別バリエーションがある。
「Aさんの隣には太ったCさんがいて、Cさんを線路につき落とせば、トロッコは確実に止まり、5人を助けることができる。しかしCさんは確実に死ぬ」
この2つの問いを5000人以上に聞いたところ、最初の質問には89%の人が「5人を助けるために1人を犠牲にしてもよい」と答えたという。
しかし、2番目の質問で「Cさんをつき落とすことは許される」としたのはわずか11%。2つの質問の違いは、1人の犠牲者の「出し方」だけだ。
命を奪うことに関して、私たちの中には確実にブレーキが存在する。だから、そのことに対する関与が薄いほうを選ぶ。(参考:「wikipedia」より)
トロッコ問題解決がなければ自動運転車の普及はない?
このトロッコ問題は、米グーグルや世界中の自動車メーカーが研究する自動運転車に必要な人工知能でも考慮しなければならない。
たとえば、オイルが撒き散らされた路上に、自動運転のクルマがスリップを引き起こさざるを得ないスピードで進入してきたとする。そしてスリップする。
前方にはたくさんの子どもたちがいて事故は避けられない。ただ、搭載された人工知能には逆ハンドルを切るプログラミングがされ、少しだけコントロールできる。
道路前方の左端に突っ込んでいけば、子どもの犠牲は減る可能性がある。しかし、クルマはガードレールを突き破り、運転手が崖下に転落する。
このような場合、人工知能にどのような判断をさせればよいのだろう。乗員を犠牲にして、前方の子どもを助けるのか。しかし、乗員を犠牲にするプログラムがなされたクルマは売れないだろう。
「人数の少ないほうを犠牲にする」とプログラムすればいいのだろうか。そうすると、人工知能には「太ったCさんを線路につき落とす」可能性が開けてしまう。
論理的にはそうなる。助けるために殺人を犯すことを是とする機械が出現する。この延長は、人工知能を搭載した殺人兵器だろう。味方をほぼ完全に識別し、敵をせん滅する。
あのダークな「ターミネーター=破壊的ディストピア」に一歩近づくロボットがつくれるのだ。悪意を持った人工知能。機械が意識に目覚めなくても、マッドサイエンティストと蒙昧な政治家がいれば、それはすぐにでもできそうだ。
(以下略 全文はリンク先で)
http://biz-journal.jp/2016/04/post_14504.html
http://biz-journal.jp/2016/04/post_14504_2.html
★1:2016/04/03(日) 22:17:44.69
http://daily.2ch.net/test/read.cgi/newsplus/1459689464/
4 名前:名無しさん@1周年[sage] 投稿日:2016/04/04(月) 01:07:41.01 ID:oII0zSqm0.net
効率を考えると躊躇なくなく1人をヤルだろね
24 名前:名無しさん@1周年[] 投稿日:2016/04/04(月) 01:16:34.24 ID:JV+wtVf60.net
>>4
その一人がお前の母親だったらどうする?
5 名前:名無しさん@1周年[sage] 投稿日:2016/04/04(月) 01:08:22.22 ID:7xIJuzOS0.net
これを功利主義と言う
8 名前:名無しさん@1周年[sage] 投稿日:2016/04/04(月) 01:09:32.84 ID:de0k4ozw0.net
片方の船に300人、もう一方の船に200人。総勢500人の乗員乗客と、後は衛宮切嗣
仮にこの501人を人類最後の生き残りと設定しよう。
二隻の船底に同時に致命的な多穴が開いた。
船を修復するスキルを持つのは衛宮切嗣だけだ。
さてキミはどちらの船を直すだろうか。
13 名前:(:゚Д゚)コロ猫4 ◆EFvlPnIYE33o [sage] 投稿日:2016/04/04(月) 01:11:39.57 ID:1fIhwC+I0.net
▼▽
(: ゚Д゚)塩狩峠か
17 名前:名無しさん@1周年[sage] 投稿日:2016/04/04(月) 01:12:39.10 ID:gPaSt8+O0.net
Cさんはなんで「太っている」ことが前提なんだ?
20 名前:名無しさん@1周年[] 投稿日:2016/04/04(月) 01:15:10.38 ID:fLqfUbLH0.net
1.A robot may not injure a human, or allow a human to be injured.
(ロボットは人間を傷つけてはならない。また、危険を看過して人間に危害を及ぼしてはならない。)
2.A robot must follow any order given by a human that doesn't conflict with the First Law.
(ロボットは第1条に反しない限りで、人間の命令に従わなくてはならない。)
3.A robot must protect itself unless that would conflict with the First or Second Laws.
(ロボットは前掲1条及び2条に反しない限りで、自己を守らねばならない。)
142 名前:名無しさん@1周年[sage] 投稿日:2016/04/04(月) 01:45:27.82 ID:khGZg5NF0.net
>>20
有名なロボット三原則だけどこれに則るとロボットがアクションを起こす事によって人が死ぬならなにもしない事になる。
つまり5人の作業員が死ぬのを黙って見ている事になる。
法的に考えてもそれが正しい。なにもしなければ追求される事は無い。
役立たずと思われるだろうがな。
25 名前:名無しさん@1周年[sage] 投稿日:2016/04/04(月) 01:17:09.44 ID:de0k4ozw0.net
人間は愚かだからしばしば誤った選択をしてしまう
5人助かる方がいいに決まってるのに目の前の一人を助けてしまう場合は、ままある
しかしAIは間違わない。 確実に一人を●して5人を救う
444 名前:名無しさん@1周年[] 投稿日:2016/04/04(月) 02:58:43.27 ID:yK9sF2Wu0.net
>>25
仮にAIを独裁者に置き換えると5人が赤の他人で1人が独裁者にとって大事な人だった場合
迷い無く5人を●すでしょうね
50 名前:名無しさん@1周年[sage] 投稿日:2016/04/04(月) 01:24:19.40 ID:ikTO+2P/0.net
なるほどな面白い記事だな
でもそんな複雑な選択、世の中に起こりえる様々なバリエーションに富んだ状況
それに瞬時に対応できる機械が開発されるのなんてまだまだ先のことだろうし
もしそんな時代が来たのだとしても
それは機械に選択させるべきじゃない
たとえばこの事件なら五人の子供より乗務員の命を助けるべきだし
そのためだけの機械ってことで五人の子供が死んだとしてもそれ自体を事故という
扱いにするべきだな。
でもそんな複雑な選択、世の中に起こりえる様々なバリエーションに富んだ状況
それに瞬時に対応できる機械が開発されるのなんてまだまだ先のことだろうし
もしそんな時代が来たのだとしても
それは機械に選択させるべきじゃない
たとえばこの事件なら五人の子供より乗務員の命を助けるべきだし
そのためだけの機械ってことで五人の子供が死んだとしてもそれ自体を事故という
扱いにするべきだな。
67 名前:名無しさん@1周年[sage] 投稿日:2016/04/04(月) 01:30:04.80 ID:de0k4ozw0.net
>>50
上司(人間)の判断待ちをするAIとか超使えないんすけど
AIが判断した後に人間が追認でいいじゃないっすか
AIがもし間違えても人間の責任にはならないんで、ベストな解決法です
91 名前:名無しさん@1周年[sage] 投稿日:2016/04/04(月) 01:35:28.46 ID:ikTO+2P/0.net
>>67
AIのミスは人間の企業の責任ですよ
101 名前:名無しさん@1周年[sage] 投稿日:2016/04/04(月) 01:36:56.96 ID:de0k4ozw0.net
>>91
AIは仮りの人格が与えられてるんで、そりゃもう人と同じですよ。 人権は無いですが
AIの判断した結果起きた事象の責任は、AIにあります
企業やそこに所属してる人間は関係ありません
73 名前:名無しさん@1周年[] 投稿日:2016/04/04(月) 01:31:55.21 ID:faaXBKRJ0.net
>>50
でもよ
その5人の子どもが君の子どもだったら?
5人の作業員のうちのひとりが君だったら?
同じ解を出す?
51 名前:名無しさん@1周年[sage] 投稿日:2016/04/04(月) 01:24:53.51 ID:nJ2odm3G0.net
俺なら、女を●して、男を助ける選択肢を選ぶね
人工知能開発に関われるなら、女を犠牲にするようなソフトウェアをプログラミングする
まぁ、自動車を人工知能で自動運転とかマジでするなら、こういう判断も組み込まないとダメだよな
57 名前:名無しさん@1周年[sage] 投稿日:2016/04/04(月) 01:26:25.52 ID:bb+WwHgOO.net
トロッコ問題も狭いトンネル内の作業なら五人が固まっているより
一人の方がトロッコを避けれるスペースも広い
そもそも犠牲という考え方が間違いだわな
61 名前:名無しさん@1周年[] 投稿日:2016/04/04(月) 01:27:58.82 ID:khGZg5NF0.net
クルマの人工知能だったら守るものの優先順位が
クルマの中に居る奴>外に居る奴>その他じゃないと話にならん
例題に従うなら搭乗者の命守る為に躊躇なく子供轢き●す位じゃないと命預けられんよ
クルマの中に居る奴>外に居る奴>その他じゃないと話にならん
例題に従うなら搭乗者の命守る為に躊躇なく子供轢き●す位じゃないと命預けられんよ
546 名前:名無しさん@1周年[] 投稿日:2016/04/04(月) 03:25:37.91 ID:LoRxGM+u0.net
>>61
> クルマの人工知能だったら守るものの優先順位が
> クルマの中に居る奴>外に居る奴>その他じゃないと話にならん
> 例題に従うなら搭乗者の命守る為に躊躇なく子供轢き●す位じゃないと命預けられんよ
というのを記事でも書いてるな
子供の群れを守るべきだろう
でもそれじゃ売れないから搭乗者1人を守らざるを得ない
それは果たして倫理的にどうか?人工知能に判断出来るのか?
と言うのがテーマなんだろうけど、そもそも人工知能が運転してたら死なずに済んだ交通事故の方が多い気がするんだよな
人工知能で防げるであろう爺やらてんかんの轢き●しの方がずっと多いだろう
> クルマの人工知能だったら守るものの優先順位が
> クルマの中に居る奴>外に居る奴>その他じゃないと話にならん
> 例題に従うなら搭乗者の命守る為に躊躇なく子供轢き●す位じゃないと命預けられんよ
というのを記事でも書いてるな
子供の群れを守るべきだろう
でもそれじゃ売れないから搭乗者1人を守らざるを得ない
それは果たして倫理的にどうか?人工知能に判断出来るのか?
と言うのがテーマなんだろうけど、そもそも人工知能が運転してたら死なずに済んだ交通事故の方が多い気がするんだよな
人工知能で防げるであろう爺やらてんかんの轢き●しの方がずっと多いだろう
561 名前:名無しさん@1周年[sage] 投稿日:2016/04/04(月) 03:31:13.00 ID:de0k4ozw0.net
>>546
何を言ってるのかな・・・AIは犠牲者の少ない方を選ぶに決まってる
車内に居る一人の犠牲で済むのなら、AIは躊躇なく崖からダイブするよ
何を言ってるのかな・・・AIは犠牲者の少ない方を選ぶに決まってる
車内に居る一人の犠牲で済むのなら、AIは躊躇なく崖からダイブするよ
564 名前:名無しさん@1周年[sage] 投稿日:2016/04/04(月) 03:33:47.73 ID:aSTpOWG50.net
>>561
あくまですべての判断をAIにお任せするという前提であれば
それだと”車用のAI”として不良品だよ
573 名前:名無しさん@1周年[sage] 投稿日:2016/04/04(月) 03:35:37.40 ID:de0k4ozw0.net
>>564
じゃあなに? 園児を満載したカートが目の前に現れたらAIは園児を轢き●すの? ありえない
急ハンドルを切って電柱に突っ込むに決まってる
それが正義ってもんだろ
600 名前:名無しさん@1周年[] 投稿日:2016/04/04(月) 03:43:38.05 ID:r9QIaH5j0.net
>>561
車がダイブしたら、搭載されてるAI自体も死んでしまうわけだけどね。
つまり、AIには、自分自身が生存しなきゃという意志はない訳だ。
116 名前:名無しさん@1周年[] 投稿日:2016/04/04(月) 01:39:39.76 ID:crVrssu90.net
AI「ハゲ優先な」
123 名前:名無しさん@1周年[] 投稿日:2016/04/04(月) 01:41:35.19 ID:8AuWU5nI0.net
>>116
ハゲのほうが頭髪の分だけ軽いから
倫理トロッコの世界ではハゲしか生き残れないだろう
121 名前:名無しさん@1周年[sage] 投稿日:2016/04/04(月) 01:41:18.64 ID:Vruor1YO0.net
何でこんな胸糞悪い選択を想像しなきゃいけないの
126 名前:名無しさん@1周年[sage] 投稿日:2016/04/04(月) 01:42:20.43 ID:Y/JJbmUs0.net
>>121
将来的にAIをどの分野で使えるかを考えた時に、最悪の状況を想定している
134 名前:名無しさん@1周年[sage] 投稿日:2016/04/04(月) 01:43:33.48 ID:Vruor1YO0.net
>>126
それは分かるけど
そんなの一般人の俺らに関係ないじゃん
163 名前:名無しさん@1周年[sage] 投稿日:2016/04/04(月) 01:50:51.41 ID:fNjKQF9I0.net
これ突き詰めてくと、
健康な人ひとりをバラバラにして臓器をゲットして、
死にそうな人5人を助ける未来が待ってるんだけどな。
166 名前:名無しさん@1周年[sage] 投稿日:2016/04/04(月) 01:52:30.25 ID:de0k4ozw0.net
>>163
乙武さんに四肢を与える為に四人の人間から一本ずつ手足を切り取るくらいはやるかもな
174 名前:名無しさん@1周年[] 投稿日:2016/04/04(月) 01:54:27.05 ID:/En9xNi20.net
自動運転車は絶対に乗りたくないし普及させないでほしい
絶対余計な事故増えるぞ
192 名前:名無しさん@1周年[sage] 投稿日:2016/04/04(月) 01:59:08.48 ID:dI/oNefG0.net
こういうのはアメリカの弁護士の戦いで決着つけて
またはアメリカで法律作ってよ
たぶん、自動運転車の保有者を守る方だと思うけど、5人側に大統領いると話が変わってきそう
206 名前:名無しさん@1周年[] 投稿日:2016/04/04(月) 02:02:28.00 ID:6dph93HX0.net
>>192
米国は面白いことに自動運転AIを製造販売している企業に責任があると判断したようだ。
なので自動運転自動車の事故は製造者が罰せられる。
219 名前:名無しさん@1周年[] 投稿日:2016/04/04(月) 02:06:11.48 ID:dI/oNefG0.net
>>206
その話は知ってる。免許いらないらしいし
罰せられる話は製造者ってなるよね
命の選択肢についての選択についてガイドラインが必要ではないか?っね話でしょ
235 名前:名無しさん@1周年[] 投稿日:2016/04/04(月) 02:09:29.55 ID:6dph93HX0.net
>>219
免許要らないとはどこの国の話ですか?
321 名前:名無しさん@1周年[] 投稿日:2016/04/04(月) 02:32:11.62 ID:dI/oNefG0.net
>>235
アメリカでAI自動運転車に同乗者の免許は不要ってメーカー側の主張認められなかったっけ?
197 名前:名無しさん@1周年[sage] 投稿日:2016/04/04(月) 02:00:19.43 ID:Ij34XJkC0.net
この問題に対して完全な回答は一つ。
使用者の責任として選択するべきだろう。
もちろん差し迫った状況では選択もままならない。
事前に選択を取り決めておくべき。
例えば購入した時最初の設定で自身を犠牲にしても他人を守るか自身を守るかを選択してAIに教えればいい。
そうすれば最悪の事態が発生した場合でも複数の選択肢の中から極力使用者の意思に近い最良の選択肢を選ぶ事は可能だろう。
AIに選択させるのではなく使用者の意思に基づいて思考させる事が大切だと思うよ。
AIが人を●すとか考えすぎでいつだって人を●すのは人間なんだよ。
それが作り手か使い手かの違いだけ。
使用者である以上その責務から逃すべきじゃない。
よってその選択は使用者に委ねるべきだろう。
ただ、先の選択によってAIが使用者を守るため歩行者を跳ねてしまっても使用者を責めるのは筋違いだと思う。
悪いのはその状況になった原因だから。
AIでの事故は飛行機事故と同じように考えるべきではないかな。
事故を起こしたシステムが悪い。
200 名前:名無しさん@1周年[sage] 投稿日:2016/04/04(月) 02:00:58.53 ID:de0k4ozw0.net
突然猫が飛び出してきた! あなたならどうする
俺は迷いなく轢き●すし、AIもそうするだろう
もし飛び出したのが人間ならどうだろう。。。俺はハンドルを切ってしまうかもしれないし、結果的に俺を含む多数の人間が傷つく事になるかもしれない
しかしAIは間違わない
確実に人間を轢き●す
234 名前:名無しさん@1周年[sage] 投稿日:2016/04/04(月) 02:09:28.70 ID:l1w7NSYG0.net
>>200
面白い思考実験だな。
一人の死を避けるためにハンドルを切り、結果として5人が死んだとする。
それでも、陪審員の心証としては「仕方のない判断。不幸な事故だった」ということで許されるだろうし、
俺もそう考える。
つまり、合理的判断からすれば不合理なことでも、道徳的には許されることになるわけだ。
この矛盾した結論を、AIの価値判断に組み込むことはできるのだろうか?
215 名前:名無しさん@1周年[] 投稿日:2016/04/04(月) 02:04:55.68 ID:oCInb6cO0.net
少数の命を犠牲にして大多数を救う方法を良しとするのは
選択したらダメな設問だったはず
人工知能がではなく、結局は人が人を●すんでしょ
選択したらダメな設問だったはず
人工知能がではなく、結局は人が人を●すんでしょ
224 名前:名無しさん@1周年[sage] 投稿日:2016/04/04(月) 02:07:24.18 ID:de0k4ozw0.net
>>215
でも必ずそーいう場面が出てくるよ?
AIに任せるならそーいう事態も想定しないと
その場合責任は当然AIにある。 AIの開発者の責任は問わない事にしないと、AIは普及しない
でも必ずそーいう場面が出てくるよ?
AIに任せるならそーいう事態も想定しないと
その場合責任は当然AIにある。 AIの開発者の責任は問わない事にしないと、AIは普及しない
251 名前:名無しさん@1周年[] 投稿日:2016/04/04(月) 02:13:34.80 ID:6dph93HX0.net
>>224
>AIの開発者の責任は問わない事にしないと、AIは普及しない
米国は責任を製造者にしたぞ
お前の主張だと、もう米国では普及しないことになるな
279 名前:名無しさん@1周年[sage] 投稿日:2016/04/04(月) 02:22:49.14 ID:de0k4ozw0.net
>>251
考え方をこのさい変えるべきなんだよ
AIに責任を押し付けてしまえば、人間はみんな幸せになれるんだよ
269 名前:名無しさん@1周年[] 投稿日:2016/04/04(月) 02:20:08.38 ID:oCInb6cO0.net
>>224
アメリカの戦闘系公務員の試験でこの問題が出たら
一人を犠牲にすると選んだら絶対に合格できないようになっている
AIが自殺して全員を助けることができるなら別だけど
アメリカの戦闘系公務員の試験でこの問題が出たら
一人を犠牲にすると選んだら絶対に合格できないようになっている
AIが自殺して全員を助けることができるなら別だけど
292 名前:名無しさん@1周年[sage] 投稿日:2016/04/04(月) 02:25:12.13 ID:de0k4ozw0.net
>>269
指揮官は?
100人を犠牲にして1000人を救うなんて選択の連続だと思うのですが?
指揮官は?
100人を犠牲にして1000人を救うなんて選択の連続だと思うのですが?
300 名前:名無しさん@1周年[] 投稿日:2016/04/04(月) 02:28:02.82 ID:oCInb6cO0.net
>>292
お前が挙げているような選択肢で違和感なく100人を犠牲にすると選べる奴は
指揮官に向いていないから大丈夫
お前が挙げているような選択肢で違和感なく100人を犠牲にすると選べる奴は
指揮官に向いていないから大丈夫
309 名前:名無しさん@1周年[sage] 投稿日:2016/04/04(月) 02:29:31.91 ID:de0k4ozw0.net
>>300
意味がわかりません
むしろ冷徹に100人を犠牲にする指揮官でなければ戦争には勝てません
目的達成の為なら少数の犠牲など問題にはならんのです
意味がわかりません
むしろ冷徹に100人を犠牲にする指揮官でなければ戦争には勝てません
目的達成の為なら少数の犠牲など問題にはならんのです
328 名前:名無しさん@1周年[] 投稿日:2016/04/04(月) 02:32:49.06 ID:oCInb6cO0.net
>>309
俺は絶対にお前の下に付きたくないわw
命がいくらあっても足りん
331 名前:名無しさん@1周年[sage] 投稿日:2016/04/04(月) 02:33:51.59 ID:de0k4ozw0.net
>>328
優秀な将軍は演技も上手いつー事で、AIも高度化すれば本音と建前を使い分けるようになるでしょう
339 名前:名無しさん@1周年[] 投稿日:2016/04/04(月) 02:34:55.03 ID:Ps2OtJ220.net
>>309
いいえ、100人を分かっていて死なせる情況に追いやったら
戦闘指揮官には向いてないのよ。
人員が一番補充困難で高価なのでね。
100人で1000人を助けても、
指揮官は解任される。
もっと前に後退しろとね。
いいえ、100人を分かっていて死なせる情況に追いやったら
戦闘指揮官には向いてないのよ。
人員が一番補充困難で高価なのでね。
100人で1000人を助けても、
指揮官は解任される。
もっと前に後退しろとね。
346 名前:名無しさん@1周年[sage] 投稿日:2016/04/04(月) 02:35:53.15 ID:de0k4ozw0.net
>>339
そもそも、自分が行かずに部下に行かせてる時点で矛盾してるんですよ
そもそも、自分が行かずに部下に行かせてる時点で矛盾してるんですよ
364 名前:名無しさん@1周年[] 投稿日:2016/04/04(月) 02:40:29.27 ID:Ps2OtJ220.net
>>346
戦闘指揮官は最前線に立つ必要はないよ。
目と耳で戦況を把握出来る位置で。
最前線で死んで許されるのは
小隊長までだよね。
戦闘指揮官は最前線に立つ必要はないよ。
目と耳で戦況を把握出来る位置で。
最前線で死んで許されるのは
小隊長までだよね。
347 名前:名無しさん@1周年[sage] 投稿日:2016/04/04(月) 02:36:03.50 ID:pbDNDPDg0.net
>>309
それは『結果』でしかない。
最初から犠牲ありきで戦闘をおっぱじめた場合、犠牲となる100人が納得するか?
次に周りの影響もある。
「次は自分か?」とね。
アメリカの海兵隊では、敵地に取り残された一人を救う為に犠牲を厭わない事もするそうだ。
そうでなければ、兵士は付いてこない。
頭の中での机上の空論を弄ぶのはいいが、自分がその100人の中にいたら?みたいな視点を持ったら?
君みたいなのは、何故か、自分が指揮官の立場に置いて妄想を炸裂させる。
それは『結果』でしかない。
最初から犠牲ありきで戦闘をおっぱじめた場合、犠牲となる100人が納得するか?
次に周りの影響もある。
「次は自分か?」とね。
アメリカの海兵隊では、敵地に取り残された一人を救う為に犠牲を厭わない事もするそうだ。
そうでなければ、兵士は付いてこない。
頭の中での机上の空論を弄ぶのはいいが、自分がその100人の中にいたら?みたいな視点を持ったら?
君みたいなのは、何故か、自分が指揮官の立場に置いて妄想を炸裂させる。
365 名前:名無しさん@1周年[sage] 投稿日:2016/04/04(月) 02:40:50.11 ID:de0k4ozw0.net
>>347
言いたいことは解りますが、それは建前の部分ですよね?
人間的な行動ってのは非効率なんです
AIの方が人間より効率がいいからみんな必死に開発してるんですよね?
AIが人間みたいな非効率な選択をしたら、AIなんて必要無いじゃないですかw
言いたいことは解りますが、それは建前の部分ですよね?
人間的な行動ってのは非効率なんです
AIの方が人間より効率がいいからみんな必死に開発してるんですよね?
AIが人間みたいな非効率な選択をしたら、AIなんて必要無いじゃないですかw
377 名前:名無しさん@1周年[sage] 投稿日:2016/04/04(月) 02:43:55.66 ID:pbDNDPDg0.net
>>365
????
効率?
誰に取っての効率なの?そして、非効率という根拠は??
AIが人間の知性の真似をしている以上、人間と同じような思考回路になるだけだよ??
????
効率?
誰に取っての効率なの?そして、非効率という根拠は??
AIが人間の知性の真似をしている以上、人間と同じような思考回路になるだけだよ??
394 名前:名無しさん@1周年[sage] 投稿日:2016/04/04(月) 02:48:02.35 ID:de0k4ozw0.net
>>364
被害を出来る限り抑えるのが指揮官の役目・・・じゃないでしょ?
指揮官の役目は どれだけ犠牲を出してもいいから勝利することでしょ?
>>377
効率を度外視するなら人間でいいじゃないですか
これからもずっと人間が自動車を運転しましょうよ
被害を出来る限り抑えるのが指揮官の役目・・・じゃないでしょ?
指揮官の役目は どれだけ犠牲を出してもいいから勝利することでしょ?
>>377
効率を度外視するなら人間でいいじゃないですか
これからもずっと人間が自動車を運転しましょうよ
414 名前:名無しさん@1周年[] 投稿日:2016/04/04(月) 02:51:59.70 ID:0XBnYQh30.net
>>394
>指揮官の役目は どれだけ犠牲を出してもいいから勝利することでしょ
なんか出来損ないのAIみたいな奴がいるなwww
>指揮官の役目は どれだけ犠牲を出してもいいから勝利することでしょ
なんか出来損ないのAIみたいな奴がいるなwww
426 名前:名無しさん@1周年[sage] 投稿日:2016/04/04(月) 02:54:21.33 ID:de0k4ozw0.net
>>414
じゃあ指揮官は何のために居るんですか?
100人の犠牲を出したくないから1000人を見捨てていいんですか?
じゃあ指揮官は何のために居るんですか?
100人の犠牲を出したくないから1000人を見捨てていいんですか?
436 名前:名無しさん@1周年[] 投稿日:2016/04/04(月) 02:57:28.27 ID:0XBnYQh30.net
>>426
滅亡した地球で永遠に勝利宣言してればいいんじゃねwwwガラクタAIくんww
437 名前:名無しさん@1周年[] 投稿日:2016/04/04(月) 02:57:29.54 ID:Ps2OtJ220.net
>>426
解ってて100人死なせなきゃならない情況になったら
そいつクビ
464 名前:名無しさん@1周年[sage] 投稿日:2016/04/04(月) 03:01:45.10 ID:de0k4ozw0.net
>>436
>>437
あんたらじゃあ戦争には負けますわ
俺が大統領ならあなた達を将軍にはしません
俺がAIを選ぶなら、躊躇なく一人を轢き●すAIにします
421 名前:名無しさん@1周年[] 投稿日:2016/04/04(月) 02:53:22.58 ID:Ps2OtJ220.net
>>394
どれだけ犠牲を出してもって言うけど、
ただ一戦の為に人員の損耗を招いていたら、
作戦続行に待ったがかかるよ。
どれだけ犠牲を出してもって言うけど、
ただ一戦の為に人員の損耗を招いていたら、
作戦続行に待ったがかかるよ。
451 名前:名無しさん@1周年[sage] 投稿日:2016/04/04(月) 02:59:21.59 ID:de0k4ozw0.net
>>421
まぁ戦争は相手がいますから、こちらがどれだけ効率よく動いても負ける事もあります
自動運転車も同じですね。 AIが正しい判断をしても相手がそれを上回る誤った判断をすれば事故ります
その相手がAIならいいですが、人間なら誰が責任を取るのでしょうか?
481 名前:名無しさん@1周年[] 投稿日:2016/04/04(月) 03:06:35.84 ID:Ps2OtJ220.net
>>451
仮に負けたとしても、立案の段階で、
脅威を全て予測しておかないと。
想定外でしたってのは、余程でないと
クビを覚悟しろってこと。
今だったら1000人孤立したら、
地形が変わるくらい援護射撃するだろね
500 名前:名無しさん@1周年[sage] 投稿日:2016/04/04(月) 03:11:43.29 ID:de0k4ozw0.net
>>481
ではあなたが大日本帝国海軍の提督だとします
どう考えてもアメリカには勝ち目はありません
それでも戦えと命じられました。 どうしますか?
229 名前:名無しさん@1周年[sage] 投稿日:2016/04/04(月) 02:08:15.03 ID:aGsBkzb30.net
韓国は日本の兄貴だよ
兄貴が困っていたら
さりげなく手助けするのが
弟の役目
242 名前:名無しさん@1周年[] 投稿日:2016/04/04(月) 02:11:18.97 ID:8Kr52XViO.net
>>229
日本じゃ上が下を気づかうのが兄弟なんですが?w
250 名前:名無しさん@1周年[] 投稿日:2016/04/04(月) 02:13:12.73 ID:Ps2OtJ220.net
>>1
昔SFで見たな。
貴重な戦闘機が不時着しようとしたが、
滑走路に除雪車が残ってて衝突は確実、
基地のAIはCIWSみたいな機銃を操作して、
除雪車を消し飛ばした。
子供ながらに昆虫みたいに合理的なAIに
恐怖したわ。
261 名前:名無しさん@1周年[] 投稿日:2016/04/04(月) 02:17:06.49 ID:Ps2OtJ220.net
自動運転のAIが、直進すると子供、
左にハンドルを切ると対向車、
右なら老人という場合に、
右にハンドルを切ったことに
違法性は無いとかいう時代になりそうだな。
270 名前:名無しさん@1周年[sage] 投稿日:2016/04/04(月) 02:20:20.95 ID:ClIXSJro0.net
>>261
ブレーキで停止。
277 名前:名無しさん@1周年[] 投稿日:2016/04/04(月) 02:22:40.62 ID:Ps2OtJ220.net
>>270
ブレーキで停止を試みると確実に子供が死ぬ場合。
296 名前:名無しさん@1周年[sage] 投稿日:2016/04/04(月) 02:26:04.00 ID:ClIXSJro0.net
>>277
どういう状況なのそれ?w
298 名前:名無しさん@1周年[] 投稿日:2016/04/04(月) 02:27:24.93 ID:Ps2OtJ220.net
>>296
交通事故が起きない世界に住んでるの?
263 名前:名無しさん@1周年[sage] 投稿日:2016/04/04(月) 02:17:46.45 ID:ClIXSJro0.net
>>1
サンデルのやつだよねぇ。
俺はポイントを一人の方に切り替える。
ワンタッチで切り替えられるんだからそりゃそうだろ。
デブを突き落とす、は、やらない。
でも理由はサンデルの言ってた理屈なんかじゃぜんぜんなくて、
俺はそこまでして人を助けようとは思わないから。
それが100人だろうと1000人だろうと同じ。
突き落とす衝動になる事が万に一つあったなら、それよりも自分の体を投げ出すよ俺なら。
でもそうはならない。イコール、人を突き飛ばしたりもしない。
ポイントを切り替える、人を突き飛ばす、
この二つを、結果が同じだからと「している事は同等」と言うのにはムリがある。
この問い掛けは実はおかしな点が多い。
作業員全員が確実に死ぬ、ってのがまずおかしい。タイムマシンでも無きゃそんな事、事前に分かりようが無い。
だから実は2択のようでいて2択じゃない。
また、人の命を道具として使わないだろ、普通は。
自分の持つ技術や技量の範囲で全力を尽くすよ普通なら。
側に大岩や銅像やダイナマイトでも無きゃ諦めるほかどうしょもない。
つまり、どんなに頭のいい哲学者かなんか知らんけど、
そんな奴が必死に考えてできた例え話がコレ、つまりそれは、
現実社会とは全く接点の無い問い掛け、って事なんだよ。
悔しかったら、5人が「確実に」死ぬ、とかではないもっとリアルで現実に則した誰もが納得のいく例え話作ってみろよ。
それができないって事は、このての問い掛けはまだ完成してないって事で、完成してないって事は、
この事について人類はまだまだ考えるに値しない問題って事だぞ?
293 名前:名無しさん@1周年[sage] 投稿日:2016/04/04(月) 02:25:23.92 ID:dNMOUwzP0.net
5人を助けるために本来は死ぬ必要がまったくない人を●すってすごいね
制御不能のトロッコは事故だけども、転轍機切り替えたら殺人。
そういう選択が出来る人は病気だと思う。
おれなら全く迷わずトロッコ放置だし、現実の事故での対応も間違いなく放置。
例えば災害時に人を助けるために救助者はなぜ自らの命を犠牲にしなかったのかと
罰せられたことなどあらゆる文化で一度もないはずだ。
人工知能も人と歴史を良く学べば放置を選ぶはず。
304 名前:名無しさん@1周年[] 投稿日:2016/04/04(月) 02:29:02.59 ID:A9w11K7+0.net
>>293
ちょっと状況を変えた場合の答えが聞きたい
あなたの手には銃があり、目の前で乱射して通行人を打ちまくってるキチガイがいる場合も貴方は放置を選ぶのかな?
315 名前:名無しさん@1周年[] 投稿日:2016/04/04(月) 02:30:44.46 ID:2j2iIxZD0.net
地球にとって一番大事なことを究極的に判断すると
人類抹●せよってなるよな
「地球に住む者は自分達のことしか考えていない! だから抹●すると宣言した!」(シャア)
358 名前:名無しさん@1周年[] 投稿日:2016/04/04(月) 02:38:34.31 ID:QFHMw1rp0.net
・壊れた宇宙船に閉じ込められた5人の人間が救助船を待っています。
しかしコンピューターの計算では救助船が来るのは2週間後、
酸素ボンベは3人分しかない事が分かりました。
冷凍睡眠装置や空気再利用装置は修復不能で使えません。
さて、船のコンピューターはどうするべきでしょうか?
1.平等にボンベを供給して全員窒息死させる。
2.生きる人間を3人選んで残りを●す。
3.人間達に全て任せる。
しかしコンピューターの計算では救助船が来るのは2週間後、
酸素ボンベは3人分しかない事が分かりました。
冷凍睡眠装置や空気再利用装置は修復不能で使えません。
さて、船のコンピューターはどうするべきでしょうか?
1.平等にボンベを供給して全員窒息死させる。
2.生きる人間を3人選んで残りを●す。
3.人間達に全て任せる。
367 名前:名無しさん@1周年[] 投稿日:2016/04/04(月) 02:40:53.67 ID:SLeCst9B0.net
>>358
三人分あるからみんな助かるじゃん
4問題がおかしい
368 名前:名無しさん@1周年[sage] 投稿日:2016/04/04(月) 02:41:11.23 ID:pbDNDPDg0.net
>>358
言いたい事は解るが、全員全滅確定じゃん?
379 名前:名無しさん@1周年[sage] 投稿日:2016/04/04(月) 02:44:25.20 ID:eg2sPyAo0.net
>>367
5人いて、3人分しかないんだって。
>>368
5人は家族でした。
爺ちゃん(80才)、婆ちゃん(75才)、父ちゃん(35才婿養子)、母ちゃん(30才)、息子(1才)
さあどうなる?
402 名前:名無しさん@1周年[] 投稿日:2016/04/04(月) 02:49:18.18 ID:aWWlrkl/O.net
>>379
良い問いじゃないね
年齢の若い方を優先して、年寄りは死ぬ道を軽く選ぶぞそれ
未来の有る孫と、もうすぐ死ぬ自分と天秤に掛けたら答えはあっさり出る
408 名前:名無しさん@1周年[sage] 投稿日:2016/04/04(月) 02:50:23.61 ID:eg2sPyAo0.net
>>402
だから婿養子って書いてあるじゃん!
419 名前:名無しさん@1周年[sage] 投稿日:2016/04/04(月) 02:53:06.76 ID:aWWlrkl/O.net
>>408
孫に兄妹作ってもらわなならんだろ?
381 名前:名無しさん@1周年[] 投稿日:2016/04/04(月) 02:44:28.84 ID:2j2iIxZD0.net
戦争なくすにはどうすればいいか?・・・・
AI「地球から人がいなくなればいい」
「ここにいたって私は、人類が今後、絶対に戦争を繰り返さないようにすべきだと確信したのである。
それがアクシズを地球に落とす作戦の真の目的である!
これによって地球圏の戦争の源である、地球に居続ける人々を粛正する!」
387 名前:名無しさん@1周年[] 投稿日:2016/04/04(月) 02:45:42.46 ID:6WfUo/CF0.net
全員●すメリットがない
当然一人を●す
数をかえても同じ
選択によって1万人全員死ぬ
もう一つの選択では
100人助かって、9900人死ぬ
9900人には死んでもらうしかない
1万人全員死ぬ場合も、その選択にはまったくメリットがないからな
393 名前:名無しさん@1周年[sage] 投稿日:2016/04/04(月) 02:47:26.73 ID:eg2sPyAo0.net
>>387
1人の方は赤ちゃん(1才児)でした。
5人の方は全員90才以上でした。
さあ、どうする?
401 名前:名無しさん@1周年[] 投稿日:2016/04/04(月) 02:48:50.41 ID:6WfUo/CF0.net
>>393
イノチに重みづけをするなら
その係数をまず決めないとな
その係数をきめれば
ちゃんと答えはでてくる
404 名前:名無しさん@1周年[sage] 投稿日:2016/04/04(月) 02:49:43.79 ID:eg2sPyAo0.net
>>401
俺の命の重さ:お前らの命の重さ=100:−1
418 名前:名無しさん@1周年[sage] 投稿日:2016/04/04(月) 02:52:57.77 ID:y2Vy9kY00.net
この問いの答えは至って簡単だ
「トロッコが来るぞー!!!!」
と前方に向かって大声を張り上げる
それだけだ。
というか、人間にはその程度の事しかできないし、人工知能も同じ判断をするだろう
435 名前:名無しさん@1周年[sage] 投稿日:2016/04/04(月) 02:57:13.82 ID:At483Ig80.net
>>418
出題者の頭が固すぎるというか想像力が足りなすぎるというか
そしてそれを指摘すると怒るんだよね、この手の人って
428 名前:名無しさん@1周年[sage] 投稿日:2016/04/04(月) 02:55:22.48 ID:ZDiOeevJ0.net
AIとかなんの夢見てんだ?
決まったルーチンで動くただのプログラムじゃねえか。
449 名前:名無しさん@1周年[sage] 投稿日:2016/04/04(月) 02:59:16.44 ID:l1w7NSYG0.net
>>428
学習機能つけると怖いぞ。
ただの思考ルーチンとして制御されていたはずが、いつの間にかヒトラー賛美を始めたりする
439 名前:名無しさん@1周年[] 投稿日:2016/04/04(月) 02:57:40.01 ID:lKwMvXKs0.net
第二次大戦中、敵に取り残された大隊の救出に442部隊が投入され
目的は果たしたが、救出した大隊の数より遥かに多い犠牲者を出したとかなんとか
この場合の指揮官の行動は是か非か
473 名前:名無しさん@1周年[sage] 投稿日:2016/04/04(月) 03:04:58.62 ID:de0k4ozw0.net
http://blog-imgs-45-origin.fc2.com/a/s/n/asnyaro/fatezero6b.jpg
AIが5人を助ける為に一人を轢き●したとして、その一人が最愛の母だとします
泣いて下さい。 あなたは泣くことしか出来ません
しかし正義は成されたのです
480 名前:名無しさん@1周年[sage] 投稿日:2016/04/04(月) 03:06:27.11 ID:aSTpOWG50.net
>たとえば〜崖下に転落する。
少なくとも初期の段階では「運転手を起こす」仕様にすればいい
そのまま10年も運用され続ければ道路等の周辺環境の整備も進んで
より事故は起きにくくなるでしょう
496 名前:名無しさん@1周年[sage] 投稿日:2016/04/04(月) 03:10:06.30 ID:790JdCd50.net
>5人を助けるために1人を犠牲にしてもよいか
これは法律で許されてるだろ
どっちを選択しても苦しむ人間がいること考えりゃAIに決断してもらったほうがありがたいと思うやつ多いだろ
528 名前:名無しさん@1周年[] 投稿日:2016/04/04(月) 03:19:41.77 ID:yK9sF2Wu0.net
>>496
ありがたいとういうか機械には感情や先入観が無い事で
万人に対して公平な判断を下せる利点があると思いますよ
537 名前:名無しさん@1周年[] 投稿日:2016/04/04(月) 03:23:45.33 ID:QMdw/8zW0.net
>>528
>万人に対して公平な判断
そんなものは存在しないでしょ
社会における判断はすべて利己的で偏った判断だよ
唯一あるとすればサイコロを振ってランダムに求められた結論だけ
521 名前:名無しさん@1周年[] 投稿日:2016/04/04(月) 03:17:10.36 ID:QMdw/8zW0.net
5人は反日韓国人
1人はアメリカ大統領
日本人のあなたはどちらを助けますか?
答えは明らかだよね
単純な数の問題ではなく
命の重さに優先順位があるということを
AIにどう教える?
533 名前:名無しさん@1周年[] 投稿日:2016/04/04(月) 03:21:11.00 ID:8fmUx4+r0.net
だがしかし、この研究の恐ろしい所は
”5000人以上いて、ほぼ全ての人間が2択の選択問題に閉じ込められてしまっている”という所でね。
どのように回答させたのかがわからないですが、2択の選択肢から選ぶような問題でなかったのなら
ほとんどの人間は与えられた問題を現実世界で考える想像力に欠けていると言わざるを得なくてね。
さすがにAが少々の思考をする時間、
そしてトロッコが通り過ぎるまでに切替機を切り替える事が出来る時間くらいは与えられているのだったら、
”危ない!”と大声で叫ぶくらい普通に出来るはずですからね。
洗脳というのは怖いものでね、選択問題はこのような形で人間を”出口のない迷路”に閉じ込める。
2択以外には解決法がないと思い込ませる悪問ですね、これは。
540 名前:名無しさん@1周年[sage] 投稿日:2016/04/04(月) 03:24:06.26 ID:lhoo6uGE0.net
戦艦大和撃沈のとき、救助艇はもう満員でこれ以上載せられないとき救助艇を守るためしがみ付いてくる水兵の
手を軍刀でバッサ、バッサと切り落としたらしい。
575 名前:名無しさん@1周年[sage] 投稿日:2016/04/04(月) 03:36:12.80 ID:ZDiOeevJ0.net
AIの判断にかこつけて自分の判断を語ってるだけという。
AI関係なくね?
608 名前:名無しさん@1周年[sage] 投稿日:2016/04/04(月) 03:46:34.44 ID:+fXNrLU50.net
人工知能「事故を起こす可能性があるので自動運転やめます」
621 名前:名無しさん@1周年[] 投稿日:2016/04/04(月) 03:50:34.86 ID:6WfUo/CF0.net
ホンモノの人工知能なら
一度事故がおきたあと
そもそもその事故が起きる条件にならないように学習させることができるワケ
そうやって事故がどんどん減っていく
人間がバカなところは同じ失敗を繰り返す
その条件になれば事故がおきるのに
またその条件になるようなことをする
人間の学習能力は低い
ホンモノの人工知能ができたら
人類は大幅に進歩するわ
663 名前:名無しさん@1周年[sage] 投稿日:2016/04/04(月) 04:05:17.74 ID:jn9uGfah0.net
動物が急に飛び出してきてよけようとして急ハンドルで事故死ってたまにあるよね。
665 名前:名無しさん@1周年[sage] 投稿日:2016/04/04(月) 04:06:15.74 ID:de0k4ozw0.net
AIが操縦する300人乗りの旅客機がハイジャックされました
犯人はワールドトレードセンタービルに突っ込めと要求しています
AIは自殺する事を選びました
さて、乗客300人が死んだ罪は誰が負うのでしょう
犯人はワールドトレードセンタービルに突っ込めと要求しています
AIは自殺する事を選びました
さて、乗客300人が死んだ罪は誰が負うのでしょう
679 名前:名無しさん@1周年[] 投稿日:2016/04/04(月) 04:16:05.57 ID:nCh6qavi0.net
>>665 AIは自殺しない。犯人とAIが交渉するの?
683 名前:名無しさん@1周年[sage] 投稿日:2016/04/04(月) 04:20:21.62 ID:de0k4ozw0.net
>>679
そういうこと
犯人「機内に●弾を仕掛けた。 乗客の命が惜しければ命令を聞け」
AI「解りました」
犯人「よし、ワールドトレードセンターに突っ込め」
AI「だが断る」
AIは犠牲者の少ない方を選びます。 300人の犠牲で5000人が助かるのなら、躊躇なく自殺します
694 名前:名無しさん@1周年[] 投稿日:2016/04/04(月) 04:30:32.85 ID:wDPh4GHb0.net
AI運用にあたり、可能性がある全ての「もしもの時」を想定した法の整備をすればいいんじゃないの?
プログラマーは法に則ったプログラミングをするだけで良いかと
717 名前:名無しさん@1周年[sage] 投稿日:2016/04/04(月) 04:48:48.37 ID:ZDiOeevJ0.net
>>694
そんなことができるわけないだろ。
何億ケース想定しなきゃいけないんだ。
755 名前:名無しさん@1周年[] 投稿日:2016/04/04(月) 05:10:50.84 ID:wDPh4GHb0.net
>>717
何億なのが何百なのかは分からないが
そのケースを想定した法が施行されていて
現に、その法を遵守しながら活動してるよな
759 名前:名無しさん@1周年[sage] 投稿日:2016/04/04(月) 05:13:08.34 ID:ZDiOeevJ0.net
>>755
法はそれに対応できるように「あいまい」に作られている。
それに従ってプログラミングなどできません。
あほなの?
891 名前:名無しさん@1周年[] 投稿日:2016/04/04(月) 06:13:29.28 ID:wDPh4GHb0.net
>>759
アホでもバカでもかまわないが…
ある程度の方向性が見えてきたかと
何億か何百の事故が発生した交差点の信号機(AI)のタイミング変更(法)みたいなもの
761 名前:名無しさん@1周年[sage] 投稿日:2016/04/04(月) 05:13:46.44 ID:signmyh60.net
この問題の発端は、将来的には事故率が下がるからと言って自動運転車を実用化していいものか?ということだろ。実用化すれば事故率が減り全体として死者は減るにしても、やはり自動運転車故に死ぬ人間も出てくるからな。
789 名前:名無しさん@1周年[sage] 投稿日:2016/04/04(月) 05:23:16.34 ID:RIxxhske0.net
強くても冷酷な人間は生きる資格がない。ただの動物である。
優しくても弱い人間は生き残れない。
どうすればいいんや。
810 名前:名無しさん@1周年[sage] 投稿日:2016/04/04(月) 05:35:46.57 ID:7LJXr7BR0.net
自分が●した事になるくらいなら何もせんわ
AIに完璧求めたら駄目だな
人間の性格みたいにある程度思考の偏りを持たせないと
815 名前:名無しさん@1周年[] 投稿日:2016/04/04(月) 05:40:38.72 ID:3QKLy+9H0.net
>>810
完璧じゃなければ法に則って運用できないのよ。
だから「正しい行動」を定義し、AIの行動は全て法的に正しいとしなければならない。
828 名前:名無しさん@1周年[] 投稿日:2016/04/04(月) 05:50:58.52 ID:Z7vIsIh/0.net
>>815
その通り。
しかし法と倫理(道徳)は同じではなくズレがある。
>>1の話は、AIの問題というよりも、法と倫理についての問題な気がする。
848 名前:名無しさん@1周年[sage] 投稿日:2016/04/04(月) 05:57:58.44 ID:TdH0femf0.net
まあぶっちゃけ何年経とうがそのレベルまで人工知能は発達しないもしくは実用化されないと思う
ロマンとしては研究を続けて追い求めるかもしれないけど
自動運転だって完全自動運転なんて状況が多様すぎて完全対応できないし
バグやらプログラムミスとか非対応の部分があったときに死亡事故が起きたら誰が責任取るかって話になるから
実用化部分は運転サポート止まりになると思う
862 名前:名無しさん@1周年[sage] 投稿日:2016/04/04(月) 06:02:20.03 ID:ZDiOeevJ0.net
>>848
その通りですな。つか、夢見すぎやわ。どいつもこいつも。
予算引っ張ってなんぼの世界じゃ仕方のないことだけれども。
866 名前:名無しさん@1周年[] 投稿日:2016/04/04(月) 06:03:46.30 ID:RBMWJYCA0.net
>>862
逆だよ
こういう特殊な事態の対応が難しいだけで
現実の交通事故なんて酔っ払い運転だスピード出しすぎだ
居眠り運転だって機械だったら圧倒的に事故が減るって
わかってるんだから
869 名前:名無しさん@1周年[sage] 投稿日:2016/04/04(月) 06:05:32.00 ID:ZDiOeevJ0.net
>>866
だからそれは知能といえるほどのものじゃないっての。
単なるケースごとの制御。
871 名前:名無しさん@1周年[] 投稿日:2016/04/04(月) 06:06:31.97 ID:RBMWJYCA0.net
>>869
だからケースごとの制御で自動運転させるでしょってことよ
873 名前:名無しさん@1周年[sage] 投稿日:2016/04/04(月) 06:07:09.38 ID:ZDiOeevJ0.net
>>871
それはAIではない。知能ではない。
877 名前:名無しさん@1周年[] 投稿日:2016/04/04(月) 06:08:28.60 ID:RBMWJYCA0.net
>>873
いやそんなんじゃAIじゃないって話をしてるんじゃなくて
自動運転が無理っていうからこの程度の制御で自動運転させるでしょ
ってこと
完全なAIなんてそりゃもっと未来の話でしょうよ
849 名前:名無しさん@1周年[sage] 投稿日:2016/04/04(月) 05:58:00.99 ID:eBI6yDSb0.net
オレもカンチガイしていたんだが
トロッコに人が乗っているという要素がどこにもないんだけど
なんでトロッコを助けるっていう方向にみんな話を持っていっているの?
なんかあらためて質問を読んだらワロエた
誰も乗ってないのなら、躊躇なくトロッコ破壊できるやん
851 名前:名無しさん@1周年[sage] 投稿日:2016/04/04(月) 05:58:28.69 ID:GKyeuXwG0.net
これ答えを当てる問題じゃなくて
「あなたはどうするか?」
って問題だからね
853 名前:名無しさん@1周年[] 投稿日:2016/04/04(月) 06:00:23.37 ID:RBMWJYCA0.net
>>851
いやそれをAIにどうさせんだ?って聞いてるからな
そんなめったに起きない突発的事態はAIが何選ぼうがいいじゃん
て話でしかないのに
人間だってどう選ぶかわからんのに
856 名前:名無しさん@1周年[sage] 投稿日:2016/04/04(月) 06:01:14.62 ID:GKyeuXwG0.net
>>853
プログラミングをするのは人間じゃない
860 名前:名無しさん@1周年[] 投稿日:2016/04/04(月) 06:02:01.15 ID:RBMWJYCA0.net
>>856
そこは人間でしょ
そこが人間じゃないならそれこそありえない判断くだす可能性があるじゃん
867 名前:名無しさん@1周年[sage] 投稿日:2016/04/04(月) 06:04:37.36 ID:GKyeuXwG0.net
>>860
人間が合理的な判断を下すようなプログラミングをしたら
AIが合理的に人を●すような挙動をするようになる
という話であって
AIが自発的に判断を下すような挙動をするという話ではないよ
857 名前:名無しさん@1周年[] 投稿日:2016/04/04(月) 06:01:28.77 ID:gXMtf46W0.net
>>1
ま、ただ、この「トロッコ問題」は、何の意味もない問題だよな。
たとえば、5人を犠牲にしてもすべてが中卒の肉体労働者であり、
もう一方の1人の方は、工事を監督する技術者であるなら、
どちらを助けるかは、また別の判断ができるだろう。
ま、こんなしょうもない問題を考えるヒマがあるなら、「ジョジョ」でも見た方が余程ためになるぜ。
このアニメには、予想もつかない「機転」が詰まってるからな。
898 名前:名無しさん@1周年[sage] 投稿日:2016/04/04(月) 06:17:28.54 ID:nJ2odm3G0.net
>>857
>5人を犠牲にしてもすべてが中卒の肉体労働者であり、
>もう一方の1人の方は、工事を監督する技術者であるなら
更に言うと、1人が天皇で、100万人は平民だったら?
100万人を戦死させても、1人の天皇を守る選択肢を取ったのが
先の世界大戦での日本軍なんだよな
だから、そもそもの前提(天皇はえらい、中卒はえらくない)に関しての
価値判断が間違ってたら、そこから演繹的に導かれる結論も間違いなんだよ
909 名前:名無しさん@1周年[] 投稿日:2016/04/04(月) 06:23:41.41 ID:gXMtf46W0.net
>>898
戦前と今では、価値観(国家の主権)が違うからなあ。
日本は、敗戦直前になっても、総力を挙げて「天皇制」だけは維持することを目指したからな。
それはそれで、「天皇主権の国家」では間違っていない。
879 名前:名無しさん@1周年[] 投稿日:2016/04/04(月) 06:08:47.18 ID:gELzcb0H0.net
前から突っ込んでくるトラックを避けたら小学生の列に突っ込むとかならどう判断するんだろ
895 名前:名無しさん@1周年[] 投稿日:2016/04/04(月) 06:16:07.89 ID:gXMtf46W0.net
>>1
ただ、この「トロッコ問題」に最初から欠陥があるのは、
ハナから、人の命は1人より5人の方が大事、という前提を臭ニオわしてることだよな。
人間の「倫理・道徳」においては、「少数者の命より多数者の命が大事」という理屈は、いまだかって述べられたことは無いからな。
ただ、この「トロッコ問題」に最初から欠陥があるのは、
ハナから、人の命は1人より5人の方が大事、という前提を臭ニオわしてることだよな。
人間の「倫理・道徳」においては、「少数者の命より多数者の命が大事」という理屈は、いまだかって述べられたことは無いからな。
897 名前:名無しさん@1周年[sage] 投稿日:2016/04/04(月) 06:17:22.64 ID:GKyeuXwG0.net
>>895
日本の裁判は●した人数で量刑が変わってくるよ
日本の裁判は●した人数で量刑が変わってくるよ
902 名前:名無しさん@1周年[] 投稿日:2016/04/04(月) 06:20:39.93 ID:gXMtf46W0.net
>>897
それは、「多数者の命が大事」という理屈からではなく、
単純に、罪科の合算に過ぎない。
905 名前:名無しさん@1周年[sage] 投稿日:2016/04/04(月) 06:22:31.08 ID:GKyeuXwG0.net
>>902
1人だけなら死刑にならないのはおかしい
とはよく言われることなので
「過ぎない」でバッサリ切れるものではないかと
911 名前:名無しさん@1周年[] 投稿日:2016/04/04(月) 06:25:35.52 ID:gXMtf46W0.net
>>905
裁判所は、これまで「少数者より多数者の命が大事」を根拠にして判決を出したことはないぜ。
914 名前:名無しさん@1周年[sage] 投稿日:2016/04/04(月) 06:27:10.80 ID:GKyeuXwG0.net
>>911
判決文の全てを知るわけではないので
断言はできないと思うよ
919 名前:名無しさん@1周年[] 投稿日:2016/04/04(月) 06:29:54.77 ID:gXMtf46W0.net
>>914
いや、確認した上で言ってるのだよ。
アンタも自信が無いなら、もうグダグダ言ってもしょうがないぜ。
920 名前:名無しさん@1周年[sage] 投稿日:2016/04/04(月) 06:30:21.67 ID:GKyeuXwG0.net
>>919
ウソはやめた方がいいね
912 名前:名無しさん@1周年[] 投稿日:2016/04/04(月) 06:25:56.04 ID:mKo121ZB0.net
(´・ω・`)こんなのはあたりまえのこと
簡単な例題でだれでもわかる
つまり、その問いが繰り返される状況だと、ひとりを切り捨てない社会では人間が滅ぶ
簡単に論破できるのが程度の低い倫理観とやらの正体
人の社会は連綿と生き残った人がいたからこそ成立している
そしてこれが正しいことは恐竜をはじめとする様々な生物が滅んでいることからも正しいことが判る
915 名前:名無しさん@1周年[sage] 投稿日:2016/04/04(月) 06:27:21.72 ID:/Zw3gO2P0.net
>>912
そんなことはない。
5人と1人という設定なんだから、どっちを選んでも人類に影響はない。
だから人類にとっては、どっちでもいいんだよ。
941 名前:名無しさん@1周年[sage] 投稿日:2016/04/04(月) 06:36:38.35 ID:+fHEPeN80.net
線路にいるヤツが悪い
955 名前:名無しさん@1周年[] 投稿日:2016/04/04(月) 06:42:49.74 ID:3QKLy+9H0.net
>>941
俺はそれが正解だと思う。切り替えずに直進で良い。
自動車に置き換えたとき、究極にはそうでなければ自動運転車は成立しないのではと思う。
944 名前:名無しさん@1周年[] 投稿日:2016/04/04(月) 06:37:52.34 ID:mKo121ZB0.net
(´・ω・`)愚者が多すぎ
現実の判断と理想を取り違えるからばかげたことを言う
倫理観なんていうのはただの理想
984 名前:名無しさん@1周年[sage] 投稿日:2016/04/04(月) 07:00:06.27 ID:1HoRogje0.net
>>1
よいか?許されるか?って聞いてるけど、許されないしよくないだろ!
こういうとんちは、またまだコンピューターには無理
コンピューターに任せた人が罪
死んだ数じゃ無い、切り替えた時点で殺人だ
987 名前:名無しさん@1周年[sage] 投稿日:2016/04/04(月) 07:02:56.57 ID:j9X/cA5C0.net
>>984
いまの日本経済の惨状は、そういうおっさんたちによる問題解決先送りのため
に若者がしわ寄せを食わされているわけだが、それでもコンピューターはイヤと?ww
1001 名前:名無しさん@1周年[sage] 投稿日:2016/04/04(月) 07:21:12.18 ID:xTmRnNtC0.net
1000なら人類滅亡