School'レポート[PDF]、時事通信、slashdot)。会合では人間の判断に頼らず、自動的に敵を攻撃する殺人ロボットの開発禁止といった規制の必要性に関して話し合う。現時点では完全自立型の殺人ロボットは存在していないが、現在米軍が使用している武装型ドローンの次のステップとして登場する可能性がある。完全自律型の武器は人間の介入なしにターゲットを識別、殺傷する能力を持つ可能性がある。実現すれば国際人道法に対するコンプライアンスに疑問を生じさせる存在となるだろう。Watchが公開したハーバード・ロースクールのレポートでは殺人ロボットの問題として、判断能力と責任の所在を上げている。殺人の意図を伴う自動兵器を作成したメーカーや使用を判断した陸軍士官、プログラマなどの刑事責任のリスクについても強調している。米海軍、敵から軍艦を護衛するためのロボット船団を開発中この議論は賞味期限が切れたので、アーカイブ化されています。新たにコメントを付けることはできません。持ちこまれたものだと思いますが。Cowardええ、一緒に扱わなくてはいけないとは誰も主張していないですね。(#2600541)SF小説の方が現実より二歩も三歩も先を進んでるからです。進歩してるものを参考にするのは当然。日記ロボットの話題だから三原則をお出しする、という発想自体は別にいいと思うんですけど、ネタになってないというか、剥き身の材料だけお出しされても困るというか。そもそも三原則は定義があいまいな上に実装法は伏せられてるのだから、実際のモノの話に絡めるのが非常に難しい。今回の話に絡めるなら「人を傷つけたらダメ、という原則に則ってロボット兵器は殺人禁止ね」「それ使い物にならないやん!」とか「ロボット三原則で言う『ロボット』の定義は?ここでいうロボット兵器がその定義に当てはまらないなら三原則破りまくりやね」とかそんな話に。自律的に動作する機械が社会に持ち込まれる時には何らかの倫理を考慮し組み込む必要がある。倫理を組み込みという形で内在できる存在を考えるという概念を持ち出したのが元ネタの作品(シリーズ)という解釈ができるので、敬意を払うというのは自然な事かと。三原則自身もそれそのものを実装するのは困難だとしても、現実的な仕様を出すための原則、もしくは原則を検討するためのたたき台の候補ぐらいには考えてもいいんじゃないでしょうか?三原則を根拠とする事に意味はないけど、アシモフが何故それを三原則としたか、なぜ多くの人間がそれをもっともだと感じたかを踏まえて、あるべき倫理を模索する方法の一つになるかもしれません。#ストーリー作成上の都合というのはともかく結論として、「いろいろややこしい事を考えたくないから殺人を目的とした自律機械の存在は禁止な!」という事もありかと。Coward少なからず影響を受けているんであれば、それがおかしいと思う。実際の開発がそんなお話の中の設定にちょっとでも縛られるのは間違ってる。少なからず影響を受けているんであれば、それがおかしいと思う。実際の開発がそんなお話の中の設定にちょっとでも縛られるのは間違ってる。SFが戦争の未来を左右する」の章を読むと、米軍では積極的にSFの影響を受けに行っている部分もあるようです。この章の中では、ロボット工学者はロボット三原則について「現実の世界の複雑な状況下で法律に従おうとする際に生じる問題を検証する出発点として、三原則を使っている」、という風に書かれています。いうわけで祈ろうと思うのですが、対象はニャルラトテップでいいですか?」とか相談されても困るので、ロボット三原則そのまま実装できないだろうというのは同意。Coward「影響する」のと「縛られる」は全く別ですよね。Coward>少なからず影響を受けているんであれば、それがおかしいと思う。単純に聞きたい、なぜ?読んだ小説や見たアニメに影響を受けてその道に進んだとか、今もそれを目標にしているといった研究者は少なくないですよ。(#2600990)漫画「究極超人あ~る」に登場するR・田中一郎の台詞です。[websunday.net]作品としては、今年も関連イベントが行われたりしているようです。(#2601051)漫画「究極超人あ~る」に登場するR・田中一郎の台詞です。(1話では言ってませんが)その台詞を塩澤兼人氏が口にすると実に良い味が出たものですよねぇ。CDの1枚目だったかな。別記事のギーガー氏と同様、階段から落ちて亡くなったそうで。中堅というお年だったと思います。実に惜しい方を亡くしました。「あ~る」も元々の製造目的は世界征服だったんですよね。兵器じゃなかったようですが。Coward3原則に縛られてるのに人を殺せるロボットというものも出てきますね。人間を攻撃しているのではないとロボットに認識させるとか「人間」の定義を厳しくして、マスターの同胞だけを指すことにしてしまうとかロボット自身がオレオレルールを編み出すとか。(#2601053)ロボット三原則を破ったハッカーと、枷を外された自己複製ロボットが出てくる作品もありましたよね。「ソフトウェア」だったかな。「人類は生まれついての奴隷使いだ」とか「繁殖率で人類を上回って絶滅させてやりたい」とか過激なことを言うロボットも出てきましたが、なんというかぐちょぐちょでろでろのサイバーパンクだったような。事でしょう?遠隔操作も自律動作も含めて。それらに対して殺人ロボット(噴)って造語を充てるのは多分に政治的だし、オレ的にはキモチワルイ。無人兵器や戦闘用ロボット或いは軍事ロボットって原語の意味に近い訳語を充てられないもんかね。報道記者なんて根はクソサヨのくせに安定志向で大手へ就職するクソ馬鹿ばっかだから無理っぽいけども。半島で流行ってるらしい無人偵察機を改造して攻撃に使うなって牽制になるのかな。#対策ないんだろうなぁ。国連事務総長がこれに絡んでたら面白いなと思った。Cowardだよねえ。Cowardミサイルは人間がトリガーを引くからだ。自立型戦闘ロボットも起動するのは人間かもしれんが・・・まあ、なんだ。自動報復ってのも禁止なんだっけ。Cowardミサイル・地雷・機雷・CIWSは、無人自動対人(を含む)攻撃兵器として一括りにして良いでしょう。Coward誤って民間人を殺したとき、誰の責任かということだろ。自律ロボットの責任など、誰も取りはしない。ミサイルを誤射したオペレータの責任は。Coward責任問題は大したことない。アメリカにせよロシアにせよ中国にせよ「悪いのはテロリスト」と責任転嫁するシステムが出来ている。(#2601064)つまりは、兵器にセンサーつかっちゃダメですよってことになるような。(#2600464)T/Oまぁ普通に考えたら、識別ID発信器を付けてない対象に対して攻撃するくらいが今のところ関の山でしょ。無人攻撃ドローンを捕まえて攻撃規制の論理を反転させて戻されたら怖そう。(#2600765)殺人ロボットを規制するとは、つまり「兵士と同等かそれ以上に非戦闘員を殺さないロボに限定しろ」ということ。低性能の無差別殺人ロボを所持するのは悪という定義をすること。(#2600827)こんな取り決めをしたとしてもどうせ戦争なんてルール無用の状態になるのがオチ。目撃者がいなければ何やってもバレない原則でやるのがアメリカクオリティ。ロボットじゃ無ければいいのか?遠隔操作で殺すのと自動で殺すのと何が違うのか?機械が人を殺すという結果から見れば同じ。殺される側からすれば、自動なのか遠隔操作なのかなんて見分けつかない。操作系とは無関係に体裁のためだけにヒトを乗っけるようになったりして。それが脳核だけになるとSFっぽい。政府機関周辺の暴動や越境してくる不法難民を検知して自動的にレーザーを照射して失明させる兵器は、人を殺さないからOKなの?催涙ガス弾だって水平撃ちしなくても時々当って人死んでるんだよなあ。日記DHMOとかでも水平撃ちしなくても生死を左右することあるしね。CIWSは違うの?むき出しの人間じゃなければここで言う「殺人」にはあたらないとすると自動車を全自動攻撃するのはOKか。ないとしても、OKダイアログ表示しとけば無問題と。CowardCIWSは専ら防御用だからOKなのでは?自走できるわけでもないし、人間乗ってるし。完全自立型CIWSが自走しながら、バンバン人殺したらアウトだろうとは思います。日記タレこみ文にあるような問題点からすると、自走するか否かよりも対象の識別能力の方が必須なんじゃないですかね。場所は固定されているけど敵性人間だけを識別して攻撃する固定砲台、だったら後者の方が今回の議論の対象になるんじゃないかと。[blogspot.com]もちろん、無賃乗車するとハンマーで殴るロボットも禁止ですね。過労死するまでサービス残業させる管理職ロボットを禁止して欲しい。(#2601236)いや自意識過剰だとは思うんですが、この会合って日本を想定しているんじゃないかと。武器輸出自由化()とかタイミング的に。以前、ホンダのCMでASIMOと子供たちが追いかけっこしてるのがあったんだけど、ASIMOに斧とかUZI持たせたら怖いだろうなって思ってました。多くのコメントがこの議論にあるかもしれませんが、JavaScriptが有効ではない環境を使用している場合、クラシックなコメントシステム(D1)に設定を変更する必要があります。service.閉じるスラド読み込み中...。