  |
はてなキーワード:殺人ロボットとは
例えばウクライナ・ブチャで女児を犯して殺して地下室に投げ入れた兵士は（どうせ当人もとっくに使い捨てられてこの世にいないのだろうが）、自分のやったことを思い出して後悔しなかったのだろうか。
そういうムチャクチャな虐殺行為というのは強烈な殺意や血の酩酊の狂乱の中で行われるのではなく、疲れた頭で投げやりにダラダラと行われる。
モノクロの集団銃殺の映像。撃たれるために壕の中に進む大勢の女子供と監視役の（そして実行役の）兵士たちは盛り上がらないイベント会場の群衆とバイト係員のようだ。
間違いなく兵士たちはあんまり何も考えてない。思考停止して冷酷な殺人ロボットに成り切ろうとしてるとかではなく、タイミーバイトみたいに「ダリーな。でもまあちゃっちゃと片付けないと」としか思ってないだろう。
宝飾店を営む家に押し入り、家人を拷問して一生寝たきりにしたトクリュウのガキがなんか「俺みたいになるな」みたいな安い反省文を書いて文才が地頭がとX民に絶賛されていた。
そうやって過剰な反省ポーズに酔うことで自分を誤魔化すこともできる。
そもそも罪悪感は、他人に責められるまでは眠っているものだという。
人間は他人を踏みつけても自分はそんなに痛くない。だからこそ“ついつい”レベルでどんな残虐なこともやってしまう。自分から、生きるに差し支えるような悔恨に駆られるほど人間は“人間的”ではないという。
しかしやってる時は大して何も考えてなかったり、自己陶酔の材料にしたり、記憶を捻じ曲げて合理化するとしても、それで一生OKなのかどうか。
子供を殺した感触、何の恨みもない相手の頭蓋を割った感触を時折まざまざと思い出すことはないのか。あるいはその事実は認識しているのに、自分が本当にその時何を考え何を感じていたか曖昧になり、今現在の自分が何ものかわからなくなったりしないのか。
そして、自分が根底から無価値な根無し草のような存在に思えて不安に苛まれる事はないのか。
（明らかに自分に非があって謝れないのってむしろそういうことなのでは。最後のダメ押しになってしまうから）
都合の悪い記憶を脇に押しやり切り捨てようとしても、それは自分の身を切り捨てて小さく削れていくような気がしないのか。
フィクションでは、そういう身を切るような悔悟の描写はゲップが出るほどありふれてる。でもそいつらほぼ間違いなく、法はともかく俺は許すぜと観客が思うような、やむにやまれぬ成り行きで人殺して、それなのに自発的にめちゃくちゃ悩んでるというナイスガイなんだよ。
あるいは反省の挙句、ノミでトンネル掘って諸々チャラになりましたとか、宗教に目覚めたりとか。
またあるいは本当に獣欲に手足がついただけのモンスターも稀には実在する。「血と骨」の親父みたいな。
そんなんはどうでもいいんだ。
単に命令されたからとか誰も見てないからとか私利私欲のために他人に地獄の苦しみを与えた人でなしが（あるいは、ある意味ではひどく凡庸な人間が）、本当に何を考えて、そのあとの人生を送るのかが知りたいんだ。
パフォーマンスでなく、誰にも知られない場所で「自分のような人でなしにはこのくらいの罰がふさわしい」とひとり腹切り刻んで苦しみ抜いて果てたやつがいたとしても、わからないのだが。
私はむしろ人でなしのひとりとして同類の声が聞きたい。あるいは人でなしに人生をゆがめられた人が「人でなしが本当に考えること」に触れて何を思うか知りたい。
もちろんここでじゃないよ。これは長いメモ。
〜〜〜〜〜〜〜〜〜
「罪と罰」読んでないがあらすじとコミカライズは読んだ。結局追い詰められてゲロするわけだが法的な裁きを受ける受けないの話はどうでもいいのである。大虐殺の実行者も命令者も往々にして何の罪にも問われない。そのうえで何を思うかあるいは思わないか。
「撫順帰り」とかで人でなしの大反省文がいくらでも読めるが、あまりにも政治的に汚染されている。全部嘘だとか事実だとかいう話はしていない。
戦争体験を語り継ぐ戦後文化の中で再構成され奇形進化した“芸能”に興味はない。
ーーーーーーーーーーーーーーーーーーー
AIプログラマーです。答えは、AGI がどのようなものになるかは誰にもわかりませんが、懸念すべき理由はあります。
AI は通常、目的関数を達成するための新しい方法を発見しますが、それはあなたが考えていたものではなく、望んでいたものでもないかもしれません。
AI はビデオゲームの不具合を見つけてそれを利用し、コンピュータープログラムであるため、プレイするゲームが何であるか、不具合が何であるかを知りませんし、気にもしません。
AI は、与えられた報酬関数を最適化しているだけです。これは「社会病質的」と呼ばれることもありますが、もちろん擬人化です。AI は機械であり、それがすべてです。
AI が人間の道徳に従うことは期待できません。なぜなら、人間の道徳は明示的にエンコードに書き込まれていないからです。
実際、機械学習のポイントは、正確なオブジェクト認識 (つまり、猫と猫のように見える影を区別する) に必要な100 万のエッジ ケースを明示的にプログラムしたくないという ことです。
機械知能に関して言えば、危険なレベルの能力を持つ機械を作ったことに気付いたときには、もう手遅れかもしれないという問題があります。
ミサイルで爆破できる 1950年代の殺人ロボットではありません。おそらく自己複製型のマルウェアで、（意図的なプログラミングによって、またはそのような状態に陥ったために）進化を制御でき、人間が駆除するよりも速く新しい形態をとる可能性があります。
重要なシステムでほとんどの場合は無害に実行されるが、時折フィッシングメールを送信したり、公務員を脅迫したりするプログラムが存在するでしょう。それらは重要なシステムに埋め込まれているため、取り除くことはできず、巻き添え被害が多すぎます。
ヘッジファンドやプライベートエクイティ会社が AGI にアクセスでき、それに「方法は気にしないが、24時間以内に10 億ドル稼いでほしい」と伝えたとしよう。
結果はおそらくひどいものになるだろう。そのくらいの金額を稼ぐ方法はたくさんあり、社会に多大な損害を与える。そして、害を及ぼさずにその目標を達成する方法はおそらくない。
AGI はどうするだろうか。人間がすることと同じだ。楽な道を選ぶ。ただし、人間には羞恥心があり、投獄や死を恐れる。アルゴリズムにはそれがない。プットオプションを購入してから 15 秒後に原子炉を爆破する。
人々を脅迫して、そうでなければしなかったような決断をさせる。さらに、ヘッジファンドマネージャーにはもっともらしい否認の余地がある。
彼は、アルゴリズムにこれらの恐ろしいことをするように頼んだのではなく、単に24時間以内に10 億ドル稼いでほしいと頼んだだけなので、自分は罪を問われないと主張することができる。そして、アルゴリズムを投獄することはできない。
AGI が実現した場合、その結果は完全に予測不可能です。なぜなら、機械は制御しようとする私たちの試みを凌駕するからです。なぜなら、(繰り返しになりますが)機械は私たちが望んだことではなく、プログラムされたことを実行するからです。これには機械が意識を持つ必要はなく、それは直交する問題です。明らかに意識を持たない機械は、複雑なボードゲームで私たちを出し抜くことができ、今では説得力のある自然言語を生成できます。
この中で最も重要な部分は「ヘッジファンドマネージャーの場合」です。
最大のリスクは、これが商業化され、訓練を受けていないオペレーターが利用できるようになることです。
すでに、人々が簡単に安全対策を回避しているのを目にしてきました。
AGI を作成した場合、それは製品になります。ユーザーは専門家ではありません。AGI はパワーを持ち (特にIoT とクラウドネットワーキングでは、すべてが「スマートデバイス」になり、インターネット全体が基本的にAWS という中央ネットワークで実行されます)、倫理的な取り扱いではなく、利益を目的とする人々の手に渡ります。事前に実装されたすべての制約は、エンドユーザーがどのように使用/誤用するかを考慮できないため、現実世界では生き残れません。ChatGPT の制約と同様に、私たちは常に追いつく必要があります。どんなに馬鹿でも使えるようにしようとしても、彼らは常により優れた馬鹿を作ります。
本質的には人間こそが大きな問題です。AI は想像できる最も賢いバカです。目標を達成するためにあらゆる方法を見つけますが、文脈や倫理的、文化的、その他の制約についてはまったく理解していません。マシンガンを持った猿です。
消費者の手に渡った強力なテクノロジーがいかに危険であるかの例として、この世界でいまだに火が使われていることを見てみましょう。場所によっては調理に、またエネルギーとして利用されています。しかし、いまだに人々は自爆したり、家を燃やしたりしています。
火は強力ですが、社会的または倫理的な制約を気にしません。そのため、ユーザーは家を全焼させることなく望みどおりの結果を得るために、火の取り扱い方を知っておく必要があります。どの病院にも「火傷病棟」があります。あなたも火傷を負ったことがあるでしょう。一般消費者向けの消火ツールによって大規模な被害をもたらす森林火災もあります。
世界中のあらゆる電子機器に接続されている神レベルのバカを想像してみてください。
さらに、IoT とネットワーク関連の問題では、現在のセキュリティ対策は通常、遡及的で、人間の対策に基づいています。AI は、必要な場合や要求の一部である場合に、セキュリティ対策を侵害するためのより優れた、より迅速な方法を見つけます。安全なものなどありません。
現代人は殺されたい、終わらせてもらいたい欲求に飢えている。別に大勢からボコボコにされる必要は無い。ただ、たった一人によって闘いの末に大往生を遂げたいんだ。更に人間は低スペも高スペも等しく心に獣を飼っている。だが、低スペはその破壊衝動をかなえる術がないんだぜ。街に壊していいものはない。野生動物は人と闘わないから、自分と付き合ってくれるのは幻影ばかり。修練しても虚しいだけ。だからこそ、殺人ロボットを開発すべきだ。破壊衝動と希死念慮を満たし、孤独から人を解放してくれる。でも、そこには多くの課題がある。でも、人類の幸福のために解決すべきだと思う。
俺が思いつく課題は以下の通り
ロボットや兵器などが実物の人間に近づくほど戦闘力は高まる傾向にある。でも、ある程度近づくと戦闘力がグンと下がる。この現象を武神の谷現象と呼ぶ。そこを解決し、本物に肉薄できるようにすることが大切だ。更に肌触り、体温、匂いなども実物に近づけないと行けない。
・機械が"獣"を持てるのか
俺は感情を持った機械を知らない。ただ、こちらの言うことに反応して闘らせてくれるだけのロボットじゃ破壊欲求は満たせても、希死念慮は満たせない。だからこそ、外見だけでなく精神面も人間に近づけ、獣、あの恐ろしき獰猛さを理解できるロボットを開発すべきだ
・無条件で武人を破壊する様に設計されたロボットに殺されてうれしいのか
そんなのどんな音痴でも満点を出してくれるカラオケマシーンと同じだという意見があるかも知れない。正直、これは難しい問題だし、俺もどう解決すべきか見当もつかない。でも、それでも殺されないよりはマシだと思う。
人間は生物と無生物を区別し、前者を壊すことに歓喜をおぼえる傾向があるという。この心理をバイオクラッシャーと呼ぶ。だからこそ、人は獅子を狩ったり、食人植物を食らうのだ。最初から無生物と分かっている機械にあの高揚を抱けるのだろうか。これも難しい問題だ。俺も解決方法が分からないので優秀な増田に意見を聞きたい。
そもそも人間がこの世に必要だという保証がどこにあるのか。人間も所詮は偶発的に発生したに過ぎない。だからこそ、不条理に苦しめられるのだ。そんな苦しみを和らげるためにロボットは必要だ。機械に滅ぼされてしまうならそれもありじゃないか。苦しみながら存続するよりもいい。
殺人ロボットが開発されたら、現実の人間じゃ満たせない性癖も満たせるようになるぜ。全身の骨を折られたいとか、奇襲したいとか一般じゃ忌避される欲求だって満たしてくれる。理想の武人と殺し合うことも出来る。俺がもし殺人ロボットを発注するとしたら、身長1800ｃm、手足が長く、皮膚は合金製、拳が大きくて、腕の太くて、体運びのいいロボットをオーダーメイドで作ってもらおう。全員ではないにしろ、現実の武人は汚い。あいつら裏でネチネチ陰口言うし、暗器やWMD、ガスを平気で使うし、武士道的思考出来ないし、死体を家具にするんだぜ。殺人ロボットはそんなこと絶対にしないから、もし殺し合ったらやめられないはずだ。破壊や死に飢えてるみんな、殺人ロボットが開発されたら人生がバラ色に変わるはずだ
なんかさ
世界全体がクソ末期で化石燃料もなんもかもカッスカスで南極の氷全部溶けてて大地は全部放射能漬けになってて太陽フレアで電子機器ジャジャジャジャーンでそんな中でも数百人くらい生き残ってる人類は細々と彼らなりに幸せ～なスロ～ライフを送ってるよ☆みたいな話は嫌いなわけ
「いま」はしあわせ！だからそれがすべて！わたしたちかがやいてる～！！！とかいう思考停止を感じる
いやそれ全部「無」になるやん…というか
いやめっちゃ長いスパンで考えたらなんらかの生物はまた生えてくるかもだしもっと長い目で見ると太陽死んだら地球死ぬけどそういう話じゃなくて…「いやそんなに絶望的な状況で必死に生き残る様…見たくないな…」というか
分かるか？
たとえ秩序が崩壊していて暴力こそ正義みたいになっててもなんか作中でだんだんモラルが更新されていくところに「成長」を感じるし
びっくりするほど空気悪い！土壌もやばい！なんか殺人ロボットがいる！みたいな感じでもなんか知らんけど空気清浄機とか土壌蘇らすすげえ肥料とか人類許すロボットとか出るし
なんか「希望」を感じるんだよな
終末しきったあとに「始まる」ところに「希望」があるんだよな
あれあるじゃんジョジョ七部のジョニィが「僕はマイナスをゼロにしたい」的ななんかそんなセリフ
あれだよあれ
私はマイナスからゼロになっていく過程の話が好きなんだよな（ジョニィって結局七部のあとで早死にしてるけど…そういう話じゃなくて…）
その逆のゼロがマイナスに向かっていく話は「ただでさえ気が滅入る状況なのにこれ以上気分が下がるような状況になる～！？！？」という「暗い…あまりにも…」を感じる
という話なんだけど
わかんない？お前たちにはこういう話わかんないんか？？？
「親」と「社会」とか「罪」と「迷惑」とかやたらでてくるけど、
あなた個人の、自分の親への「生かしてくれてありがとう」という感謝と「障害を持って生まれて申し訳ない」という罪悪感と「なぜ自分を生かしたのか」というある種の憎しみや恨みを、「障害者」が「社会に迷惑」という大きな主語でごまかして、ごちゃ混ぜにしてるだけなんじゃないの？
そうでなければ、
「生まれてくるべきかどうか」をもし決めれるならば、死んだ後にしか評価はできなくない？
健常者だけど、テロとかを起こしてめちゃくちゃ社会に損害を与えた人も、
障害者だけど、めちゃくちゃ社会に益を与えてる例えば乙武みたいな人とかもいるわけじゃん。
何もできなかったと思ったけど、死ぬ直前にすごい発明をして社会がよくなる可能性とかゼロではないわけじゃん。
障害者だからこそ生まれる発想とかってゼロなのかな？それがあるかどうか分からないけど、ないことは証明できないよね？
もうほんとになにもできないまま死んだけど、脳死だったから他の重い病気の人に健康な臓器を分けることができたなら、それけっこうよくない？
というか生物学的には先天性の障害者は多様性において、つまり人類という社会の存続においてとても重要な存在と聞いたことがあるけどね。
今日本で食べられてる稲とかは、美味しさとかを追求してそのかわり、一つの病気が流行るとほぼ全滅するらしいね。
そもそももし罪があるとすればあなたを生んだ親に罪がいくはずじゃない？
べつにあなたが卵子と精子のときに「神様お願いします障害者に生まれて社会に迷惑をかけたいんです」と願ったわけじゃないよね？
例えば、科学者が殺人ロボットをつくって何百人か殺したとして、罪を受けるのは科学者のほうであってロボットはむしろ被害者じゃね？
まあこれは冗談で、罪になるには「そうしない選択肢があってそれを選択可能だったにもかかわらず罪であるほうを選んだ」ときに罪になるんで、ほら例えば正当防衛とか無罪になったりするじゃん？
なら最初から選択肢のなかったあなたの親も、あなたも、罪ではないだろ？
障害者がゼロで、社会通念上受け入れがたい意識を持った人間がゼロの社会って、いわゆるディストピアだと思うんだけど。
コストパフォーマンスや「よりよいもの」をあまりに希求すると、
「優生学」という人類史の汚点の二の舞を踏むことになるから、あまりおすすめできないね。
障害者がコストがかかるから生まれるべきでないなら、食事のコストがよりかかる肥満体質の遺伝子を持った人間もまた生まれるべきでない？
白人と黒人と黄色人とどれが一番コスパがいいんだ？女と男なら？身長は高い方がいい？低い方がいい？血液型は？目の色は？
「道徳の話」だというなら「○○だから生まれるべきでない」という主張こそ、まさに非道徳的でないかい？
そうすると視力の悪い人間は視力障害者という扱いになるわけよ。
でも今の社会は違うよね？メガネがあるから障害者とは扱われてない。
今パワードスーツとか開発されてるけど、あれがもっと進化すれば、腕や足が一本なくなったくらいでは障害者と呼ばれなくなるかもね。
いや、そもそも健常者でさえも、生まれてくるべきかどうかと言われると答えることはできないのでない？
どうせ誰がめちゃくちゃすごい発明しようが、テロで何百人か殺そうが、人類滅亡したら全部ゼロなわけよ。
何億年後かにはあなたの持ってる障害も、アインシュタインの相対性理論も全部等しく無価値なわけよ。
例えば日本の平安時代は女の人はおかめ顏が美人だったらしいよね。
現代でも、場所が違えば南米だと太ってれば太ってるほどモテるんだっけ？
殺人が好きな人も、戦時中に兵士として生まれれば英雄扱いかもね？
場所といえば、アフリカとかの一部民族では、障害者は神の使いとして崇拝の対象になるらしいね。
もしあなたがそこで生まれてきてたなら、むしろ健常者が生まれてきてなくてよかったねになったかもね。
なので「必要かどうか」という価値の問題はその社会の時代や場所にめちゃくちゃ影響を受けるし、つまり「障害者は生れてくるべきでない」と結論づけることなんてそもそも不可能なんじゃね？
メガネの下りでも書いたように、「障害者」というくくりがまず決まってないんだから。
「マーサズ・ヴィンヤード島」という島があって、その隔離された島では昔、他の社会より耳の聞こえないろう者が多かったんだって。
そのころのその島では、ろう者は障害者という扱いではなかったらしい。
耳の聞こえる人も聞こえない人も全員手話を使って話してた。聞こえる人同士だともちろん英語は使うけどね。
つまりそのころのこの島では生まれつき耳が聞こえないというのは、個性程度のものだったらしい。
それによって特に不利益を被ることはなかったし、障害者というレッテルを貼られることも、自分を障害者だと思うこともなかった。
つまりだよ。障害者を障害者にしているのは、あなたのその障害ではなく、その障害を障害だと決める社会のほうなんだよ。
だから、あなたが障害者になっているのは、不完全な社会のせいなんだ。
