ニュース

Sep 05, 2023

人間に対して立ち上がった5つの機械

Se la scorsa settimana eri online nel momento sbagliato, probabilmente hai sentito parlare di Air.

先週、間違った時間にオンラインにアクセスしていたなら、空軍のシミュレーションがひどく失敗したという話を聞いたことがあるでしょう。 ドローンはミッションを完了するようにプログラムされており、オペレーターがそれを止めようとしたとき、ドローンは彼を標的にした。 その後、この話は真実ではないことが判明しました。 このようなシミュレーションをプログラムした人は誰もいませんでした。人間が数十年にわたってそうしてきたように、AI がどのようにして暴走するのかについて誰かが推測しただけで、報道機関はその想像上の状況を事実として誤って報道しました。

結局のところ、殺人ロボットはほとんど脅威ではないと結論付けて、多くの人がそのニュースサイクルから離れていきました。 私たちではありません。 私たちは、あらゆる機械に対して不信感を持ち続けています。 私たちは常にトースターに銃を向けています（銃も機械であることに不安を感じます）。 私たちは、機械が悪の長い歴史を持っていることを知っています。

チェス ロボットは通常、単純なソフトウェアです。 それはチェスの手を思いつき、人間の競技者は、あなたがこの記事を読むために使用しているものと同じような何らかのデバイスを使用して、それを見ます。 チェス ロボットは、実際の盤上で実際の駒を動かす物理的な機械であることもあります。 私たちにはそのようなロボットの長い歴史があり、その起源はそれが可能になる前にまで遡り、ロボットのふりをした箱に入った単なる人間でした。

そうしたチェスロボットの1台が、昨年7月のモスクワ・オープンに登場した。 以下は、複数の子供たちと同時に競争している映像です。これは実際の成果ではありません。 人間のチェスプレイヤーでも同じことができるし、ロボットが 3 人のプレイヤーの間で交互にプレイする方が 1 人でプレイするよりも難しいと感じる理由はありません。 いいえ、本当の成果は、それが子供たちの 1 人に他に何をもたらすかです。

CNN経由

はい、子供が順番外の駒を取りに行った後、手を伸ばして指を骨折してしまいました。 一部の報告によると、ロボットは怒りに応えて子供を罰したという。 実際には、それは駒を狙って誤って間違った指を押してしまったのですが、その区別は少年にとってほとんど慰めにはなりませんでした。 次の画面では、彼が競技者としてもはや国家にとって役に立たないとして、当局が彼を安楽死させるために連行する様子が映る。

CNN経由

しかし真剣な話です。指の骨折は大きなハンディキャップではないので、その子は翌日ギプスをして戻ってきて、トーナメントを終えました。 すべての指を使う必要はありません。 ロボットはそれをよく知っています。 実際、彼らはそれを期待しています。

ロボットが人を殺した最初の記録は 1979 年でした。モスクワの事件と同様、問題はロボットに腕を与えたことでした。 銃ではなく、物体を操作するために使用できる腕や金属製の手足です。 1台のロボットが男性の頭に腕を打ち付け、男性を死亡させた。

シャオパン/ウィキコモンズ

すべての優れたロボット物語と同様に、この物語もミシガン州で起こりました。 ロバート・ウィリアムズさん（25）は自動車部品を製造するフォード工場で働いていた。 棚から部品を取り出すのはロボットの仕事だったが、何らかの理由でウィリアムズが自ら登ってその仕事をすることになった。 それはロボットが遅すぎたからだ、と彼の家族は後に法廷で主張した。 ウィリアムズさんがこの棚の上に座っているにもかかわらず、ロボットはウィリアムズさんに気付かれずに動作を続けました。 それはウィリアムズの頭が占めている空間に腕を動かしました。 彼はすぐに亡くなりました。 それからロボットは動き続けましたが、30分後に棚を見て死体を見るまで誰も何が起こったのか分かりませんでした。

この事件にはある程度の人的ミスが含まれており、後に遺族が訴訟を起こした際、陪審はその点を考慮した。 それでも、倉庫内のほとんどの車両が警告音を発するのと同じように、ロボットのメーカーは、ロボットの移動を知らせる何らかの聴覚的合図を組み込むことができたはずです。 このため、陪審はロボットメーカー（フォードではない）に1,000万ドルの賠償責任があると判断し、後に1,500万ドルにまで増額された。 そして私たちは皆、ロボットの安全性についての重要な教訓を学びました。 この教訓は、次のロボットに別の工場労働者を研削盤に押し込んで殺させるまで、2年間続きました。

これらのロボットには殺意がないため、これらの話は、機械が関与する従来の労働災害とそれほど変わらないように聞こえるかもしれません。 それに対して私たちはこう言います。「いいですよ。」 誰かがロボットと呼ぶかどうかにかかわらず、このような事故の背後にある機械も同様に恥をかかされるに値します。 たとえば、Therac-25 の話を考えてみましょう。

Therac-25 はロボットにぴったりの名前を持つ放射線治療装置です。 放射線は、適切な線量で、適切に標的を絞った場合にがんを治療しますが、過剰な放射線は明らかに身体に害を及ぼします。 したがって、医療機器には、高線量を送達しないように安全装置が設けられている必要があると想像するかもしれません。 たとえば、200 ラドの線量が高く、全身に適用すると 1,000 ラドの線量が致死的である場合、おそらく、機械に 1 秒間に 15,000 ラドや 25,000 ラドの線量を与えることは決して許可されるべきではありません。 それでも、それは、Therac-25 が 1980 年代に複数の病院で別々の症例で 6 回行ったことです。

ステファン・ケーグル

最も初期の症例では、より軽度の症例の1つで、患者はすぐに火傷を負ったと主張し、その後すぐに乳房切除術が必要になった。 別の患者は過剰摂取を電気ショックのように感じた。 彼は腰から下が麻痺し、半年後に死亡した。 3人目の患者は軽度の皮膚がんのため放射線被ばくにより死亡し、4人目の患者もわずか4ラジアンの照射を受けるはずだったが同様に死亡した。

確かに、私たちはロボットにミサイルを与えることに懸念を抱いていますが、放射線兵器によってもたらされる特別な危険を心に留めておきましょう。 ロボットは放射線兵器が大好きです。 機械は放射線の影響を受けません。

故障した機械についてのこれだけの話に加えて、実際の殺人ロボットについても何か言っておかなければなりません。 私たちが意味するのは、自律型致死兵器 (LAW) であり、人を殺すために設計され、独自のプログラミングのみを使用して殺傷を行う機械です。

ジョリーロジャー/ウィキコモンズ

軍が独自の照準システムを搭載した車両を試みた画期的な事例の 1 つは、1970 年代後半の M247 ヨーク軍曹でした。 「ヨーク」はクールなロボット仲間の名前でした。 その標的システムには、「DIVAD」というより邪悪な名前がふさわしいものでした。 この対空戦車は、ヨークが選んだ目標に発砲するかどうかを人間の操縦者が選択する必要があったため、LAW としては十分に適格ではありませんでした。 これは幸運でした。 ある展示会で、ヨークは一連のドローンを標的にすることになっていた。 代わりに、スタンドに集まった将軍たちに目を向けた。

その後オペレーターが発砲を選択したとき、ヨークはまだ正しい目標を選択していませんでした。 それはトイレの排気ファンに照準を合わせていました。戦闘中はプロペラが賢い標的ですが、これはその力を示すための安心感のあるデモンストレーションにはなりませんでした。 軍は最終的に DIVAD 計画を中止したが、その理由は複雑すぎてここで詳しく説明できないが、国防総省が述べているように、「ヨーク軍曹は友軍を適切に保護する上で作戦上効果的ではなかった」。

換気と同様に保護も重要です。

キッチン家電は、たとえ故障していなくても、どの軍事兵器よりも多くの人を殺します。 天ぷら鍋だけでも、沸騰した油で火傷するのではなく、動脈が詰まることで、毎年何十万人ものアメリカ人が亡くなっています。 しかし、これらはゆっくりとした死です。 一撃で人間を全滅させることについて話しているのであれば、1963 年のインディアナ州の見本市で 1 台のポップコーンマシンよりも多くの死者数を出した食品調理装置はほとんどありません。

ハロウィンの夜でした。 州立見本市会場には数千人が集まり、アイススケート選手が「マルディグラ」と呼ばれるメドレーを披露する様子を鑑賞した。 10月の祝賀会にはふさわしくないテーマだが、プロパンタンクから漏れが発生した、誰も監視していない閉鎖エリアのコンセッションエリアで、本当に恐ろしいことが渦巻いていた。

そして、ショーの残りわずか 3 分で、電気ポップコーン マシンの発熱体がこのガスに点火しました。 火の玉がスタンドを突き抜けて爆発し、炎は高さ40フィートまで広がった。 体の一部が雨となって降り注いだ。 一部はすぐに落下したコンクリートの塊で覆われた。

ウィリアム H. バス写真会社

この爆発により74人が死亡し（さらに多くの説もある）、数百人が負傷した。 電子レンジには「ポップコーン」というラベルの付いたボタンがあるのに、ポップコーンのすべての袋にそのボタンを使用しないでくださいと書かれている理由を知っていますか? それは、そのボタンがポップコーンの機械に制御を譲るためです。 そしてポップコーン機械は人類を皆殺しにしようとしている。

Twitter で Ryan Menezes をフォローすると、誰にも見られてはいけない情報がさらに表示されます。