いま足元でなにが起こっているのか...

「知る」ことが未来を切り開く...巷にあふれている情報から知るべき重要なものを、広く報じられているものからテレビも扱わない隠れた情報をピックアップ!!

空飛ぶ殺人ロボット~世界初のAI兵器

 

f:id:SheelReport:20210626090958j:plain

AI兵器

 国連安全保障理事会専門家パネルの報告書でAI兵器使用を指摘

北アフリカリビア内戦で、軍用無人小型機(ドローン)が、人間から制御されない状態で攻撃した可能性がる...

 今年3月にまとめられた国連安全保障理事会専門家パネルの報告書で、指摘されました。世界初の、戦場実践でのAI兵器使用となるようです。

リビア暫定政権が昨年3月に軍事組織を攻撃した際、トルコ企業が開発した「自律型致死兵器システム(LAWS)」と呼ばれる無人小型機によって追尾攻撃が行われた...

報告書にはこうあるようです。

このLAWSについては、操縦者とつながっていなくても、標的を攻撃するようプログラミングされていたようで、AIが攻撃を行った可能性を示唆しています。

空を飛ぶ殺人ロボットが使われたかもしれない...

この報告書について、今年5月に、米国の専門誌「原子力科学者会報」が報道したものです。

 

キラーロボット

キラーロボットとか空を飛ぶ殺人ロボットとか、かなりショッキングなものですね。

ドローンは内戦に軍事介入するトルコの軍事企業STM製の「カルグ2」であるとされていますが、製造したトルコ社は、AI兵器製造は否定しているそうです。

LAWSとは、指揮管制システムから攻撃、その評価までの全体を指す。その中で顔認証などで標的を定め、追跡、攻撃するという機能を規制しようというのが国際社会の流れだ。報告書によると、ドローンのような無人兵器が戦場に現れ、脅威を与えたことは事実かもしれないが、具体的な行動は書かれておらず、LAWSではなかったのでは、という印象だ...拓殖大の佐藤丙午教授(安全保障論)

空飛ぶ殺人ロボット、戦場で使用か AI兵器、世界初?:朝日新聞デジタル

記事の中で、佐藤教授は「兵器開発を止めることは難しいが、拡散や使用を以下に防ぐか、軍備管理・軍縮の枠組みに取り組むべきだ」と指摘しています。

LAWSをめぐっては、地雷など非人道的な兵器を規制する特定通常兵器使用禁止制限条約(CCW)の枠組みで国際的な規制が模索されてきたと、記事にはあります。

倫理的に(攻撃の)過程には人間が関わるべきだ...

完全自律という、攻撃において人の手が一切介しないことが、大きな問題とされています。

 

次世代戦場の実験場...という表現も見られます。

今回リビア暫定政府と敵対した武装組織「リビア国民軍(LNA)」は、アラブ首長国連邦UAE)から提供された中国製ドローンを使用したとされています。

AI兵器開発においても、中国は世界各国のなかでも先をはしていると言われています。

キラーロボットを禁止・制限する国際的な合意は遅れていると言わざるを得ません。

各国や人権団体などは非人道的な兵器を規制する「特定通常兵器使用禁止制限条約(CCW)」の枠組みで、2014年から議論はされてきましたが、具体的な成果は上がっていないと言われています。

発展途上国などが規制に積極的なのに対し、高い開発能力を持つ米国、中国、ロシアなどが慎重な姿勢を示してきた体と言われていて、世界の平和よりお自国の世界におけるプレゼンスや利益の追求が優先されている現状を、なんとかしなければ、このような「死の商人」はなくならないのでしょう。

日経新聞電子版に「キラーロボット」の説明が載っていますので、そのまま引用します...

人工知能(AI)を搭載することで自ら攻撃目標を発見し、殺傷する兵器で、「自律型致死兵器システム(LAWS)」とも呼ばれる。完全な自律型キラーロボットはまだ実戦配備されていないとされるが、一定の自律性を持つ兵器の導入は急速に進んでいる。戦場に送り込む兵士の人的被害を減らす期待がある一方、人間が介在しない戦争の倫理性や、誤った攻撃が行われた場合の責任の所在などが問題として指摘されている。

「殺人ロボ」、リビアで世界初使用か トルコ社は否定: 日本経済新聞

 

特定通常兵器使用禁止制限条約(CCW

今後、その役割が重要になってくる「特定通常兵器使用禁止制限条約(CCW)」に関しては、外務省ホームページにその説明が載っています。

非人道的な効果を有する特定の通常兵器の使用の禁止又は制限については,ジュネーブ追加議定書(1977年採択,1978年発効,我が国は2004年加入)が採択される過程において議論されたものの結論を得ず,その後,1979年及び1980年の2回にわたり開催された国連会議(注)の結果,1980年に特定通常兵器使用禁止制限条約(Convention on Certain Conventional Weapons: CCW)がジュネーブにて採択された。1983年に発効。

特定通常兵器使用禁止制限条約の概要(Convention on Certain Conventional Weapons:CCW)|外務省

外務省ホームページには、締約国一覧が載っています。

treaties.un.org

コトバンク」のサイトには、この「特定通常兵器使用禁止制限条約(CCW)」には3つの付属議定書があるとして、その3つを紹介しています。

  1. 人体内に入った場合にX線で検出できないような破片で傷害を与える兵器の使用を禁止
  2. 地雷、ブービートラップおよび他の類似の装置の一般住民・文民に対する使用、無差別的使用を禁止(爆発性物質を内蔵し外見上無害にみえるものの使用をいかなる場合にも禁止)
  3. 一般住民・非軍事物を焼夷(しょうい)兵器の攻撃目標とすること、人口密集地域内の軍事目標を空中散布の焼夷兵器の攻撃目標とすることをあらゆる状況において禁止

    特定通常兵器使用禁止制限条約とは - コトバンク

なお、報告書はリビア北部で墜落した無人機の残骸の写真を掲載しており、パネルは回収した残骸を分析したとあります。

 

AI兵器とシンギュラリティ

AIが登場した頃から、この技術の武器転用は危険視されていました。

とくにシンギュラリティが注目されるようになった頃から、未来には映画「ターミネーター」の世界が現実に起きているのではないかなどと言われるようになっていました。

シンギュラリティとは「技術的特異点」と日本語では訳されていますが、AIなどの技術が、自ら人間より賢い知能を生み出す事が可能になる時点を指す言葉とされています。

それがいつ訪れるのかが話題となっていますが、もうすでにシンギュラリティに達していると言う専門家もいます。

2045年問題というのがあって、このシンギュラリティを巡っての論争が、「いつAIが人間を超えるのか」という論争になっているようです。

2029年には、AIの思考能力が、人間の演算能力を超えると言われていて、2045年には、10万円のコンピューターでの演算能力が人間の10億倍になっているとしているようです。

AIが自らの意志を持って人間を攻撃する...

まさにターミネーターが描く世界ですね。

その信憑性はともかく、AIが正確に人を殺傷する能力はたしかに高まっていて、それが人の手を介さない自律こうどうをするというところに、なんとも言えない恐ろしさを感じます。

技術発展と倫理観、哲学とでも置き換えられるでしょうか、この両立は、最低限求められるものかと思いますね。

テクノロジーの分野だけでなく医療、遺伝子の分野においても、マッドサイエンティストが生まれないことを、祈るばかりです...