「Lethal Autonomous Weapon Systems」タグアーカイブ

コラム

ジュネーブで自律型致死兵器システム(LAWS)に関する国際会議開催～検索エンジン批判するトランプ大統領なら問題点をわかってくれるはず？

自律型致死兵器システム(LAWS)問題と、トランプ大統領による検索エンジン非難は、AI化が進む社会に対する危機意識という点で共通していると中卒くんは思う・・・という話

 

これはあくまでもコラムです。

読んでもまったくカネになりませんし、お腹も膨れません。

読み飛ばしてしまったほうがいいです。

タイトルみただけでなにが言いたいか読み取った人も、読む必要ないと思います。。。

 

とりあえず、書いていきます。

 

トランプ大統領が、自分の名前でエゴサーチしたそうです。

そしたら、気にくわないニュースサイトばかりが上位表示されて、めっちゃムカついているらしいです(爆笑)

トランプ米大統領、グーグルを批判　ニュース検索を「不正操作」

 

で、トランプ大統領はさっそく以下のようにツイートしてます(ほんとtwitter好きですね、このひとｗ)

 

いい感じに荒ぶってますねｗ

相変わらず、みんなおもしろおかしくトランプ大統領の発言を弄ってます。

また妄想が始まったよ・・・みたいな扱い方をしている人もいますね。

 

でも自分は、彼の言い分に賛成なんですよ。

トランプ大統領のこの発言は、AIってなんぞや？ってところを炙り出していると思うんです。

 

AIってのは、結局のところ人間が作ったものなんです。

AIの大本を作ったのは人間ですから、AIの判断に制作者のバイアスが入らないわけがない。

その人間がバイアスを与えたAIが判断した内容はバイアスが入ってあたりまえなんです。

Googleの親会社アルファベットは声明のなかで

 

政治的な目的に基づき検索結果にバイアスをかけることはないと反論。「即時に最適な検索結果を提供することがわれわれの目標」とし、「グーグルの検索結果はいかなる政治的イデオロギーにも偏っていない」と強調した。

 

と言っているそうですが、それは証明するのが不可能でしょう。

というか、検索エンジンの開発者の脳味噌の中身まで調べ上げることはできないのですから、Google側は「政治的なバイアスがない」とは言い切れないはずです。

「政治的なバイアスを入れないように努めている」

とか

「政治的イデオロギーに偏りはないと信じている」

とかは言えたとしても、「ない」ということの証明をすることは無理なことくらい、数学が得意なGoogleの人たちなら十分わかっているはずです。

 

 

この議論の行きつく先はどこでしょうか？

 

個人的にそれは、Googleなどの持っている検索エンジンのコードの公開しかないと思います。偏りがないことを証明するにはそれしかない。

 

ただしそれは、Googleのような情報技術企業にとって他と差別するためのキモの商売道具です。

検索エンジンの中身をGoogleが公開するということは、同業他社に真似される可能性もそうですが、たとえば検索エンジンの上位表示を狙って意図的にサイト構築をするような連中を生むことになりかねない。

Googleがどういった基準で上位表示するサイトを選んでいるかを公開したら、検索エンジン対策(専門用語でSEOといいますが)を施した、とても読みにくいサイトだらけになるでしょう。

かといって、検索エンジンの中身をみせなければ、「政治的バイアスをかけているだろ？」という疑念をうむという難しい問題に陥っているわけです。

 

これを解決する一つの方法としては、国家に対してだけAIのコードを見せるけれど、一般には公開しない・・・という手段があるかと思います。

ただこの場合は、AIの国家管理、政府管理が進むことになってしまい、そもそもインターネットの目的ってなんだったっけ？という話になりかねない。

 

思うにAI技術の進展というのは、人類にとって進むも地獄、退くも地獄

 

な状況に陥っていると思います。

いま、ちょうどジュネーブではAI技術を搭載した軍事兵器を規制すべきかどうか真剣に議論されています。

ＡＩ兵器の脅威近づく 規制へ国際会議

27日から始まった今回のジュネーブの国際会議では、

いわゆるキラーロボットといわれる自律型致死兵器システム( LAWS / Lethal Autonomous Weapon Systems )の規制

をどうするか、話し合われています。

 

自律型致死兵器システム(LAWS)というのはつまり、敵の選択、捕捉、攻撃レベルの判定などをAIが自動認識で行い、勝手にみつけて勝手に殺すための兵器です。

自律型兵器システム（ Autonomous Weapon Systems / AWS ）というものがありますが、これの殺傷兵器版が自律型致死兵器システム(LAWS)です。

これを認めるか、認めないか、そんな大事な会議が行われています。

日本のメディアでこれを報じているところが少ないのが本当に残念です。報じても、すごく小さな扱いです。NHKBSの国際報道2018だけは真面目に取り上げてました。いい番組だと思います。

 

これは、ある意味でトランプ大統領の検索エンジン批判とおなじ問題点を孕んでいます。

つまり、自律型兵器システム(AWS)は誰を敵とみなして、誰をどの程度いたぶるか、すべてAIが判断するんです。

検索エンジンは、どの記事を上位表示して、どの記事を有害記事として除外するか、すべてAIが判断するんです。

 

自律型致死兵器システム(LAWS)や自律型兵器システム(AWS)が決定したことには、誰が責任を負うんですか？その自立型兵器システムの所有者？製造者？

検索エンジンが決定したことは、だれが責任を負うんですか？その検索エンジンの所有者？

まさかユーザーじゃないですよね？

 

そういうことを考えていけば、トランプ大統領の今回の怒りがある意味で正当なものであることがお分かりになると思うんです。

彼は、極めて人間らしい反応を示しています。

AI社会に対する危機感を表してくれているのです。

人間である私たちは、トランプ大統領のこの発言を最大限に利用させてもらった方がいい。

HALの暴走を防ぐためにも、いま必要なのは立ち止まって考えなおすことだと思います。