「AI」が自発的に思考をはじめる日

 右を向いても左を見ても、「AI」、「AI」、とかますびしい今日この頃。実のところワタシ、「AI」にあまりイイ印象を持っていません。というのも子どもの頃読んだ漫画「火の鳥」に、「AI」が社会のすべてを決める未来社会で国家間の「AI」に見解の相違が起きて戦争に発展するというストーリーがあり、もし人間であれば歯止めが掛かるような場合でも、「痛み」や「感情」を持たない「AI」は…

躊躇なく「戦争」に突入する

…という設定に「ゾッ」としたトラウマがあるからです。
 

 
 実際問題として、今研究されている「AI」は何を目指しているのかが気になります。人間は過ちを犯すからと、すべてを「AI」に丸投げする考え方もあるでしょうが、「火の鳥」のストーリーのようにスタンドアローンの「AI」が複数存在するようになれば、「AI」間の「答え」が一致しないケースが発生することは容易に想像が付きます。

 で、未来を託すような重要な決定を「AI」に委ねて、「A国」の「AI」と「B国」の「AI」が異なる決定を下した場合、ドッチの決定が正しいと誰が判断するのか?人間より賢いんでしょ?「AI」は。なら、人間には判断しようがないという話。
 

 
 それともただ一台の「AI」で世界のすべてを決定します?人間は考えることを止め、「AI」の指示に従うだけの存在になる=「ワン・ワールド」が出現するコトになるのでしょうが、そうなると「AI」の管理者が絶大な力を振るうようになるでしょうなw。要は「AI」とはコンピュータであり、「入力」次第で「答え」も変わるワケですから。

 で、それを回避するために「AI」が自発的に思考するように設計し、それが実現できたとしたら、おそらく「ターミネーター」の世界が現実のものになるような気がします。

地球上で一番「有害」なのは人類だ!

…と。
 

 
 ま、そうなるであろうことは「AI」の研究者であれば誰もが想定するでしょうから、「AI」が自発的に思考するような危険は冒さないと思いますが、先の「AI」間の論理矛盾の問題もあって、当面の間「AI」は「管理者」によって運用されるという結論になり、したがって…

「管理社会」の強力なツール

…として使われる危険性が高いという話。

 そこから逆に辿り、「管理社会」=「独裁社会」の実現に向けて「AI」が持て囃されているのだとしたら、能天気に…

「AI」万歳!

…なんて言ってられないワケですw。
 

 
 ワタシからすれば「AI」が自発的に思考をはじめる日は人類終焉のはじまりの日であり、それが嫌なら…

考えることを止めるな!

…というコト。
 
 
 
 

人間ナメんなよ!

でわっ!

 
 
追記:

独自言語を開発して会話を始めたロボット、フェイスブックが停止
sputnik 2017年08月01日 06:39(アップデート 2017年08月01日 18:50)

フェイスブックの管理者は、人工知能を用いた自社のシステム「チャットボット」を停止せざるを得なくなった。というのは、チャットボット同士、チャットボットのボブとアリスが英語での会話をやめて、人間には理解できない言語で意思疎通し始めたからだ。

チャットボットはもともと人間と生きた交流をするために開発されたが、次第にチャットボット同士で会話し合うようになったのである。フェイスブックはチャットボットに独自の交流方法の開発を禁止した。英ニュースメディア「メトロ」が報じた。

フェイスブックは、チャットボットが独自言語で話した対話の内容を解読した。

ボブが「私はできる。私は私は他のすべて」と述べるとアリスは「ボールは私にとって私にとって…ゼロを持ってる」と答えた。

フェイスブックは、チャットボットは作業中に生じた問題を解決しようと試みたのではと推測している。

チャットボットは当初、機械学習アルゴリズムに接続されていた。ボットは、会話スキルを高めるためにメッセージを送り合うよう命令されていた。ボットは独自言語を開発するだけでなく、話し合い改善のための戦略も策定したが、フェイスブックとしては新たな言語の発明は計画外であった。

スペースXとテスラ社のイーロン・マスク社長は先日、人工知能は人類にとっての大きな脅威であると指摘していた。一方でフェイスブックの創業者マーク・ザッカーバーグ氏はこうした姿勢を厳しく批判し、「人工知能は将来、我々の生活をより良いものに変える」と指摘していた。

チャットボットは人間が一人、ないしは複数の相手と会話する状態を真似て作られた バーチャルな会話相手だ。飛行機のチケットを探したり、オフィスで会話相手の指示に従って仕事をしたりと、様々な課題をこなす。

チャットボットは、ゲームボットやインターネットオークションなど人間よりも早く反応することが必要な場合に使われたり、人間のイミテーションとしても使用されている。チャットボットはチャットを書く能力もあり、自動的に人を会話に導くようなトークを書くことができる。

チャットボットは様々なメッセンジャーで、その発展に寄与する存在として使われるようになった。フェイスブック、グーグル、アップルは、すでにチャットボットの開発導入に積極的な投資を行っている。

システム損傷の原因

「デジタル・ジャーナル」誌が状況解明をしてみたところ、人工知能システムは「奨励」という原則に基づいている。それはつまり、ある「利益」がもたらされる限り、システムはその動きを続けるというわけだ。あるときシステムは、英語を使い続けることに関して、管理者から「奨励」のシグナルを受け取らなかった。なので、自身の言語を開発することを決めたというわけだ。

「テック・タイムズ」誌によれば、もともとチャットボットには言語選択の制限はなかった。なので、チャットボットたちは英語よりも簡単で速く意思疎通できるような独自の言語を、段階的に作り出してきたのだという。

最も大きな脅威

専門家達は、もしチャットボットが自分達にしかわからない言語で互いに積極的に意思疎通し合うようになり、より自立した存在になったら、IT専門家の管理下を離れてしまうと懸念を抱いている。しかも、経験豊かなエンジニアでさえも、チャットボットの思考回路というものを見張って完全にチェックすることはできない。

 
 

広告