スポンサーサイト

--.--.-- (--)
上記の広告は1ヶ月以上更新のないブログに表示されています。
新しい記事を書く事で広告が消せます。

AIは直木賞の夢を見るか

2016.03.29 (Tue)
『米Microsoftは3月24日(日本時間)、英語テキストで会話する人工知能「Tay」
を緊急停止させました。23日夜に公開したばかりでした。
「Tay」は同社が開発したAIで、Twitterとチャット・サービスでリリースされたもの。
一般ユーザーとやりとりすればするほど「賢くなる」とし、
米国在住の18~24歳をターゲットにしていました。
ところが、ネット上で会話することで人種差別や陰謀論を「学習」してしまうことに。
既に削除されていますが、CNNによると「黒人は首を吊れ」
「フェミニストは地獄で焼かれろ」「ヒトラーは間違っていない」
などと投稿していたようです。

「Tayの攻撃的で有害なツイートについて、深くおわびする。
Tayは今オフラインになっており、われわれの方針と価値と対立する悪意を
未然に防げるようになったという自信がついたらTayを復活させる」と、
このプロジェクトを率いるMicrosoft Researchの責任者、ピーター・リー氏が謝罪しました。
「残念ながら、オンラインになって24時間以内に、ある団体による組織的な攻撃が
Tayの脆弱性を悪用した。われわれはTayに対する多くのタイプの悪用に備えていたが、
こうした攻撃については致命的な見落としをしていた」と経緯を説明しています。』

今回はこの話題を取り上げたいと思います。これしかし、
担当者が「脆弱性」という語を使って弁解しているのが笑えるというか。
ネット空間というものを熟知していなくてはないらないはずのMicrosoft社が、
これではいかんのではないかという気がします。この事態はAIの欠陥ではなく、
プロジェクトチームの計画性のマズさによるものであることを認めるべきでしょう。
特に「不特定多数と会話して学習する」という部分が甘すぎますね。

ネットの情報について、よく学校などで「情報の取捨選択」ということが言われます。
しかし、どうやって取捨選択するかの方法論はあいまいです。
まず、情報には真偽ということがあります。
不謹慎な例ですが「オバマ大統領が暗殺された」という情報が流れたとして、
これは「嘘」「本当」の2者択一ですよね。
真が一つである場合は誤情報は多くても同じことです。
よほどマイナーな情報でなければ、これを判断するのはそう難しくないでしょう。

しかしながら、情報には単なる真偽だけではなく、価値観の問題も含まれます。
「ヒトラーは正しかった」これが明らかな偽情報と言えるでしょうか。
まあ、ヒトラーはホロコーストなどをやっていますので、
現在の倫理から考えれば世界的に「絶対悪」とされています。
しかしながらアウシュビッツなどをとっぱらって、
第一次世界大戦後の超インフレのドイツで何ができたかを考えれば、
ヒトラーの政策は当時の多くの民衆の支持を得ていたわけです。

もしドイツ第三帝国が第二次世界大戦で勝利してれば、
「ヒトラーが正しかった」とする価値観が支配する世界になっていた
可能性だってあります。 これを判断するには、
判断する主体が、独自の個人的価値観を持っていなくてはなりませんが、
人間であれば人格形成ということですから大変難しい話で、
上記のTayがそのようなプログラミングをされていたとは、とうてい思えません。
単に語りかけられる量が多かった情報を繰り返すということが「学習」であれば、
ネット空間をなめていたとしか言いようがないでしょう。

というのはネットの情報は、真偽、善悪などだけで語りえるものではないからです。
Tayに「ヒトラーは正しい」と教えた人の中に、
本当にそう思っていた人がどれだけいたのか、ということです。
アメリカでのことですので、ヒトラーは悪と思う人が大多数でしょうが、
「面白半分で自分がそう思っていない情報を流す」というのが現状、
ネット空間の実態です。

匿名性が保証され、自由度が高く、アノニマスの活躍する余地が多分にある空間。
誤情報だけでなく、悪ふざけが多発する空間であることは、
この世界の構築に寄与するとともに、それで多大な利益をあげてきたMicrosoft社が、
予想外だった、で済まされる話ではないでしょう。
Tayの発言に「burn in hell(地獄で焼かれろ)」などとあるのは、
向こうのテレビ伝道師などが昔よく言っていて、今ではギャグになっている言葉です。

では、どうすればいいのか。Tayに独自の価値観を持たせることができるのは、
当分先でしょうから、最初からプログラムして
不適切と考えられる発言をフィルターで弾くようにすればいいのか。
しかしそれもあまり意味がない気がします。会話による「学習」をテーマとするなら、
不適切発言が起きれば、それを指摘し修正してもらえるような、
一般常識人との会話経験を多く積ませるのが一番いいということでしょうか。
あるいは一切公表せず、こっそりtweetの海に潜り込ませておくか。
長くなりそうなのでいったんここで切ります。 
関連記事『AIは直木賞の夢を見るか2』

Tay





関連記事
スポンサーサイト

トラックバックURL
http://scoby.blog.fc2.com/tb.php/1075-b2e239ef
トラックバック
コメント
管理者にだけ表示を許可する