ロボット社会2

2016.06.16 (Thu)
やや古い去年のニュースですが、今日はこれでいきます。
自分もよくわからない部分がたくさんある話で、
いろいろ間違いがあるかもしれません。まずそれをご承知おきください。
『サービスロボットや自動運転車、ドローンなど、ロボットが私たちの
生活の中に入ってくるにあたり、法整備や法規制のあり方について議論する
「ロボット法学会」の設立準備イベントが10月11日、都内で開催された。
イベントでは、法律の専門家や弁護士らが登壇し、
会場の参加者らとともに熱い議論が繰り広げられた。

イベントは「ロボット法学会」設立準備研究会として、
「ロボット法原則の提言に向けて」と題して、開催された。
法律の専門家らが登壇し、ロボットを活用し、
共生する社会の実現に向けた法制度の課題などについて、
会場の参加者も交えて熱い議論が繰り広げられた。
慶應大学教授の新保史生氏がロボット法についての提言をしたほか、
パネルディスカッションの司会進行を務めた。

イベントの冒頭で同研究会の慶應義塾大学総合政策学部の新保史生教授は、
ロボットが日常生活にかかわるSFのような世界が現実になりつつあり、
情報やネットワークといったバーチャルなものだけでなく、
物体を伴う存在が人間に変わって社会生活に入ってきつつあるなどとして、
ロボット法の必要性を強調した。その上で新保教授は「ロボット法 新8原則」
として提案を発表。(1)人間第一の原則(2)命令服従の原則(3)秘密保持の原則
(4)利用制限の原則(5)安全保護の原則(6)公開・透明性の原則
(7)個人参加の原則(8)責任の原則 
の8原則からなるロボット法を提言した。』
(WirelessWire News )
 
ふむふむ、少しだけ解説を加えますが、これはロボット自身を規制するというより、
現時点ではロボット開発者および利用者を規制する意味が大きいようです。
(4)利用制限の原則  というのは、簡単に言えば「オレオレ詐欺ロボット」
などを作って悪事を働くなということでしょうね。
(7)個人参加の原則 もわかりにくいですが、これはロボットの利用者の
プライバシー保護に関するものでしょう。あとはだいたい想像がつきますよね。

まあ、あくまでこれは提言であり、実際の法として制定され、
機能するのはずっと先のことになるはずで、それまでにおそらく、
新しい考え方がいろいろ生まれてくるものと思われます。
まず、この議論で一番難しい点としては、「ロボットとは何か」について、
明確な定義が存在しないことです。

人型の機械であればロボットであるのか、顔がついていればロボットなのか、
人間と会話ができればロボットか、人工知能が入ってればロボットか・・・
ガンダムのようなスーツ型で人間が運転するものはロボットか?
会話はするが、液晶画面上にしか存在しないものはロボットなのか??
最近、蒸し暑いですので、エアコンを使用しているご家庭もあるでしょうが、
例えば室内気温をセンサーで測定して、自分でスイッチを入れるエアコンがあれば、
それはロボットと言えるのか??? 難しいですよねえ。

このニュースに関して、あちこち検索してみましたが、
SF小説の巨匠、アイザック・アシモフが作品の中で構築した
「ロボット工学3原則」について触れておられる方が多かったですね。
実際、この会議の中でも触れられています。
みなさんご存知でしょうが、いちおうご紹介すると、

『第一条 ロボットは人間に危害を加えてはならない。また、
    その危険を看過することによって、人間に危害を及ぼしてはならない。
第二条 ロボットは人間にあたえられた命令に服従しなければならない。
    ただし、あたえられた命令が、第一条に反する場合は、この限りでない。
第三条 ロボットは、前掲第一条および第二条に反するおそれのないかぎり、
    自己をまもらなければならない。』
(『われはロボット』より)

よく考えられえているとは思いますが、
作中では、2050年ころの未来の話だったと記憶しています。
現在の技術では、これを人工知ロボットに搭載すると、
「フレーム問題」というものを引き起こすと考えられることが多いのです。
どういうものかというと、まあ人間並みの仕事ができるロボットがあるとして、
それに上記の3原則を搭載して、
「コンビニでパンとコーヒー牛乳を買ってこい」と命令します。

そうするとロボットは、極端な話をすれば、
「外に出た自分の姿を見て驚いてショック死する人間がいないだろうか」
・・・これは第一条に反しますよね。
「自分が道路を歩いてできる微細な変化が、後で交通事故につながらないか」
ま、こんなことをえんえんと考え始めて、一歩も前に進めなくなってしまう。
そんな馬鹿なと思われるかもしれませんが、これ重要な難問なんです。

フレームというのは枠のことです。
ロボットの思考に「コンビニでパンと飲料を買う」
という枠をはめ、その中だけで考えさせたらいいと思うでしょうが、
ある危険な可能性が、当面の枠内のことと関係するかどうかを、
どれだけ高速のコンピュータで評価させも、可能性が無数にあるため、
抽出する段階で無限の時間がかかってしまうのです。
やっぱりコンビニへの第一歩を踏み出すことができません。
3原則なしで「人とぶつかるな」程度のプログラムを組んで出発させたなら、
容易に目的達成できるでしょうが、これはただの買い物ロボットです。

実はフレーム問題は人間にもあります。そして人間はある程度それを解決してる
はずなんです。だって、人様の命を危険にさらす可能性を考えて、
コンビニにパンを買いにいけないという人はいないですよね。
人間なら、ある程度のところで割りきって出発していきます。そして実際に、
コンビニで買い物をして人に危害を与える可能性はごくわずかなものです。
しかし、人間がフレーム問題をどうやって処理しているかはまだ未解決で、
単に、フレーム問題にうまく対処しているように見えるだけだ、
と唱える研究者もいるんですね。

さてさて、最初の「ロボット法 新8原則」は、もしプログラム化して
ロボットに搭載したとしても、原則が競合した場合の優先順位はどうするかとか、
さまざまな問題が発生してくると思われます。
まあでも、人工知能がフレーム問題を起こすほど、
様々な事例を考えられるようになるのは、まだまだ先のことでしょう。
みなさんは機械翻訳を使われたことがあるでしょうか。
英語→日本語でやってみればわかりますが、長年研究が続けられていても、
とうてい使い物になる現状ではないですよね。

「東ロボくん」というのがあります。国立情報学研究所が開発している、
大学入試センター試験において高得点を獲得し、東大入学を目指す
という人工知能プログラムなのですが、数学などは得意なものの、
国語や社会の記述式問題で大きく点数を落としてしまいます。

開発している研究者の方は「20年取り組んでも、記述式問題については、
30字、40字程度でもまったく進展していない。
開発の手がかりすらつかめない」と述べておられました。
フレーム問題とは直接関係はありませんが、現状はそんなものですので、
もしロボット3原則がプログラム化される(できる)としても、
アシモフの想定したように、きわめて長い時間がかかるものと思われます。
関連記事 『ロボット社会』  『AIは直木賞の夢を見るか』  
『AIは直木賞の夢を見るか2』






関連記事
スポンサーサイト

トラックバックURL
http://scoby.blog.fc2.com/tb.php/1156-5c98e5c1
トラックバック
コメント
管理者にだけ表示を許可する