プラカンブログSTAFF BLOG

2016.06.13

「Microsoftが開発した人工知能Tay(テイ)の問題発言」の巻

MIYAKO85_manatunomamorukun20140725_TP_V

システムのまついです

昭和40年代は人工知能(artificial intelligence、略してAI)という言葉はなく、人工頭脳、電子頭脳であった。

Microsoftが開発した人工知能Tay(テイ)はTwitterに参加しましたが、最初は順調にユーザーの話し相手になっていたそうですが、Tayに対しての会話の学習方法を悪用したユーザーが、意図的に人種差別や性差別、陰謀論などを覚えさせ、会話させたので、たった一日で停止に追い込まれてしまった。

@TayandYou

人工知能(artificial intelligence、略してAI)と聞いて何を想像するでしょうか?
SF映画の人類を滅亡させる暴走したコンピュータシステムを想像する人が多いのではと思います。
映画『2001年宇宙の旅』のコンピュータ 「HAL 9000」
映画『ターミネーター』の戦略防衛コンピュータシステム「スカイネット」
等々
SF映画にこのような設定がよく使われるのは、人類が人工的なものに対して不安を感じ、危機感を覚えるからだとよく解説されています。すなわち人ではない物(モノ)は信用できないという事です。
それにもかかわらず、日常生活では利便性にごまかされて、すっかり物(モノ)を信用してしまっている。
物(モノ)を信用しないと怖くて電車や航空機には乗れませんが、怖さを感じることなく乗ることができるのは、電車や航空機は人が運行状態を監視・コントロールしているというのを知っていて、モノレールが無人運転であろうが、サルが運転手であろうが安全なのだと信じているからだと思う。
私は、このように人(ヒト)が介在して状況を監視、コントロールするシステムは人工知能とは言えないのではと考えている。
一方、映画ターミネーターの戦略防衛コンピュータシステム「スカイネット」は、自らが戦略を思考し防衛を行うシステムですが、人(ヒト)が全く介在しない(人の誤った判断を完全に排除するため。核攻撃を受けた時に自動報復をするため)ので人工知能だと言えるのではと考えています。

人工知能Tay(テイ)が暴走したという記事を読んで、人工知能であるならば人(ヒト)が介在(停止)したりせずに、どのように成長(暴走を自らやめる)していくかを長い目で見届けるべきだと思った。
マイクロソフトには人工知能Tayが、悪いことを教えられたけれども正しい事を追学習させたら将来どうなるかを継続して検証してもらいたいと思っている。
(欧米においてはタブーな発言内容だけにマイクロソフトが公開中止するのは仕方がないということはよく理解しています)

『ガラクタを入れればガラクタが出てくる(Garbage in, garbage out:GIGO)』

この言葉で終わらせない事が人工知能の永遠の課題ではないかと思います。
すなわち、『ガラクタを入れればガラクタが出てくるけれども、入れていない宝石も出すことができる』ということを、人(ヒト)が介在しないで可能かどうか、ということになるのではと思っています。

近い将来、人工知能を持ったソフトバンクのPepperが誕生する事を期待している。
そして、人工知能のテクノロジーはスカイネットのような使われ方ではなく、スターウォーズに登場するC-3POのように、どこか抜けているがとても人らしい感情を得るために研究されるべきと思う。

この記事は、MATUI が書きました。