プラカンブログSTAFF BLOG

2019.12.16

「ヤツの意思決定はヒトよりはっきりしてるよね」の巻

システムのまついです

今回は、以前このブログで書いたことのあるAIについてふたたび書きます。
ブログネタに困まった時のAIですが、正直このAIという用語には自分でもうんざりしています。
AIのように曖昧で広義な用語は例外なく、実用化されていくにつれ呼び名も変化します。
勝手にどんな語に変わるかを想像してみますと、自律、状況判断、意思決定など、具体的な機能を含んだ造語になるのではと思っています。

さて、AIに関する興味深いニュースがちょくちょく報道されていますが、特に驚いたのは、中国に「社会信用システム」というのがあるそうで、政府が全国民の社会的信用を格付け(スコア化)して、あらゆる局面で都合のいいように利用しているらしいということです。
米国Amazonでは、AI人材採用システムなるものを開発していたようですが、採用結果が「女性差別」をしてしまう事態となり、あわててプロジェクトを中止したそうです。
「女性差別」をしてしまう事態とはどーゆうことかといいますと、過去の米国Amazonの採用実績では、女性より男性を採用する場合が多かったということが、女性に比べて男性の方が採用に適していると判断したようです。(多いから安心ということですか!)
この判断がまちがっていることは確かですが、AIがそういうところで決めるんかい!と思わずツッコミを入れたくなるような意表を突く切り口で判断をするのだと分かりとても驚きました。
複雑な理論に基づいたシステムロジックにもかかわらず、思わぬ結果となったその原因が学習データの与え方であったという事実は、AIの信ぴょう性においてとても深刻な問題だと私は思います。

意図的に偏った情報を学習させると、ヒトもAIも偏った判断をするようになる。
AIの判断に対して納得のいく説明(判断に至った流れ)が公開されなければ、これはもう疑惑の総合商社(By辻元○美)であり、全く信用できない。
私はそんなAIに勝手に評価(事実無根の根拠のない評価)をされたくない。
こっそり知らないところで評価が行われていて、私の行動に影響を与えているとしたら・・・

ふと思うのだが、AIによるまちがった意思決定を誰がどのように告発し、その責任はだれが取るというのだろうか。
AIを導入した企業?、AIを開発した会社?、AIに学習させた人? AI? だれを法廷に立たせるのか?
(将来、必ず問題となるAIの自律運転による事故を想定して、いろいろ考えてみてください。誰が罰を受けるのかを・・)
そもそも、AIの判断が間違っていると、きっぱり言い切れる人はいるのか?

そうだ、いい方法がある。AIに裁かせたらいいのだ・・・。

<<ここからは、ちょっとアイロニーを効かせた星新一風スタイルで>>

[未来を生きる人の教義1]
判断に悩むときはヤツに相談するべきだ。
ヤツは悩むことがない。罪悪感もない。忖度することもなく、自己批判をすることもない。
だから「ヤツの意思決定はヒトよりはっきりしてるよね」
これは、まちがいない

教義1はヒトが理想としているAIではない。
血も涙もなく機械的に判断する。
迷うこともなく、過去の自身の判断や教訓を生かす事もなく、判断する。
このようなAIの存在は未来人にとって最悪なものとなるだろう。
理想とするAIはもっとヒトの脳に近い処理をするべきである。
ヒトの脳に近い処理をするAIかどうかは、本を読むことができ、その感想を述べる事ができるかどうかだと思う。

[未来を生きる人の教義2]
判断に悩むときはAI様に相談してみてはどうだろう。
AI様はなんでもお見通しだ。
「AI様の意思決定がヒトより正しいということは、はっきりしてるからね」
これは、まちがいの無いことです。

さて、未来人にとってAIはどっちの神となるのかな?(ヤツ or AI様)
そうだ、現代のAIに聞いてみよう

 

+dc(松)

この記事は、MATUI が書きました。