「AI」のダメな使い方

技術が発達すれば、人々の生活が豊かになる。

というのは、必ずしも言えないという具体例が、お隣の国に出てしまいました。

 AIが店員を「減給処分」…中国の未来型コンビニ、2800店に拡大も社内で悲鳴 | ＤＯＬ特別レポート | ダイヤモンド・オンライン

中国のとあるコンビニでは、AIが従業員を監視している、というニュースです。

どうやら従業員のミスを見つけると減給処分するというもののようで、当の従業員が悲鳴を上げている、というような内容。

これを聞いて、思ったことが二つ。

一つは、表題にもある通り「AIのダメな使い方」の一例だなぁ、というもの。

ここ日本では2015年頃から始まったとされる今のAIブームですが、この技術に期待されたことは、「人々の生活を一変させる、豊かにしてくれる技術」だというものでした。

流れる製品を眺めて、その中にいつ現れるともしれない不良品を見つけ出す。それを漏らしてしまったことが発覚すると怒られる……こんな非生産的な仕事に従事している人を、一人でも減らしてくれる画期的な技術として注目されたんです。

2015年に、TensorFlowを使った画像認識AIで「きゅうりの仕分け」という事例が注目を集めましたが、まさにあれがその、うんざりするような作業を軽減する、という目的で作られたものです。

だから、人を豊かにしないAIなんて、ありえない。それがまず感じた感想。

二つ目は、これ、日本でもやられそうだな、というもの。

つまり、あまり他人事じゃないと思ったんです。

というのも、ここ日本でもコロナ禍の影響で在宅勤務が増えたら、ちゃんと仕事しているかどうかをチェックするためにマウスやキーボードの動きを監視している、なんて話が現時点でも出ているからです。

コンピューターを使うんじゃなくて、使われる、うーん、なんという本末転倒な話。

そういう仕組みの横行を許せば、人が思考する時間を奪うことになり、創造力を減衰させることにつながります。

いつも思うんですが、こういうことを考える人の「目的」って、なんなのでしょうね？

人々の生活を豊かにする、それはお客様だけでなく、働いている従業員や社員も含めて、というのが私がこういう仕組みを考える上での大前提だと思ってます。

そういえば最近、園児送迎バスの置き去りによる死亡事件が発生しました。何とも痛ましい事件です。

それを受けて、アメリカのスクールバスの置き去り防止の仕組みが話題になっております。

大きく分けて、この仕組みには二つあり、

(1) エンジンを切ると警報音が鳴り出し、車両後ろ側にあるスイッチを押さないとその音が鳴りやまない

　　(運転手が後ろに移動する過程で、座席をチェックできる)

(2) 屋根につけられたセンサーで、仮に(1)で漏れがあっても、子供を発見してくれる

というものです。

簡単にいうと、この2つで一つの仕組みであり、それを義務付ける法的な根拠がある、というのがアメリカの事情ようです。

で、気になる話をどこかで目にしたんですけど、これの(1)のみを導入しようというような話が、ここ日本ではあるようです。

(その根拠がどこかにあったはずなのですが……見失いました)

真偽のほどは不明確ですが、仮にこの(1)だけを導入すると、どうなるか？

確実に言えることは、運転手の負担が増すだけです。で、さらに言えば、ここ日本ではそれを義務付ける法律もない。

となると、この仕組みを解除される恐れがあるわけです。

そうなると(2)が最後の砦となるわけですが、こちらを付けなければ当然、機能しません。

今ではミリ波レーダーによる生体感知の仕組みやカメラによる物体検出の技術が上がり、かつ価格も安くなりつつあります。

そういう技術で解決しなきゃいけないところを、ローテクのいいとこどりだけをやろうとする発想が、かえってムダを生み出す。

また、ある問題が発覚すると、ではチェックする人を一人から二人にします、それでも再発したら、今度は三人にします……よく見られる再発防止ですが、こういうやり方は結局、問題を解決してくれません。

ちょっと最後のはやや「技術の使い方」という趣旨から外れてしまいましたが、結局のところ「目的」がないと、おかしな対策がまかり通って、結果的に問題の解決を阻んでしまう。

そして目的には、「人々の生活を豊かにする、向上する」という視点が抜けていてはいけない、ということです。それがないと、持続不可能な対策になります。絶対。

正しい技術の使い方、正しい目的の在り方を、今一度考えてほしいものです。

などと、考えさせられる記事でした。

AI技術の最前線　これからのAIを読み解く先端技術73