「AIにも弱点があるらしい」 | thinkstep株式会社


「AIにも弱点があるらしい」

 ノートルダムの火災から1カ月余りたったが、「忠実な復元」案を含め色々斬新な修復アイデアが出ているという。「緑の温室」「屋上ステンドグラス」「光の塔」案等々。

 

 AIが各案のメリット、デメリットを検討して、深く掘り下げたレポートしてくれると面白いけど…ありえない…AIは人間の生活や考え方と無縁だし……AIでは無理だと思う。

 

 AIの弱点は「なぜその結論を出したのか」を人間に分かるように説明できないところにあるといわれている。AIとプロ棋士との囲碁対決でも、なぜAIがそこに石を置いたのかは人間が推測する以外手がない……AI という機械は人間のリテラシーを持てていない。

 

 江戸時代からのことわざ「風が吹けば桶屋が儲かる」は状況判断から突拍子もない結論にたどり着く。しかし、人間ならこのくらいのつじつま合わせの説明をする。

・舗装されていない江戸時代の道では、大風が吹けば砂ぼこりが舞いあがる

・砂埃が目に入り炎症をおこし、失明する人が増える

・失明した人はマッサージ師や三味線ひきになる人が多かった

・三味線の需要が増えれば三味線の共鳴部分に使われる皮(猫の皮)の需要も増える

・皮を確保するために、街を闊歩する野良猫が捕獲される

・猫が減るので、逆にネズミが増える

・ネズミが増えると木の桶をかじってしまうので、桶の需要が増える

 

「考え方を順序正しく他人に説明できない」ところにAIの弱点がある。この弱点はある意味大変不便だ。何か事故や不測の事態が起きたときに人間はAIの論理を解釈することができないし、サポートできない。AIは知識を持ち、データ判断の達人かもしれないが説明責任が欠如している。大学入試に成功しないはずだ。最近の中学入試でも難しいだろう。

 

今朝、電車内で、日能研という学習塾の車内広告を見た。「初めて分数の計算をやる子供に1/3+1/4の計算方法を説明してください」というのが問題だった。“その手順の意味は分かっていますか?”と問いかけている。AIは順を追って説明できるだろうか?

 

LCA(ライフサイクルアセスメント)でも、“手順の意味”が大切である。(C)

コメント 1件

  1. skylineR31gts Says:

    「AIの弱点は「なぜその結論を出したのか」を人間に分かるように説明できないところにあるといわれている」なるほどですね。確かに弱点ですね。私、あまり考えたことはなかったのです。

    逆に言うと、その点が人間の長所といいますか、人間にしかない能力ということですね。となると、「初めて分数の計算をやる子供に1/3+1/4の計算方法」を説明できないといけないですね。当然ながら「分母を同じ12にして」程度の説明では足らないということですね。

    AIに負けないよう、日頃から適切な説明を心掛けなければと反省した次第です。

コメントをどうぞ