人工知能分野の問題

みかん

今回はG検定1章の3節「人工知能分野の問題」を解説します。コンピュータで現実問題を解く際に直面する課題や、AIの限界・本質について見ていきましょう。

みかん

現実世界の問題をいきなりコンピュータで解こうとしても、複雑すぎて取り扱うことが難しいのが普通です。

みかん

そこでコンピュータで扱えるように、本質を損なわない程度に問題を簡略化したものを「トイ・プロブレム（おもちゃの問題）」と呼びます。

みかん

たとえば掃除ロボットの問題。現実の動きは連続的で複雑ですが、トイ・プロブレムでは「Room1にいるかRoom2にいるか」の2択に簡略化します。

みかん

第1次AIブームの時代、迷路・パズル・チェス・将棋などでAIは大きな成功を収めました。

みかん

その通りです。これらは全てトイ・プロブレム。当時の人工知能ではそのような簡単な問題しか解けず、複雑な現実世界の問題は解けないことが次第に明らかになっていきました。

みかん

次にAI研究最大の難問とも言われる「フレーム問題」を解説します

みかん

これは「今しようとしていることに関係のあることがらだけを選び出すことが、実は非常に難しい」という問題です。

みかん

哲学者のダニエル・デネットが分かりやすい例え話を作っています。洞窟の中の台車の上にバッテリーがあり、その横には時限爆弾が仕掛けられています。

みかん

ロボット1号はバッテリーを持ち出すことに成功します。でも爆弾も一緒に運び出してしまうことを知らなかったので、爆発してしまいました。

みかん

ロボット2号は「行動の結果、副次的に何が起きるかを考慮する」よう改良されました。ところが「天井が落ちないか」「壁の色が変わらないか」など無限に考え続け、計算に時間がかかり時間切れで爆発してしまいました。

みかん

それがロボット3号です。「目的遂行前に関係ないことは考慮しない」よう改良されました。でも今度は「関係あることとないことを仕分ける作業」に没頭してしまい、洞窟に入る前にフリーズしてしまいました。

みかん

まさにその通りです。人間はあらゆる状況について無限に考えてフリーズすることなく、この問題をごく当たり前に処理しています。AIがフレーム問題を解決しているかのようにふるまえるようにすることが研究目標の一つなんです。

みかん

次に「AIができたかをどう判定するか」、チューリングテストを解説します

みかん

別の場所にいる人間がコンピュータと会話をし、相手がコンピュータだと見抜けなければコンピュータには知能があるとするものです。

みかん

知能を内部のメカニズムから判定するのは困難なため、外から観察できる行動から判断せざるを得ないという立場を取っています。

みかん

1966年にジョセフ・ワイゼンバウムが開発した、精神科セラピストを演じるプログラム「イライザ（ELIZA）」は、本物だと信じる人も現れるほどでした。

みかん

1991年以降、チューリングテスト合格を目指すローブナーコンテストが毎年開催されていますが、現在も完全にパスするレベルのソフトウェアは現れていません。

みかん

次に「強いAI」と「弱いAI」の違いを解説します

みかん

「強いAI」は、適切にプログラムされたコンピュータは人間と同じ意味で心を持ち、プログラム自体が人間の認知の説明になると考える立場です。

みかん

「弱いAI」は、コンピュータは人間の心を持つ必要はなく、人間の知的活動と同じような問題解決ができる便利な道具であればよいと考える立場です。

みかん

ジョン・サールは「中国語の部屋」という思考実験を提案し、強いAIは実現不可能だと主張しました。英語しか分からない人が部屋に閉じ込められ、完璧なマニュアルに従って記号操作を行い中国語の質問に答えたとしても、それは意味を理解しているわけではない、という議論です。

みかん

数学者のロジャー・ペンローズも、意識は量子効果が絡んでいるため、既存のコンピュータでは強いAIは実現できないと主張しています。

みかん

次にシンボルグラウンディング問題を解説します

みかん

1990年にスティーブン・ハルナッドにより議論された、記号（シンボル）とその対象がいかにして結び付くかという問題で、人工知能の難問とされています。

みかん

人間の場合、「シマ」や「ウマ」の意味やイメージを理解しているため、初めて本物の「シマウマ」を見ても認識できます。

みかん

しかしコンピュータにとっては「シマウマ」という文字はただの記号の羅列にすぎず、言葉の意味や実体が結び付いていません。

みかん

次にシンボルグラウンディング問題に関連する「身体性」を解説します

みかん

人間は身体のすみずみに張り巡らされた神経系を通して現実世界から膨大で複合的な情報を知覚し、その感覚と記号を結び付けて世界を認識しています。

みかん

まさにその通りです。例えば「コップ」を本当の意味で理解するには、実際に手で触れて冷たさを感じたり、落として割れる経験をしたりする身体を通した感覚が必要なんです。

みかん

最後に「知識獲得のボトルネック」を、機械翻訳を例に解説します

みかん

例えば「He saw a woman in the garden with a telescope.」という英文。人間であれば経験に基づく一般常識から「彼は望遠鏡で、庭にいる女性を見た」と自然に解釈します。

みかん

しかし文法的には一意に定まらないため、統計的機械翻訳では「彼は望遠鏡で、庭で女性を見た」という不自然な訳になることがあります。

みかん

それが大変なんです。一般常識をすべてコンピュータに教え込むことは膨大すぎて事実上不可能です。このようにコンピュータが知識を獲得することの難しさを「知識獲得のボトルネック」と呼びます。

みかん

現在ではディープラーニングを応用したニューラル機械翻訳や、文脈を理解して自然な文章を生成する大規模言語モデル（LLM）が登場したことで、このボトルネックを乗り越えることが期待されています。

みかん

今回は人工知能分野の7つの問題を解説しました。おさらいしましょう！

みかん

1つ目、トイ・プロブレム。現実の複雑な問題を本質を残して単純化したもの。第1次AIブームはゲームや迷路は解けても現実には対応できなかった。

みかん

2つ目、フレーム問題。1969年マッカーシーとヘイズが提唱。関係ある情報だけを素早く選び出せないという問題で、ロボット1・2・3号の例が有名。今もAI最大の難問。

みかん

3つ目、チューリングテスト。会話で人間と区別できなければ「知能あり」と判定する方法。1966年のELIZAや1991年からのローブナーコンテストが有名。

みかん

4つ目、強いAIと弱いAI。1980年ジョン・サールが提示。強いAIは「人間と同じ心を持つ」、弱いAIは「便利な道具」。中国語の部屋はその反論として有名な思考実験。

みかん

5つ目、シンボルグラウンディング問題。1990年ハルナッド提起。記号と意味の結び付けができないというAIの根本問題。

みかん

6つ目、身体性。知能成立には身体が不可欠という考え方。身体を通じた経験がないと概念を本当には理解できない。

みかん

7つ目、知識獲得のボトルネック。膨大な一般常識をAIに入れることの限界。ディープラーニングとニューラル機械翻訳・大規模言語モデルの登場で克服が進んでいます。

みかん

ということで今回は人工知能分野の問題について解説しました。G検定ではこれらのキーワードと内容をしっかり覚えておきましょう！