ブログ

Techspertに聞く:推論とは?

Markdown

Googleの専門家が、パターンマッチング、モデルの種類、予測、分類、評価、プライバシー、AI Overviews、エージェント型システム、効率性を取り上げたインタビューを通じて、AIの推論について解説します。

推論は、AIの能力を高めている大きな要素の一つです。このGoogle Techspertのインタビューでは、Googleの専門家2人が、推論とは何か、そしてAIシステムが役立つ出力を生成するうえで推論がどう役立つかを解説します。

4月、Googleは生成AIの推論を支えるために設計された第7世代のTensor Processing Unit(TPU)、Ironwoodを発表しました。TPUはAIシステムを動かすチップで、Googleにとって新しいものではありませんが、この世代は、AIシステムが応答するだけでなく、先回りして動けるようにすることを目指して設計されています。推論とは、AIシステムがモデルを使って知識に基づく出力を生成するためのプロセスです。

「推論」という言葉の意味は知っています。与えられた情報に基づいて、何らかの結論に至るということですよね。AIについて話すときも、同じ意味なのでしょうか?

Googleの専門家: ある意味ではそうです。単純化しすぎではありますが、推論はパターンマッチングだと考えるのが一番わかりやすいと思います。生成AIや推論について広い意味で話すとき、私たちが問いかけているのは、「AIモデルはパターンを照合して、あなたが望むものを予測できるか」ということです。たとえば、「ピーナッツバターと____」と言って、アメリカの人たちに空欄を埋めてもらうと、おそらく「ジェリー」と答えるでしょう。これは言葉のパターンに関する推論のよい例です。AIの推論にもできることですが、その範囲ははるかに広いです。

Googleの専門家: 推論とは一般に、モデルを実際に使って何か役立つことをする方法です。まずモデルをトレーニングする必要があります。AIモデルには、モデルのパラメータ、アーキテクチャ、設定が含まれます。設定とは、タスクを実行するために必要なコードのことで、これらが組み合わさって機能を実現します。推論によって、そうしたものを実際に利用できるようになります。

どのような種類のAIモデルが推論を使うのでしょうか?

Googleの専門家: 言語モデル、画像生成モデル、音声モデルなどのディープラーニングAIは、過去のデータパターンから学習したことに基づいて、何が「起こる」かを予測するため、どれも推論を使います。

Googleの専門家: 推薦モデルも推論を使います。

推薦モデルの例を教えてください。

Googleの専門家: 広告モデルの多くは推薦モデルですし、YouTubeの動画をおすすめするモデルもそうです。これらは「従来型」(「古典的」と呼ばれることもあります)のAIです。LLMや画像・動画生成モデルのような生成AIではありませんが、長い間、推論を使ってきました。

つまり、推論はAIにとって新しいものではなく、AIの能力が高まるにつれて、推論の性能も上がってきたということですか?

Googleの専門家: そのとおりです。推論は、AIモデルが予測するだけでなく、分類することも可能にします。モデルは、学習した内容に基づいて物事にラベルを付けることができます。有名な例があります。何年も前、GoogleはAIモデルに画像を見せて、そこに猫がいるか判別できるかを尋ねました。データと推論を使って、モデルは猫とは何か、どのような見た目かを自ら学び、画像の猫を正しく識別できました。

覚えています!

Googleの専門家: あれは、モデルが推論を使った例でした。

Googleの専門家: もう少し最近の話では、数年前に、物理法則をほとんど無視したAI生成画像が話題になったのを覚えていますか? たとえば、人の手が正しく描かれないことがよくありました。現在のモデルは、その点でずっと優れています。物理法則や質感などの表現も向上しました。テキスト翻訳も同じです。以前の言語翻訳は統計的なもので、使うことはできましたが、必ずしも正確ではなく、会話として自然でもありませんでした。しかし、統計的な翻訳が、生成AIによる翻訳につながりました。今日では、多くの人が顧客向けの製品でも安心して使えると感じています。私たちは今も推論と呼ばれるプロセスを使っていますが、基盤となるAIと計算能力は大幅に向上しました。

推論がどれほど効果的か、測定できますか?

Googleの専門家: モデルが特定のタスクでどれほどの性能を発揮するかを測定するときに、評価できます。また、推論を使ってモデルを評価し、トレーニングして性能を高めます。モデルをトレーニングしている間も、推論を繰り返し実行し、同時にモデルの品質向上を目指します。

こうしたトレーニングの仕組みによって、業界のベンチマークで見る推論のレベルがどんどん上がっているのだと思います。

Googleの専門家: そうですね。ただ、人々がどう感じているかも問題です。こうした改善に、私たちみんなはどれほど気づいているのでしょうか。一般的に言えば、かなり実感されていると思います。Googleが推論に取り組むうえでもう一つ非常に重視しているのは、プライバシーです。こうした体験を動かすために何を保存する必要があるのか、慎重に検討しています。

推論の改善を実感できるGoogle AIの例には、どんなものがありますか?

Googleの専門家: Googleにおける推論の最も優れた活用例の一つが、AI Overviewsです。検索にクエリを入力すると、非常に複雑なシステムがそれを複数のモデルに振り分け、結果を得ようとします。推論を使ってクエリを理解し、求めている回答を把握して、最終的に学習した内容をとても役立つ形に要約します。推論は、Googleが取り組むエージェント型の機能の多くにも欠かせません。エージェントを使えば、AIモデルに推論に基づく情報の提供を求めるだけでなく、何かを実行させることもできます。これは、従来の推論の概念を拡張したものと言えるでしょう。

つまり、推論はデータや知識を使って回答を提示し、さらには行動を起こす能力を高めています。それ以外には、どう変化しているのでしょうか?

Googleの専門家: 非常に重要な点の一つはコストです。推論をできる限り手頃な価格にしようとしています。たとえば、より小型で手頃な価格のGeminiを提供しようとしているとします。その場合、コストを下げるために、モデルの推論を改善し、計算の枠組み、つまりモデルを構成するコードを変更する方法を探します。ただし、意味や、モデルが実行すべき主なタスクは変えません。要するに、より小型で効率的なモデルを作り、より多くの人がその機能を利用できるようにするのです。

コストを下げるには、どうすればよいのでしょうか?

Googleの専門家: 方法の一つはハードウェアを最適化することです。そのためGoogleは今年、Ironwoodを投入します。推論を最優先にした設計により、推論向けに最適化されています。計算能力とメモリを増強し、特定の数値型に合わせた最適化も行っています。ソフトウェア面では、Googleはコンパイラとフレームワークを改善しています。将来的には、AIの推論をより効率的にすることが目標です。品質を高め、必要なリソースとコストを抑えながら、役立つものにしていきます。

Ailoot APIのドキュメントはailoot.ai/docsをご覧ください。