NPUを搭載するAI対応PCが2023年から本格的に販売開始されています。
2024年には更に対応製品の数が増えると予想されていますが、NPUを搭載するAI対応PCの選び方を解説します。
NPU搭載のプロセッサ
一般的にNPUを搭載していると言える2023年以降の製品は、プロセッサ(CPUやSoC)として
- Apple Silicon Mシリーズ
- AMD Ryzen 7040/8040シリーズ
- インテルCore Ultraシリーズ
- QUALCOMM Snapdragon X Elite
のどれかを搭載している製品です。
従来のPC選びでは、基本的な性能の判断としてCPU(プロセッサやSoC)の性能に加えて、メモリやストレージが重要でした。
これらは通常のPCの機能を測る物として、これからも重要な指標になりますが、ゲームで楽しむにはGPUが重要なように、AI関連ではNPU機能が重要になっていきます。
AI対応PCとは何か
AI対応の一般ユーザーが利用するPCとは、AIの機械学習の中のディープラーニングの推論(Inference)がスムーズに出来る製品という意味です。
2023年現在、一般的にAIと言えば、AIの中の機械学習の中の、ディープラーニングを使用した人工知能技術のことです。
ディープラーニングは、人間の脳と同様に階層構造で学習する深層学習とも言われる手法です。この学習自体は、大量の計算をしなければならず、一般的なPCでは現実的ではないので、大規模な計算が出来るクラウドや専用のサーバーを使って、利用したい計算を事前に大量のデータから行います。
これが学習(Training)というフェーズで、これをPCで行うには、NVIDIA RTXなどAI向けの計算機能を搭載した物でも可能ですが、大規模な物はあまり実用的ではありません。一般的に使われている生成AIではクラウド側で大量のデータから時間をかけて学習されており、PCで行う場合はそれほど大きくないモデルで使われています。
ディープラーニングは、この学習以外にも、学習した結果を使う推論(Inference)というフェーズがあります。
事前に学習したデータを元に、推論で答えを出す物です。一般ユーザーがAIの答えを出す操作をしているのは、事前に学習した結果から、推論によるデータを見ている状態です。
- 学習 大量の花の画像を分析してどの花が何という種類の花かなどを学習する
- 推論 ユーザーが撮影した花の画像から何という種類の名前かを出力する
つまり、AI対応PCとは、この推論が出来るPCです。
2023年から急速に広まっているのがAIの推論を活用して何かを生み出す、生成AI(Generative AI)です。
AI対応PCの性能を決める要素
ディープラーニングの推論というのは、一般的に行列の計算を行っていて、1秒間に数兆回やそれ以上の回数が行われています。
NPUがこの大量の計算をしますが、計算自体は、CPUでもGPUでも可能です。一般的にパソコンは常にAI関連で動作しているわけでは無く、CPUもGPUも推論以外の計算でも使われるので、推論をCPUを使わずにNPUで計算すれば、PC全体のパフォーマンスが向上します。
NPUにソフトウェアで真っ先に対応したのが、テレビ会議の背景ぼかしなどの映像のリアルタイム補正機能です。このような映像関連でのNPUの活用は、スマートフォンで以前から行われていました。それがPCにも搭載され、AI関連で活用されようとしています。
従来はCPU等で行っていたこの処理をNPUが行うことで、CPUの利用率が減るため、バッテリー駆動時間、CPUが本来しなければならない用途にCPUを使えます。
このNPUの機能や性能は製品毎に異なります。また、推論自体も何の計算をどのように行うかによってNPUのどの性能が重要なのかは異なります。
また、各AIソフトが、NPUの機能を使いこなせるかが重要になります。適切にNPUを使い、CPUなど関連機能ともうまく連携して動作させれば、全体のパフォーマンスも向上します。
これには、各ハードウェアを熟知した上で、最適なソフトを開発する必要がありますが、その対応には技術力が必要になります。
インテルの場合はOpenVINOツールキット、AMDはRyzen AI Softwareを提供しており、ソフトウェア開発者が比較的簡単にNPUを活用したソフトを開発出来るようにしています。
一般的にこのようなツールを使ってソフトを開発するので、NPUをある程度活用したソフトが続々と出てくることが期待されます。
実際にはどの程度活用されるかは、ハードウェアとしての機能に加えて、ソフトウェアがいかに効率的にNPUを活用していけるか重要になります。
結局何のAIを使うかによる
NPUのハード、それを活用する開発者が使うソフトがNPUや、プラットフォーム全体のAIパフォーマンスを決めますが、何のAIをどう使うかによって必要なAI機能は異なります。
Microsoft Copilotでのアシスタントと、Adobe Creative Cloudでの画像生成などは必要とする機能が異なります。
AIの推論ということでは似たような機能を使用しますが、何の機能をどう使うかによって、各製品でのパフォーマンスに差が出てくることが予想されます。
2024年前半の時点で、PCで使うAI関連機能は限られています。今後活用が広がることで、どの機能を使うなら何が良いか、悪いかがわかってくるでしょう。
NPUのハードもソフトも様々な状況から、今後は更に強化されることになるので、新しい世代が登場する度に状況も変わってくることになります。
また、AI機能自体はNPUがPCに入っていなくてもクラウドでも実行可能で、NPUがPCに無ければいけないということでもありません。
2024年時点では推論に使うAIに対応するPCとしては、NPUが入っているか入っていないかだけを判断すれば十分かも知れません。
