NPU搭載AI PCの性能の最低基準はどうなるか 2024前半版

0
1241

IntelのCore Ultra、AMDのRyzen 8040シリーズが登場し、2024年には本格的に各社がAI PCと呼ぶ製品の販売が始まっています。そもそもAI PCとは何なのか、どのような性能の製品を選ぶべきでしょうか。2024年3月までの情報から考えます。

AI PCとは

2024年前半現在のAI PCとは、NPUを搭載するSoCを搭載したPCと定義しているところが多いようです。
実際には「AI PC」とは呼ばずに「AIの利用に適したPC」のような表現にしている所もあるようですが、そもそもここで言うAIとは何でしょうか。

ここで言うAIとは、人工知能を意味するAIの中の機械学習のMachine Learningの、深層学習のDeep Learningの、推論のInferenceを利用するためのINT8などの整数演算機能を活用するアプリケーションのようです。
これを活用しているのが2023年に急速に普及した生成AI(Generative AI)ですが、実際に2024年前半現在でAI PCでよく使われている用途は、ウエブ会議などでの画像の精細化、音声ノイズの除去などです。

既に画像関連などでも使えるアプリケーションなどはありますが、2024年前半現在は、NPU活用した本格的なアプリケーション登場に期待している段階です。

AI PCで重要な事

IntelのCore UltraやAMDのRyzen 8040などを使わなくても、NVIDIAのGeForce RTXなどを搭載したゲーミングPCでもNPU機能は使えるし、RTXを搭載するワークステーションもあります。このような製品なら、ハードウェア的にはAI PCと同等の事はできるし、ほとんどの場合はAI PCより高速に処理可能です。

しかしゲーミングPCはデスクトップパソコンなら、電源やサイズなどはそこまでの問題ではありませんが、パソコンとして現在主流のノートパソコン型だと様々な問題が発生します。
その代表的な問題が電源です。

一般的なノートパソコンは65WのACアダプターで動作します。ゲーミングPCの場合はこの数倍の電力が必要で、200Wを超えるACアダプターが必要になる製品もあります。
持ち運ぶノートパソコン、デスクトップリプレースメントとしてのノートパソコンでも、AI機能を使うからと、何でもかんでもゲーミングPCのような電力を大量に消費する製品は使えません。

重要なのは、一般的なノートパソコンにNPUを搭載してAI機能が使えるという事です。
そこで必要になるのが、IntelのCore UltraやAMDのRyzen 8040などの、一般的なノートパソコンでNPUを搭載できる通常の電力範囲内で使えるSoCです。
これらのSoCなら65WのACアダプターを使ったノートパソコンで無理なくAI機能が使えます。

AI PCの性能はどの程度必要か

AI PCは従来のPCとしての性能に加えて、NPU関連の性能も重要になります。
NPU関連の性能を表す指標としてTOPS(Trillion operations per second)という指標が使われます。これは1秒間に1兆回の計算なら1TOPSになります。

Core Ultra(Series 1)やRyzen 8040シリーズなどはSoC全体で30〜40TOPS前後、NPUだけだと10TOPS程度のようです。
前述したデスクトップ版のNVIDIA GeFroce RTX 40シリーズは600TOPSになる製品もあります。

どの程度のTOPS値ならAIアプリケーションが快適に動作するのかは、そもそもアプリケーションがほとんど無い段階では判断できません。

しかし、OSにCopilot機能を統合するなど、機能拡張に熱心なMicrosoftには一部の指標があるようです。調査会社のTrendForceはAI PCとして40TOPS、16GBのメモリが最低要件になるというレポートを2024年1月に発表しました。

TrendForce posits AI PCs are expected to meet Microsoft’s benchmark of 40 TOPS in computational power.
TrendForce は、AI PC は計算能力において Microsoft のベンチマークである 40 TOPS を満たすことが期待されると推測しています。
Microsoft has set the baseline for DRAM in AI PCs at 16 GB.
Microsoft は、AI PC の DRAM のベースラインを 16 GB に設定しました。

2024 Commercialization of Copilot to Boost AI Server and AI PC Development, Says TrendForce

40TOPSはCore Ultra Series 1では厳しい数値ですが、2024年前半に提供されているAI PCは今後のAI関連アプリケーションが動作する最低限の条件になります。
CPU機能自体は1世代で1割程度しか向上しませんが、NPU機能の機能向上はCPU自体をかなり上回ることが予想されています。

実際にCore Ultra Series 1(Meteor Lake)の後継のLunar LakeのAI機能はMeteor Lakeの数倍になる事が公表されています。

Intel Lunar Lake とSupernova System on Module

最先端のAI PCを求める方は毎年買い替え

2024年前半時点のAI PCは、あくまでも初期のAI PCです。
今後、NPU関連機能はSoCが更新毎にかなり向上し、旧世代の数倍の性能になっていくでしょう。
ハードウェア性能に加えて、それを使うためのソフトウェア面も重要です。ハードウェアだけで無くソフトウェア面も各社争っており、2024年現在で開発しやすいプラットフォームには、より利便性の高いAI関連アプリケーションが登場するかもしれず、今後の成長も期待されます。

NPU搭載以前のPCに使われているSoCのCPUの性能向上は大きくても年に1割程度でしたし、GPUはそれ以上の勢いで性能向上していましたが、NPUはそれらを大きく上回る性能向上になります。
NPUのAI機能を気にしなければ、買い替え周期は3年くらいでも問題ないでしょうか、NPU機能が毎年平均2倍向上した場合、3年後には8倍になっています。

つまり、2024年前半時点でAI機能に期待してAI PCを購入する方は、1年後にはさらに機能向上した製品を買わざるを得なくなる可能性が高いです。