Apple Inc.Apple demonstrated four connected Mac Studios running a trillion-parameter model as a desktop alternative to cloud AI inference, pitching its own hardware for on-prem AI workloads.
水曜日の朝、エヌビディアの株価は約1.3%下落して227.98ドルとなった。アップルがクラウドベースのAI推論に代わるデスクトップ型の選択肢を提案したためだ。アップルは、接続された4台のMac Studioで1兆パラメータのモデルを動かし、コーディングのバグを修正する様子を実演した。企業はこれらのマシンを一度購入すれば、トークンごとにクラウド料金を支払うことなく使い続けられると主張している。この提案は、安定したワークロードや機密データを抱える企業を対象としているが、最先端モデルの訓練に使われる大規模システムを置き換える可能性は低い。エヌビディアの直近四半期決算は、この競争の規模を示している。データセンターは売上高962億ドルのうち890億ドル、およそ92.5%を生み出した。投資家にとっての疑問は、日常的なAI作業のうちどれだけが、クラウドGPUに到達する前に顧客が所有するマシンへ移行できるかである。
Apple Inc.Apple demonstrated four connected Mac Studios running a trillion-parameter model as a desktop alternative to cloud AI inference, pitching its own hardware for on-prem AI workloads.
NVIDIA CorporationApple's pitch of Mac Studios as an on-prem alternative to cloud AI inference threatens to shift routine AI workloads away from Nvidia's cloud GPUs, which drive ~92.5% of its revenue.
Applovin Corp