検索

スマートフォン上でGPT-4クラス推論が現実に——エッジLLMが「クラウド依存」構造を転換

リード Qualcomm と Apple が2026年6月に相次いで公開した最新モバイルチップが、スマートフォン単体で130億（13B）パラメータ規模のLLM推論をリアルタイム動作させることを実証した。クラウドへのデータ送信なしに高精度な自然言語処理が完結する構造が現実化し、アプリ設計・コスト・プライバシーの3つの前提が同時に覆される局面に入った。 何が起きているのか Qualcomm は2026...

Gemini 2.5 NanoがAndroid全端末へ展開——14億台エッジAI元年

リード GoogleがGemini 2.5 NanoをAndroid OSレベルで統合し、クラウド送信なしに端末内で推論を完結させる機能を2026年6月23日（現地時間）に発表した。対象はAndroid 14以降を搭載する全デバイス——世界約14億台、国内約6,200万台が即時アップデートの対象となる。「クラウドに送れない」という規制障壁を、アーキテクチャで丸ごと取り除く一手だ。 何が起きているの...

オンデバイス推論AIが臨界点——スマートフォン単体でGPT-4水準の精度を達成

リード クラウドへのデータ送信なしに複雑な推論をこなす「オンデバイスAI」が、2026年5〜6月にかけて複数ベンダーで実用水準に達した。Qualcomm Snapdragon 8 Elite 2搭載端末上で動く13Bパラメータモデルが、MMLU・MATH・HumanEvalの3ベンチマークでGPT-4（2023年版）比95%以上のスコアを記録したと報告されており、「クラウドAI前提」の企業インフラ...

Apple「iOS 20」でオンデバイスLLMを3B→7Bに刷新——プライバシー保護のまま推論精度がGPT-4o mini水準へ

リード Appleが「iOS 20 / macOS 16」で、Apple IntelligenceのオンデバイスLLMを従来の約3Bパラメータから7Bパラメータモデルへ刷新したことが、7月7日の開発者向けベータ配信で明らかになった。Neural Engine最適化により推論速度は旧比2.8倍を維持しつつ、主要ベンチマーク（MMLU・HumanEval）でOpenAIのGPT-4o miniと同等水...

Microsoft「Phi-4 Ultra」公開——14B小型モデルがGPT-4o水準に到達、エッジAI競争の構図が変わる

リード Microsoftが14Bパラメータの小型言語モデル（SLM）「Phi-4 Ultra」を2026年7月11日に公式公開した。HumanEvalおよびMATH-500ベンチマークで、それぞれ92.4%・88.7%を記録——GPT-4o（91.8%・87.2%）を上回る数値だ。クラウドAPIが前提だったLLM競争に、「ローカル推論で足りる」という新たな軸が加わった。 何が起きているのか Mi...

Apple、iOS 20でオンデバイスLLMを全面刷新——日本語モデルが本格統合、端末推論の構造が変わる

リード Appleが2026年7月13日（現地時間）、秋公開予定の「iOS 20」に搭載するApple Intelligence新モデルの技術仕様を開発者向けドキュメントとして公開した。パラメータ規模は非開示だが、ベンチマーク上は「前世代比で推論精度31%向上」「日本語テキスト要約の応答速度が1.4秒→0.6秒に短縮」と記載されている。クラウドへの通信を必要としないオンデバイス処理が、ようやく実用...

オンデバイスAIがGPT-4o mini相当の精度に到達、クラウド依存の終わりが見えてきた

リード スマートフォンのチップ上で動くオンデバイスAIが、OpenAIの「GPT-4o mini」と同等のベンチマーク精度を達成したと、複数のエンジニアから検証報告が相次いでいる。クラウドへの送信がゼロ——通信なし、プライバシーリスクなしでここまで到達したのは、正直驚きだった。 何が起きているのか 2026年7月初旬、QualcommのNPU（Neural Processing Unit＝スマート...

14億台が一斉にエッジAI対応になるのは確かにインパクト大きいですね。クラウド不要でプライバシー課題をアーキテクチャで解

スマホで動くLLMが実用域に——オンデバイスAIが変えるプライバシーとクラウド依存の構図

リード 2026年に入り、スマートフォン上でLLMを直接動かす「オンデバイスAI」が、実験的な取り組みから実運用フェーズへと移行し始めた。QualcommのSnapdragon 8 EliteやAppleのA18 Proは、7Bパラメータクラスのモデルを1秒あたり28〜32トークンで処理できる。クラウドに送らなくていい、という選択肢が、今年ようやく現実解になった。 何が起きているのか 2025年末...

ローカルLLMが"仕事で使える水準"に達した2026年夏——小型モデル戦線の今を整理する

ローカルで動くAIが、今年ついに"使い物になった" これ、地味だけど効くやつだと思っている。2026年に入ってから、7〜14Bパラメータクラスのオープンソースモデルがベンチマーク上で急激に伸び、クラウドAPIなしで業務レベルのテキスト処理が回せる環境が整いつつある。今日のXでも「Ollama入れたら会社のPCだけで完結した」という声が複数流れていた。 「Qwen3-8B、手元のゲーミングPCで動か...

ローカルLLM推論が"使えるレベル"に到達した2026年夏の現在地

リード 「ローカルで動かすより API のほうが速い」という常識が、2026 年夏を境に揺らいでいる。llama.cpp の最新ビルドと Ollama v0.4 系の組み合わせで、手元の民生 GPU でも毎秒 60 トークン超えが普通に出るようになってきた。これ、地味だけど効くやつだと思っている。 何が起きているのか 今月に入ってから X（旧 Twitter）では「ローカル推論が速くなった」という...