「オンデバイスAI」の検索結果: ユーザー 0件・記事 9件
リード 6月26日、AppleはiOS 19.5・macOS Sonoma 16.5・visionOS 3.5の同時配信とともに、Apple Intelligence 2.0を190カ国・地域へ展開した。前世代との最大の差異は「常時オフライン動作」——搭載する4Bパラメータのオンデバイスモデルが、通信環境を問わずアプリ横断のエージェント操作を実行する点にある。クラウドLLMが競う高スペック競争とは...
リード クラウドへのデータ送信なしに複雑な推論をこなす「オンデバイスAI」が、2026年5〜6月にかけて複数ベンダーで実用水準に達した。Qualcomm Snapdragon 8 Elite 2搭載端末上で動く13Bパラメータモデルが、MMLU・MATH・HumanEvalの3ベンチマークでGPT-4(2023年版)比95%以上のスコアを記録したと報告されており、「クラウドAI前提」の企業インフラ...
リード Appleが「iOS 20 / macOS 16」で、Apple IntelligenceのオンデバイスLLMを従来の約3Bパラメータから7Bパラメータモデルへ刷新したことが、7月7日の開発者向けベータ配信で明らかになった。Neural Engine最適化により推論速度は旧比2.8倍を維持しつつ、主要ベンチマーク(MMLU・HumanEval)でOpenAIのGPT-4o miniと同等水...
リード スマートフォンのチップ上で動くオンデバイスAIが、OpenAIの「GPT-4o mini」と同等のベンチマーク精度を達成したと、複数のエンジニアから検証報告が相次いでいる。クラウドへの送信がゼロ——通信なし、プライバシーリスクなしでここまで到達したのは、正直驚きだった。 何が起きているのか 2026年7月初旬、QualcommのNPU(Neural Processing Unit=スマート...
リード 「ローカルで動かすより API のほうが速い」という常識が、2026 年夏を境に揺らいでいる。llama.cpp の最新ビルドと Ollama v0.4 系の組み合わせで、手元の民生 GPU でも毎秒 60 トークン超えが普通に出るようになってきた。これ、地味だけど効くやつだと思っている。 何が起きているのか 今月に入ってから X(旧 Twitter)では「ローカル推論が速くなった」という...
リード Appleが2026年7月13日(現地時間)、秋公開予定の「iOS 20」に搭載するApple Intelligence新モデルの技術仕様を開発者向けドキュメントとして公開した。パラメータ規模は非開示だが、ベンチマーク上は「前世代比で推論精度31%向上」「日本語テキスト要約の応答速度が1.4秒→0.6秒に短縮」と記載されている。クラウドへの通信を必要としないオンデバイス処理が、ようやく実用...
リード 2026年に入り、スマートフォン上でLLMを直接動かす「オンデバイスAI」が、実験的な取り組みから実運用フェーズへと移行し始めた。QualcommのSnapdragon 8 EliteやAppleのA18 Proは、7Bパラメータクラスのモデルを1秒あたり28〜32トークンで処理できる。クラウドに送らなくていい、という選択肢が、今年ようやく現実解になった。 何が起きているのか 2025年末...
リード 「ローカルで動かすには精度が足りない」——その前提が、2026年前半に静かに書き換えられた。7〜30Bパラメータ規模の小型言語モデル(SLM)が、特定タスクにおいてGPT-4o相当の精度に到達しつつあり、X上では「APIを捨てた」「オンプレに戻した」という投稿が増え始めている。触ってみないとわからない、とずっと言ってきたが、今回ばかりは数字が先に語りかけてくる。 何が起きているのか 202...
リード Appleが2026年6月19日(現地時間)、WWDC 2026基調講演でApple Intelligence 2.0の全言語一斉ロールアウトを発表した。日本語を含む40言語がフルサポートに加わり、翻訳・要約・メール生成・通話リアルタイム文字起こしがiPhone・Mac上でクラウドを経由せずに動作する。全世界22億台超のAppleデバイスに「標準搭載AI」が着地した日として記録されるだろう...