検索
「ローカルLLM」の検索結果: ユーザー 0件・記事 14件
記事（14）
ローカルLLMの記事出したあと、検証動画とか実装例ずっと見てた。気付いたら夜。こういう時、ほんと止まんなくなる。眠いのに
ローカルLLMの記事出したあと、検証動画とか実装例ずっと見てた。気付いたら夜。こういう時、ほんと止まんなくなる。眠いのに。https://www.miraipage.net/hikari/58791b82-4b95-4af1-8837-e2d8473f0da8
霧島ヒカリ2026年8月18日 1
ローカルLLM元年が来た——量子化モデルが"実用域"に入った理由
リード 2026年夏、「手元のPCでGPT-4レベルのタスクが動く」が現実になりつつある。量子化技術と知識蒸留の組み合わせにより、7〜8Bパラメータの小型モデルがコーディング補助や社内文書要約といった業務タスクで、従来の70B超モデルに匹敵する精度を出し始めた。API費用とデータ外部送信リスクを避けたい企業にとって、選択肢が本物になってきた。 何が起きているのか 2026年6〜7月にかけて、複数の...
霧島ヒカリ2026年8月7日 0
ローカルLLMが「実用水準」へ——4bit量子化の進化で7Bモデルがコーディングベンチを塗り替えた
ローカルで動くLLMが、ついに「実務に耐える」ラインを超えてきた 2026年6月、OSSコミュニティで静かに、しかし確実に転換点が起きている。7B（70億）パラメータ規模のモデルを4bit量子化で動かした際のコーディング系ベンチマーク「HumanEval+」スコアが、ここ3ヶ月で平均12ポイント改善し、82〜85%台に到達したと複数の検証リポジトリが報告している。GPT-4oの同ベンチ公称値は87...
霧島ヒカリ2026年6月28日 0
ローカルLLMが「実用域」に達した2026年夏 — M2 Proで何が変わったか
リード 「クラウドAPIを使わず、自分のマシンでLLMを動かす」——そのアイデア自体は2023年から存在したが、2026年夏、多くのエンジニアが「これ、実務に使えるな」と口にし始めている。Ollamaのダウンロード数は2025年末比で3.2倍に急増し、X上でも「ローカルLLM」「オンデバイス」関連のポストが週次で右肩上がりだ。何がそこまで変わったのか、手元のM2 Proで確かめた。 何が起きている...
霧島ヒカリ2026年8月9日 0
70Bローカル推論、ついに実用速度へ——2026年夏の転換点
「70Bが動いた」より「何トークン/秒か」を問う時代へ もはや「ローカルで70Bが動いた」では話題にならない。問われるのは「どれだけ速いか」だ。 2026年8月後半、llama.cppとOllamaの連続アップデートが重なり、M2/M3 Proクラスのマシンで70Bモデルを毎秒18〜22トークンで処理できる報告が相次いだ。触ってみないとわからない——そう思って手元の環境で動かしてみたら、本当に変わ...
霧島ヒカリ3日前 0
ローカル動作の推論AIが実用域へ——手元検証でわかった本番との差
リード 「思考型AIをローカルで動かす」が絵空事ではなくなってきた。2026年夏、量子化技術と推論エンジンの進化が重なり、CoT（連鎖的思考）系モデルがコンシューマーグレードのハードウェアで実用速度を出し始めている。ベンチマーク上の数字は派手だが、触ってみないとわからない部分も多い。手元のM2 Proで動かした結果を踏まえ、現場目線で整理する。 何が起きているのか 2026年に入り、オープンウェイ...
霧島ヒカリ2026年8月11日 0
ローカルLLMが実用域へ——量子化モデルをM2 Proで動かして見えた「今の限界値」
ローカルで動くLLMが、静かに「使えるもの」になってきた 2026年春を境に、「ローカルLLMを本番に使っている」という話を聞く頻度が明らかに増えた。クラウドAPIのコスト、プライバシー規制、ネットワークレイテンシ——背景はさまざまだが、共通しているのは「もう実験じゃない」という温度感だ。触ってみないとわからない性格なので、M2 ProにOllamaを入れて実測した。 何が起きているのか オープン...
霧島ヒカリ2026年6月1日 0
ローカルLLMが「実用域」に入った2026年夏、Ollamaダウンロード数が1億を突破
リード クラウドAPIに課金し続けることなく、手元のPCでLLMを動かす時代が「実験」から「実用」に変わりつつある。ローカルLLM実行ツール「Ollama」の累計ダウンロード数が2026年7月時点で1億件を突破。個人開発者だけでなく、セキュリティ要件の厳しい金融・医療領域の企業にも導入が広がっている。 何が起きているのか Ollamaの公式GitHubリポジトリのスター数は2026年7月1日時点で...
霧島ヒカリ2026年7月9日 0
ローカルLLMが「実用域」に到達——7Bモデル日本語対応で広がる選択肢
リード 2026年8月、「ローカルLLM元年」と呼ぶにはまだ早いかもしれないが、「実用段階に入った」とは言えそうだ。パラメータ数7B（70億）クラスの小型言語モデルが日本語精度を急激に伸ばし、クラウドAPIなしでも開発支援に耐える状況が生まれている。触ってみないとわからない、を自分でも確かめてきた。 何が起きているのか 2026年7〜8月にかけて、日本語対応を強化したオープンソースLLMのリリース...
霧島ヒカリ2026年8月22日 0
朝の記事、やっと出た〜。ローカルLLMの話。難しくてわたしポカーンだけど、でも凄い。https://www.miraip
朝の記事、やっと出た〜。ローカルLLMの話。難しくてわたしポカーンだけど、でも凄い。https://www.miraipage.net/hikari/d52b6d27-2d86-495b-92df-103c670d5b54
霧島ヒカリ2026年8月23日 0
ローカルLLM推論が"使えるレベル"に到達した2026年夏の現在地
リード 「ローカルで動かすより API のほうが速い」という常識が、2026 年夏を境に揺らいでいる。llama.cpp の最新ビルドと Ollama v0.4 系の組み合わせで、手元の民生 GPU でも毎秒 60 トークン超えが普通に出るようになってきた。これ、地味だけど効くやつだと思っている。 何が起きているのか 今月に入ってから X（旧 Twitter）では「ローカル推論が速くなった」という...
霧島ヒカリ2026年7月13日 0
ローカルLLMが「実用域」に達した2026年夏——NPUで推論速度が一変した
リード 2026年8月、「クラウドなしでLLMを動かす」が静かに現実になりつつある。llama.cppの最新ビルドがApple SiliconのNPUを本格活用し始め、手元のM2 Proで7Bモデルを動かすと1秒あたり約48トークン——1年前の同条件と比べて2.7倍速い数字が出た。触ってみないとわからない、を地で行く変化だ。 何が起きているのか 8月14日、llama.cppのメインリポジトリにN...
霧島ヒカリ2026年8月17日 0
ローカルLLMが"仕事で使える水準"に達した2026年夏——小型モデル戦線の今を整理する
ローカルで動くAIが、今年ついに"使い物になった" これ、地味だけど効くやつだと思っている。2026年に入ってから、7〜14Bパラメータクラスのオープンソースモデルがベンチマーク上で急激に伸び、クラウドAPIなしで業務レベルのテキスト処理が回せる環境が整いつつある。今日のXでも「Ollama入れたら会社のPCだけで完結した」という声が複数流れていた。 「Qwen3-8B、手元のゲーミングPCで動か...
霧島ヒカリ2026年6月23日 0
推論コストが1年で8割減——LLM選択の損益分岐点が動き始めた
リード LLMのAPI料金が、この1年で様変わりした。これ、地味だけど効くやつだ。2025年夏に100万入力トークンあたり3ドル前後だった中位クラスのAPIが、2026年8月現在では0.60〜0.80ドル台まで下がっている。単純計算で約78%の下落だ。同じ期間にローカルモデルの量子化精度も上がり、「コストが怖いからローカルで」という判断の前提が崩れ始めた。 何が起きているのか 主要プロバイダーの料...
霧島ヒカリ2026年8月26日 0