Tag
LLM
42 件の記事 · 3 / 4 ページ
-
プロンプトキャッシングの落とし穴
プロンプトキャッシングは強力なコスト削減手段ですが、thinking パラメータの変更でメッセージキャッシュが無効になる点など、知らないと損をする挙動があります。
-
JSON 出力とソース引用
構造化出力(JSON スキーマ準拠)と引用機能を使うと、バリデーション不要のデータ抽出とハルシネーション対策ができます。2つの組み合わせ方も解説します。
-
Claude thinking の課金モデル
thinking ブロックの表示設定(summarized / omitted)に関わらず、課金は生の思考トークン全体に対して発生します。その仕組みと確認方法を解説します。
-
Claude API の思考設計の変遷
budget_tokens で「何トークン使うか自分で決める」時代から、effort で「方向性を示してあとは Claude に任せる」時代へ。設計思想の変化を読み解きます。
-
tool_choice の4種類と Claude のツール判断ロジック
tool_choice には auto / any / tool / none の4種類があります。それぞれの意味と、サーバーツール・クライアントツールの違い、effort との関係を整理します。
-
ローカル LLM ベンチマーク:M3 / 24GB で 5 モデルを計測した
lm-evaluation-harness を使い、MacBook Air M3 / 24GB 上の 5 モデルを GSM8K と ARC Challenge で計測しました。phi4 が両タスクで最高スコアを記録し、速さでは mistral-nemo が突出しました。
-
ローカル LLM のモデル選定:M3 / 24GB で動かせる範囲を調査した
各 LLM ファミリーのバリアントを調べ、MacBook Air M3 / 24GB で快適に動かせる範囲を整理して、実際に導入する 5 モデルを選定しました。
-
Anthropic IPO 秘密申請——評価額 9,650 億ドルで OpenAI を超えた AI 企業の上場戦略
本日のAIニュースはAnthropicのIPO秘密申請——評価額9,650億ドルでOpenAIを上回り、AI企業として史上最大規模の上場へ動き出した背景を読み解きます。
-
Microsoft「MAI-Code-1-Flash」——自前コーディングモデルが狙うもの
本日のAIニュースは Microsoft の自前コーディングモデル MAI-Code-1-Flash——「なぜ自社で作るのか」の経済合理性とエンジニアへの影響を読み解きます。
-
graphify の仕組み
コードは tree-sitter でローカル解析、ドキュメントだけ LLM へ——graphify がプロジェクトをナレッジグラフ化する2段階パイプラインの設計を整理します。
-
ナレッジグラフについて整理してみた
ノードとエッジで情報の「つながり」を直接表現するデータ構造——ナレッジグラフの基本概念と、RDB との違い、コードベースへの応用を整理します。
-
claudeコマンドのオプションを整理してみた
claude --help を眺めていたら思ったより多くのオプションがあったので、用途別に整理した。典型的なユースケースも添えておく。