Category: AI | ntea.log

AI 2026年7月14日

プロンプトインジェクションはなぜ根本解決が難しいのか

プロンプトインジェクションが厄介なのは攻撃の巧妙さではなく、LLM が命令とデータを構造的に区別できないという設計上の性質にあります。

AI 2026年7月14日

AI が文章を構造化してくれる時代に、人が自分で意味を組み立てる能力はどう変質するか——読解力劣化の機序と、その先にある思考の空洞化を考察します。

AI 2026年7月13日

ハルシネーションより怖いのは、それを確認しない人間の側の変化——「AI が言うなら合っている」という受け身の検証が常態化し、正しさを自分で判断する回路が錆びていく過程を考えます。

AI 2026年7月11日

100万行を11日で移植——見出しの「AIが全部やった」印象と、創業者が11日間張り付いた実態のギャップから、大規模AI移植の本当の姿を読み解きます。

AI 2026年7月8日

AI に複製できないのは分野をまたぐ広さと人文知——「使わないスキルは衰える」という診断のその先、専門性を守るための処方箋としてのルネサンス的教養を正面から論じます。

AI LLM アプリの品質保証 2026年6月20日

AI に採点させるとき、1 回の採点では誤差か実差か区別できない。繰り返し採点・G-Eval 確率加重・ペアワイズ順序反転・ブートストラップ信頼区間・BH 多重比較補正を組み合わせ、LLM 評価のブレを多層的に抑える設計を整理します。

AI LLM アプリの品質保証 2026年6月19日

Stage 1/Stage 2 の品質ゲートを通過しても、それだけではリリース判断に足りない。ハルシネーション・法的配慮・品質改善の 3 シグナルを統合し、LLM を呼ばずに最終判定する上位ゲートの設計を整理します。

AI LLM アプリの品質保証 2026年6月18日

「前より良くなったか」を人手に頼らず AI に採点させるとき、一回の採点では誤差か実差か区別できない。絶対評価とペアワイズを組み合わせ、繰り返し採点で信頼区間を出す設計を整理します。

AI LLM アプリの品質保証 2026年6月17日

LLM 出力の品質基準には「絶対に許せない最低条件」と「以前より悪くなっていないか」の二種類がある。この二つを分離した品質ゲートを設計し、CI に組み込む方法を整理します。

AI LLM アプリの品質保証 2026年6月16日

先週のプロンプトで生成した結果を今日の基準で評価しても意味がない。入力とプロンプトのハッシュを結果ファイルに埋め込み「この結果は今のコードで作られたか」を機械的に判定する手法を解説します。

AI LLM アプリの品質保証 2026年6月15日

LLM 出力の評価を「LLM による意味判定」「定量メトリクス」「ドメイン分類器」の三軸に分け、統一インターフェースで束ねる設計パターン。preference leakage を避けるモデル分離の話も含めて整理します。

AI LLM アプリの品質保証 2026年6月14日

LLM アプリのテストケースを手書きするとすぐ頭打ちになる。入力条件の組み合わせをマトリクスで定義し、LLM にテストデータを生成させてカバレッジを体系的に管理する方法を整理します。