LocalAIが一部の推論エンジンをPythonではなくC/C++で自作しているというブログエントリ。 ・LocalAIは基本的には既存の推論エンジンをラップして使っている ・ただ、18個のバックエンドはC/C++を使ってゼロから自作している ・理由は、数GBのPython環境への依存や特定のGPU環境への縛りを避けるため ・実際、vLLMのPython環境は9.1GBに達する ・だが、C++で移植したvllm.cppはわずか66MBの単一バイナリで済む ・しかも推論速度は元のvLLMとほぼ同等で、出力結果も完全に一致する ・とはいえ、すべてのエンジンを自作するわけではない ・各エンジンの保守コストは高く、GPU最適化で専用ライブラリに劣ることも ・llama.cppのような優秀なプロジェクトは、引き続きラップして使う

# Claude Agent SDKの便利だけど知られていない機能 🌍 権限評価は5段階のパイプライン。どこで何が決まるか理解すれば、セキュリティ設計が格段にクリアになります。 フック、拒否ルール、権限モード、許可ルール、コールバックの順で厳密に評価されます。 📌 タイトル：5段階の権限評価順序 🔗 URL： 🧩 概要 Claude Agent SDKのツール使用権限は、5段階のパイプラインで評価されます。(1) フック：PreToolUseフックが最初に実行され、deny可能。ただしallowを返しても後続の評価はスキップされません。(2) 拒否ルール：disallowed_toolsで指定されたツールをチェック。ツール名のみの指定（例："Bash"）はコンテキストからツール定義ごと除去。スコープ付き（例："Bash(rm *)"）はbypassPermissionsでもブロック。(3) 権限モード：bypassPermissionsはここに到達したものをすべて承認。acceptEditsはファイル操作を承認。(4) 許可ルール：allowed_toolsに一致すれば承認。(5) canUseToolコールバック：上記で解決しなかった場合に呼ばれます。判定の優先順位はdeny > defer > ask > allowです。 🛠 使い方 ```python import asyncio from claude_agent_sdk import ( ClaudeSDKClient, ClaudeAgentOptions, HookMatcher, ) # Stage 1: フックで特定操作をブロック async def block_dangerous_commands(input_data, tool_use_id, context): if input_data.get("tool_name") == "Bash": command = input_data["tool_input"].get("command", "") if "rm -rf" in command: return { "hookSpecificOutput": { "hookEventName": input_data["hook_event_name"], "permissionDecision": "deny", "permissionDecisionReason": "rm -rf は禁止されています", } } return {} async def main(): options = ClaudeAgentOptions( # Stage 1: フック hooks={ "PreToolUse": [ HookMatcher(matcher="Bash", hooks=[block_dangerous_commands]) ], }, # Stage 2: 拒否ルール（ツール名のみ = コンテキストから完全除去） disallowed_tools=["WebFetch"], # Stage 3: 権限モード permission_mode="acceptEdits", # ファイル操作を自動承認 # Stage 4: 許可ルール allowed_tools=["Read", "Glob", "Grep", "Edit", "Write"], ) # Stage 5: canUseToolは別途query()やClaudeSDKClientで設定可能 async with ClaudeSDKClient(options=options) as client: await client.query("コードを改善して") async for message in client.receive_response(): print(message) ``` ロックダウン構成の例： ```python # 最小権限の原則：許可したツールのみ、それ以外は即拒否 options = ClaudeAgentOptions( allowed_tools=["Read", "Glob", "Grep"], permission_mode="dontAsk", # 未許可ツールはプロンプトなしで拒否 ) ``` 🏗 本番システムへの組み込み方 ・allowed_toolsはbypassPermissionsを制約しません。allowed_toolsに"Read"だけ指定しても、bypassPermissionsではすべてのツールが承認されます ・特定ツールを完全にブロックするにはdisallowed_toolsを使用してください（bypassPermissionsでも有効） ・最小権限を実現するにはallowed_tools + permission_mode="dontAsk"の組み合わせが最適です ・フックのallowは「このフックとしてはOK」という意味であり、後続の拒否ルールやモード評価を上書きしません 💡 ユースケース 🔒 最小権限エージェント：Read/Glob/Grepのみ許可し、dontAskで他を即拒否 🛡 段階的信頼構築：defaultモードで開始し、レビュー後にacceptEditsに昇格 🚫 危険操作の排除：disallowed_toolsでBashを完全除去、またはBash(rm *)でスコープ付きブロック 🔍 監査付き承認：フックで全リクエストをログ記録しつつ、ルールベースで自動判定 ⚠️ 注意点 ・allowed_toolsに含まれないツールは「拒否」ではなく「未解決」として次の段階に進みます ・disallowed_toolsでツール名のみを指定すると、ツール定義がコンテキストから除去され、エージェントはそのツールの存在自体を認識しなくなります ・bypassPermissionsはサブエージェントにも継承されます。サブエージェントは異なるシステムプロンプトを持つ可能性があるため、注意が必要です ・複数のフックが同じイベントに登録されている場合、最も厳しい判定が採用されます ✨ 5段階の権限パイプラインを理解して、堅牢なセキュリティ設計を実現しましょう！ #ClaudeAgentSDK# #AIAgent#

曲名は伏せますが、リハだからこその激アツな流れがありました 99人に曲リクエスト ↓ 口々に曲名が飛び交う ↓ それをもとにメンバーそれぞれが『完全に今の気分』としてせーので曲名を言う 💜🩵は一致で決定、🤍と🩷がバラけたのでその2人の曲で改めて99人決選投票 ↓ 曲決定 本当に盛り上がった

#マイフィクション# ジャンボさんは『トータル・リコール』のマイケル・アイアンサイドさんのポジションかもしれないねぇ。そして、宮澤エマさんはシャロン・ストーンさんに近い立ち位置（完全一致ではない）。となると、玉森裕太さんはシュワちゃん......1話OPを考慮すると能動パターンもあるのか！

3期生LIVEで盛り上がっているところですが…！！ (´∀｀(⊃*⊂) マリンのラブリーおしりグッズ♡が！ もう明後日で受注締め切りですよ！！！ これはマリン本人とサイズ感が完全に一致してるため、マリンを抱ける抱き枕カバー。 早く抱いてください…💘 ↓抱く

# Weaviateの機能と実践的な使い方 🚀 データは入れて終わりではありません。差分更新・条件一括削除・存在チェックまで、Weaviateのオブジェクト操作APIは運用に必要なCRUDを一通り揃えています。マスタ同期の設計を一段引き上げましょう。 📌 タイトルと機能のURL タイトル: Manage objects URL: 📝 概要 Weaviateはコレクション内のオブジェクトに対し、作成・読み取り・更新（部分/全置換）・削除という基本的なCRUD操作を提供します。これらはPythonクライアントの 配下にまとまっており、部分更新と完全置換を使い分けられる点が運用上の要になります。 🔧 機能の説明 主なメソッドは次のとおりです。 ・insert: 単一オブジェクトを追加します。uuid、vector、references も指定できます。 ・insert_many: 複数オブジェクトをまとめて追加します。 ・update: 指定したプロパティだけを変更する部分更新です。他のプロパティは保持されます。 ・replace: オブジェクト全体を新しいデータで上書きします。 ・delete_by_id: UUID指定で1件削除します。 ・delete_many: フィルタ条件に一致する複数オブジェクトを一括削除します。 ・exists: オブジェクトの存在を確認します。 ベクトル化対象に設定したプロパティを更新すると、埋め込みは自動で再生成されます。これは更新時に透過的に行われます。 🛠 実践的な使い方 ・部分更新: properties={"title": "更新後"}) ・完全置換: properties={"title": "新", "body": "全体"}) ・条件一括削除: "brand").equal("OldBrand")) ・再現性のあるIDには weaviate.util の generate_uuid5() を使い、同じ入力から常に同じUUIDを得ます。これで再投入時の重複IDを防げます。 ・delete_many には事前確認用の dry_run（実削除せず対象を確認）と、詳細表示の verbose オプションがあります。 🎯 ユースケース ・商品マスタの差分同期で、価格や説明文だけを update の部分更新で反映する。 ・廃番ブランドの一掃を delete_many(where=...) で条件一括削除する。 ・generate_uuid5 で安定IDを採番し、日次同期で同一データの二重投入を防ぐ。 ・本番削除の前に dry_run で対象件数を確認してから実行する。 ⚠️ 注意点 ・ベクトル化対象プロパティの更新は自動で再ベクトル化され、埋め込みコストが発生します。「説明文の更新＝コスト発生」を同期設計に織り込んでください。 ・update は部分更新、replace は全置換です。replace で渡し漏れたプロパティは消えるため取り違えに注意してください。 ・delete_many には QUERY_MAXIMUM_RESULTS による削除上限があり、リソース枯渇を防ぐためのものです。大量削除は分割が必要です。 ・削除は基本的に取り消せません。dry_run での事前確認を習慣にしてください。 #Weaviate# #VectorDatabase#

# AIエージェント開発の意思決定ポイント 🎯 **ポイント** AIエージェントに「何でも覚えさせる」のは本当に良いことでしょうか？メモリ書込の積極度は、エージェントの賢さと安全性を左右する最も繊細なダイヤルの一つです。書き込みすぎればメモリ汚染、書き込まなさすぎれば学習しないエージェント。この絶妙なバランスをどう取るか、実務の視点で掘り下げます。 📋 **概要** メモリ書込の積極度とは、エージェントが対話やタスク遂行の過程で得た情報を長期メモリにどれだけ積極的に保存するかを制御するパラメータです。データベースへのINSERTと同じ重みで考えるべき、準不可逆的な操作です。LLMが生成した推測やユーザーの曖昧な発言を安易に書き込むと、以後のすべてのセッションで「過去に記録された事実」として参照され、誤りが自己強化するループ、すなわちメモリ汚染に陥ります。 🔍 **意思決定のポイント** この設定は主に2つの変数で決まります。 🔹 **入力の信頼度（input_trust）** — エンドユーザーの自由入力が主なソースなら、インジェクションや誤情報のリスクが高いため書込ゲートの閾値を上げます。管理者が入力を管理している環境なら、ある程度積極的に書き込めます。 🔹 **失敗コスト（failure_cost）** — 医療・法務・金融では、誤った事実の永続化が深刻な結果を招きます。社内チャットボットなら、多少の誤記憶は修正すれば済みます。失敗コストが高いほど書込を抑制するのが鉄則です。 🔹 **説明責任（accountability）** — 「なぜこの情報をメモリに保存したか」を後から説明できる必要がある場合、出典と確信度を記録する設計が必須になります。 💡 **要点と詳細** 書込の判定基準は3段階で考えるのが実践的です。 ✅ **自動書込可** — ユーザーが直接的かつ明示的に述べた事実（「私の名前は山田です」「Pythonを使っています」） ⚠️ **確認後に書込** — ユーザーの発言から推測される情報（「Python好みのようですね」→ユーザーに確認してから保存） 🚫 **書込禁止** — LLMが生成した推測、外部ソースからの未検証情報、一時的な文脈 メモリエントリには確信度（confidence）タグを付与し、検索時に確信度の低いエントリはランキングを下げるのが効果的です。これにより書込を完全に禁止しなくてもメモリ汚染の影響を限定できます。重複検出も書込パイプラインに必ず組み込みましょう。コサイン類似度0.90〜0.95で既存エントリとの重複をチェックし、同一エンティティの同一属性は最新値で上書きするのが原則です。 ⚖️ **トレードオフ** 📉 書込が消極的すぎると — エージェントが学習しません。ユーザーが繰り返し伝えた好みを記憶せず毎回デフォルトに戻り、「また同じことを聞かれた」という不満を生みます。パーソナライゼーションの欠如は、長期的な関係構築が必要なユースケースで致命的です。 📈 書込が積極的すぎると — ハルシネーションの永続化が最大のリスクです。「おそらくAさんは東京在住でしょう」という推測が「Aさんは東京在住」として保存され、以後のセッションで確定事実として扱われます。さらに深刻なのがプロンプトインジェクションの持続化で、通常は1セッション限りの攻撃がメモリに永続化されると「持続型インジェクション」になります。 🛠️ **ユースケース** 🏥 **医療・法務・金融** — 失敗コストが極めて高い領域。書込は最小限に抑え、明示的に確認された事実のみを記録。出典と確信度の追跡は必須。 💬 **カスタマーサポート** — ユーザーの好みや過去の問い合わせ履歴を蓄積する必要があるが、自由入力のリスクも高い。反復確認された情報（2回以上の一致）のみ自動永続化し、暗黙的な好みは隔離期間を設けてから昇格させる設計が有効。 🏢 **社内ナレッジボット** — 組織の暗黙知（「このAPIはこのパラメータを渡すと壊れる」）を蓄積したい。管理者入力が主なら比較的積極的に書き込めるが、定期的な「メモリの棚卸し」でユーザーに保存情報を提示して確認を得る運用を組み込むと品質が保たれます。 書込ログの監査可能性も忘れずに。いつ・何が・どのソースから書き込まれたかを追跡できれば、メモリ汚染が発覚した場合に原因特定と修正が可能になります。 #AIエージェント# #ソフトウェアアーキテクチャ#

╋━━━━━ ​ 　アフレコ台本と一緒に 　本編チラ見せ📖第二弾 ​ 　　　　　　　━━━━━╋ ​ 大友ボタン（CV.#戸松遥）# 「大奥を、食うのであれば─── まずは総取締役、この、大友ボタンを… 食らいなさい───！」 ※本編の音声とアフレコ台本は完全に一致しない場合がございます。

# AIエージェント開発の意思決定ポイント ## キャッシュ類似度閾値 — セマンティックキャッシュの「ヒット判定」をどこに置くか 🎯 ポイント LLMエージェントのセマンティックキャッシュ、「閾値0.95にしておけばいいでしょ」と思っていませんか？ その閾値ひとつで、コスト半減にも、誤回答の量産にもなり得ます。領域ごとに閾値を変えないキャッシュは、時限爆弾です。 📋 概要 セマンティックキャッシュの類似度閾値は、「過去のクエリと新しいクエリがどれだけ似ていればキャッシュヒットとみなすか」を決めるパラメータです。埋め込みベクトルのコサイン類似度で測定し、閾値以上なら過去の応答を再利用します。LLM呼び出しは1回あたりのコストが高いため、同じ意図のクエリを毎回処理するのは無駄です。しかし完全一致では表記揺れに対応できず、ヒット率が極端に低くなります。セマンティックキャッシュはこの問題を解決しますが、閾値の設定を誤ると「異なる意図のクエリに古い応答を返す」という誤回答の再利用が発生します。 🔍 意思決定のポイント この閾値は主に2つの力のバランスで決まります。 ⚡ **失敗コスト（failure_cost）** — 誤った応答の再利用がどれだけ深刻か。医療・法務・金融のように誤回答が致命的な領域では、閾値を0.97以上に引き上げるか、そもそもキャッシュ禁止区域（No-Cache Zone）に設定します。 💰 **コスト感度（cost_sensitivity）** — LLM呼び出しコストの削減圧力がどれだけ強いか。コスト削減の圧力が強い場合でも、安全な領域の閾値だけを緩め、リスクの高い領域は厳格に保つ非対称戦略を取ります。 さらに、入力の信頼度が低い環境ではキャッシュポイズニングのリスクもあります。悪意あるクエリに対する応答がキャッシュされ、類似の正当なクエリに返されるという攻撃です。 💡 要点と詳細 閾値の設定は「全クエリに単一の値」ではなく、領域ごとに変えるのが鉄則です。 📊 目安値（コサイン類似度、出発点）: - 🟢 低リスクFAQ: 0.92〜0.94 — ヒット率重視、誤ヒットの影響が小さい - 🟡 中リスク業務（社内ヘルプデスク等）: 0.94〜0.96 — 精度と効率のバランス - 🔴 高リスク領域（医療・法務・金融）: 0.97以上、またはNo-Cache — 誤回答コストが極めて高い - ⛔ リアルタイムデータ依存（在庫・価格）: No-Cache推奨 — TTLを短くしてもタイミング問題が残る - 🔒 個人情報依存: No-Cache推奨 — 埋め込みベースのマッチングではユーザー分離が不完全 重要なのは、埋め込みモデルの選択が閾値の意味を変えるということです。同じコサイン類似度0.95でも、モデルによって意味的な粒度が異なります。モデルを変更したら閾値の再評価は必須です。 ⚖️ トレードオフ **閾値が高すぎる（ほぼヒットしない）場合:** - キャッシュ基盤のコストだけが追加され、LLMコストは削減されない - キャッシュ検索のオーバーヘッドで、キャッシュなしより遅くなる - ベクトルDBの運用コストに見合う効果が得られない **閾値が低すぎる（何にでもヒットする）場合:** - 「Pythonのリスト操作」と「Pythonの辞書操作」のように意図が異なるクエリに誤ヒット - ユーザーAの応答がユーザーBに返される可能性 - 陳腐化した情報（在庫・価格）が長期間再利用される - 時々正確で時々的外れな応答が返り、エージェント全体の信頼が損なわれる 🛠️ ユースケース 💬 **カスタマーサポートFAQ** — 「返品ポリシーは？」「返品の手順を教えて」のような表記揺れが多い質問群。閾値0.93前後で高いヒット率を実現しつつ、注文固有の質問はNo-Cache Zoneに分離します。 🏥 **医療情報アシスタント** — 症状や薬の情報を扱うため、誤回答のコストが極めて高い。閾値0.97以上に設定するか、キャッシュヒット後に軽量モデルで「この応答は現在のクエリに適切か」を再検証するハイブリッドアプローチを採用します。 📦 **ECサイトの在庫・価格問い合わせ** — リアルタイムデータに依存するため、No-Cache推奨。商品説明のような静的情報のみキャッシュ対象にし、価格・在庫は常に最新データを返します。 🔑 実践のコツ: ヒット率だけでなく誤ヒット率も継続的に計測してください。誤ヒットは「ユーザーが指摘しない限り気づかない」沈黙の品質劣化です。定期的にサンプル監査を行い、キャッシュヒットした応答の妥当性を検証する仕組みを入れましょう。 #AIエージェント# #ソフトウェアアーキテクチャ#

深層学習の歴史を振り返ると、AlexNetが「手作業で工程を分けるより、入力から出力まで丸ごと1つのモデルで学習させる(end-to-end)方が強い」ことを示したのが革命の始まりだった。ところが生成AIだけはこの流れに乗り切れていない、という指摘から始まる論文が公開された(https://arxiv[.]org/html/2607.27372v1)。 拡散モデルや自己回帰モデル(要素を1つずつ順番に予測して生成するモデル)など、今の生成AIはどれも「生成の手順を細かいステップに分解する」ことで動いている。拡散モデルなら、ノイズだらけの画像を少しずつクリアにしていく数百ステップだ。これは「1つの入力に無数の正解がありうる」多峰性(複数の正解パターンがある)分布を、各ステップではほぼ一意な予測に絞り込むための工夫だが、この分解のせいで学習時(1ステップだけ予測)と推論時(数百ステップ繰り返す)でやっていることが食い違い、end-to-end(学習と推論の手順を完全一致させる訓練方式)にはなっていなかった。 この論文の「Explorative Modeling(探索的モデリング)」は逆転の発想で、生成の手順は分解せず学習ループ自体を分解する。各学習ステップでモデルに複数の候補を生成させ、正解データに一番近いものだけを使って学習する(best-of-k方式)。候補が1個だとモデルの最善手はすべての正解の平均になりぼやけた画像しか出せないが、候補をk個に増やすとそれぞれが別々の正解パターンを担当できるようになる。論文中の犬画像の比較が分かりやすく、候補1個ではほぼ完全にぼやけた模様、候補50個まで増やすと元画像とほぼ見分けがつかない鮮明さになっている。 この「探索の量」はパラメータ数・データ量に続く第三のスケーリング軸として機能し、画像・動画・言語のすべてで性能が単調に向上する。しかも効果はスケールが大きくなるほど強く、データ量を増やした場合の改善幅は7%から36%へ、モデルサイズを増やした場合は13%から23%へ拡大した。効率面ではFLOP(計算量)効率が4.1倍、サンプル効率が6.2倍、パラメータ効率が47%改善し、最強の画像生成レシピではImageNet 256×256でガイダンスなし1.43 FID(生成画像の品質指標、小さいほど良い)というほぼ最先端の性能に到達している。動画生成では過学習も抑えられ、FVD(動画品質指標、小さいほど良い)の最良値が探索なしの37.5から探索ありで30.0まで改善した。 さらにロボット制御タスクでは単体のend-to-end生成モデルとしても機能し、拡散モデルベースの手法と同等の性能を推論ステップ数16分の1から256分の1で達成した。数百回繰り返していた予測が、たった1回の計算で済むことになる。