登録して招待リンクを共有すると、動画再生報酬と紹介報酬を獲得できます。

検索結果 説明責任
説明責任 コミュニティ
1つのキーワードが1つのコミュニティです。
コミュニティ作成
アカウント
見つかりません
説明責任 を含む検索結果
# AIエージェント開発の意思決定ポイント # トレース・サンプリング率|Trace Sampling Rate 🎯 ポイント エージェントのトレース、全量記録していますか?それとも全く記録していませんか? 「全量か無か」ではなく「何を全量にするか」が正しい問いです。AIエージェントの1リクエストは数千〜数万トークンのトレースデータを生成します。全量記録すると観測コストが爆発し、記録しなければ障害時に原因究明が不可能。条件付きサンプリングがこのジレンマを解決します。 📋 概要 トレース・サンプリング率は、エージェントの実行トレース(各LLM呼び出し、ツール実行、意思決定のステップごとの記録)をどの割合で収集・保存するかを制御するパラメータです。100%ならすべてのリクエストのトレースを記録し、1%なら100リクエストに1件だけ記録します。 AIエージェントのトレースは従来のWebサービスのログとは質的に異なります。プロンプト全文、出力全文、ツール引数・戻り値、中間的な推論ステップなどを含めると、1リクエストで数十KB〜数百KBのデータが生成されます。さらにLLMの出力は確率的なため、「同じ入力を再投入すれば再現できる」という前提が成り立ちません。 🔍 意思決定のポイント サンプリング率はaccountability(説明責任)とcost_sensitivity(コスト感度)のバランスで決まりますが、最も重要なのは条件付きサンプリングの設計です 🎯 一律の確率ではなく、リクエストの属性に応じて率を変えます。 判定基準の優先順位: 1. エラー/例外が発生したリクエスト → 100%記録(必須) 2. HITL(人間介在)が発生したリクエスト → 100%記録 3. 高リスク操作(副作用あり、不可逆)を含むリクエスト → 100%記録 4. レイテンシがP95を超えたリクエスト → 100%記録 5. コストが閾値を超えたリクエスト → 100%記録 6. 成功したリクエスト → 標本率で記録(1〜10%) 💡 要点と詳細 目安値 📊 - エラー/例外発生 → 100%。再現性のない障害のデバッグに不可欠 - HITL発生(人間承認/エスカレーション) → 100%。承認判断の妥当性を事後検証 - 高リスク操作(送金、データ削除等) → 100%。不可逆操作の監査に必須 - レイテンシP95超過 → 100%。性能劣化の根本原因分析に必要 - 成功かつ低リスク → 1〜10%。品質の統計的モニタリングに十分 - 開発・ステージング環境 → 100%。コストが問題にならない範囲で全量記録 トレースの粒度をサンプリング率とは別に制御するのも重要です 📦 全量記録するリクエストでも、プロンプト全文はコールド層に、メタデータ(モデル名、トークン数、レイテンシ、ステータス)はホット層に分離します。 ⚖️ トレードオフ サンプリング率が低すぎると、障害の再現が不可能になります 🔍 LLMの出力は確率的なため、同じプロンプトを再投入しても同じエラーが再現するとは限りません。品質劣化の見逃し、監査要件の不達成、コスト異常の遅延検知も深刻なリスクです。 サンプリング率が高すぎると、観測コストが本番のLLM呼び出しコストに匹敵するか上回ることがあります 💸 パフォーマンスへの影響、PII(個人情報)の拡散リスク、大量データ中の信号がノイズに埋もれる問題も発生します。 サンプリング率は運用開始後に段階的に下げてください。最初は高い率(50〜100%)で始め、安定性を確認してから成功リクエストの率を徐々に下げます。 🛠️ ユースケース サンプリング判定はリクエストの終了時に行うことも検討してください 🔄 head-based sampling(開始時に決定)は実装が簡単ですが、エラーが発生するかどうかは事前に分かりません。tail-based sampling(完了後に決定)なら結果に基づいて判定できます。ただし中間データを一時的にバッファする必要があります。 correlation ID(trace ID)の伝播を確実にしてください 🔗 マルチステップのエージェント実行では、最初のリクエストから最後のツール呼び出しまで一貫したtrace IDが紐づいていないと、部分的なトレースしか得られません。非同期処理やキューを介する場合にIDが途切れやすいので要注意です。 ホット/コールド分離と組み合わせるのが効率的です。サンプリングされたトレースはコールド層に全文を、それ以外はホット層にメタデータのみを記録する構成が実用的です。 #AIエージェント# #ソフトウェアアーキテクチャ#
もっと見る
重點解讀台積電的玻璃核心載板投影片 台積電在 6 月 11 日的日本 JPCA Show 2026,進行主題為「AIの進化に不可欠な先端パッケージング技術」的簡報,該份簡報約40頁,當中某張標題為「Glass Substrate Development for CoWoS」的投影片流出,引發廣泛關注。 以下是對該投影片(見附圖)的重點解讀,能網路科普查到的技術細節就不多說了,要注意的是投影片上的 COP 不是 Chip-on-Package 的縮寫,而是 Coplanarity、也就是平整度 / 共面度。 ▌重點結論: 1. 台積電正式宣布與 Ibiden 以及群創合作,開發玻璃核心載板(glass core substrate),結構為玻璃上下各黏合 ABF 的三層結構設計,該技術就是用於 CoPoS 的 oS。 2. 市場低估玻璃核心載板的重要性,該技術對台積電是「must have」,意即 CoPoS 中,oS 的重要性高於 CoP,這也是該技術進行測試時,先搭配既有的 CoW 而非 CoP 的原因。 3. 玻璃核心載板單價較既有 ABF 載板高出數倍,群創加工的玻璃單價非常高,為最核心的材料。除 Nvidia 外,目前已有兩家美系客戶同樣表達高度興趣。 ▌與本投影片相關的產業調查: 1. 本投影片提及的玻璃核心載板由 250x250mm 切割而來,ABF 增層主要採用 Ajinomoto 的 GL107 並混搭 ABF-GCP,以 2027–2028 主流 AI 晶片 ABF 規格的 24-28 層進行測試 2. 台積電實驗時的 CoW 是測試載具(test vehicle),足以驗證採用複合材料時最具挑戰性的機械結構問題。測試結果良好意味著台積電、Ibiden 與群創已合作突破關鍵技術瓶頸。 3. 目前是由 Ibiden 負責切割 250x250mm 的玻璃核心載板。待 2H27 採用 510x515mm 做量產前模擬時,若 Ibiden 仍想降低生產複雜性以維持超高毛利率,可能會改交由更熟悉玻璃特性的群創切割。 ▌流出的投影片內容是將 CoPoS 中的 oS、也就是玻璃核心載板(投影片中的 glass-SBT)與 CoW 搭配的技術驗證結果,這是為解決該投影片前一頁所提到的「Substrate mechanical and electrical Dilemma」,而這顯著凸顯了 CoPoS 中 oS 的重要性。 1. CoPoS 中,CoP 要解決的是生產效率 / 切割經濟性的問題,這與成本與售價有關;而 oS 要解決的是翹曲與耐用性問題,這牽涉到能否做出晶片,以及晶片能否運作。 2. CoP 與 oS 兩者整合相得益彰,但展望未來數年,兩者的技術定位還是有些差異。CoP 是可選的絕佳優化選項(very-nice-to-have),沒有它的代價就是晶片更貴;但 oS 是必需品(must-have), 沒有它可能連能否做出可用晶片都是問題。 3. 比較定位差異不是為了捧 oS 貶 CoP,這牽涉到客戶願意為哪個技術環節付錢的現實問題,細節下面分析。 ▌投影片中含金量最高的是電源完整性(power integrity;PI)改善,這對客戶意義重大,這也代表玻璃核心載板生產穩定後,台積電獲利能力與競爭優勢可望同步提升。 1. 技術說明:玻璃核心載板薄 → TGV(through glass via)垂直導通路徑短 → 導通路徑電阻(R)跟迴路電感(L)同降 → PI 改善 2. 對客戶意義重大原因:PI 改善 → 供電更穩 → 釋出功率餘裕(power headroom)→ 可整合更多電晶體、或拉高運作時脈 → AI 晶片算力提升 3. 對客戶而言,生產效率是台積電的基本責任,客戶不會為此多付錢;但 AI 算力提升能直接轉化為客戶的競爭力與獲利,故客戶願意為此買單。這也是 Nvidia 積極看待玻璃核心載板的原因。 4. 對台積電而言,玻璃核心載板可提升良率並降低成本,同時提高 AI 晶片的算力與售價,既是降本工具,也是漲價籌碼,對獲利與競爭力都是加分。 5. 目前載板成本佔 AI 晶片 BOM 約低個位數,封裝良率造成的損失約載板成本的 5-10 倍,故即便未來玻璃核心載板成本高於目前的數倍以上,但佔 BOM 比重仍低,且可改善封裝良率造成的損失,故預期玻璃核心載板的高單價不會影響客戶採用意願。 ▌簡報後的問答環節,有聽眾提問關於玻璃核心載板的 TGV 細節,台積電當場拒絕回答,因為玻璃核心載板的關鍵技術就是 TGV,核心 know-how 目前掌握在台積電與群創手中。相較下,另一個提問者的問題是關於 IVR、eDTC、與 LSI 的整合,台積電就回答了不少。 ▌根據產業調查,若一切順利,台積電的目標是在 4Q28-1Q29 開始量產玻璃核心載板,以符合 Nvidia AI 晶片迭代節奏。順帶一提,許多人在傳的 Ibiden 的法說投影片,上面將玻璃核心載板時程列為 CY30,我對此的解讀是:對外向來保守謹慎的 Ibiden 將玻璃核心載板正式列為發展路線,這更確定了該技術長期趨勢。但從 Ibiden 投影片的其他細節與市場資訊不完全一致來看,例如 reticle 時程與台積電公開宣稱的差約一個世代、Rubin Ultra 載板尺寸明顯大於其在 CY26-27 標示的 90x90 等,這說明了在預測未來時,需隨時多方交叉驗證。
もっと見る
説明可能AI(XAI)の現状と展望|A Robot’s Sigh
【説明会情報】8月25日(火)から8月27日(木)の3日間、入管庁サマープログラム2026を実施します!入管の業務を肌で感じてみませんか?詳細はこちら→
もっと見る
\🍑合同説明会情報🍑/ 自衛官&警察官 採用試験合同説明会を開催! 7/20(月・祝)13:30~16:00 ピュアリティまきび 千鳥の間 ※事前申込み不要 ※服装自由 自衛官と警察官の仕事について、 現役の隊員・職員が説明します📢 どなたでも気軽にお越しください☺
もっと見る
\🍈合同説明会情報🍈/ 自衛官・市役所職員・消防官 合同説明会を開催! 7/5(日)13:30~16:00 高梁市役所3階大会議室 ※申込み不要 ※服装自由 公務員を目指すあなたへ☝ 自衛官の仕事の魅力を隊員がお伝えします☺ 未来の選択肢を広げよう!
もっと見る
川普說明拒絕與梅洛尼合影原因(圖)
【公安系公務員合同説明会@イオンモールつくば】 7月28日(火)イオンモールつくばで開催される公安系公務員合同説明会に入管庁も参加します。 公安職公務員って何?仕事内容は?試験は? 予約不要・服装自由・入退場自由です。多くの方の来場をお待ちしています! #入国警備官##公務員##公安職##採用##就職#
もっと見る
\📄自衛隊出張説明会✍/ 6/23(火)13:00~15:00 場所➡ハローワーク津山 事前予約なしでの参加もオッケー🙆 自衛隊では、 95もの職種・職域の中から あなたに合う仕事を提案します! 職業選択の1つとして考えてみませんか?☺
もっと見る
🎄12/14信仰入院説明会🎄 先着申込開始!  ̄ ̄ ̄ ̄ ̄ ̄ ̄ ❶チェキ会 12月のfantia有料会員で入場券入手🎟️ ❷セッション撮影会 1枠のみ開催の貴重な撮影会! ❸オフ会 ご飯会食べたり遊んだりの3時間🍗
もっと見る