登録して招待リンクを共有すると、動画再生報酬と紹介報酬を獲得できます。

検索結果 ファインチューニング
ファインチューニング コミュニティ
1つのキーワードが1つのコミュニティです。
コミュニティ作成
アカウント
見つかりません
ファインチューニング を含む検索結果
久しぶりのエロカス向けポストなんですけど NSFWフルファインチューニングされたMinimax H3の派生モデルSulphur-3がβテスト終わって一般公開されてましたわ 軽微なLoraとかをマージしたモデルとかはたくさんあるけど、これぐらいの規模のモデル全体をフルファインチューニングしてオープンで出すのははかなり気合入ったプロジェクトなんすよね。 Minimax H3ってデフォルトだと、そもそも Excaliburとかが学習対象外になってていろいろ工夫する必要があったんですけどその辺りが解決できてるっぽいですね。 w4a8版も出てるから11.43GBで16GB VRAMあればComfy-UIならなんとか動かせるかな?
もっと見る
特定のタスクでは、強化学習でファインチューニングしたSLMが、最新のLLMを上回っているよという内容。メモメモ。 ・Ramp社のデータによると、AI投資の上位企業は3年間で収益が2倍以上に成長 ・一方、AI支出がゼロの企業はわずか15%の成長にとどまっている ・成功している企業の共通点は、AIの知能を自社で所有していること ・その成功の定石となっているのが、オープンモデルと強化学習の組み合わせ ・最新モデルで作ったデータを用い、自社の業務プロセスを模した環境で学習させる ・BridgewaterやHarveyなども、この手法で最新モデルを上回る成果を出した ・筆者らはeコマースのカタログ審査タスクを用いて、この手法を実際に検証した ・約500ドルと数日のGPU稼働で、9BのオープンモデルをGRPOで強化学習 ・結果として、9Bのモデル(Qwen3.5)がGPT-5.5などの最新モデルのスコアを上回った ・品質だけでなく、推論コストの面でも圧倒的な差が生まれている ・最新モデルのAPIは1,000件の処理に34ドルのコストがかかる ・しかし、自社モデルなら同じ処理がわずか0.50ドルで済む ・大手eコマースの処理量で換算すると、年間5億ドルのコストが700万ドルになる計算 ・汎用モデルは毎回ゼロから背景を推論するため、プロンプトの指示には限界がある ・自社モデルなら、タスク固有の知識を重みとしてモデル内部に保持できる ・正誤の検証が可能で、かつ高頻度で実行されるタスクはファインチューニングが最適 ・ただ、まれにしか発生しないタスクは最新モデルのAPIを借りる方が適している
もっと見る
ジンベイ、数千件のデータで「自社専用の生成AI」をつくるファインチューニング・推論環境構築支援を開始
# AIエージェントをエンタープライズシステムに組み込む意思決定ポイント # 汎用大モデル vs 小型FT|推論エンジンの選択 🎯 ポイント エージェントの推論エンジン、GPT-4クラスの汎用大モデルをプロンプトで制御するか、タスク特化の小型ファインチューニング(FT)モデルを使うか。「大きいほど賢い」は正しいですが「大きいほど正解」ではありません。タスクの多様性・呼び出し頻度・コスト制約・変化の速度によって最適解が変わります。多くのエンタープライズでは、まず汎用大モデルで始めてログから教師データを蓄積し、高頻度タスクから順にFTに置き換える段階的移行が現実的な最適解です🔑 📋 概要 汎用大モデル+プロンプトは、タスクが多様で事前に列挙しきれない場合、ビジネス要件の変化が速い場合、新しいツールやAPIの追加にプロンプトの変更だけで対応したい場合に強みを発揮します。小型FTモデルは、タスクが狭く定義され入出力パターンが安定している場合、呼び出し頻度が高くコスト削減が重要な場合、レイテンシ要件が厳しい場合に適しています。両者は排他ではなく、ルーター+専門モデルというハイブリッド構成で組み合わせるのがエンタープライズの標準的なアプローチです📊 🔍 意思決定のポイント 判断フローは以下の通りです。 タスクの種類が10以上あり頻繁に新しいタスクが追加されるなら、汎用大モデルを選びましょう。プロンプト変更だけで新タスクに対応できる柔軟性が決定的な優位性です。 月間リクエスト数が数十万件以上なら、小型FTのコストメリットを試算してください。API呼び出しコストだけでなく、学習コスト・GPU運用コスト・教師データ管理コストも含めた総所有コストで比較することが重要です。 レイテンシ要件がP95で500ms以内なら、小型FTを優先的に検討しましょう。大規模モデルの推論時間では達成困難なケースがあります。 教師データを数千件以上用意・継続的に更新できないなら、汎用大モデルに留めましょう。不十分な教師データでFTしても、汎用大モデルの精度を下回ります。 ビジネス要件の変更頻度が月次以上なら、再学習コストを考慮して汎用大モデルを維持する方が有利な場合が多いです⚡ 💡 要点と詳細 ハイブリッド構成の3パターンを理解してください: ルーター+専門モデル — 汎用大モデルでリクエストの意図を分類し、定型タスクは小型FTモデルにルーティングします。意図分類のコストは小さく、専門タスクの推論コストを大幅に削減できます。Slack Botが全社横断の質問を受け付け、チケット分類は小型FT、複雑な調査は汎用大モデルという振り分けです。 FTで下書き、大モデルで仕上げ — 小型FTモデルで高速に下書きを生成し、品質が重要なケースだけ汎用大モデルで検証・修正します。コストと品質のバランスを取る実用的なパターンです。 段階的移行 — 初期はすべて汎用大モデルで運用し、呼び出しログから教師データを蓄積して、高頻度タスクから順に小型FTに置き換えます。これが最もリスクが低く、多くのエンタープライズが採用するアプローチです🔄 ⚖️ トレードオフ 早すぎるFT投資は最もよくある失敗です。十分なログが溜まる前にFTモデルを構築し、精度が汎用大モデルを下回ります。最低でも3か月分のログを蓄積してからFTを検討してください。PoC段階でFTに手を出すのは時期尚早です😰 FTモデルの陳腐化も深刻です。ビジネスルールや製品ラインナップが変わったのに教師データが更新されず、古い知識で回答し続けます。再学習パイプラインの自動化は、FTモデルの運用における必須投資です。 コスト比較の誤りも多発します。API呼び出しコストだけで比較し、FTモデルの学習コスト・推論インフラ(GPU)運用コスト・教師データ管理コストを見落とします。TCO(総所有コスト)で比較しないと判断を誤ります。 品質評価の欠如も見逃せません。FTモデルの精度を定期的に評価せず、モデルドリフトに気づきません。汎用大モデルとのA/Bテストを継続的に行う仕組みが品質保証の基盤です⚠️ 🛠️ ユースケース 全社ヘルプデスクエージェント(Slack Bot):IT・総務・人事・経理の幅広い問い合わせに対応。汎用大モデルで意図を分類し、チケットカテゴリ・優先度の自動振り分け(月間数万件)は小型FTにルーティング。複雑な調査や新しい種類の質問は汎用大モデルで処理します📚 チケット分類エージェント(Zendesk連携):毎日数万件のサポートチケットのカテゴリ・優先度・担当チームを自動分類。呼び出し頻度が高く入出力パターンが安定しているため、小型FTが最適。教師データは月次で更新し、汎用大モデルとのA/Bテストで精度を監視します🏢 商品レビュー分析エージェント(Shopify連携):商品レビューの感情分析とタグ付けを小型FTでバッチ処理。レビューから得られた顧客インサイトの要約は汎用大モデルで生成。定型的な分類はFT、創造的な分析は汎用大モデルという明確な役割分担です🔧 実践のコツ:「まず汎用大モデルで始めて、ログを溜める」が鉄則です。3か月分以上のログから高頻度タスクを特定し、教師データを構築し、FTの効果を汎用大モデルとのA/Bテストで検証してから置き換えてください。FTへの移行はデータドリブンで判断しましょう💪 #AIエージェント# #エンタープライズアーキテクチャ#
もっと見る
昨日の失敗を、AIエージェントは今日も繰り返します。 重みは固定で、コンテキストにも限りがあるからです。ファインチューニングは破滅的忘却を招き、多くのメモリは「過去を検索できる」だけの置き場にとどまっています。 そこで本論文は問いを変えます。メモリは何を思い出せるかではなく、次の行動を良くしたかで測るべきだ、と。基盤モデルを更新せず、メモリだけで継続学習を実現する枠組みMCCLを提案しています。 「どこに」「どんな形で」「どう管理するか」の3軸で整理し、経験を書き込む内側のループと、管理ポリシー自体を改善する外側のループで捉えます。評価も、保存・検索・利用・効果の4段階に分けて、失敗の原因を特定します。 実験結果は示さない研究アジェンダですが、エージェントのメモリ設計を見直す視点として重要だと感じます。 論文: Memory-Centric Continual Learning for AI Agents #AIエージェント# #継続学習#
もっと見る
# AIエージェント開発の意思決定ポイント 🎯 ポイント LLMにドメイン知識を与えたい。RAG?ファインチューニング?ロングコンテキスト? 「とりあえずRAGで」と思考停止していませんか?この三択、実は知識の性質によって最適解がまったく異なります。選び間違えると、古い情報で回答し続けたり、出典を示せなかったり、トークンコストが爆発したり。正しく選ぶための判断軸を整理しましょう。 📋 概要 AIエージェントにドメイン固有の知識を持たせる方法は大きく3つあります。RAG(検索拡張生成)はベクトルDBなどから関連情報を検索してプロンプトに注入する方式。ファインチューニング(FT)はモデルの重みを追加学習で調整して知識を焼き込む方式。ロングコンテキストは大きなコンテキスト窓にドキュメントをそのまま投入する方式です。それぞれ知識の格納場所・更新サイクル・コスト構造が根本的に異なるため、ユースケースに応じて主軸を1つ選ぶ必要があります。 🔍 意思決定のポイント 判断の核心は「知識がどのくらいの頻度で変わるか」と「出典の明示が必要か」です。 📌 知識の鮮度が命なら → RAG一択。FAQや価格、在庫情報など頻繁に変わるデータは、インデックスを更新するだけで即座に反映されます。FTでは再学習に日〜週単位かかり、現実的ではありません。 📌 出典を示す必要があるなら → これもRAG。「この回答の根拠はどのドキュメントの何ページか」を提示できるのはRAGだけです。FTで焼き込んだ知識は「モデルがそう知っている」状態であり、事後に追跡不可能。説明責任が求められる環境では致命的です。 📌 出力の様式・口調を統一したいなら → FT。「常に法務文書の形式で出力する」のようなスタイルの一貫性は、RAGで例を注入しても安定しません。FTでモデルレベルに染み込ませることで、推論時の例示注入が不要になり、コンテキスト窓の節約にもなります。 📌 少数の文書を丸ごと理解させたいなら → ロングコンテキスト。契約書全体の解釈のように文書構造が重要な場合、チャンク分割で文脈が断絶するRAGよりも、全文をそのまま投入する方が精度が高くなります。 💡 要点と詳細 🔹 RAGの本質的な強みは「知識とモデルの分離」です。知識はインデックスに、推論能力はモデルに。この分離により、知識の更新がモデルの再学習を必要としません。ただし検索品質に依存するため、チャンク分割・埋め込みモデル・リランキング戦略のチューニングが品質を左右します。 🔹 FTの本質的な強みは「行動様式の安定的な変容」です。繰り返し同じ形式で出力する場面では、推論コストがRAGより低くなりえます。ただし知識の更新にはデータセット準備→学習→検証のサイクルが必要で、機動力に欠けます。 🔹 ロングコンテキストの本質的な強みは「実装の単純さ」です。ベクトルDB、検索パイプライン、チャンク分割、FTのインフラがすべて不要。ただしトークン課金がそのままコストに直結し、"Lost in the Middle"問題(窓の中盤の情報に注意が薄れる)もあるため、大量の文書には向きません。 ⚖️ トレードオフ RAGは鮮度と出典追跡に優れるが、検索パイプラインの構築・運用が必要。FTは様式の一貫性に優れるが、知識の更新が遅く出典が不透明。ロングコンテキストは実装が最も簡単だが、コストとスケーラビリティに制約あり。 🏆 実務での定石は「様式はFT、事実はRAG」のハイブリッド。FTで出力形式・口調・専門用語をモデルに染み込ませ、RAGで最新の事実情報を注入する。ロングコンテキストは、RAGのチャンク分割では失われる文脈が重要な場面で補完的に使います。 🛠️ ユースケース 🏢 社内ナレッジベースQ&A → RAG。ドキュメントは日々更新され、回答には出典の提示が求められる。 ⚖️ 法務文書レビュー → FT+RAG。法務特有の口調と形式はFTで統一し、最新の判例や規制はRAGで注入。 📄 契約書の全体解釈 → ロングコンテキスト。契約書1通を丸ごと投入し、条項間の関係を把握させる。 🏥 医療情報提供 → RAG必須。出典の明示が絶対要件であり、情報の鮮度も重要。FTで焼き込んだ医療知識はハルシネーションと区別できず危険。 迷ったらRAGから始めてください。ほとんどの業務システムでは知識は更新されるものであり、出典を示す能力は信頼性の基盤です。 #AIエージェント# #ソフトウェアアーキテクチャ#
もっと見る
【動画公開】 公式YouTubeチャンネル「さくらのデジタルインフラ学校」にてショート動画を公開しました🌸 LLM?RAG?ファインチューニング?💻 AIを基礎から実践までしっかり学びたいと思ったときは… チャンネル登録・動画への高評価、お待ちしております♪
もっと見る
毎日数十億トークンのトレースを、フロンティアLLMで評価するのはコスト的に無理がありました💸 小型オープンモデルのファインチューニングで、同等精度を10〜100倍安く実現した事例です。 タイトル: Building a 100x Cheaper Trace Judge with Fireworks URL: 💸 概要 LangChain LabsがFireworksと連携し、エージェントのトレースに対する「Perceived Error(知覚されたエラー)」検出器を構築した事例です。ユーザーが「間違い」や「修正が必要」と感じたケースを、小型のオープンモデルで検出します。 ❓ 解決する課題 LangSmithは本番トレースを通じて日次で数十億トークンを処理しています。 ・これらをフロンティアの大規模LLMで評価すると、規模が大きすぎてコストが非現実的になります ・「フロンティア級の性能を保ちつつ、全トレースから重要なシグナルをコスト効率よく抽出できるか」が問いでした 💡 方法論と提案手法 ・オープンソースのQwen-3.5-35Bを、Fireworks基盤上でLoRAによる教師ありファインチューニング(SFT) ・訓練データは2つの本番データセット:chat-langchain(技術Q&A・707例)とFleet(ノーコードエージェント・727例) ・「Perceived Error」を学習し、巨大なフロンティアモデルに頼らず評価をこなします 📊 実験結果 ・精度:ファインチューニングしたQwenがフロンティアモデルと同等以上(chat-langchainで96.1%、ドメイン横断のFleetで90.8%) ・コスト:トレース量に応じてフロンティアより10〜100倍安い ・転移性:chat-langchainで訓練したモデルが、再訓練なしでFleetでも全フロンティアモデルを上回る #LLM評価# #ファインチューニング#
もっと見る
画像編集を何度も繰り返すと、絵が少しずつ崩れていく。その「ドリフト」を、ノイズ除去の最終盤だけを調整して抑える手法が出ました🖼️ TailSteer: Trajectory-Tail Steering for Drift-Resistant Multi-turn Image Editing 🧩 概要 編集モデルのファインチューニング手法です。ノイズ除去の初期はベースモデルのままにし、軌跡の終盤(テイル)だけを「変更しない箇所はソースを保つ」終点へ誘導します。推論時の切り替えや追加モジュールは不要です。 ⚠️ 解決する課題 マルチターン編集では、出力が次の入力になるため、小さな意図しない変化が蓄積します。テクスチャのかすれ、顔や背景の変化、アーティファクトが典型です。 🛠️ 手法 ・低周波の構造は早期、細部は終盤で決まるという分析が出発点 ・保存マスクで、変更しない領域はソース、それ以外はベースの編集とする終点を作成 ・正解の編集ペアは不要で、ベースモデル自身のロールアウトで学習 ・速度を滑らかにブレンドし、オンポリシーで学習 📊 実験結果 ・FLUX.2 Klein: 10回編集後のPSNRが13.85から19.96、LPIPSが0.524から0.290 ・FLUX、SenseNova、Qwenの4モデルで累積ドリフトが低下 ・一方、マルチターンの指示追従は一貫せず、Kleinでは低下 #画像編集# #拡散モデル#
もっと見る
#搭載メモリ量に対する反応# GPU編 1MB...PS1 4MB...PS2 32MB...GeForce2 GTS 64MB…GeForce3 Ti 200 128MB…ATI Radeon 8500 256MB…PS3 512MB…Xbox360(ユニファイドメモリ) 1GB…NVIDIA GeForce 8800 GT 2GB…WiiU 4GB…M5Stack LLM Module 8GB…ギリギリAIが動くが全然足りない 16GB...量子化されたAIが動くがまだ足りない 24GB...量子化モデルは大体使える 32GB...とりあえず大体のモデルは使える 48GB...まあまあ使える。できればデュアルで運用したい 80GB...サーバー級 モデルの訓練ができる 96GB...サーバー級 モデルの訓練ができて高速 160GB...1.58ビット量子化したDeepSeek-R1がギリギリ動く 320GB...2.2ビット量子化したDeepSeek V4.1 Flashが動く 640GB...4ビット量子化したDeepSeekが乗る 1.2TB...FP8のDeepSeekが乗る 2.4TB...やっとBF16のDeepSeekが乗る 12TB...やっとBF16のDeepSeekをGPUのみでフルファインチューニング可能に
もっと見る