iwashi / Yoshimasa Iwase(@iwashi86):コストが100分の1の安価なオープンモデルを事後学習し、検索タスクでGPT-5.6 Solと同等の性能を出す手法を述べている。（プロダクト宣伝の記事でもあるので、そこは注意）・かつてのRAGは単発検索だった・だが、現在はエージェントが自律的に検索を繰り返すアプローチへ移行している・ただ、GPT-5.6 Solなどの最先端モデルでこれを行うと、1リクエストに10秒以上かかりコストも高すぎる・一方で、100倍安価なオープンモデルはそのままでは推論能力が足りない・そこで、検索などの特定タスクに特化し、オープンモデルを強化学習で事後学習させるアプローチが有効・記事中では、開発したCastformを使っている・で、社内の既存ドキュメントから学習用タスクを自動生成した・学習時にはAIが検索を何度も繰り返すため、数千の並列タスクが走りデータベースに瞬間的な高負荷がかかる・ここはNeonの動的なオートスケーリングを利用し、スパイク負荷を効率的にさばいて対処した

iwashi / Yoshimasa Iwase

@iwashi86

NTTドコモビジネスでEM(育休中)。その他、早稲田大で非常勤講師、#fukabori#.fmの中の人、書籍翻訳者。 AI、マネジメント、Dev、PdM、Agile、HRに関する個人メモをポストしています。発言は個人の見解であり、所属する組織の公式見解ではありません。 Amazonアソシエイト・プログラム参加者。

가입 May 2009

699 팔로잉 중 20.8K 팬

iwashi / Yoshimasa Iwase@iwashi86

2026.08.09 06:00

コストが100分の1の安価なオープンモデルを事後学習し、検索タスクでGPT-5.6 Solと同等の性能を出す手法を述べている。（プロダクト宣伝の記事でもあるので、そこは注意）・かつてのRAGは単発検索だった・だが、現在はエージェントが自律的に検索を繰り返すアプローチへ移行している・ただ、GPT-5.6 Solなどの最先端モデルでこれを行うと、1リクエストに10秒以上かかりコストも高すぎる・一方で、100倍安価なオープンモデルはそのままでは推論能力が足りない・そこで、検索などの特定タスクに特化し、オープンモデルを強化学習で事後学習させるアプローチが有効・記事中では、開発したCastformを使っている・で、社内の既存ドキュメントから学習用タスクを自動生成した・学習時にはAIが検索を何度も繰り返すため、数千の並列タスクが走りデータベースに瞬間的な高負荷がかかる・ここはNeonの動的なオートスケーリングを利用し、スパイク負荷を効率的にさばいて対処した

커뮤니티로 전달