Databricksは、ガバナンスの保たれたデータ上で高速かつ低コストな意思決定を行う新しいAI関数「ai_decide」を公開しました!
要するに!Databricks NativeなJevがでました!
今までのLLMはテキスト生成を伴い、単純な分類タスクではレイテンシやコストが課題でしたが、ai_decideは意思決定に特化したモデルを採用、非構造化テキストと質問を入力すると、瞬時に確率や選択肢、スコアなどの構造化データを返します!
主な用途としては、顧客レビューのタグ付けと課題分析、難易度や推論レベルに応じた適切なモデルへのプロンプトルーティング、AI生成回答のポリシー遵守状況などの評価、リアルタイムアプリにおける瞬時のアクション決定などなど
ai_decideはSQLやREST APIを用意しており、大規模なバッチ処理からリアルタイム処理まで幅広く利用可能です!
ai_decideで意思決定を高速化しましょー!
顯示更多