cv usk(@cv_usk):TL;DR: GPUなしのCPUやタブレットでも動く、1億4,430万パラメータの軽量な意思決定モデルが登場しました。タイトル: Introducing Julia 1 URL: https://t.co/TpNkf3au3L ポイント 🧠 分類・ランキング・Yes/No判定を1つのモデルでこなす、多言語エンコーダmmBERT-small土台の意思決定特化モデル 💰 学習コストはクラウドGPU利用料でわずか約104ドル（R$540）。ゼロからの事前学習ではなく既存基盤を活用 📱 Apple M4 Macでは1秒あたり28件、バッチ処理なら51件を処理。Androidタブレットでも実用速度 📊 AG Newsは94%、DAIR Emotionは86%（参照ベースライン48%を大幅上回る）と好成績 ⚠️ 類似カテゴリが72種あるBanking77では64%にとどまり、参照ベースライン87%に届かず 🔓 Hugging FaceでApache 2.0ライセンス公開。API提供も予定（入力100万トークンあたり0.025ドル）小さなモデルでも意思決定タスクに特化すれば実用域に届くことを示した好例だと思います。 #軽量LLM #エッジAI

6hours ago

TL;DR: GPUなしのCPUやタブレットでも動く、1億4,430万パラメータの軽量な意思決定モデルが登場しました。タイトル: Introducing Julia 1 URL: ポイント 🧠 分類・ランキング・Yes/No判定を1つのモデルでこなす、多言語エンコーダmmBERT-small土台の意思決定特化モデル 💰 学習コストはクラウドGPU利用料でわずか約104ドル（R$540）。ゼロからの事前学習ではなく既存基盤を活用 📱 Apple M4 Macでは1秒あたり28件、バッチ処理なら51件を処理。Androidタブレットでも実用速度 📊 AG Newsは94%、DAIR Emotionは86%（参照ベースライン48%を大幅上回る）と好成績 ⚠️ 類似カテゴリが72種あるBanking77では64%にとどまり、参照ベースライン87%に届かず 🔓 Hugging FaceでApache 2.0ライセンス公開。API提供も予定（入力100万トークンあたり0.025ドル）小さなモデルでも意思決定タスクに特化すれば実用域に届くことを示した好例だと思います。 #軽量LLM# #エッジAI#