가입 후 초대 링크를 공유하면 동영상 재생 및 초대 보상을 받을 수 있습니다.

區塊先生 🐡 ⚠️ (rock #58)
@mrblock
investor & advisor at @CurveFinance @lighter_xyz & Puffer 🎍I make tech videos 平時就是做天使投資
가입 May 2019
4.4K 팔로잉 중    99.1K 팬
不是聊天機器人,是會「拍板」的小模型 🧠⚡ Laya 不寫文、不推理長篇。你丟一段現況+幾個明確問題(選哪個、急不急、是不是),它一次推論就給出帶機率的答案。 筆電大約 20–30 毫秒,一個 token 都不生成,資料也不出門。 跟生成式 LLM 差在哪? 🔹 LLM(System 2 那種用法):一段一段吐字,擅長寫、解釋、規劃,但慢、貴、答案還要再解析 🔹 System One 決策模型:不聊天,只做判斷。一次前向傳播,直接回傳「選項/分數/是或否+機率」 🔹 簡單講:LLM 負責想清楚再說話;Laya / Jev 負責先快速分流、打分、擋風險 跟 TypeSafe Jev 差在哪? 🔹 做的事很像,都不是生成模型 🔹 Jev:閉源雲端 API,複雜題通常更準,但資料要出門、要錢、要等 🔹 Laya:Apache-2.0 開源、本機跑、免費、可微調;簡單題能打,題一繞、選項一多就容易掉準度 這是新主流嗎?還沒。 比較像新一層基建:把「要不要升級給大模型」這件事,從每次都呼叫 LLM,改成先用超快的決策模型擋一層。寫作、推理還是 LLM;路由、審核、急迫度、遊戲裡下一秒怎麼動,才是這類模型的場。 想試:pip install laya 看它打遊戲: 模型:
더 보기