Ash Hart
@ashxhart
Doing my bit to bring local AI to everyone | building | | | Thoughts are my own.
๊ฐ์
October 2014
474 ํ๋ก์ ์ค 8.8K ํฌ
Intel B70 owners we got you ๐๐ป
On bosse sur le portage XPU et le support de la carte Arc Pro B70 sur #TensorFold# version Zig, avec pas mal d'optimisations disponibles sur la table, notamment au niveau XMX et OpenCL. Objectif : 2400 tok/s en prefill et 100+ en decode @ashxhart @fragtalife @IntelFrance #LocalAI#
๋ ๋ณด๊ธฐ
