oxinfer 0.0.5

Local LLM inference in pure Rust (Gemma 4, Qwen 3.5/3.8): SIMD CPU kernels everywhere, GPUs detected at run time, and a WebAssembly + WebGPU browser build.
Documentation 
1
2
3
4
5
6
7
8
9
10
11
12
13
14

PK
tiny/data.pklFBZZZZZZZZZZZZZZZZZ�ccollections
OrderedDict
q)Rq(Xa.weightqctorch._utils
_rebuild_tensor_v2
q((Xstorageqctorch
FloatStorage
qX0qXcpuqKtqQKKK�q	KK�q
�h)RqtqRq
Xbqh((hctorch
HalfStorage
qX1qhKtqQKK�qK�q�h)RqtqRqXcqh((hctorch
BFloat16Storage
qX2qhK
tqQKK�qK�q�h)RqtqRqu.PK����MMPK1tiny/.format_versionFB-ZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZ1PK��܃PK:tiny/.storage_alignmentFB6ZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZ64PK?wq�PKBtiny/byteorderFB>ZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZlittlePK�=�PKAtiny/data/0FB=ZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZ�?@@@�@�@�@PK$�9PK/tiny/data/1FB+ZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZ<@BPK�'��PK?tiny/data/2FB;ZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZ�?@@@�@�@�@�@AAPK�r�PK2tiny/versionFB.ZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZ3
PKўgUPK5tiny/.data/serialization_idFB1ZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZ0806401320934201117711739993741433046702PK'��((PK����MM
tiny/data.pklPK��܃�tiny/.format_versionPK?wq�tiny/.storage_alignmentPK�=��tiny/byteorderPK$�9tiny/data/0PK�'���tiny/data/1PK�r�tiny/data/2PKўgU�tiny/versionPK'��((tiny/.data/serialization_idPK,-		,�PK�PK		,�