kham-core 0.8.2

Pure Rust Thai word segmentation engine — no_std compatible
Documentation
# Mixed Thai / Latin / Number input.
# Format: input|tok1|tok2|...
# Whitespace tokens are excluded.
# Token kind is verified separately in integration tests.
ธนาคาร100แห่ง|ธนาคาร|100|แห่ง
สวัสดีhello|สวัสดี|hello
คน42ไป|คน|42|ไป
ที่นี่ ok นั้น|ที่นี่|ok|นั้น
ไป123มา456|ไป|123|มา|456
ราคา99บาท|ราคา|99|บาท
ลด50เปอร์เซ็นต์|ลด|50|เปอร์เซ็นต์
ทดสอบAPIทุกวัน|ทดสอบ|API|ทุกวัน
iPhone15ราคาแพง|iPhone|15|ราคาแพง
ส่งอีเมลถึงteam|ส่ง|อีเมล|ถึง|team
# Extended cases with non-Thai tokens (numbers, Latin script, repetition marks)
ดื่มน้ำเย็นๆในวันร้อน|ดื่ม|น้ำเย็น|ๆ|ใน|วัน|ร้อน
ธนาคาร100แห่งทั่วประเทศ|ธนาคาร|100|แห่ง|ทั่วประเทศ
ราคา99บาทต่อชิ้น|ราคา|99|บาท|ต่อ|ชิ้น
โทรศัพท์iPhoneรุ่นใหม่|โทรศัพท์|iPhone|รุ่นใหม่
COVID19ระบาดในหลายประเทศ|COVID|19|ระบาด|ใน|หลาย|ประเทศ
สินค้าลด50เปอร์เซ็นต์|สินค้า|ลด|50|เปอร์เซ็นต์
เด็กๆชอบกินไอศกรีม|เด็ก|ๆ|ชอบ|กิน|ไอศกรีม