Skip to main content

tokenize

Function tokenize 

Source
pub fn tokenize(text: &str) -> Result<Vec<Token>, TokenizeError>
Expand description

Разбивает текст на токены.