草庐IT

CFStringTokenizer

全部标签

objective-c - CFStringTokenizer 是否应该忽略标点符号?

我只是在学习Swift并尝试使用CFStringTokenizer,我注意到当字符串被标记化时,标点符号和符号会被忽略。我不太熟悉标记化的主题,但如果我需要进行更复杂的标记化,需要我找到诸如“!”之类的东西,我想更好地了解标记器的工作原理。或“+”。任何帮助将不胜感激。所以我的问题是:忽略符号和标点符号作为标记是预期的行为吗?有没有办法让CFStringTokenizer将符号视为标记或将符号保留为标记的一部分?即“+”、“-3”或“世界!”有人可以解释一下CFStringTokenizerTokenType如何用于测试token类型吗?这是我一直在使用的playground:impo