Pārlūkot izejas kodu

Improve string sanitation for parsing

Ensure strings are properly sanitized before processing.
master
TheoryOfNekomata pirms 1 gada
vecāks
revīzija
bb15edd726
1 mainītis faili ar 3 papildinājumiem un 0 dzēšanām
  1. +3
    -0
      packages/core/src/systems/en-US/parse.ts

+ 3
- 0
packages/core/src/systems/en-US/parse.ts Parādīt failu

@@ -33,6 +33,9 @@ const FINAL_TOKEN = '' as const;

export const tokenize = (stringValue: string) => (
stringValue
.toLowerCase()
.trim()
.replace(/\s+/, ' ')
.replace(new RegExp(`${TENS_ONES_SEPARATOR}`, 'g'), ' ')
.split(' ')
.filter((maybeToken) => maybeToken.length > 0)


Notiek ielāde…
Atcelt
Saglabāt