PHP 8.1.31 Released!

Свойства Unicode-символов

С версии стандарта Unicode 5.1.0 при выборе режима UTF-8 доступны три дополнительные управляющие последовательности для соответствия общим типам символов. Вот они:

\p{xx}
символ со свойством xx
\P{xx}
символ без свойства xx
\X
расширенная последовательность Unicode

Имена свойств, которые выше представили символами xx, ограничены общими категориями свойств Unicode. У каждого символа есть ровно одно такое свойство, которое обозначено двухбуквенной аббревиатурой. Для совместимости с Perl отрицание можно указать, включив символ циркумфлекса «^» между открывающей скобкой и именем свойства. Например, \p{^Lu} — это то же самое, что и \P{Lu}.

Если с управляющей последовательностью \p или \P указали только одну букву, она включает все свойства, которые начинаются с этой буквы. В этом случае при отсутствии отрицания фигурные скобки необязательны; следующие два примера эквивалентны:

\p{L}
\pL
Поддерживаемые коды свойств
Свойство Совпадение Замечание
C Другое  
Cc Control  
Cf Формат  
Cn Не присвоено  
Co Частное использование  
Cs Суррогат  
L Буква Включает следующие свойства: Ll, Lm, Lo, Lt и Lu.
Ll Строчная буква  
Lm Модификатор буквы  
Lo Другая буква  
Lt Заглавная буква  
Lu Прописная буква  
M Знак  
Mc Пробельный знак  
Me Окружающий знак  
Mn Не пробельный знак  
N Число  
Nd Десятичное число  
Nl Буквенное число  
No Другое число  
P Пунктуация  
Pc Соединяющая пунктуация  
Pd Знаки тире  
Pe Закрывающая пунктуация  
Pf Заключительная пунктуация  
Pi Начальная пунктуация  
Po Другая пунктуация  
Ps Открывающая пунктуация  
S Символ  
Sc Денежный знак  
Sk Модификатор символа  
Sm Математический символ  
So Другой символ  
Z Разделитель  
Zl Разделитель строки  
Zp Разделитель абзаца  
Zs Пробельный разделитель  

Модуль PCRE не поддерживает расширенные свойства наподобие музыкальных символов (InMusicalSymbols).

Указание регистронезависимого (безрегистрового) режима не влияет на эти управляющие последовательности. Например, запись \p{Lu} всегда совпадает только с прописными буквами.

Наборы Unicode-символов описываются как те, что принадлежат конкретным сценариям. Любой символ из этих наборов сопоставим с помощью имени сценария. Например:

  • \p{Greek}
  • \P{Han}

Символы, которые не принадлежат конкретному сценарию, объединяются в сценарий Common. Текущий список сценариев:

Поддерживаемые сценарии
Arabic Armenian Avestan Balinese Bamum
Batak Bengali Bopomofo Brahmi Braille
Buginese Buhid Canadian_Aboriginal Carian Chakma
Cham Cherokee Common Coptic Cuneiform
Cypriot Cyrillic Deseret Devanagari Egyptian_Hieroglyphs
Ethiopic Georgian Glagolitic Gothic Greek
Gujarati Gurmukhi Han Hangul Hanunoo
Hebrew Hiragana Imperial_Aramaic Inherited Inscriptional_Pahlavi
Inscriptional_Parthian Javanese Kaithi Kannada Katakana
Kayah_Li Kharoshthi Khmer Lao Latin
Lepcha Limbu Linear_B Lisu Lycian
Lydian Malayalam Mandaic Meetei_Mayek Meroitic_Cursive
Meroitic_Hieroglyphs Miao Mongolian Myanmar New_Tai_Lue
Nko Ogham Old_Italic Old_Persian Old_South_Arabian
Old_Turkic Ol_Chiki Oriya Osmanya Phags_Pa
Phoenician Rejang Runic Samaritan Saurashtra
Sharada Shavian Sinhala Sora_Sompeng Sundanese
Syloti_Nagri Syriac Tagalog Tagbanwa Tai_Le
Tai_Tham Tai_Viet Takri Tamil Telugu
Thaana Thai Tibetan Tifinagh Ugaritic
Vai Yi        

Последовательность \X соответствует кластеру расширенных Unicode-графем. Расширенный графемный кластер — один или несколько Unicode-символов, которые объединяются в один символьный знак (глиф). По сути, его можно рассматривать как Unicode-эквивалент для ., поскольку он находит один независимый комплексный символ, независимо от того, сколько отдельных символов нужно для его отрисовки.

Для версий PCRE до 8.32 (что соответствует версиям PHP до 5.4.14 при работе со встроенным модулем PCRE), последовательность \X равносильна записи (?>\PM\pM*). Таким образом, он ищет символы без свойства «mark», и рассматривает последовательность как атомарную группу (см ниже). Символы со свойством «mark» обычно являются отличительными признаками, которые влияют на предыдущий символ.

Совпадение символов по Unicode-свойству — не быстрая операция, поскольку модулю PCRE приходится выполнить поиск в структуре данных, которая содержит более пятнадцати тысяч символов. Поэтому традиционные управляющие последовательности в модуле PCRE, например \d и \w, не используют Unicode-свойства.

Добавить

Примечания пользователей 7 notes

up
20
huhwatnouDONTspamPLEASE at hotmail dot com
8 years ago
To select UTF-8 mode for the additional escape sequences (\p{xx}, \P{xx}, and \X) , use the "u" modifier (see http://php.net/manual/en/reference.pcre.pattern.modifiers.php).

I wondered why a German sharp S (ß) was marked as a control character by \p{Cc} and it took me a while to properly read the first sentence: "Since 5.1.0, three additional escape sequences to match generic character types are available when UTF-8 mode is selected. " :-$ and then to find out how to do so.
up
13
mercury at caucasus dot net
14 years ago
An excellent article explaining all these properties can be found here: http://www.regular-expressions.info/unicode.html
up
4
Steve
1 year ago
Examples are always useful! See https://unicodeplus.com/category for more.

C Other
Cc Control (Unicode code points in the ranges U+0000-U+001F and U+007F-U+009F)
Cf Format (Soft hyphen (U+00AD), zero width space (U+200B), etc.)
Cn Unassigned (Any code point that is not in the Unicode table)
Co Private use
Cs Surrogate (Characters in the range U+D800 to U+DFFF, which are invalid in utf-8)

L Letter
Ll Lower case letter (a-z, µßàáâãäåæçèéêëìíîïðñòóôõöøùúûüýþÿ and more)
Lm Modifier letter (Letter-like characters that are usually combined with others, but here they stand alone:
ʰʱʲʳʴʵʶʷʸʹʺʻʼʽʾʿˀˁˆˇˈˉˊˋˌˍˎˏːˑˠˡˢˣˤˬˮʹͺՙ and more)
Lo Other letter (ªºƻǀǁǂǃʔ and many more ideographs and letters from unicase alphabets)
Lt Title case letter (DžLjNjDzᾈᾉᾊᾋᾌᾍᾎᾏᾘᾙᾚᾛᾜᾝᾞᾟᾨᾩᾪᾫᾬᾭᾮᾯᾼῌῼ)
Lu Upper case letter (A-Z, ÀÁÂÃÄÅÆÇÈÉÊËÌÍÎÏÐÑÒÓÔÕÖØÙÚÛÜÝÞ and more)
L& Ordinary letter (Any character that has the Lu, Ll, or Lt property)

M Mark
Mc Spacing mark (None in latin scripts)
Me Enclosing mark (Combining enclosing square (U+20DE) like in a⃞ , combining enclosing circle backslash (U+20E0) like in a⃠)
Mn Non-spacing mark (Combining diacritical marks U+0300-U+036f, like the accents on this letter a: áâãāa̅ăȧäảåa̋ǎa̍a̎ȁa̐ȃ)

N Number
Nd Decimal number (0123456789, ٠١٢٣٤٥٦٧٨٩ and digits in many other scripts.)
Nl Letter number (ⅠⅡⅢⅣⅤⅥⅦⅧⅨⅩⅪⅫⅬⅭⅮⅯⅰⅱⅲⅳⅴⅵⅶⅷⅸⅹⅺⅻⅼⅽⅾⅿ and some more)
No Other number (⁰¹²³⁴⁵⁶⁷⁸⁹ ₀₁₂₃₄₅₆₇₈₉ ½⅓⅔¼¾⅕⅖⅗⅘⅙⅚⅐⅛⅜⅝⅞⅑⅒ ①②③④⑤⑥⑦⑧⑨⑩⑪⑫⑬⑭⑮⑯⑰⑱⑲⑳, etc.)

P Punctuation
Pc Connector punctuation (_ underscore (U+005F), ‿ undertie U+203F, ⁀ character tie (U+2040), etc.)
Pd Dash punctuation (- hyphen-minus (U+002D), ‐ hyphen (U+2010), ‑ non-breaking hyphen (U+2011), ‒ figure dash (U+2012),
– en dash (U+2013), — em dash (U+2014), ― horizontal bar (U+2015), etc.)
Pe Close punctuation (right parenthesis, bracket, or brace: `)` (U+0029), `]` (U+005D), `}` (U+007D), etc.)
Pf Final punctuation (right quotation marks: » (U+00BB), ’ (U+2019), ” (U+201D), etc.)
Pi Initial punctuation (left quotation marks: « (U+00AB), ‘ (U+2018), “ (U+201C), etc.)
Po Other punctuation (!"#%&'*,./:;?@\¡§¶·¿)
Ps Open punctuation (left parenthesis, bracket, or brace: `(` (U+0028), `[` (U+005B), `{` (U+007B), etc.)

S Symbol
Sc Currency symbol ($¢£¤¥, ₠ ₡ ₢ ₣ ₤ ₥ ₦ ₧ ₨ ₩ ₪ ₫ € ₭ ₮ ₯ ₰ ₱ ₲ ₳ ₴ ₵ ₶ ₷ ₸ ₹ ₺ ₻ ₼ ₽ ₾ ₿ (U+20A0-U+20BF), etc.)
Sk Modifier symbol (Symbol-like characters that are usually combined with others, but here they stand alone:
^`¨¯´¸ and more)
Sm Mathematical symbol (+<=>|~¬±×÷϶ and many more)
So Other symbol (¦ broken bar (U+00A6), © copyright sign (U+00A9), ® registered sign (U+00AE), ° degree sign (U+00B0);
arrows, signs, emojis and many many more)

Z Separator
Zl Line separator (line separator (U+2028))
Zp Paragraph separator (paragraph separator (U+2029))
Zs Space separator (space, no-break space, en quad, em quad, en space, em space, figure space, thin space, hair space, etc.)
up
10
xuantoaiph at gmail dot com
10 years ago
My country, Vietnam, have our own alphabet table:
http://en.wikipedia.org/wiki/Vietnamese_alphabet
I hope PHP will support better than in Vietnamese.
up
4
o_shes01 at uni-muenster dot de
13 years ago
For those who wonder: 'letter_titlecase' applies to digraphs/trigraphs, where capitalization involves only the first letter.
For example, there are three codepoints for the "LJ" digraph in Unicode:
(*) uppercase "LJ": U+01C7
(*) titlecase "Lj": U+01C8
(*) lowercase "lj": U+01C9
up
3
suit at rebell dot at
14 years ago
these properties are usualy only available if PCRE is compiled with "--enable-unicode-properties"

if you want to match any word but want to provide a fallback, you can do something like that:

<?php
if(@preg_match_all('/\p{L}+/u', $str, $arr) {
// fallback goes here
// for example just '/\w+/u' for a less acurate match
}
?>
up
2
php at lnx-bsp dot net
7 years ago
Not made clear in the top of page explanation, but these escaped character classes can be included within square brackets to make a broader character class. For example:

<?php preg_match( '/[\p{N}\p{L}]+/', $data ) ?>

Will match any combination of letters and numbers.
To Top