Регулярные выражения ( regular expressions) — система обработки текста, основанная на специальной системе записи образцов для поиска. Образец (pattern), задающий правило поиска, также иногда называют «шаблоном», «маской».

Сейчас регулярные выражения используются многими текстовыми редакторами и утилитами для поиска и изменения текста на основе выбранных правил. Многие языки программирования уже поддерживают регулярные выражения для работы со строками. Набор утилит (включая редактор sed и фильтр grep), поставляемых в дистрибутивах Unix, одним из первых способствовал популяризации понятия регулярных выражений.

 

Базовые понятия

Регулярные выражения используются для сжатого описания некоторого множества строк с помощью шаблонов, без необходимости перечисления всех элементов этого множества. При составлении шаблонов используется специальный синтаксис, поддерживающий, обычно, следующие операции:

Перечисление: Вертикальная черта разделяет допустимые варианты. Например, «gray|grey» соответствует gray или grey.

Группировка: Круглые скобки используются для определения области действия и приоритета операторов. Например, «gray|grey» и «gr(a|e)y» являются разными образцами, но они оба описывают множество, содержащее gray и grey.

Квантификация: после символа или группы определяет, сколько раз предшествующее выражение может встречаться.

  • {m,n} общее выражение, повторений может быть от m до n включительно.
  • {m,} общее выражение, m и более повторений.
  • {,n} общее выражение, не более n повторений.
  • ? Знак вопроса означает 0 или 1 раз, то же самое, что и {0,1}. Например, «colou?r» соответствует и color, и colour.
  • * Звёздочка означает 0, 1 или любое число раз ({0,}). Например, «go*gle» соответствует ggle, gogle, google и др.
  • + Плюс означает хотя бы 1 раз ({1,}). Например, «go+gle» соответствует gogle, google и т. д. (но не ggle).

Конкретный синтаксис регулярных выражений зависит от реализации.

Полезные регулярные выражения

Регулярное выражение Означает
text Строка “text”
^text Строка начинается с “text”
text$ Строка заканчивается на “text”
^text$ «text» встречается в строке только один раз
[abc] a, b, или c
[a-z] любой символ (латиница) в нижнем регистре
[^A-Z] любой символ (латиница), не находящийся в верхнем регистре
(gif|jpg) Означает как «gif” так и “jpeg”
[a-z]+ Один или более символов нижнего регистра
[0-9.-] Любая цифра, точка или знак минус
^[a-zA-Z0-9_]{1,}$ Любое слово, хотя бы одна буква, число или _
([wx])([yz]) wy, wz, xy, или xz
(^A-Za-z0-9) Любой символ (не число и не буква)
([A-Z]{8}|[0-9]{6}) Означает восемь букв или 6  цифр

Традиционные регулярные выражения в Unix

Синтаксис «базовых» регулярных выражений Unix на данный момент определён POSIX как устаревший, но он до сих пор широко распространён из соображений обратной совместимости. Многие Unix-утилиты используют такие регулярные выражения по умолчанию.

В этом синтаксисе большинство символов соответствуют сами себе («a» соответствует «a» и т. д.). Исключения из этого правила называются метасимволами:

. Соответствует любому единичному символу.
[ ] Соответствует любому единичному символу из числа заключённых в скобки. Символ «-» интерпретируется буквально только в том случае, если он расположен непосредственно после открывающей или перед закрывающей скобкой: [abc-] или [-abc]. В противном случае, он обозначает интервал символов. Например, [abc] соответствует «a», «b» или «c». [a-z] соответствует буквам нижнего регистра латинского алфавита. Эти обозначения могут и сочетаться: [abcq-z] соответствует a, b, c, q, r, s, t, u, v, w, x, y, z.

Чтобы установить соответствие символам «[» или «]», достаточно, чтобы закрывающая скобка была первым символом после открывающей: [][ab] соответствует «]», «[», «a» или «b».

[^ ] Соответствует единичному символу из числа тех, которых нет в скобках. Например, [^abc] соответствует любому символу, кроме «a», «b» или «c». [^a-z] соответствует любому символу, кроме символов нижнего регистра в латинском алфавите.
^ Соответствует началу текста (или началу любой строки в мультистроковом режиме).
$ Соответствует концу текста (или концу любой строки в мультистроковом режиме).
() Объявляет «отмеченное подвыражение», которое может быть использовано позже (см. следующий элемент: n). «Отмеченное подвыражение» также является «блоком». В отличие от других операторов, этот (в традиционном синтаксисе) требует бэкслеша.
n Где n — это цифра от 1 до 9; соответствует n-му отмеченному подвыражению. Эта конструкция теоретически нерегулярна, она не была принята в расширенном синтаксисе регулярных выражений.
*
  • Звёздочка после выражения, соответствующего единичному символу, соответствует нулю или более копий этого выражения. Например, «[xyz]*» соответствует пустой строке, «x», «y», «zx», «zyx», и т. д.
  • n*, где n — это цифра от 1 до 9, соответствует нулю или более вхождений для соответствия n-го отмеченного подвыражения. Например, «(a.)c1*» соответствует «abcab» и «abcaba», но не «abcac».
  • Выражение, заключённое в «(» и «)» и сопровождаемое «*», следует считать неправильным. В некоторых случаях, оно соответствует нулю или более вхождений строки, которая была заключена в скобки. В других, оно соответствует выражению, заключённому в скобки, учитывая символ «*».
{x,y} Соответствует последнему блоку, встречающемуся не менее x и не более y раз. Например, «a{3,5}» соответствует «aaa», «aaaa» или «aaaaa». В отличие от других операторов, этот (в традиционном синтаксисе) требует бэкслеша.

Различные реализации регулярных выражений интерпретируют обратную косую черту перед метасимволами по-разному. Например, egrep и Perl интерпретируют скобки и вертикальную черту как метасимволы, если перед ними нет обратной косой черты и воспринимают их как обычные символы, если черта есть.

Многие диапазоны символов зависят от выбранных настроек локализации. POSIX стандартизовал объявление некоторых классов и категорий символов, как показано в следующей таблице:

POSIX класс подобно Perl означает
[:upper:] [A-Z]   символы верхнего регистра
[:lower:] [a-z]   символы нижнего регистра
[:alpha:] [A-Za-z]   символы верхнего и нижнего регистра
[:alnum:] [A-Za-z0-9]   цифры, символы верхнего и нижнего регистра
  [A-Za-z0-9_] w цифры, символы верхнего, нижнего регистра и "_"
  [^A-Za-z0-9_] W не цифры, символы верхнего, нижнего регистра и "_"
[:digit:] [0-9] d цифры
  [^0-9] D не цифры
[:xdigit:] [0-9A-Fa-f]   шестнадцатеричные цифры
[:punct:] [.,!?:…]   знаки пунктуации
[:blank:] [ t]   пробел и TAB
[:space:] [ tnrfv] s символы пробелов(пропуска)
  [^ tnrfv] S не символы пробелов(пропуска)
[:cntrl:] [x00-x1Fx7F]   символы управления
[:graph:] [:alnum:] ∪ [:punct:]   символы печати
[:print:] [x20-x7E]   символы печати и символы пропуска(видимые символы и пробелы)

Защита метасимволов

Cпособ представить сами метасимволы ., - [ ] и другие в регулярных выражениях без интерпретации, то есть, в качестве простых (не специальных) символов — предварить их обратной косой чертой: . Например, чтобы представить сам символ «точка» (просто точка, и ничего более), надо написать . (обратная косая черта, а за ней - точка). Чтобы представить символ открывающей квадратной скобки [, надо написать [ (обратная косая черта и следом за ней скобка [) и т.д. Сам метасимвол тоже может быть защищен, то есть представлен как (две обратных косых черты), и тогда интерпретатор регулярных выражений воспримет его как простой символ обратной косой черты .

«Жадные» выражения

Квантификаторам в регулярных выражениях соответствует максимально длинная строка из возможных (квантификаторы являются «жадными», англ. greedy). Это может оказаться значительной проблемой. Например, часто ожидают, что выражение (<.*>) найдёт в тексте теги HTML. Однако этому выражению соответствует целиком строка

 

Эту проблему можно решить двумя способами. Первый состоит в том, что в регулярном выражении учитываются символы, не соответствующие желаемому образцу (<[^>]*> для вышеописанного случая). Второй заключается в определении квантификатора как нежадного (ленивого, англ. lazy)— большинство реализаций позволяют это сделать, добавив после него знак вопроса.

Например, выражению (<.*?>) соответствует не вся показанная выше строка, а отдельные теги (выделены цветом):

 

Википедия — свободная энциклопедия, в которой каждый может изменить или дополнить любую статью

 

  • *? - «не жадный» («ленивый») эквивалент *
  • +? - «не жадный» («ленивый») эквивалент +
  • {n,}? - «не жадный» («ленивый») эквивалент {n,}

Использование «ленивых» квантификаторов, правда, может повлечь за собой обратную проблему, когда выражению соответствует слишком короткая строка.

Так же существуют квантификаторы повышения жадности, то что захвачено ими однажды назад уже не отдается. Сверхжадные квантификаторы (possessive quantifiers)

  • *+ - «сверхжадный» эквивалент *
  • ++ - «сверхжадный» эквивалент +
  • {n,}+ - «сверхжадный» эквивалент {n,}

Современные (расширенные) регулярные выражения в POSIX

Регулярные выражения в POSIX аналогичны традиционному Unix-синтаксису, но с добавлением некоторых метасимволов:

+ Указывает на то, что предыдущий символ или группа может повторяться один или несколько раз. В отличие от звёздочки, хотя бы одно повторение обязательно.
? Делает предыдущий символ или группу необязательной. Другими словами, в соответствующей строке она может отсутствовать, либо присутствовать ровно один раз.
| Разделяет альтернативные варианты регулярных выражений. Один символ задаёт две альтернативы, но их может быть и больше, достаточно использовать больше вертикальных чёрточек. Необходимо помнить, что этот оператор использует максимально возможную часть выражения. По этой причине, оператор альтернативы чаще всего используется внутри скобок.

Также было отменено использование обратной косой черты: {…} становится {…} и (…) становится (…).

Perl-совместимые регулярные выражения (PCRE)

Регулярные выражения в Perl имеют более богатый и в то же время предсказуемый синтаксис, чем даже в POSIX. По этой причине очень многие приложения используют именно Perl-совместимый синтаксис регулярных выражений.

Группы

( )
Простая группа с захватом.
(?: )
Группа без захвата. То же самое, но заключённое в скобках выражение не добавляется к списку захваченных фрагментов. Например, если требуется найти или «здравствуйте», или «здрасте», но не важно, какое именно приветствие найдено, можно воспользоваться выражением здра(?:сте|вствуйте).
(?= )
Группа с проверкой впереди (zero-width positive lookahead assertion). Продолжает поиск только если справа от текущей позиции в тексте находится заключённое в скобки выражение. При этом само выражение не захватывается. Например, говор(?=ить) найдёт «говор» в «говорить», но не «говорит».