Регулярное выражение для разбора ссылок с веб-страницы?
Я ищу регулярное выражение.NET для извлечения всех URL-адресов с веб-страницы, но не нашел достаточно всеобъемлющего, чтобы охватить все различные способы указания ссылки.
И дополнительный вопрос:
Есть ли одно регулярное выражение, чтобы управлять ими всеми? Или мне лучше использовать серию менее сложных регулярных выражений и просто использовать многократные проходы против необработанного HTML? (Скорость и ремонтопригодность)
9 ответов
((mailto\:|(news|(ht|f)tp(s?))\://){1}\S+)
Я взял это с regexlib.com
[примечание редактора: {1} не имеет реальной функции в этом регулярном выражении; смотри этот пост]
Из библиотеки RegexBuddy:
URL: Найти в полном тексте
Последний класс символов гарантирует, что, если URL является частью некоторого текста, знаки препинания, такие как запятая или точка с полной точкой после URL, не интерпретируются как часть URL.
\b(https?|ftp|file)://[-A-Z0-9+&@#/%?=~_|!:,.;]*[-A-Z0-9+&@#/%=~_|]
С Html Agility Pack вы можете использовать:
HtmlDocument doc = new HtmlDocument();
doc.Load("file.htm");
foreach(HtmlNode link in doc.DocumentElement.SelectNodes("//a@href")
{
Response.Write(link["href"].Value;
}
doc.Save("file.htm");
Посмотрите на спецификацию URI. Это может вам очень помочь. А что касается производительности, вы можете в значительной степени извлечь все ссылки HTTP на скромной веб-странице. Когда я говорю скромно, я определенно не имею в виду одну страницу, включающую все руководства HTML, как руководство ELisp. Также производительность является деликатной темой. Я бы посоветовал измерить вашу производительность, а затем решить, собираетесь ли вы извлекать все ссылки, используя одно регулярное выражение или несколько простых выражений регулярного выражения.
Все HTTP и MAILTO
(["'])(mailto:|http:).*?\1
Все ссылки, в том числе относительные, которые называются href или src.
#Matches things in single or double quotes, but not the quotes themselves
(?<=(["']))((?<=href=['"])|(?<=src=['"])).*?(?=\1)
#Maches thing in either double or single quotes, including the quotes.
(["'])((?<=href=")|(?<=src=")).*?\1
Второй же получит только ссылки, которые используют двойные кавычки.
У меня нет времени, чтобы попытаться придумать регулярное выражение, которое, вероятно, не сработает, но я хотел бы прокомментировать, что вам следует определенно разбить это регулярное выражение, по крайней мере, если оно достигнет такого уровня уродства:
(?:(?:\r\n)?[ \t])*(?:(?:(?:[^()<>@,;:\\".\[\] \000-\031]+(?:(?:(?:\r\n)?[ \t]
)+|\Z|(?=[\["()<>@,;:\\".\[\]]))|"(?:[^\"\r\\]|\\.|(?:(?:\r\n)?[ \t]))*"(?:(?:
\r\n)?[ \t])*)(?:\.(?:(?:\r\n)?[ \t])*(?:[^()<>@,;:\\".\[\] \000-\031]+(?:(?:(
?:\r\n)?[ \t])+|\Z|(?=[\["()<>@,;:\\".\[\]]))|"(?:[^\"\r\\]|\\.|(?:(?:\r\n)?[
\t]))*"(?:(?:\r\n)?[ \t])*))*@(?:(?:\r\n)?[ \t])*(?:[^()<>@,;:\\".\[\] \000-\0
....*SNIP*....
*))*@(?:(?:\r\n)?[ \t])*(?:[^()<>@,;:\\".\[\] \000-\031]+(?:(?:(?:\r\n)?[ \t])
+|\Z|(?=[\["()<>@,;:\\".\[\]]))|\[([^\[\]\r\\]|\\.)*\](?:(?:\r\n)?[ \t])*)(?:\
.(?:(?:\r\n)?[ \t])*(?:[^()<>@,;:\\".\[\] \000-\031]+(?:(?:(?:\r\n)?[ \t])+|\Z
|(?=[\["()<>@,;:\\".\[\]]))|\[([^\[\]\r\\]|\\.)*\](?:(?:\r\n)?[ \t])*))*\>(?:(
?:\r\n)?[ \t])*))*)?;\s*)
(это предположительно соответствует адресам электронной почты)
Редактировать: я даже не могу поместить это в один пост, это так противно....
URL,? Как в изображениях /scripts/css/ и т.д.
%href="(.["]*)"%
В соответствии с http://tools.ietf.org/html/rfc3986
извлечение URL из любого текста (не только HTML)
(http\\://[:/?#\\[\\]@!%$&'()*+,;=a-zA-Z0-9._\\-~]+)
Это будет захватывать URL-адреса всех тегов, пока автор HTML-кода использует кавычки:
<a[^>]+href="([^"]+)"[^>]*>
Я сделал пример здесь.