program story

주어진 URL에서 도메인 이름 가져 오기

inputbox 2020. 8. 2. 18:36
반응형

주어진 URL에서 도메인 이름 가져 오기


URL이 주어지면 도메인 이름을 추출하고 싶습니다 ( 'www'부분을 포함하지 않아야 함). URL은 http / https를 포함 할 수 있습니다. 내가 작성한 Java 코드는 다음과 같습니다. 그것은 잘 작동하는 것처럼 보이지만 더 나은 접근 방법이 있거나 가장자리 케이스가 있으면 실패 할 수 있습니다.

public static String getDomainName(String url) throws MalformedURLException{
    if(!url.startsWith("http") && !url.startsWith("https")){
         url = "http://" + url;
    }        
    URL netUrl = new URL(url);
    String host = netUrl.getHost();
    if(host.startsWith("www")){
        host = host.substring("www".length()+1);
    }
    return host;
}

입력 : http://google.com/blah

출력 : google.com


URL을 구문 분석하려면을 사용하십시오 java.net.URI. java.net.URLequals방법은 DNS 조회를 수행하므로 신뢰할 수없는 입력에 사용될 때 서비스 거부 공격에 취약 할 수 있습니다.

"고슬링 씨-왜 URL을 빨랐습니까?" 그러한 문제 중 하나를 설명합니다. java.net.URI대신 에 사용하는 습관을들이십시오 .

public static String getDomainName(String url) throws URISyntaxException {
    URI uri = new URI(url);
    String domain = uri.getHost();
    return domain.startsWith("www.") ? domain.substring(4) : domain;
}

당신이 원하는 것을해야합니다.


그것은 잘 작동하는 것처럼 보이지만 더 나은 접근 방법이 있거나 가장자리가있는 경우가 있지만 실패 할 수 있습니다.

유효한 URL에 대해 작성된 코드가 실패합니다.

  • httpfoo/bar-로 시작하는 경로 구성 요소가있는 상대 URL http.
  • HTTP://example.com/ -프로토콜은 대소 문자를 구분하지 않습니다.
  • //example.com/ -호스트가있는 프로토콜 상대 URL
  • www/foo -로 시작하는 경로 구성 요소가있는 상대 URL www
  • wwwexample.com-하지 않는 도메인 이름으로 시작 www.은 있지만 시작됩니다 www.

계층 적 URL에는 복잡한 문법이 있습니다. RFC 3986을주의 깊게 읽지 않고 자신의 파서를 롤링하려고하면 잘못 될 수 있습니다. 핵심 라이브러리에 내장 된 것을 사용하십시오.

java.net.URI거부 되는 지저분한 입력을 처리해야하는 경우 RFC 3986 부록 B를 참조하십시오 .

부록 B. 정규 표현식으로 URI 참조 구문 분석

"first-match-wins"알고리즘은 POSIX 정규식에서 사용하는 "욕심쟁이"명확화 방법과 동일하므로 URI 참조의 잠재적 5 가지 구성 요소를 구문 분석하기 위해 정규식을 사용하는 것이 자연스럽고 일반적입니다.

다음 줄은 올바르게 구성된 URI 참조를 구성 요소로 분류하기위한 정규식입니다.

  ^(([^:/?#]+):)?(//([^/?#]*))?([^?#]*)(\?([^#]*))?(#(.*))?
   12            3  4          5       6  7        8 9

위의 두 번째 줄에있는 숫자는 가독성을 돕기위한 것입니다. 그것들은 각 부분 표현에 대한 기준점을 나타낸다 (즉, 각 쌍 괄호).


import java.net.*;
import java.io.*;

public class ParseURL {
  public static void main(String[] args) throws Exception {

    URL aURL = new URL("http://example.com:80/docs/books/tutorial"
                       + "/index.html?name=networking#DOWNLOADING");

    System.out.println("protocol = " + aURL.getProtocol()); //http
    System.out.println("authority = " + aURL.getAuthority()); //example.com:80
    System.out.println("host = " + aURL.getHost()); //example.com
    System.out.println("port = " + aURL.getPort()); //80
    System.out.println("path = " + aURL.getPath()); //  /docs/books/tutorial/index.html
    System.out.println("query = " + aURL.getQuery()); //name=networking
    System.out.println("filename = " + aURL.getFile()); ///docs/books/tutorial/index.html?name=networking
    System.out.println("ref = " + aURL.getRef()); //DOWNLOADING
  }
}

더 읽어보기


InternetDomainName.topPrivateDomain()구아바에서 사용하는 짧고 간단한 라인은 다음과 같습니다 .InternetDomainName.from(new URL(url).getHost()).topPrivateDomain().toString()

주어진다면 http://www.google.com/blah그것은 당신에게 줄 것 google.com입니다. 또는, http://www.google.co.mx그것은 당신에게 줄 것 google.co.mx입니다.

사 Qada가 에 댓글 이 게시물에 대한 다른 답변 이 질문은 이전 요청되었습니다 주어진 URL에서 주요 도메인 이름의 압축을 풉니 다 . 질문에 대한 가장 좋은 답변Satya의 답변입니다. Satya 는 Guava의 InternetDomainName.topPrivateDomain () 을 제안합니다.

공개 부울 isTopPrivateDomain ()

이 도메인 이름이 정확히 하나의 하위 도메인 구성 요소와 그 뒤에 공용 접미사로 구성되어 있는지 여부를 나타냅니다. 예를 들어 google.com 및 foo.co.uk의 경우 true를 반환하지만 www.google.com 또는 co.uk의 경우 true를 반환합니다.

경고 :이 방법의 진정한 결과는 많은 공용 접미어도 주소 지정 가능한 호스트이므로 도메인이 호스트로 지정 가능한 최상위 수준임을 의미하지는 않습니다. 예를 들어, bar.uk.com 도메인은 uk.com의 공개 접미어를 가지므로이 메소드에서 true를 리턴합니다. 그러나 uk.com 자체는 주소 지정이 가능한 호스트입니다.

이 방법은 도메인이 쿠키를 설정할 수있는 최상위 레벨인지 여부를 판별하는 데 사용할 수 있지만 개별 브라우저의 쿠키 제어 구현에 따라 달라집니다. 자세한 내용은 RFC 2109를 참조하십시오.

URL.getHost()원래 게시물에 이미 포함되어있는 을 함께 사용하면 다음을 얻을 수 있습니다.

import com.google.common.net.InternetDomainName;

import java.net.URL;

public class DomainNameMain {

  public static void main(final String... args) throws Exception {
    final String urlString = "http://www.google.com/blah";
    final URL url = new URL(urlString);
    final String host = url.getHost();
    final InternetDomainName name = InternetDomainName.from(host).topPrivateDomain();
    System.out.println(urlString);
    System.out.println(host);
    System.out.println(name);
  }
}

I wrote a method (see below) which extracts a url's domain name and which uses simple String matching. What it actually does is extract the bit between the first "://" (or index 0 if there's no "://" contained) and the first subsequent "/" (or index String.length() if there's no subsequent "/"). The remaining, preceding "www(_)*." bit is chopped off. I'm sure there'll be cases where this won't be good enough but it should be good enough in most cases!

Mike Samuel's post above says that the java.net.URI class could do this (and was preferred to the java.net.URL class) but I encountered problems with the URI class. Notably, URI.getHost() gives a null value if the url does not include the scheme, i.e. the "http(s)" bit.

/**
 * Extracts the domain name from {@code url}
 * by means of String manipulation
 * rather than using the {@link URI} or {@link URL} class.
 *
 * @param url is non-null.
 * @return the domain name within {@code url}.
 */
public String getUrlDomainName(String url) {
  String domainName = new String(url);

  int index = domainName.indexOf("://");

  if (index != -1) {
    // keep everything after the "://"
    domainName = domainName.substring(index + 3);
  }

  index = domainName.indexOf('/');

  if (index != -1) {
    // keep everything before the '/'
    domainName = domainName.substring(0, index);
  }

  // check for and remove a preceding 'www'
  // followed by any sequence of characters (non-greedy)
  // followed by a '.'
  // from the beginning of the string
  domainName = domainName.replaceFirst("^www.*?\\.", "");

  return domainName;
}

I made a small treatment after the URI object creation

 if (url.startsWith("http:/")) {
        if (!url.contains("http://")) {
            url = url.replaceAll("http:/", "http://");
        }
    } else {
        url = "http://" + url;
    }
    URI uri = new URI(url);
    String domain = uri.getHost();
    return domain.startsWith("www.") ? domain.substring(4) : domain;

try this one : java.net.URL;
JOptionPane.showMessageDialog(null, getDomainName(new URL("https://en.wikipedia.org/wiki/List_of_Internet_top-level_domains")));

public String getDomainName(URL url){
String strDomain;
String[] strhost = url.getHost().split(Pattern.quote("."));
String[] strTLD = {"com","org","net","int","edu","gov","mil","arpa"};

if(Arrays.asList(strTLD).indexOf(strhost[strhost.length-1])>=0)
    strDomain = strhost[strhost.length-2]+"."+strhost[strhost.length-1];
else if(strhost.length>2)
    strDomain = strhost[strhost.length-3]+"."+strhost[strhost.length-2]+"."+strhost[strhost.length-1];
else
    strDomain = strhost[strhost.length-2]+"."+strhost[strhost.length-1];
return strDomain;}

There is a similar question Extract main domain name from a given url. If you take a look at this answer , you will see that it is very easy. You just need to use java.net.URL and String utility - Split


private static final String hostExtractorRegexString = "(?:https?://)?(?:www\\.)?(.+\\.)(com|au\\.uk|co\\.in|be|in|uk|org\\.in|org|net|edu|gov|mil)";
private static final Pattern hostExtractorRegexPattern = Pattern.compile(hostExtractorRegexString);

public static String getDomainName(String url){
    if (url == null) return null;
    url = url.trim();
    Matcher m = hostExtractorRegexPattern.matcher(url);
    if(m.find() && m.groupCount() == 2) {
        return m.group(1) + m.group(2);
    }
    else {
        return null;
    }
}

Explanation : The regex has 4 groups. The first two are non-matching groups and the next two are matching groups.

The first non-matching group is "http" or "https" or ""

The second non-matching group is "www." or ""

The second matching group is the top level domain

The first matching group is anything after the non-matching groups and anything before the top level domain

The concatenation of the two matching groups will give us the domain/host name.

PS : Note that you can add any number of supported domains to the regex.


In my case i only needed the main domain and not the subdomain (no "www" or whatever the subdomain is) :

public static String getUrlDomain(String url) throws URISyntaxException {
    URI uri = new URI(url);
    String domain = uri.getHost();
    String[] domainArray = domain.split("\\.");
    if (domainArray.length == 1) {
        return domainArray[0];
    }
    else {
        return domainArray[domainArray.length - 2] + "." + domainArray[domainArray.length - 1];
    }
}

With this method the url "https://rest.webtoapp.io/llSlider?lg=en&t=8" will have for domain "webtoapp.io".


If the input url is user input. this method gives the most appropriate host name. if not found gives back the input url.

private String getHostName(String urlInput) {
        urlInput = urlInput.toLowerCase();
        String hostName=urlInput;
        if(!urlInput.equals("")){
            if(urlInput.startsWith("http") || urlInput.startsWith("https")){
                try{
                    URL netUrl = new URL(urlInput);
                    String host= netUrl.getHost();
                    if(host.startsWith("www")){
                        hostName = host.substring("www".length()+1);
                    }else{
                        hostName=host;
                    }
                }catch (MalformedURLException e){
                    hostName=urlInput;
                }
            }else if(urlInput.startsWith("www")){
                hostName=urlInput.substring("www".length()+1);
            }
            return  hostName;
        }else{
            return  "";
        }
    }

All the above are good. This one seems really simple to me and easy to understand. Excuse the quotes. I wrote it for Groovy inside a class called DataCenter.

static String extractDomainName(String url) {
    int start = url.indexOf('://')
    if (start < 0) {
        start = 0
    } else {
        start += 3
    }
    int end = url.indexOf('/', start)
    if (end < 0) {
        end = url.length()
    }
    String domainName = url.substring(start, end)

    int port = domainName.indexOf(':')
    if (port >= 0) {
        domainName = domainName.substring(0, port)
    }
    domainName
}

And here are some junit4 tests:

@Test
void shouldFindDomainName() {
    assert DataCenter.extractDomainName('http://example.com/path/') == 'example.com'
    assert DataCenter.extractDomainName('http://subpart.example.com/path/') == 'subpart.example.com'
    assert DataCenter.extractDomainName('http://example.com') == 'example.com'
    assert DataCenter.extractDomainName('http://example.com:18445/path/') == 'example.com'
    assert DataCenter.extractDomainName('example.com/path/') == 'example.com'
    assert DataCenter.extractDomainName('example.com') == 'example.com'
}

참고URL : https://stackoverflow.com/questions/9607903/get-domain-name-from-given-url

반응형