본문 바로가기
MAKESITE

점검 항목 · 검색 노출

크롤 예산 낭비 — 중복 URL 대량 생성

검색엔진이 우리 사이트에 쓰는 시간은 정해져 있습니다. 정렬과 필터 조합이 주소를 무한히 만들어 내면 그 시간을 아무 내용도 없는 주소가 다 써 버리고, 정작 새 페이지는 늦게 발견됩니다.

심각도 보통 검색 노출 무료 스캔 판정 항목 /check/crawl-budget

01DEFINITION

한 줄로 말하면

검색엔진이 한 사이트에 쓰는 시간은 무한하지 않습니다. 정렬과 필터 조합으로 주소가 끝없이 만들어지면 크롤러는 같은 내용을 반복해 읽다가 정작 새 글에 닿지 못합니다. 파라미터가 붙은 주소를 색인 대상에서 빼는 것으로 대개 해결됩니다.

02RISK

없으면 무슨 일이 생기나

검색엔진은 사이트마다 한 번에 가져가는 양을 조절합니다. 서버에 부담을 주지 않으려는 것이고, 그 양은 사이트의 크기와 응답 속도와 갱신 빈도에 따라 정해집니다. 그런데 목록 페이지에 정렬과 필터가 있으면 그 조합만큼 주소가 생깁니다. 조건 다섯 개에 각각 몇 가지 값만 있어도 수천 개가 되고, 내용은 거의 같습니다.

결과는 두 가지로 나타납니다. 새로 올린 페이지가 늦게 색인되고, 이미 있는 페이지의 갱신이 늦게 반영됩니다. 쇼핑몰이나 게시판처럼 목록이 큰 사이트에서 특히 두드러지고, 상품을 자주 올리는 곳일수록 손해가 큽니다.

이 항목은 밖에서 완전히 보이지 않습니다. 서버 로그나 검색 콘솔의 크롤 통계를 봐야 실제로 무엇을 가져가고 있는지 알 수 있고, 그 자료가 없으면 조합의 개수로 짐작하는 수밖에 없습니다. 우리 진단도 여기까지가 한계입니다.

03CHECK IT YOURSELF

직접 확인하는 방법

아래는 저희를 거치지 않고 지금 해 보실 수 있는 방법입니다. 결과를 저희에게 보내실 필요도 없습니다.

  1. 01
    목록 페이지에서 만들 수 있는 조합을 세어 봅니다

    정렬 기준, 페이지당 개수, 필터 항목의 값을 곱해 보십시오. 이 수가 실제 상품 수보다 크면 그 자체가 답입니다.

나머지 확인 방법 2단계는 셀프수리 가이드에 있습니다.

04HOW TO FIX

고치는 방법

서버 환경에 따라 적을 자리가 다릅니다. 아래는 가장 흔한 구성 기준이고, 적용 전에 현재 설정을 백업하십시오.

색인할 조합 하나를 정합니다

정렬과 필터가 붙은 주소는 모두 기본 목록을 정본으로 가리키게 하십시오. 사람은 그대로 쓸 수 있고 검색엔진은 하나만 셉니다.

값이 없는 조합은 아예 막습니다
페이지 넘김은 막지 않습니다
사이트맵으로 우선순위를 알려 줍니다
조치 코드는 셀프수리 가이드에 있습니다. 서버 구성별 설정 원문 4단계와, 귀사 사이트에서 실제로 관찰된 값이 함께 실립니다 — 무엇을 어디에 적어야 하는지가 정해집니다.
가이드 안내 보기 · 먼저 무료로 진단받기
이미 열람권을 구매하셨다면 안내 메일의 가이드 링크로 바로 열립니다 — 링크를 잃으셨다면 문의 주시면 다시 보내 드립니다.
주의. 작은 사이트에서는 이 항목의 실익이 크지 않습니다. 수백 페이지 규모라면 예산이 부족할 일이 거의 없습니다. 목록이 크고 조합이 많은 사이트, 상품을 자주 올리는 사이트에서 값이 큰 항목입니다.

05FAQ

자주 묻는 질문

크롤 예산이라는 것이 실제로 있나요

검색엔진이 공식적으로 쓰는 표현이고, 큰 사이트에서만 신경 쓰면 된다고 안내합니다. 다만 조합으로 주소가 폭증하는 상황은 사이트 크기와 무관하게 생기므로, 그 조합을 정리하는 일 자체는 규모와 상관없이 쓸모가 있습니다.

robots.txt 로 막으면 색인에서 빠지나요

보장되지 않습니다. 크롤을 막으면 내용을 못 읽을 뿐이고, 다른 곳에서 링크가 걸려 있으면 주소만으로 색인될 수 있습니다. 색인에서 확실히 빼려면 크롤은 열어 두고 색인 금지 표시를 읽게 해야 합니다.

무한 스크롤 목록은 어떻게 하나요

스크롤로만 이어지면 크롤러가 뒤쪽을 못 봅니다. 페이지 번호가 붙은 주소를 같이 제공하고 그 주소들이 서로 이어지게 하십시오. 사람에게는 스크롤, 기계에게는 주소를 주는 방식입니다.

어디부터 손대야 하나요

조합의 개수가 가장 큰 화면부터입니다. 대개 상품 목록 하나가 전체 낭비의 대부분을 만듭니다. 그 화면의 정본 주소를 정하고 조합을 그리로 모으는 것만으로 눈에 띄게 줄어듭니다.
여기까지는 항목 일반론입니다. 무엇이고 왜 문제이며 어떻게 고치는지는 감출 이유가 없어 그대로 적었습니다. 리포트에 들어가는 것은 귀사 사이트에서 실제로 어떤 값이 나왔는지 — 어느 주소의 어느 응답인지, 그 환경에서 어떤 순서로 적용해야 하는지, 예상 공수가 얼마인지입니다. 이 페이지만 보고 직접 고치셔도 되고, 실제로 그러시라고 적어 두었습니다.

GET STARTED

내 사이트는
이 항목을 통과할까요

주소만 넣으시면 이 항목을 포함해 58가지를 판정해 점수와 실패 개수를 보여 드립니다. 로그인도, 소유 확인도 필요 없습니다 — 전부 밖에서 관찰만 하는 항목이기 때문입니다.

무료 스캔 문의하기 로그인