합치는 일과 지우는 일은 다릅니다
한 질문에 답하는 페이지가 여러 개라서 하나로 모으는 작업은 어느 페이지를 남길지 정하는 판단이 먼저입니다. 그 절차는 같은 질문에 답하는 페이지가 여러 개일 때에서 다뤘습니다. 같은 내용이 파라미터나 www 유무 때문에 여러 주소로 열리는 경우는 대표 주소 쪽 문제이고 canonical 태그와 중복 URL 정리에 있습니다.
여기서 다루는 것은 그 페이지의 내용을 더 이상 두지 않는 경우입니다. 끝난 행사 안내, 단종된 상품, 접은 서비스 소개처럼 내릴 이유가 분명한 페이지입니다. 파일을 지우는 것으로 끝나지 않고, 그 주소가 앞으로 무엇으로 답할지를 정해야 합니다.
옛 주소가 무엇으로 답할지부터 정합니다
표의 처리 방법 네 줄은 모두 Google 문서에 적혀 있는 것이고, 왼쪽의 사정 구분은 편집팀이 묶은 것입니다.
| 지우는 쪽의 사정 | 옛 주소를 어떻게 두나 | 검색 결과에서 일어나는 일 |
|---|---|---|
| 같은 내용이 다른 주소로 옮겨 갔다 | 영구 리디렉션으로 새 주소에 보낸다 | 새 주소가 결과에 표시된다 |
| 그 내용을 더 이상 두지 않는다 | 404 또는 410으로 응답하게 둔다 | 다시 수집된 뒤 색인에서 빠진다 |
| 대신 보낼 곳이 홈이나 목록뿐이다 | 그래도 몰지 않고 404·410으로 둔다 | 관련 없는 리디렉션은 soft 404로 처리될 수 있다 |
| 민감한 내용을 당장 가려야 한다 | 내용을 지우거나 비밀번호로 막는다 | 삭제 도구는 약 6개월 임시 차단일 뿐이다 |
404와 410을 가려 쓰느라 시간을 들일 필요는 적습니다. Google은 429를 뺀 4xx 상태 코드를 모두 같은 방식으로 다루며, 이미 색인된 주소는 색인에서 삭제하고 새로 발견된 404 페이지는 처리하지 않는다고 적어 두었습니다. 둘 중 어느 쪽을 쓰든 결과는 같고, 410은 사람이 보기에 "없어졌다"는 뜻이 더 분명하다는 차이만 남습니다.
리디렉션으로 보낼 때는 거는 위치가 중요합니다. Google은 올바르게 해석될 가능성이 높은 순서로 서버 쪽 리디렉션을 가장 먼저 들고, 자바스크립트 리디렉션은 다른 방법을 쓸 수 없을 때만 쓰라고 적었습니다. 렌더링이 실패하면 그 리디렉션을 알아채지 못할 수 있기 때문입니다.
남은 페이지 가운데 가까운 쪽으로 몰지 않습니다
Google은 이전에 쓰던 여러 주소를 홈페이지처럼 관련성이 떨어지는 한 주소로 전부 리디렉션하면 안 된다고 적었습니다. 사용자를 혼란스럽게 하고 soft 404 오류로 처리될 수 있다는 이유입니다.
지운 자리에 "없는 페이지입니다" 안내를 띄우면서 200으로 응답하는 경우도 같습니다. 내용이 오류나 빈 페이지면 200이어도 Search Console에 soft 404로 표시됩니다. 안내 화면을 보여 주고 싶다면 화면만 꾸미고 응답 코드는 404로 둡니다.
그 주소를 가리키던 것들을 함께 걷습니다
- 사이트맵: 404가 되는 주소는 목록에서 뺍니다. 넣고 빼는 기준은 sitemap.xml 오류 원인과 해결 방법에 있습니다.
- 사이트 안의 링크: 그 주소를 걸어 둔 메뉴와 본문 링크를 찾아 지우거나 남은 페이지로 바꿉니다.
- 다른 페이지의 canonical: 지우는 주소를 대표로 가리키던 페이지가 있으면 함께 고칩니다.
robots.txt로 경로를 막는 것은 지우는 수단이 아닙니다. Google은 페이지를 차단하는 방법으로 robots.txt를 쓰지 말라고 적어 두었습니다. 읽지 못하게 막는 것과 결과에서 빼는 것의 차이는 noindex와 robots.txt 차이에 있습니다.
급할 때 쓰는 삭제 도구는 어디까지 하나요
Search Console의 삭제 도구는 하루 안에 검색 결과에서 주소를 가립니다. 다만 요청은 약 6개월 지속되고 그 뒤에는 다시 표시될 수 있습니다. Google은 이 도구가 주소를 영구적으로 삭제하는 절차의 한 단계일 뿐이라고 적었습니다.
- 차단을 요청해도 Google은 그 주소를 계속 크롤링합니다.
- 요청한 주소에 접속할 수 없으면(404, 502·503) 페이지가 없어진 것으로 보고 차단 요청이 종료됩니다.
- 대소문자나 파라미터가 다른 변형은 각각 따로 제출해야 합니다.
영구적인 조치는 세 가지입니다. 내용을 지우거나 고치기, 비밀번호로 막기, noindex 붙이기. 급한 건은 도구로 가려 둔 뒤 이 가운데 하나를 반드시 끝냅니다.
반대로 쓰지 않아도 되는 경우도 문서에 적혀 있습니다. 페이지 내용만 고쳐 옛 정보가 결과에 남은 상황은 다시 수집될 때 자연히 바뀌므로 긴급 요청이 필요하지 않고, 보고서의 크롤링 오류를 지우려고 쓰는 도구도 아닙니다. 주소 체계를 바꿔 사이트를 통째로 옮기는 일도 옛 주소마다 짝을 지어 보내는 별도 절차여서, 이 도구로 대신할 수 없습니다.
어디까지 확인하면 정리가 끝난 것인가요
- 옛 주소를 주소창에 직접 넣어 응답 코드가 정한 값인지 봅니다. 리디렉션으로 뒀다면 목적지가 한 번에 열리는지도 봅니다.
- 사이트맵과 사이트 안의 링크에 그 주소가 남아 있지 않은지 대조합니다.
- Search Console의 URL 검사로 그 주소의 색인 상태를 확인합니다.
개인정보나 계약 때문에 내려야 하는 건은 순서가 하나 다릅니다. 결과에서 가리는 것보다 내용을 실제로 지우거나 접근을 막는 쪽이 먼저입니다.
이 셋이 맞으면 손댈 일은 끝났습니다. 색인에서 빠지는 것은 그 주소가 다시 수집된 다음이라, 며칠 동안 결과에 남아 있는 것 자체는 잘못이 아닙니다. 정리가 끝났다는 신호는 결과 화면이 아니라 그 주소가 돌려주는 응답입니다.