얼마전에 검색 봇 때문에 검색 엔진에 내 홈피가 노출 되었는지

내 홈피 내용을 가지고 정보통신위원회에서 전화가 와서 삭제 요청이 있었다. ㅎㅎ

앞으로 검색봇은 못들어오게 하겠슴.


cf)

1. 스파이더 로봇이 못오게 robots.txt 이용

파일명을 'robots.txt' 로 해서 웹사이트 루트(root) 디렉토리에 저장합니다.
모든 스파이더(*)가 모든 파일을 읽지 못하게 하는 경우

User-Agent: *
Disallow: /

* User-Agent : 스파이더 로봇 이름, Disallow : 제한할 파일 이름
모든스파이더가 특정디렉토리 및 파일을 읽지 못하게 하는 경우
User-Agent: *
Disallow: /intra/
Disallow: /secret.html

2. META 태그를 이용하여 못오게 하기

<META NAME="ROBOTS" CONTENT="NOINDEX, NOFOLLOW">

위의 두가지 방법을 사용하면 검색엔진 스파이더가 자료를 수집하지 않습니다. 이것이 검색엔진의 표준적인 '약속'이지만 이 약속을 무시하는 검색엔진도 간혹 있다는 것을 염두에 두십시요. 해당 태그를 잘못 사용하면 검색엔진에서 운영하는 사이트 검색이 되지 않을수도 있으니 조심해서 사용하십시요.