주제: robots.txt를 사용해도 다음에서는 검색 가능??
제 textcube 는 domain 을 robots.txt 로 막아놨는데.
실제 해보니 daum 에서는 검색이 되고 있더라고요.;;;
meta blog 사이트만 검색 가능하게 하고,
로봇은 철저히 막으려고 계속 하고 있는데..
(좀 더 사람냄새 나는 이야기를 좀 서로 해보고자..
)
어떻게 막을 방법 없나요?
그리고 이건..
daum 에서 blog 검색에 RSS를 이용해서 그런걸까요?
아니면 robot 에 대해서 열려 있거나 열림 당한(??) 걸까요? ;;;