网站排名优化ROBOTS的设置

robots工具的详细工具使用说明,做网站排名优化的站长关于robots的使用,强调以下两点:

百度蜘蛛目前在robots里是不支持中文的网站robots文件编写不建议使用中文字符;

robots文件支持UrlEncode编码这种写法如:http://www.test.cn/%E7%89%B9%E6%AE%8A:%E6%B5%8F%E8%A7%88/%E7%94%9F%E6%AD%BB%E7%8B%99%E5%87%BB:%E7%99%BD%E9%93%B6%E5%8A%A0%E7%89%B9%E6%9E%97