不需要屏蔽，只需要屏蔽你JS文件或者死链接，其它的都可以写在上面，尽量吧所有连接都写上。
首先开启站点伪静态功能。登录dede管理员后台-系统-系统基本参数-核心设置-是否使用伪静态 请选择“是”。
域名和robots设置。域名尽可能简短易记，大部分手机端网站的域名是PC端网站的二级域名，当然这个也很好，与传统网站保持一致，更让重视用户信赖。但是如果是专门的手机网站，最好起一个简短而且易记的域名。
1、robots文件主要的作用就是阻止蜘蛛抓取你不想让他抓取的文件。最好还是要一个，比如网站后台等一些文件 想要不被他他抓取，robots文件就能起到作用了。
2、网站必须要有一个robot.txt文件。文件名是小写字母。当需要完全屏蔽文件时，需要配合meta的robots属性。robots.txt的基本语法 内容项的基本格式：键： 值对。
3、做好robots文件后到百度站长后台更新robots文件。
4、robots.txt是搜索引擎公认遵循的一个规范文档，它告诉Google、百度等搜索引擎哪些网页允许抓取、索引并在搜索结果中显示，哪些网页是被禁止收录的。
1、robots是网站跟爬虫间的协议，用简单直接的txt格式文本方式告诉对应的爬虫被允许的权限，也就是说robots.txt是搜索引擎中访问网站的时候要查看的第一个文件。
2、网站必须要有一个robot.txt文件。文件名是小写字母。当需要完全屏蔽文件时，需要配合meta的robots属性。robots.txt的基本语法 内容项的基本格式：键： 值对。
3、robots 是站点与 spider 沟通的重要渠道，站点通过 robots 文件声明该网站中不想被搜索引擎收录的部分或者指定搜索引擎只收录特定的部分。请注意，仅当您的网站包含不希望被搜索引擎收录的内容时，才需要使用 robots.txt 文件。
