二进制文件处理
网络上除了有大量的HTM文件和XML文件外，也有大量的二进制文件，为了使网页的内容更加丰富，图片和多媒体文件被网页大量的引用。
它们在网页上也是以超链接的形式出现的，因而在链接提取的阶段它们也是会被放在待访问队列中。对于二进制文件通过文件的内容来完成文件的索引是不现实的，现在的技术还没有达到可以通过二进制文件来理解文件内容的地步。
因而对于这些文件的处理一般是采用单独处理的方式， 其内容的理解完全需要依赖二进制文件的锚点描述来完成。锚点描述通常代表了文件的标题或是基本内容。锚点信息一般是由引用网页来提供，而不是放在二进制文件本身。 二进制文件由于种类的差别问题，也需要分别来进行处理 。
脚本文件的处理
这里说的脚本文件一般指的是包含在网页中的客户端脚本，它会在网页下载到客端的时分才会运行，通常会在客户端上完成一些简朴的交互工作。脚本文件一般会在网页中负责网页的显示工作，但由于ajax 技术的广泛运用，它也会负责与服务器端的交互工作。
由于脚本语言的多样性和复杂性，对它的分析处理无异于 制作一个简朴的网页解析程序，正是因为处理脚本文件相当困难，很多小规模的搜索引擎往往会直接省略对它的处理。但是由于现在网站设想者对于无刷新页面要求的提高和对ajax技术的大量运用，如果忽略了对它的处理将会是一项巨大的损失 。
不问文件类型处理
对于网页内容的提取分析一直是网络蜘蛛的重要技术环节，对于网上不同文件类型文件的处理，网络蜘蛛通常是采用插件的方式来处理。它会有一个比较智能化的插件管理程序负责管理不同的插件，对于需要处理的不同类型的文件，它会调用不同的插件来处理，之所以是采用插件的形式，主如果出于扩展性方面的考虑。
互联网上有很多不同类型的文件，不同的文件需要完全不同的处理方式，而这个网络是不断变化的，随时会有新文件类型出现的叮能。而要完成对新类型的处理，最简朴的方法就是给新类型编写新的插件，然后将插件直接交由管理程序来管理。同时这个插件的编写最好是由新文件格式的制造者自行完成，通常只有制造者才最了解新格式定义的意义。
文章由吾瘦女人http://www.wsnvren.com编辑整理，转载请注明。
