网站信息采集教程

Ⅰ 怎样做好destoon系统网站数据的收集和采集

先来说说网站收集前的准备工作，首先要制定一个合理的计划，怎样去收集数据，从哪些方面去收集;整理收集到的数据又需要花多少时间;由于分析数据是重点，需要分析哪些方面的数据也需要提前整理出来;最后就是美化数据表格，让自己分析出来的数据一目了然。



在我们开始收集数据的时候，很容易犯的一个错误就是看到什么内容比较符合的就都收集下来，这样的结果就是表格里的数据越来越多，到最后一看，连自己都晕了，密密麻麻的数据该怎么整理和分析啊!其实我们在收集数据的时候可以先定一个简单的标准，什么样的数据是我们需要的，什么数据是不符合条件的，先作一个初步的判断。



根据收集到的数据进行有计划的采集工作，特别要注意，不要一次性采集过多。

Ⅱ 高手帮帮忙，怎样采集网站信息请看一下补充说明

这还不简单，用乐思网络采集系统，一下子就搞定了

Ⅲ 如何将别人网站信息采集到自己的网站

我都是用熊猫采集软件的，只要设置一下就可以把其他网站的信息采集过来，还可以对采集内容自动进行简单修改，像一些图片、视频一类的附件也可以复制过去，这款采集软件还有详细教程，你可以看下，很快就可以学会

Ⅳ 请问这种网页我怎么采集到内容啊

网页采集专家 1.2.114

软件大小：2.57 MB
软件语言：简体中文
软件类别：国产软件 / 试用版 / 网络辅助
运行环境：Win9x/Me/NT/2000/XP/2003
添加时间：2006-12-21 10:15:07
更新时间：2006-12-21 10:15:07
软件添加：supermini
软件评级：
会员级别：匿名用户
联 系 人：[email protected]
开 发 商：http://www.cnxiwang.com
下载统计：本日：0 本周：0 本月：0 总计：0

软件简介：
<<网页采集专家》软件是目前国内外最先进的信息采集软件，可以将因特网上的网站信息保存到用户的本地数据库中。适合任何access2000或sqlserver2000数据库。它和一些同类软件相比，具有：

1、兼容性强：“采集方”和“被采集方”都能适合任何网站，没有模版限制，能自动分析数据表和字段，甚至可以突破登陆限制。
2、采集速度快：目标搜索速度可达10万条/时，采集速度可达3-4万篇/时，而其他产品最多只能达到5000篇/时。
3、不受空间的连接数限制。
4、操作简便：只要观看一次教程，即可操作。可以保存配置和导入配置。
5、纯绿色软件，大小只有2.5M。
6、价格便宜：正式版只要300元，价格是其他产品的1/10。300元的价格=30000元的价值！

并具备以下功能：

1、连接数据库：连接数据库就像打开一个普通文档一样简单。
2、分析数据库：连接后，软件能自动分析您数据库的数据表和字段，即使不懂数据库的人也可以操作。
3、获取目标：有手动、半自动、全自动三种方式可供选用，获取有效目标URL方便快捷。
4、数据保存：数据边采集边自动保存到您的数据库中。
5、断点续采：信息采集任务可以在中断后手动导出URL列表，导入后可从断点开始继续采集。
6、文件下载：可以“远程抓图”将采集到的图片、SWF等下载保存到本地磁盘中。
7、结果分类：可以根据用户定义的分类信息进行采集结果的自动分类。
8、结果替换：可以将采集的结果根据规则替换成你定义的内容。
9、网站登录： 支持网站登录，并支持网站Cookie，即使需要验证码才能登录的网站也能轻松穿过。
10、浏览数据：直接可以浏览数据库里的每条记录。
11、执行SQL：通过执行SQL查询语句，直接操纵数据库，功能强大，无所不能。

http://down.xj139.com/Download.asp?ID=12224&sID=0

Ⅳ 请分别列举出网络信息收集的主要工具和网络信息收集的途径主要有哪些

扫描仪：（纸制材料扫描成图片，利用ocr识别为文字）。

照相机：主要用于采集图像信息。

摄像机：主要用于采集信息。

要理解网络信息采集系统要求从互联网上对特定目标数据源或不特定目标数据源进行采集与监控，并对信息进行结构化抽取保存为本地结构化数据库，然后按业务流程需求与其它模块结合，导入与应用并服务于到电子行业平台。

互联网数据采集与挖掘技术是指利用计算机软件技术，针对定制的目标数据源，实时进行信息采集、抽取、挖掘、处理，从而为各种信息服务系统提供数据输入，并按业务所需来进行数据发布、分析的整个过程。

(5)网站信息采集教程扩展阅读：

可以做到：

实时而准确地采集国内外新闻，行业新闻，技术文章。

实时而准确地采集竞争对手以及供应商的新闻，人事，产品，价格等信息。

实时而准确地采集公共信源的商业情报（同行产品价格，竞争对手的用户反馈，行业新闻）。

实时而准确地采集本企业的品牌以及竞争对手的品牌在各大搜索引擎中的结果。

实时而准确地采集各大行业论坛中的信息，从中了解消费者的需求与反馈，从而发现市场趋势与商业机会。

准确地从网络公共信息中采集销售线索，潜在客户的资料。

Ⅵ CMS电影采集方法谁知道

这个我建议最复好是用一些现制成的软件吧，既省事又可以增加效率，自己遍的要测这测那的，麻烦！

采集土豆、优酷视频，就是先采集视频的下载地址，再用批量下载工具下载，中间可能会有网站限制你IP的问题。

不过我感觉网上找的免费的采集软件都不行，我自己也是在做采集
最好是用正规的，可以搞个试用版都比那些免费的好多了！

网络信息采集是信息化进程的重要步骤，所以又很多公司都在宣传拥有**万能采集、**采集器之类的软件，但是这些都是应用层次比较浅的技术，甚多地方都是不能做的，就比如网站限制你采集等问题，真正要高端技术或者说成熟的产品，必定是那些在采集行业很专业的公司。国内在网络信息采集方面比较专业的是深圳的乐思软件，你可以去他们网站找找看，可能又共享版，反正我们公司用的他们企业版是很好用的。

教程和网址 你自己搜下，他们公司的软件教程下载页面就有

Ⅶ 高分！求高手 网站信息采集源代码或编程思路

思路：
RSS采集
相似算法
聚类
分类
（一）原理
小偷程序实际上是通过了XML中的XMLHTTP组件调用其它网站上的网页。比如新闻小偷程序，很多都是调用了sina的新闻网页，并且对其中的html进行了一些替换，同时对广告也进行了过滤。用小偷程序的优点有：无须维护网站，因为小偷程序中的数据来自其他网站，它将随着该网站的更新而更新；可以节省服务器资源，一般小偷程序就几个文件，所有网页内容都是来自其他网站。缺点有：不稳定，如果目标网站出错，程序也会出错，而且，如果目标网站进行升级维护，那么小偷程序也要进行相应修改；速度，因为是远程调用，速度和在本地服务器上读取数据比起来，肯定要慢一些。
（二）事例
以下是代码片段：
下面就XMLHTTP在ASP中的应用做个简单说明
〈%
’常用函数
’1、输入url目标网页地址，返回值getHTTPPage是目标网页的html代码
function getHTTPPage(url)
dim Http
set Http=server.createobject("MSXML2.XMLHTTP")
Http.open "GET",url,false
Http.send()
if Http.readystate〈〉4 then
exit function
end if
getHTTPPage=bytesToBSTR(Http.responseBody,"GB2312")
set http=nothing
if err.number〈〉0 then err.Clear
end function
’2、转换乱玛，直接用xmlhttp调用有中文字符的网页得到的将是乱玛，可以通过adodb.stream组件进行转换
Function BytesToBstr(body,Cset)
dim objstream
set objstream = Server.CreateObject("adodb.stream")
objstream.Type = 1
objstream.Mode =3
objstream.Open
objstream.Write body
objstream.Position = 0
objstream.Type = 2
objstream.Charset = Cset
BytesToBstr = objstream.ReadText
objstream.Close
set objstream = nothing
End Function
’下面试着调用http://www.3doing.com/earticle/的html内容
Dim Url,Html
Url="http://www.3doing.com/earticle/"
Html = getHTTPPage(Url)
Response.write Html
%〉ASP小偷入门教程.....附qq天气小偷源代码
要做一名好的小偷有点难度:P，灵活运用XMLHTTP组件，你也可以做“小偷”
这里所说的“小偷”指的是在ASP中运用XML中的XMLHTTP组件提供的强大功能，把远程网站上的数据（图片，网页及其他文件）抓取到本地，经过各种处理后显示到页面上或者存储进数据库的一类程序。你可以通过这种小偷程序，完成过去一些似乎完全不可能实现的任务，比如说把某个站的页面偷梁换柱后变成自己的页面，或者把某个站的一些数据（文章，图片）保存到本地数据库中加以利用。“小偷”的优点有：无须维护网站，因为小偷程序中的数据来自其他网站，它将随着该网站的更新而更新；可以节省大量的服务器资源，一般小偷程序就几个文件，所有网页内容都是来自其他网站。缺点在于：不稳定，如果目标网站出错，程序也会出错，而且，如果目标网站进行升级维护，那么小偷程序也要进行相应修改；速度，因为是远程调用，速度和在本地服务器上读取数据比起来，肯定要慢一些。怎么样，听起来很神奇吧？我们现在就开始来学习一些“小偷”程序的入门知识吧！
我们拿个简单点的东西来研究一下吧，QQ网站上的天气预报程序
程序演示地址：http://www.colasky.com/weather.asp
源码下载：http://www.colasky.com/weather.rar
代码如下：
以下是代码片段：
〈%
On Error Resume Next
Server.ScriptTimeOut=9999999
Function getHTTPPage(Path)
t = GetBody(Path)
getHTTPPage=BytesToBstr(t,"GB2312")
End function'首先，进行小偷程序的一些初始化设置，以上代码的作用分别是忽略掉所有非致命性错误，把小偷程序的运行超时时间设置得很长（这样不会出现运行超时的错误），转换原来默认的UTF-8编码转换成GB2312编码，否则直接用XMLHTTP组件调用有中文字符的网页得到的将是乱码。
以下是代码片段：
Function GetBody(url)
on error resume next
Set Retrieval = CreateObject("Microsoft.XMLHTTP")
With Retrieval
.Open "Get", url, False, "", ""
.Send
GetBody = .ResponseBody
End With
Set Retrieval = Nothing
End Function
’然后调用XMLHTTP组件创建一个对象并进行初始化设置。
Function BytesToBstr(body,Cset)
dim objstream
set objstream = Server.CreateObject("adodb.stream")
objstream.Type = 1
objstream.Mode =3
objstream.Open
objstream.Write body
objstream.Position = 0
objstream.Type = 2
objstream.Charset = Cset
BytesToBstr = objstream.ReadText
objstream.Close
set objstream = nothing
End Function
Function Newstring(wstr,strng)
Newstring=Instr(lcase(wstr),lcase(strng))
if Newstring〈=0 then Newstring=Len(wstr)
End Function
’处理抓取回来的数据需要调用adodb.stream组件并进行初始化设置。%〉
’以下即为页面显示部分
〈%
Dim wstr,str,url,start,over,city
’定义一些需要使用到的变量
city = Request.QueryString("id")
’程序传回的ID变量（即用户选择的城市）赋给id
url="http://appnews.qq.com/cgi-bin/news_qq_search?city="&city&""
’这里设置需要抓取的页面地址，当然你也可以直接指定某个地址而不使用变量
wstr=getHTTPPage(url) ' 以下是代码片段：
获取指定页面的全部数据
start=Newstring(wstr," ")
’这里设置需要处理的数据的头部，这个变量应视不同情况而设置，具体内容可以通过查看需要抓取的页面的源代码来确定。因为在这个程序里我们需要抓取整个页面,所以设置为页面全部抓取。注意，设置的内容必须是页面内容唯一的，不可以重复。
over=Newstring(wstr," ")
’和start相对应的就是需要处理的数据的尾部，同样的，设置的内容必须是页面中唯一的。
body=mid(wstr,start,over-start)
’设置显示页面的范围
’下面就是动用乾坤挪移大法的时候了，通过replace可以用一些字符替换掉数据中指定的字符。
body = replace(body,"skin1","天气预报")
body = replace(body,"http://appnews.qq.com/cgi-bin/news_qq_search?city","tianqi.asp?id")
’本程序中已经完成了替换的工作，如果有其他需要的话可以继续进行类似的替换操作。
response.write body
%〉替换完需要修改的内容后，就可以把修改的内容显示在页面上了。至此程序结束
程序使用方法及结果：把上述代码去掉说明部分后保存为tianqi.asp，上传到支持ASP和XML的空间下，在浏览器中运行即可。你可以在在这个程序的基础上进行进一步的界面美化或者程序优化。
以上只是一些关于XMLHTTP组件的初级应用，实际上它还能实现的功能还有很多，比如说保存远程图片到本地服务器上，配合adodb.stream组件可以把获取来的数据保存进数据库。小偷的作用和使用范围都很广。但是不可以拿来做违法的事哦！
也许还有人要问了，这种“小偷”程序难道只是ASP的专利吗？非也，PHP通过fopen函数一样可以实现同样的效果，由于PHP本身的各种特点，写出来的小偷程序和ASP相比，在体积和执行效率上都有着明显的优势，但限于篇幅，这里就不一一说明了。