怎么用爬虫爬去的数据保存到excel

⑴ 用爬虫从网站爬下的数据怎么存储

显然不能直接储存，你还得解析出自己需要的内容。

比如我爬取某新闻网今日的国内新闻，版那么权我创建一个实体类，里面有属性：新闻标题，新闻时间，正文等等。解析出你需要的内容，封到实体里面，然后在层直接save到数据库即可

如果你爬下的是整个网页，这个好办，把它当做文件一样，用流操作保存到电脑上即可。当然保存网页会遇到编码问题，这个很棘手。

⑵ 怎么爬取网页上的表格数据，导入到office的Excel或者Word文档中呢

关于怎么爬取网上的信息，有时候我们经常在网页上看到很多表格数据，有些不能直接复制粘贴到文档或者Excel表格中，有些能复制但是格式会发生很多错乱，要是信息量大的话，修改格式都是一项大工程了。

举个例子，之前有同学在网上看到一个表格数据：

要是我们直接复制很难把表格格式也复制进去，尤其对于一些每天都在变化的数据，也不能同步更新数据。

所以我们可以把网页的数据用Excel表格， 导入网页的链接实现表格数据爬取，同步自动更新表格数据

首先我们需要复制表格数据所在网页的链接

然后打开Excel表格。

注意：Excel表格需要2016以上的版本才可以。

然后把我们刚才复制好的数据所在网页链接粘贴进去，按确定

稍等片刻，就会自动获取网页所有表格数据，我们找到我们需要获取的数据表格，然后点击加载进Excel表格中。

加载到Excel表格中后，我们可以对外部数据进行编辑等其他参数调整

因为是直接获取外部的链接数据，所以要是外部数据变化，我们也可以设置自定数据更新。

在表格属性设计中找到刷新选项的查看链接属性，然后可以自定义设置一些自动更新时间。

如下动态图演示：

同时我们可以直接复制进Word文档中，选择性粘贴保留原格式，那么也可以跟Excel和网页数据实现同步更新了

⑶ 怎么用java写网络爬虫将网页中的指定数据下载到本地excel文档中

mportjava.io.InputStream;
importjava.net.*;
publicclassHelloHttp{
}

接著就可以仿照下列范例建立HTTP连线：

URLurl=newURL("http://tw.yahoo.com");
HttpURLConnectionhttp=(HttpURLConnection)url.openConnection();
http.setRequestMethod("POST");
InputStreaminput=http.getInputStream();
http.disconnect();

第1行建立一个URL物件，带入参数为想要建立HTTP连线的目的地，例如网站的网址。
第2行建立一个HttpURLConnection物件，并利用URL的openConnection()来建立连线。
第3行利用setRequestMethod()来设定连线的方式，一般分为POST及GET两种。
第4行将连线取得的回应载入到一个InputStream中，然後就可以将InputStream的内容取出应用，以这个例子而言我们取得的会是网页的原始码。
第5行用disconnect()将连线关闭。

将InputStream内容取出应用的范例如下：

byte[]data=newbyte[1024];
intidx=input.read(data);
Stringstr=newString(data,0,idx);
System.out.println(str);
input.close();

针对str作regularexpression处理,依照需求取得内容。

⑷ python爬虫数据怎么排列好后存储到本地excel

以使用csv，这个比较简单.

如果必须 excel 的话，建议使用XlsxWriter

语法也很简单

# Write some simple text.
worksheet.write('A1', 'Hello')

# Text with formatting.
worksheet.write('A2', 'World', bold)

# Write some numbers, with row/column notation.
worksheet.write(2, 0, 123)
worksheet.write(3, 0, 123.456)

根据你的数据：

dataset = [['豆一', '2', '3', '4']]
for i in range(len(dataset)):
for j in range(len(dataset[i])):
worksheet.write(i, j, dataset[i][j])

⑸ python爬虫做好了怎么用pandas保存为excle文件

命令行下安装：pip install openpyxl

⑹ 怎么用java写网络爬虫将网页中的指定数据下载到本地excel文档中

java不会，我会用R

⑺ 如何使用python将大量数据导出到Excel中的小技巧

如何使用python将大量数据导出到Excel中的小技巧

（1） 问题描述：为了更好地展示数据，Excel格式的数据文件往往比文本文件更具有优势，但是具体到python中，该如何导出数据到Excel呢？如果碰到需要导出大量数据又该如何操作呢？本文主要解决以上两个问题。

（2）具体步骤如下：
1.第一步，安装openpyxl,
使用pip install openpyxl即可，但是在windows下安装的是2.2.6版本，但是centos自动安装的是4.1版本,（多谢海哥的提醒）。
写的代码在windows下运行没问题，但centos上却报错了，说是ew=ExcelWriter(workbook=wb)少提供一个参数，于是果断在 237服务器上我已安装2.2.6版本的，问题解决。
pip install openpyxl==2.2.6
2.第二步，哈哈，没有啦，废话不说了，直接上代码，ps，代码中包含xlwt和openpyxl的两个实现版本。

（3）扩展阅读：通过查阅资料，发现网上众说纷纭，总结起来有如下几点：
python Excel相关的操作的mole lib有两组，一组是xlrd、xlwt、xlutils，另一组是openpyxl,
但是前一组（xlrd，xlwt）比较老，只能处理由Excel 97-2003 或者Excel 97 以前版本生成的xls格式的excel文件，xlwt甚至不支持07版以后的excel ，这个格式excel文件一般来说，最大只能支持256列或者65536行的excel文件。
因此面对需要导出大量数据到excel的情况，你将有如下三种选择，（1）换一种存储格式，如保存为CSV文件 (2)使用openpyxl—，因为它支持对Excel 2007+ xlsx/xlsm format的处理 (3) win32 COM (Windows only)
当然，我们要直面困难了，为了更好地展示数据给产品和用户，我们依然选择的第二种。
ps,非常lucky，一番搜索后我找到了openpyxl，支持07+的excel，一直有人在维护，文档清晰易读，参照Tutorial和API文档很快就能上手，就是它了~
(4)闲话少说，直接上代码，敬请参考

# coding:utf-8
'''
# 希望对大家有帮助哈，请多提问题
create by yaoyz
date: 2017/01/24
'''
import xlrd
import xlwt
# workbook相关
from openpyxl.workbook import Workbook
# ExcelWriter，封装了很强大的excel写的功能
from openpyxl.writer.excel import ExcelWriter
# 一个eggache的数字转为列字母的方法
from openpyxl.utils import get_column_letter
from openpyxl.reader.excel import load_workbook

class HandleExcel():
'''Excel相关操作类'''
def __init__(self):
self. head_row_labels = [u'学生ID',u'学生姓名',u'联系方式',u'知识点ID',u'知识点名称']
"""
function：
读出txt文件中的每一条记录，把它保存在list中
Param:
filename: 要读出的文件名
Return:
res_list： 返回的记录的list
"""
def read_from_file(self,filename):
res_list=[]
file_obj=open(filename,"r")
for line in file_obj.readlines():
res_list.append(line)
file_obj.close()
return res_list
"""
function：
读出*.xlsx中的每一条记录，把它保存在data_dic中返回
Param:
excel_name: 要读出的文件名
Return:
data_dic： 返回的记录的dict
"""
def read_excel_with_openpyxl(self, excel_name="testexcel2007.xlsx"):
# 读取excel2007文件
wb = load_workbook(filename=excel_name)
# 显示有多少张表
print "Worksheet range(s):" , wb.get_named_ranges()
print "Worksheet name(s):" , wb.get_sheet_names()
# 取第一张表
sheetnames = wb.get_sheet_names()
ws = wb.get_sheet_by_name(sheetnames[0])
# 显示表名，表行数，表列数
print "Work Sheet Titile:" ,ws.title
print "Work Sheet Rows:" ,ws.get_highest_row()
print "Work Sheet Cols:" ,ws.get_highest_column()
# 获取读入的excel表格的有多少行，有多少列
row_num=ws.get_highest_row()
col_num=ws.get_highest_column()
print "row_num: ",row_num," col_num: ",col_num
# 建立存储数据的字典
data_dic = {}
sign=1
# 把数据存到字典中
for row in ws.rows:
temp_list=[]
# print "row",row
for cell in row:
print cell.value,
temp_list.append(cell.value)
print ""
data_dic[sign]=temp_list
sign+=1
print data_dic
return data_dic
"""
function：
读出*.xlsx中的每一条记录，把它保存在data_dic中返回
Param:
records: 要保存的，一个包含每一条记录的list
save_excel_name: 保存为的文件名
head_row_stu_arrive_star:
Return:
data_dic： 返回的记录的dict
"""
def write_to_excel_with_openpyxl(self,records,head_row,save_excel_name="save.xlsx"):
# 新建一个workbook
wb = Workbook()
# 新建一个excelWriter
ew = ExcelWriter(workbook=wb)
# 设置文件输出路径与名称
dest_filename = save_excel_name.decode('utf-8')
# 第一个sheet是ws
ws = wb.worksheets[0]
# 设置ws的名称
ws.title = "range names"
# 写第一行，标题行
for h_x in range(1,len(head_row)+1):
h_col=get_column_letter(h_x)
#print h_col
ws.cell('%s%s' % (h_col, 1)).value = '%s' % (head_row[h_x-1])
# 写第二行及其以后的那些行
i = 2
for record in records:
record_list=str(record).strip().split("\t")
for x in range(1,len(record_list)+1):
col = get_column_letter(x)
ws.cell('%s%s' % (col, i)).value = '%s' % (record_list[x-1].decode('utf-8'))
i += 1
# 写文件
ew.save(filename=dest_filename)
"""
function：
测试输出Excel内容
读出Excel文件
Param:
excel_name: 要读出的Excel文件名
Return:
无
"""
def read_excel(self,excel_name):
workbook=xlrd.open_workbook(excel_name)
print workbook.sheet_names()
# 获取所有sheet
print workbook.sheet_names() # [u'sheet1', u'sheet2']
sheet2_name = workbook.sheet_names()[1]
# 根据sheet索引或者名称获取sheet内容
sheet2 = workbook.sheet_by_index(1) # sheet索引从0开始
sheet2 = workbook.sheet_by_name('Sheet1')
# sheet的名称，行数，列数
print sheet2.name,sheet2.nrows,sheet2.ncols
# 获取整行和整列的值（数组）
rows = sheet2.row_values(3) # 获取第四行内容
cols = sheet2.col_values(2) # 获取第三列内容
print rows
print cols
# 获取单元格内容
print sheet2.cell(1,0).value
print sheet2.cell_value(1,0)
print sheet2.row(1)[0].value
# 获取单元格内容的数据类型
print sheet2.cell(1,0).ctype
# 通过名称获取
return workbook.sheet_by_name(u'Sheet1')
"""
function：
设置单元格样式
Param:
name: 字体名字
height: 字体高度
bold: 是否大写
Return:
style: 返回设置好的格式对象
"""
def set_style(self,name,height,bold=False):
style = xlwt.XFStyle() # 初始化样式
font = xlwt.Font() # 为样式创建字体
font.name = name # 'Times New Roman'
font.bold = bold
font.color_index = 4
font.height = height
borders= xlwt.Borders()
borders.left= 6
borders.right= 6
borders.top= 6
borders.bottom= 6
style.font = font
style.borders = borders
return style
"""
function：
按照 设置单元格样式 把计算结果由txt转变为Excel存储
Param:
dataset：要保存的结果数据，list存储
Return:
将结果保存为 excel对象中
"""
def write_to_excel(self, dataset,save_excel_name,head_row):
f = xlwt.Workbook() # 创建工作簿
# 创建第一个sheet:
# sheet1
count=1
sheet1 = f.add_sheet(u'sheet1', cell_overwrite_ok=True) # 创建sheet
# 首行标题：
for p in range(len(head_row)):
sheet1.write(0,p,head_row[p],self.set_style('Times New Roman',250,True))
default=self.set_style('Times New Roman',200,False) # define style out the loop will work
for line in dataset:
row_list=str(line).strip("\n").split("\t")
for pp in range(len(str(line).strip("\n").split("\t"))):
sheet1.write(count,pp,row_list[pp].decode('utf-8'),default)
count+=1
f.save(save_excel_name) # 保存文件

def run_main_save_to_excel_with_openpyxl(self):
print "测试读写2007及以后的excel文件xlsx，以方便写入文件更多数据"
print "1. 把txt文件读入到内存中，以list对象存储"
dataset_list=self.read_from_file("test_excel.txt")
'''test use openpyxl to handle EXCEL 2007'''
print "2. 把文件写入到Excel表格中"
head_row_label=self.head_row_labels
save_name="test_openpyxl.xlsx"
self.write_to_excel_with_openpyxl(dataset_list,head_row_label,save_name)
print "3. 执行完毕，由txt格式文件保存为Excel文件的任务"
def run_main_save_to_excel_with_xlwt(self):
print " 4. 把txt文件读入到内存中，以list对象存储"
dataset_list=self.read_from_file("test_excel.txt")
'''test use xlwt to handle EXCEL 97-2003'''
print " 5. 把文件写入到Excel表格中"
head_row_label=self.head_row_labels
save_name="test_xlwt.xls"
self.write_to_excel_with_openpyxl(dataset_list,head_row_label,save_name)
print "6. 执行完毕，由txt格式文件保存为Excel文件的任务"
if __name__ == '__main__':
print "create handle Excel Object"
obj_handle_excel=HandleExcel()
# 分别使用openpyxl和xlwt将数据写入文件
obj_handle_excel.run_main_save_to_excel_with_openpyxl()
obj_handle_excel.run_main_save_to_excel_with_xlwt()
'''测试读出文件，注意openpyxl不可以读取xls的文件,xlrd不可以读取xlsx格式的文件'''
#obj_handle_excel.read_excel_with_openpyxl("testexcel2003.xls") # 错误写法
#obj_handle_excel.read_excel_with_openpyxl("testexcel2003.xls") # 错误写法
obj_handle_excel.read_excel("testexcel2003.xls")
obj_handle_excel.read_excel_with_openpyxl("testexcel2007.xlsx")

⑻ 用python批量提取pdf的表格数据，保存为excel

pdfplumber 是一个开源 python 工具库-，可以方便地获取 pdf 的各种信息，包括文本、表格、图表、尺寸等。完成我们本文的需求，主要使用 pdfplumber 提取 pdf 表格数据。

python 中还有很多库可以处理 pdf，比如 PyPDF2、pdfminer 等，本文选择pdfplumber 的原因在于能轻松访问有关 PDF 的所有详细信息，包括作者、来源、日期等，并且用于提取文本和表格的方法灵活可定制。大家可以根据手头数据需求，再去解锁 pdfplumber 的更多用法。