怎麼用爬蟲爬去的數據保存到excel

⑴ 用爬蟲從網站爬下的數據怎麼存儲

顯然不能直接儲存，你還得解析出自己需要的內容。

比如我爬取某新聞網今日的國內新聞，版那麼權我創建一個實體類，裡面有屬性：新聞標題，新聞時間，正文等等。解析出你需要的內容，封到實體裡面，然後在層直接save到資料庫即可

如果你爬下的是整個網頁，這個好辦，把它當做文件一樣，用流操作保存到電腦上即可。當然保存網頁會遇到編碼問題，這個很棘手。

⑵ 怎麼爬取網頁上的表格數據，導入到office的Excel或者Word文檔中呢

關於怎麼爬取網上的信息，有時候我們經常在網頁上看到很多表格數據，有些不能直接復制粘貼到文檔或者Excel表格中，有些能復制但是格式會發生很多錯亂，要是信息量大的話，修改格式都是一項大工程了。

舉個例子，之前有同學在網上看到一個表格數據：

要是我們直接復制很難把表格格式也復制進去，尤其對於一些每天都在變化的數據，也不能同步更新數據。

所以我們可以把網頁的數據用Excel表格， 導入網頁的鏈接實現表格數據爬取，同步自動更新表格數據

首先我們需要復製表格數據所在網頁的鏈接

然後打開Excel表格。

注意：Excel表格需要2016以上的版本才可以。

然後把我們剛才復制好的數據所在網頁鏈接粘貼進去，按確定

稍等片刻，就會自動獲取網頁所有表格數據，我們找到我們需要獲取的數據表格，然後點擊載入進Excel表格中。

載入到Excel表格中後，我們可以對外部數據進行編輯等其他參數調整

因為是直接獲取外部的鏈接數據，所以要是外部數據變化，我們也可以設置自定數據更新。

在表格屬性設計中找到刷新選項的查看鏈接屬性，然後可以自定義設置一些自動更新時間。

如下動態圖演示：

同時我們可以直接復制進Word文檔中，選擇性粘貼保留原格式，那麼也可以跟Excel和網頁數據實現同步更新了

⑶ 怎麼用java寫網路爬蟲將網頁中的指定數據下載到本地excel文檔中

mportjava.io.InputStream;
importjava.net.*;
publicclassHelloHttp{
}

接著就可以仿照下列範例建立HTTP連線：

URLurl=newURL("http://tw.yahoo.com");
HttpURLConnectionhttp=(HttpURLConnection)url.openConnection();
http.setRequestMethod("POST");
InputStreaminput=http.getInputStream();
http.disconnect();

第1行建立一個URL物件，帶入參數為想要建立HTTP連線的目的地，例如網站的網址。
第2行建立一個HttpURLConnection物件，並利用URL的openConnection()來建立連線。
第3行利用setRequestMethod()來設定連線的方式，一般分為POST及GET兩種。
第4行將連線取得的回應載入到一個InputStream中，然後就可以將InputStream的內容取出應用，以這個例子而言我們取得的會是網頁的原始碼。
第5行用disconnect()將連線關閉。

將InputStream內容取出應用的範例如下：

byte[]data=newbyte[1024];
intidx=input.read(data);
Stringstr=newString(data,0,idx);
System.out.println(str);
input.close();

針對str作regularexpression處理,依照需求取得內容。

⑷ python爬蟲數據怎麼排列好後存儲到本地excel

以使用csv，這個比較簡單.

如果必須 excel 的話，建議使用XlsxWriter

語法也很簡單

# Write some simple text.
worksheet.write('A1', 'Hello')

# Text with formatting.
worksheet.write('A2', 'World', bold)

# Write some numbers, with row/column notation.
worksheet.write(2, 0, 123)
worksheet.write(3, 0, 123.456)

根據你的數據：

dataset = [['豆一', '2', '3', '4']]
for i in range(len(dataset)):
for j in range(len(dataset[i])):
worksheet.write(i, j, dataset[i][j])

⑸ python爬蟲做好了怎麼用pandas保存為excle文件

命令行下安裝：pip install openpyxl

⑹ 怎麼用java寫網路爬蟲將網頁中的指定數據下載到本地excel文檔中

java不會，我會用R

⑺ 如何使用python將大量數據導出到Excel中的小技巧

如何使用python將大量數據導出到Excel中的小技巧

（1） 問題描述：為了更好地展示數據，Excel格式的數據文件往往比文本文件更具有優勢，但是具體到python中，該如何導出數據到Excel呢？如果碰到需要導出大量數據又該如何操作呢？本文主要解決以上兩個問題。

（2）具體步驟如下：
1.第一步，安裝openpyxl,
使用pip install openpyxl即可，但是在windows下安裝的是2.2.6版本，但是centos自動安裝的是4.1版本,（多謝海哥的提醒）。
寫的代碼在windows下運行沒問題，但centos上卻報錯了，說是ew=ExcelWriter(workbook=wb)少提供一個參數，於是果斷在 237伺服器上我已安裝2.2.6版本的，問題解決。
pip install openpyxl==2.2.6
2.第二步，哈哈，沒有啦，廢話不說了，直接上代碼，ps，代碼中包含xlwt和openpyxl的兩個實現版本。

（3）擴展閱讀：通過查閱資料，發現網上眾說紛紜，總結起來有如下幾點：
python Excel相關的操作的mole lib有兩組，一組是xlrd、xlwt、xlutils，另一組是openpyxl,
但是前一組（xlrd，xlwt）比較老，只能處理由Excel 97-2003 或者Excel 97 以前版本生成的xls格式的excel文件，xlwt甚至不支持07版以後的excel ，這個格式excel文件一般來說，最大隻能支持256列或者65536行的excel文件。
因此面對需要導出大量數據到excel的情況，你將有如下三種選擇，（1）換一種存儲格式，如保存為CSV文件 (2)使用openpyxl—，因為它支持對Excel 2007+ xlsx/xlsm format的處理 (3) win32 COM (Windows only)
當然，我們要直面困難了，為了更好地展示數據給產品和用戶，我們依然選擇的第二種。
ps,非常lucky，一番搜索後我找到了openpyxl，支持07+的excel，一直有人在維護，文檔清晰易讀，參照Tutorial和API文檔很快就能上手，就是它了~
(4)閑話少說，直接上代碼，敬請參考

# coding:utf-8
'''
# 希望對大家有幫助哈，請多提問題
create by yaoyz
date: 2017/01/24
'''
import xlrd
import xlwt
# workbook相關
from openpyxl.workbook import Workbook
# ExcelWriter，封裝了很強大的excel寫的功能
from openpyxl.writer.excel import ExcelWriter
# 一個eggache的數字轉為列字母的方法
from openpyxl.utils import get_column_letter
from openpyxl.reader.excel import load_workbook

class HandleExcel():
'''Excel相關操作類'''
def __init__(self):
self. head_row_labels = [u'學生ID',u'學生姓名',u'聯系方式',u'知識點ID',u'知識點名稱']
"""
function：
讀出txt文件中的每一條記錄，把它保存在list中
Param:
filename: 要讀出的文件名
Return:
res_list： 返回的記錄的list
"""
def read_from_file(self,filename):
res_list=[]
file_obj=open(filename,"r")
for line in file_obj.readlines():
res_list.append(line)
file_obj.close()
return res_list
"""
function：
讀出*.xlsx中的每一條記錄，把它保存在data_dic中返回
Param:
excel_name: 要讀出的文件名
Return:
data_dic： 返回的記錄的dict
"""
def read_excel_with_openpyxl(self, excel_name="testexcel2007.xlsx"):
# 讀取excel2007文件
wb = load_workbook(filename=excel_name)
# 顯示有多少張表
print "Worksheet range(s):" , wb.get_named_ranges()
print "Worksheet name(s):" , wb.get_sheet_names()
# 取第一張表
sheetnames = wb.get_sheet_names()
ws = wb.get_sheet_by_name(sheetnames[0])
# 顯示表名，錶行數，表列數
print "Work Sheet Titile:" ,ws.title
print "Work Sheet Rows:" ,ws.get_highest_row()
print "Work Sheet Cols:" ,ws.get_highest_column()
# 獲取讀入的excel表格的有多少行，有多少列
row_num=ws.get_highest_row()
col_num=ws.get_highest_column()
print "row_num: ",row_num," col_num: ",col_num
# 建立存儲數據的字典
data_dic = {}
sign=1
# 把數據存到字典中
for row in ws.rows:
temp_list=[]
# print "row",row
for cell in row:
print cell.value,
temp_list.append(cell.value)
print ""
data_dic[sign]=temp_list
sign+=1
print data_dic
return data_dic
"""
function：
讀出*.xlsx中的每一條記錄，把它保存在data_dic中返回
Param:
records: 要保存的，一個包含每一條記錄的list
save_excel_name: 保存為的文件名
head_row_stu_arrive_star:
Return:
data_dic： 返回的記錄的dict
"""
def write_to_excel_with_openpyxl(self,records,head_row,save_excel_name="save.xlsx"):
# 新建一個workbook
wb = Workbook()
# 新建一個excelWriter
ew = ExcelWriter(workbook=wb)
# 設置文件輸出路徑與名稱
dest_filename = save_excel_name.decode('utf-8')
# 第一個sheet是ws
ws = wb.worksheets[0]
# 設置ws的名稱
ws.title = "range names"
# 寫第一行，標題行
for h_x in range(1,len(head_row)+1):
h_col=get_column_letter(h_x)
#print h_col
ws.cell('%s%s' % (h_col, 1)).value = '%s' % (head_row[h_x-1])
# 寫第二行及其以後的那些行
i = 2
for record in records:
record_list=str(record).strip().split("\t")
for x in range(1,len(record_list)+1):
col = get_column_letter(x)
ws.cell('%s%s' % (col, i)).value = '%s' % (record_list[x-1].decode('utf-8'))
i += 1
# 寫文件
ew.save(filename=dest_filename)
"""
function：
測試輸出Excel內容
讀出Excel文件
Param:
excel_name: 要讀出的Excel文件名
Return:
無
"""
def read_excel(self,excel_name):
workbook=xlrd.open_workbook(excel_name)
print workbook.sheet_names()
# 獲取所有sheet
print workbook.sheet_names() # [u'sheet1', u'sheet2']
sheet2_name = workbook.sheet_names()[1]
# 根據sheet索引或者名稱獲取sheet內容
sheet2 = workbook.sheet_by_index(1) # sheet索引從0開始
sheet2 = workbook.sheet_by_name('Sheet1')
# sheet的名稱，行數，列數
print sheet2.name,sheet2.nrows,sheet2.ncols
# 獲取整行和整列的值（數組）
rows = sheet2.row_values(3) # 獲取第四行內容
cols = sheet2.col_values(2) # 獲取第三列內容
print rows
print cols
# 獲取單元格內容
print sheet2.cell(1,0).value
print sheet2.cell_value(1,0)
print sheet2.row(1)[0].value
# 獲取單元格內容的數據類型
print sheet2.cell(1,0).ctype
# 通過名稱獲取
return workbook.sheet_by_name(u'Sheet1')
"""
function：
設置單元格樣式
Param:
name: 字體名字
height: 字體高度
bold: 是否大寫
Return:
style: 返回設置好的格式對象
"""
def set_style(self,name,height,bold=False):
style = xlwt.XFStyle() # 初始化樣式
font = xlwt.Font() # 為樣式創建字體
font.name = name # 'Times New Roman'
font.bold = bold
font.color_index = 4
font.height = height
borders= xlwt.Borders()
borders.left= 6
borders.right= 6
borders.top= 6
borders.bottom= 6
style.font = font
style.borders = borders
return style
"""
function：
按照 設置單元格樣式 把計算結果由txt轉變為Excel存儲
Param:
dataset：要保存的結果數據，list存儲
Return:
將結果保存為 excel對象中
"""
def write_to_excel(self, dataset,save_excel_name,head_row):
f = xlwt.Workbook() # 創建工作簿
# 創建第一個sheet:
# sheet1
count=1
sheet1 = f.add_sheet(u'sheet1', cell_overwrite_ok=True) # 創建sheet
# 首行標題：
for p in range(len(head_row)):
sheet1.write(0,p,head_row[p],self.set_style('Times New Roman',250,True))
default=self.set_style('Times New Roman',200,False) # define style out the loop will work
for line in dataset:
row_list=str(line).strip("\n").split("\t")
for pp in range(len(str(line).strip("\n").split("\t"))):
sheet1.write(count,pp,row_list[pp].decode('utf-8'),default)
count+=1
f.save(save_excel_name) # 保存文件

def run_main_save_to_excel_with_openpyxl(self):
print "測試讀寫2007及以後的excel文件xlsx，以方便寫入文件更多數據"
print "1. 把txt文件讀入到內存中，以list對象存儲"
dataset_list=self.read_from_file("test_excel.txt")
'''test use openpyxl to handle EXCEL 2007'''
print "2. 把文件寫入到Excel表格中"
head_row_label=self.head_row_labels
save_name="test_openpyxl.xlsx"
self.write_to_excel_with_openpyxl(dataset_list,head_row_label,save_name)
print "3. 執行完畢，由txt格式文件保存為Excel文件的任務"
def run_main_save_to_excel_with_xlwt(self):
print " 4. 把txt文件讀入到內存中，以list對象存儲"
dataset_list=self.read_from_file("test_excel.txt")
'''test use xlwt to handle EXCEL 97-2003'''
print " 5. 把文件寫入到Excel表格中"
head_row_label=self.head_row_labels
save_name="test_xlwt.xls"
self.write_to_excel_with_openpyxl(dataset_list,head_row_label,save_name)
print "6. 執行完畢，由txt格式文件保存為Excel文件的任務"
if __name__ == '__main__':
print "create handle Excel Object"
obj_handle_excel=HandleExcel()
# 分別使用openpyxl和xlwt將數據寫入文件
obj_handle_excel.run_main_save_to_excel_with_openpyxl()
obj_handle_excel.run_main_save_to_excel_with_xlwt()
'''測試讀出文件，注意openpyxl不可以讀取xls的文件,xlrd不可以讀取xlsx格式的文件'''
#obj_handle_excel.read_excel_with_openpyxl("testexcel2003.xls") # 錯誤寫法
#obj_handle_excel.read_excel_with_openpyxl("testexcel2003.xls") # 錯誤寫法
obj_handle_excel.read_excel("testexcel2003.xls")
obj_handle_excel.read_excel_with_openpyxl("testexcel2007.xlsx")

⑻ 用python批量提取pdf的表格數據，保存為excel

pdfplumber 是一個開源 python 工具庫-，可以方便地獲取 pdf 的各種信息，包括文本、表格、圖表、尺寸等。完成我們本文的需求，主要使用 pdfplumber 提取 pdf 表格數據。

python 中還有很多庫可以處理 pdf，比如 PyPDF2、pdfminer 等，本文選擇pdfplumber 的原因在於能輕松訪問有關 PDF 的所有詳細信息，包括作者、來源、日期等，並且用於提取文本和表格的方法靈活可定製。大家可以根據手頭數據需求，再去解鎖 pdfplumber 的更多用法。