1. App中的數據可以用網路爬蟲抓取么
可以，你可以用抓包，然後通過代理ip的方式，讓你的手機和電腦處在一個網路，然後通過發送請求的方式去獲取
2. 如何進行手機APP的數據爬取
Python爬蟲手機的步驟：
1. 下載fiddler抓包工具
2. 設置fiddler
這里有兩點需要說明一下。
設置允許抓取HTTPS信息包
操作很簡單，打開下載好的fiddler，找到 Tools -> Options，然後再HTTPS的工具欄下勾選Decrpt HTTPS traffic，在新彈出的選項欄下勾選Ignore server certificate errors。
設置允許外部設備發送HTTP/HTTPS到fiddler
相同的，在Connections選項欄下勾選Allow remote computers to connect，並記住上面的埠號8888，後面會使用到。
好了，需要的fiddler設置就配置完成了。
3. 設置手機端
設置手機端之前，我們需要記住一點：電腦和手機需要在同一個網路下進行操作。
可以使用wifi或者手機熱點等來完成。
假如你已經讓電腦和手機處於同一個網路下了，這時候我們需要知道此網路的ip地址，可以在命令行輸入ipconfig簡單的獲得，如圖。
好了，下面我們開始手機端的設置。
手機APP的抓取操作對於Android和Apple系統都可用，博主使用的蘋果系統，在此以蘋果系統為例。
進入到手機wifi的設置界面，選擇當前連接網路的更多信息，在蘋果中是一個嘆號。然後在最下面你會看到HTTP代理的選項，點擊進入。
進入後，填寫上面記住的ip地址和埠號，確定保存。
4. 下載fiddler安全證書
在手機上打開瀏覽器輸入一個上面ip地址和埠號組成的url：http://192.168.43.38:8888，然後點擊FiddlerRoot certificate下載fiddler證書。
以上就簡單完成了所有的操作，最後我們測試一下是否好用。
5. 手機端測試
就以知乎APP為例，在手機上打開 知乎APP。下面是電腦上fiddler的抓包結果。
結果沒有問題，抓到信息包。然後就可以使用我們分析網頁的方法來進行後續的操作了。
3. 數據分析師獲取數據的方式有哪些
1、外部購買數據
有很多公司或者平台是專門做數據收集和分析的，企業會直接從那裡購買數據或者相關服務給數據分析師，這是一種常見的獲取數據的方式之一。
2、網路爬取數據
除了購買數據以外，數據分析師還可以通過網路爬蟲從網路上爬取數據。比如大家可以利用網路爬蟲爬取一些需要的數據，再將數據存儲稱為表格的形式。當你在瀏覽網頁時，瀏覽器就相當於客戶端，會去連接我們要訪問的網站獲取數據，然後通過瀏覽器解析之後展示給我們看，而網路爬蟲可以通過代碼模擬人類在瀏覽器上訪問網站，獲取相應的數據，然後經過處理後保存成文件或存儲到資料庫中供我使用。此外，網路爬蟲還可以爬取一些手機APP客戶端上的數據。
3、免費開源數據
外部購買數據要花費一定的資金，網路爬取對技術又有一定的要求，有沒有什麼辦法能又省力又省錢的採集數據呢?當然有，互聯網上有一些“開放數據”來源，如政府機構、非營利組織和企業會免費提供一些數據，根據需求你可以免費下載。
4、企業內部數據
了解了企業外部數據的來源，其實企業內部本身就會產生很多數據提供給我們分析，我們一起來了解一下吧。前面說了，內部數據通常包含銷售數據、考勤數據、財務數據等。比如銷售數據是大部分公司的核心數據之一，它反應了企業發展狀況，是數據分析的重點對象。
關於數據分析師獲取數據的方式有哪些，青藤小編就和您分享到這里了。如果您對大數據工程有濃厚的興趣，希望這篇文章可以為您提供幫助。如果您還想了解更多關於數據分析師、大數據工程師的技巧及素材等內容，可以點擊本站的其他文章進行學習。
4. 怎麼採集APP數據和抓取App數據
我使用過軟體採集app數據，首先使用抓包工具看一下app的協議有沒有加密，如果沒有加密就能採集。抓包工具網上搜搜就有，採集數據的話，使用的是前嗅的ForeSpider數據採集軟體，網上也有很多的教程。操作簡單，有免費版，你可以嘗試一下。望採納怎麼採集APP數據和抓取App數據
5. 如何爬取京東手機上萬的商品數據，這個神器可以幫你
Charles是一個網路抓包工具，我們可以用它來做App的抓包分析，得到App運行過程中發生的所有網路請求和響應內容，這就和Web端瀏覽器的開發者工具Network部分看到的結果一致。
相比Fiddler來說，Charles的功能更強大，而且跨平台支持更好。所以我們選用Charles作為主要的移動端抓包工具，用於分析移動App的數據包，輔助完成App數據抓取工作。
一、本節目標
本節我們以京東App為例，通過Charles抓取App運行過程中的網路數據包，然後查看具體的Request和Response內容，以此來了解Charles的用法。
二、准備工作
請確保已經正確安裝Charles並開啟了代理服務，手機和Charles處於同一個區域網下，Charles代理和CharlesCA證書設置好。
三、原理
首先Charles運行在自己的PC上，Charles運行的時候會在PC的8888埠開啟一個代理服務，這個服務實際上是一個HTTP/HTTPS的代理。
確保手機和PC在同一個區域網內，我們可以使用手機模擬器通過虛擬網路連接，也可以使用手機真機和PC通過無線網路連接。
設置手機代理為Charles的代理地址，這樣手機訪問互聯網的數據包就會流經Charles，Charles再轉發這些數據包到真實的伺服器，伺服器返回的數據包再由Charles轉發回手機，Charles就起到中間人的作用，所有流量包都可以捕捉到，因此所有HTTP請求和響應都可以捕獲到。同時Charles還有權力對請求和響應進行修改。
四、抓包
初始狀態下Charles的運行界面如下圖所示。
Charles會一直監聽PC和手機發生的網路數據包，捕獲到的數據包就會顯示在左側，隨著時間的推移，捕獲的數據包越來越多，左側列表的內容也會越來越多。
可以看到，圖中左側顯示了Charles抓取到的請求站點，我們點擊任意一個條目便可以查看對應請求的詳細信息，其中包括Request、Response等內容。
接下來清空Charles的抓取結果，點擊左側的掃帚按鈕即可清空當前捕獲到的所有請求。然後點擊第二個監聽按鈕，確保監聽按鈕是打開的，這表示Charles正在監聽App的網路數據流，如下圖所示。
這時打開手機京東，注意一定要提前設置好Charles的代理並配置好CA證書，否則沒有效果。
打開任意一個商品，如iPhone，然後打開它的商品評論頁面，如下圖示。
不斷上拉載入評論，可以看到Charles捕獲到這個過程中京東App內發生的所有網路請求，如下圖所示。
左側列表中會出現一個api.m.jd.com鏈接，而且它在不停閃動，很可能就是當前App發出的獲取評論數據的請求被Charles捕獲到了。我們點擊將其展開，繼續上拉刷新評論。隨著上拉的進行，此處又會出現一個個網路請求記錄，這時新出現的數據包請求確定就是獲取評論的請求。
為了驗證其正確性，我們點擊查看其中一個條目的詳情信息。切換到Contents選項卡，這時我們發現一些JSON數據，核對一下結果，結果有commentData欄位，其內容和我們在App中看到的評論內容一致，如下圖所示。
這時可以確定，此請求對應的介面就是獲取商品評論的介面。這樣我們就成功捕獲到了在上拉刷新的過程中發生的請求和響應內容。
五、分析
現在分析一下這個請求和響應的詳細信息。首先可以回到Overview選項卡，上方顯示了請求的介面URL，接著是響應狀態Status Code、請求方式Method等，如下圖所示。
這個結果和原本在Web端用瀏覽器開發者工具內捕獲到的結果形式是類似的。
接下來點擊Contents選項卡，查看該請求和響應的詳情信息。
上半部分顯示的是Request的信息，下半部分顯示的是Response的信息。比如針對Reqeust，我們切換到Headers選項卡即可看到該Request的Headers信息，針對Response，我們切換到JSON TEXT選項卡即可看到該Response的Body信息，並且該內容已經被格式化，如下圖所示。
由於這個請求是POST請求，我們還需要關心POST的表單信息，切換到Form選項卡即可查看，如下圖所示。
這樣我們就成功抓取App中的評論介面的請求和響應，並且可以查看Response返回的JSON數據。
至於其他App，我們同樣可以使用這樣的方式來分析。如果我們可以直接分析得到請求的URL和參數的規律，直接用程序模擬即可批量抓取。
六、重發
Charles還有一個強大功能，它可以將捕獲到的請求加以修改並發送修改後的請求。點擊上方的修改按鈕，左側列表就多了一個以編輯圖標為開頭的鏈接，這就代表此鏈接對應的請求正在被我們修改，如下圖所示。
我們可以將Form中的某個欄位移除，比如這里將partner欄位移除，然後點擊Remove。這時我們已經對原來請求攜帶的Form Data做了修改，然後點擊下方的Execute按鈕即可執行修改後的請求，如下圖所示。
可以發現左側列表再次出現了介面的請求結果，內容仍然不變，如下圖所示。
刪除Form表單中的partner欄位並沒有帶來什麼影響，所以這個欄位是無關緊要的。
有了這個功能，我們就可以方便地使用Charles來做調試，可以通過修改參數、介面等來測試不同請求的響應狀態，就可以知道哪些參數是必要的哪些是不必要的，以及參數分別有什麼規律，最後得到一個最簡單的介面和參數形式以供程序模擬調用使用。
七、結語
以上內容便是通過Charles抓包分析App請求的過程。通過Charles，我們成功抓取App中流經的網路數據包，捕獲原始的數據，還可以修改原始請求和重新發起修改後的請求進行介面測試。
知道了請求和響應的具體信息，如果我們可以分析得到請求的URL和參數的規律，直接用程序模擬即可批量抓取！
手機爬蟲非常有意思，而且可以爬取的數據非常多，當然還有很多東西要學。以後我也會寫一些實戰的有趣案例給大家。