創業家林彪大數據

Ⅰ 互聯網大數據現關心的是什麼

樓主您好：

首先，我認為大數據就是互聯網發展到現今階段的一種表象或特徵而已，沒有必要神話它或對它保持敬畏之心，在以雲計算為代表的技術創新大幕的襯托下，這些原本很難收集和使用的數據開始容易被利用起來了，通過各行各業的不斷創新，大數據會逐步為人類創造更多的價值。
其次，想要系統的認知大數據，必須要全面而細致的分解它，我著手從三個層面來展開：
第一層面是理論，理論是認知的必經途徑，也是被廣泛認同和傳播的基線。我會從大數據的特徵定義理解行業對大數據的整體描繪和定性；從對大數據價值的探討來深入解析大數據的珍貴所在；從對大數據的現在和未來去洞悉大數據的發展趨勢；從大數據隱私這個特別而重要的視角審視人和數據之間的長久博弈。
第二層面是技術，技術是大數據價值體現的手段和前進的基石。我將分別從雲計算、分布式處理技術、存儲技術和感知技術的發展來說明大數據從採集、處理、存儲到形成結果的整個過程。
第三層面是實踐，實踐是大數據的最終價值體現。我將分別從互聯網的大數據，政府的大數據，企業的大數據和個人的大數據四個方面來描繪大數據已經展現的美好景象及即將實現的藍圖。
和大數據相關的理論
? 特徵定義
最早提出大數據時代到來的是麥肯錫：「數據，已經滲透到當今每一個行業和業務職能領域，成為重要的生產因素。人們對於海量數據的挖掘和運用，預示著新一波生產率增長和消費者盈餘浪潮的到來。」
業界（IBM 最早定義）將大數據的特徵歸納為4個「V」（量Volume，多樣Variety，價值Value，速Velocity），或者說特點有四個層面：第一，數據體量巨大。大數據的起始計量單位至少是P（1000個T）、E（100萬個T）或Z（10億個T）；第二，數據類型繁多。比如，網路日誌、視頻、圖片、地理位置信息等等。第三，價值密度低，商業價值高。第四，處理速度快。最後這一點也是和傳統的數據挖掘技術有著本質的不同。
其實這些V並不能真正說清楚大數據的所有特徵，下面這張圖對大數據的一些相關特性做出了有效的說明。
36大數據
古語雲：三分技術，七分數據，得數據者得天下。先不論誰說的，但是這句話的正確性已經不用去論證了。維克托·邁爾-舍恩伯格在《大數據時代》一書中舉了百般例證，都是為了說明一個道理：在大數據時代已經到來的時候要用大數據思維去發掘大數據的潛在價值。書中，作者提及最多的是Google如何利用人們的搜索記錄挖掘數據二次利用價值，比如預測某地流感爆發的趨勢；Amazon如何利用用戶的購買和瀏覽歷史數據進行有針對性的書籍購買推薦，以此有效提升銷售量；Farecast如何利用過去十年所有的航線機票價格打折數據，來預測用戶購買機票的時機是否合適。
那麼，什麼是大數據思維？維克托·邁爾-舍恩伯格認為，1-需要全部數據樣本而不是抽樣；2-關注效率而不是精確度；3-關注相關性而不是因果關系。
阿里巴巴的王堅對於大數據也有一些獨特的見解，比如，
「今天的數據不是大，真正有意思的是數據變得在線了，這個恰恰是互聯網的特點。」
「非互聯網時期的產品，功能一定是它的價值，今天互聯網的產品，數據一定是它的價值。」
「你千萬不要想著拿數據去改進一個業務，這不是大數據。你一定是去做了一件以前做不了的事情。」
特別是最後一點，我是非常認同的，大數據的真正價值在於創造，在於填補無數個還未實現過的空白。
有人把數據比喻為蘊藏能量的煤礦。煤炭按照性質有焦煤、無煙煤、肥煤、貧煤等分類，而露天煤礦、深山煤礦的挖掘成本又不一樣。與此類似，大數據並不在「大」，而在於「有用」。價值含量、挖掘成本比數量更為重要。
? 價值探討
大數據是什麼？投資者眼裡是金光閃閃的兩個字：資產。比如，Facebook上市時，評估機構評定的有效資產中大部分都是其社交網站上的數據。
如果把大數據比作一種產業，那麼這種產業實現盈利的關鍵，在於提高對數據的「加工能力」，通過「加工」實現數據的「增值」。
Target 超市以20多種懷孕期間孕婦可能會購買的商品為基礎，將所有用戶的購買記錄作為數據來源，通過構建模型分析購買者的行為相關性，能准確的推斷出孕婦的具體臨盆時間，這樣Target的銷售部門就可以有針對的在每個懷孕顧客的不同階段寄送相應的產品優惠卷。
Target的例子是一個很典型的案例，這樣印證了維克托·邁爾-舍恩伯格提過的一個很有指導意義的觀點：通過找出一個關聯物並監控它，就可以預測未來。Target通過監測購買者購買商品的時間和品種來准確預測顧客的孕期，這就是對數據的二次利用的典型案例。如果，我們通過採集駕駛員手機的GPS數據，就可以分析出當前哪些道路正在堵車，並可以及時發佈道路交通提醒；通過採集汽車的GPS位置數據，就可以分析城市的哪些區域停車較多，這也代表該區域有著較為活躍的人群，這些分析數據適合賣給廣告投放商。
不管大數據的核心價值是不是預測，但是基於大數據形成決策的模式已經為不少的企業帶來了盈利和聲譽。
從大數據的價值鏈條來分析，存在三種模式：
1- 手握大數據，但是沒有利用好；比較典型的是金融機構，電信行業，政府機構等。
2- 沒有數據，但是知道如何幫助有數據的人利用它；比較典型的是IT咨詢和服務企業，比如，埃森哲，IBM，Oracle等。
3- 既有數據，又有大數據思維；比較典型的是Google，Amazon，Mastercard等。
未來在大數據領域最具有價值的是兩種事物：1-擁有大數據思維的人，這種人可以將大數據的潛在價值轉化為實際利益；2-還未有被大數據觸及過的業務領域。這些是還未被挖掘的油井，金礦，是所謂的藍海。
Wal-Mart作為零售行業的巨頭，他們的分析人員會對每個階段的銷售記錄進行了全面的分析，有一次他們無意中發現雖不相關但很有價值的數據，在美國的颶風來臨季節，超市的蛋撻和抵禦颶風物品竟然銷量都有大幅增加，於是他們做了一個明智決策，就是將蛋撻的銷售位置移到了颶風物品銷售區域旁邊，看起來是為了方便用戶挑選，但是沒有想到蛋撻的銷量因此又提高了很多。
還有一個有趣的例子，1948年遼沈戰役期間，司令員林彪要求每天要進行例常的「每日軍情匯報」，由值班參謀讀出下屬各個縱隊、師、團用電台報告的當日戰況和繳獲情況。那幾乎是重復著千篇一律枯燥無味的數據：每支部隊殲敵多少、俘虜多少;繳獲的火炮、車輛多少，槍支、物資多少……有一天，參謀照例匯報當日的戰況，林彪突然打斷他：「剛才念的在胡家窩棚那個戰斗的繳獲，你們聽到了嗎?」大家都很茫然，因為如此戰斗每天都有幾十起，不都是差不多一模一樣的枯燥數字嗎?林彪掃視一周，見無人回答，便接連問了三句：「為什麼那裡繳獲的短槍與長槍的比例比其它戰斗略高?」「為什麼那裡繳獲和擊毀的小車與大車的比例比其它戰斗略高?」「為什麼在那裡俘虜和擊斃的軍官與士兵的比例比其它戰斗略高?」林彪司令員大步走向掛滿軍用地圖的牆壁，指著地圖上的那個點說：「我猜想，不，我斷定!敵人的指揮所就在這里!」果然，部隊很快就抓住了敵方的指揮官廖耀湘，並取得這場重要戰役的勝利。
這些例子真實的反映在各行各業，探求數據價值取決於把握數據的人，關鍵是人的數據思維；與其說是大數據創造了價值，不如說是大數據思維觸發了新的價值增長。
? 現在和未來
我們先看看大數據在當下有怎樣的傑出表現：
大數據幫助政府實現市場經濟調控、公共衛生安全防範、災難預警、社會輿論監督；
大數據幫助城市預防犯罪，實現智慧交通，提升緊急應急能力；
大數據幫助醫療機構建立患者的疾病風險跟蹤機制，幫助醫葯企業提升葯品的臨床使用效果，幫助艾滋病研究機構為患者提供定製的葯物；
大數據幫助航空公司節省運營成本，幫助電信企業實現售後服務質量提升，幫助保險企業識別欺詐騙保行為，幫助快遞公司監測分析運輸車輛的故障險情以提前預警維修，幫助電力公司有效識別預警即將發生故障的設備；
大數據幫助電商公司向用戶推薦商品和服務，幫助旅遊網站為旅遊者提供心儀的旅遊路線，幫助二手市場的買賣雙方找到最合適的交易目標，幫助用戶找到最合適的商品購買時期、商家和最優惠價格；
大數據幫助企業提升營銷的針對性，降低物流和庫存的成本，減少投資的風險，以及幫助企業提升廣告投放精準度；
大數據幫助娛樂行業預測歌手，歌曲，電影，電視劇的受歡迎程度，並為投資者分析評估拍一部電影需要投入多少錢才最合適，否則就有可能收不回成本；
大數據幫助社交網站提供更准確的好友推薦，為用戶提供更精準的企業招聘信息，向用戶推薦可能喜歡的游戲以及適合購買的商品。
其實，這些還遠遠不夠，未來大數據的身影應該無處不在，就算無法准確預測大數據終會將人類社會帶往到哪種最終形態，但我相信只要發展腳步在繼續，因大數據而產生的變革浪潮將很快淹沒地球的每一個角落。
比如，Amazon的最終期望是：「最成功的書籍推薦應該只有一本書，就是用戶要買的下一本書。」
Google也希望當用戶在搜索時，最好的體驗是搜索結果只包含用戶所需要的內容，而這並不需要用戶給予Google太多的提示。
而當物聯網發展到達一定規模時，藉助條形碼、二維碼、RFID等能夠唯一標識產品，感測器、可穿戴設備、智能感知、視頻採集、增強現實等技術可實現實時的信息採集和分析，這些數據能夠支撐智慧城市，智慧交通，智慧能源，智慧醫療，智慧環保的理念需要，這些都所謂的智慧將是大數據的採集數據來源和服務范圍。
未來的大數據除了將更好的解決社會問題，商業營銷問題，科學技術問題，還有一個可預見的趨勢是以人為本的大數據方針。人才是地球的主宰，大部分的數據都與人類有關，要通過大數據解決人的問題。
比如，建立個人的數據中心，將每個人的日常生活習慣，身體體征，社會網路，知識能力，愛好性情，疾病嗜好，情緒波動……換言之就是記錄人從出生那一刻起的每一分每一秒，將除了思維外的一切都儲存下來，這些數據可以被充分的利用：
醫療機構將實時的監測用戶的身體健康狀況；
教育機構更有針對的制定用戶喜歡的教育培訓計劃；
服務行業為用戶提供即時健康的符合用戶生活習慣的食物和其它服務；
社交網路能為你提供合適的交友對象，並為志同道合的人群組織各種聚會活動；
政府能在用戶的心理健康出現問題時有效的干預，防範自殺，刑事案件的發生；
金融機構能幫助用戶進行有效的理財管理，為用戶的資金提供更有效的使用建議和規劃；
道路交通、汽車租賃及運輸行業可以為用戶提供更合適的出行線路和路途服務安排；
……
當然，上面的一切看起來都很美好，但是否是以犧牲了用戶的自由為前提呢？只能說當新鮮事物帶來了革新的同時也同樣帶來了「病菌」。比如，在手機未普及前，大家喜歡聚在一起聊天，自從手機普及後特別是有了互聯網，大家不用聚在一起也可以隨時隨地的聊天，只是「病菌」滋生了另外一種情形，大家慢慢習慣了和手機共渡時光，人與人之間情感交流彷彿永遠隔著一張「網」。
? 大數據隱私
你或許並不敏感，當你在不同的網站上注冊了個人信息後，可能這些信息已經被擴散出去了，當你莫名其妙的接到各種郵件，電話，簡訊的滋擾時，你不會想到自己的電話號碼，郵箱，生日，購買記錄，收入水平，家庭住址，親朋好友等私人信息早就被各種商業機構非法存儲或賤賣給其它任何有需要的企業或個人了。
更可怕的是，這些信息你永遠無法刪除，它們永遠存在於互聯網的某些你不知道的角落。除非你更換掉自己的所有信息，但是這代價太大了。
用戶隱私問題一直是大數據應用難以繞開的一個問題，如被央視曝光過的分眾無線、羅維鄧白氏以及網易郵箱都涉及侵犯用戶隱私。目前，中國並沒有專門的法律法規來界定用戶隱私，處理相關問題時多採用其他相關法規條例來解釋。但隨著民眾隱私意識的日益增強，合法合規地獲取數據、分析數據和應用數據，是進行大數據分析時必須遵循的原則。
說到隱私被侵犯，愛德華?斯諾登應該占據一席之地，這位前美國中央情報局（CIA）雇員一手引爆了美國「棱鏡計劃」（PRISM）的內幕消息。「棱鏡」項目是一項由美國國家安全局（NSA）自2007年起開始實施的絕密電子監聽計劃，年耗資近2000億美元，用於監聽全美電話通話記錄，據稱還可以使情報人員通過「後門」進入9家主要科技公司的伺服器，包括微軟、雅虎、谷歌、Facebook、PalTalk、美國在線、Skype、YouTube、蘋果。這個事件引發了人們對政府使用大數據時對公民隱私侵犯的擔心。
再看看我們身邊，當微博，微信，QQ空間這些社交平台肆意的吞噬著數億用戶的各種信息時，你就不要指望你還有隱私權了，就算你在某個地方刪除了，但也許這些信息已經被其他人轉載或保存了，更有可能已經被網路或Google存為快照，早就提供給任意用戶搜索了。
因此在大數據的背景下，很多人都在積極的抵制無底線的數字化，這種大數據和個體之間的博弈還會一直繼續下去……
專家給予了我們一些如何有效保護大數據背景下隱私權的建議：1-減少信息的數字化；2-隱私權立法；3-數字隱私權基礎設施（類似DRM數字版權管理）；4-人類改變認知（接受忽略過去）；5-創造良性的信息生態；6-語境化。
但是這些都很難立即見效或者有實質性的改善。
比如，現在有一種職業叫刪帖人，專門負責幫人到各大網站刪帖，刪除評論。其實這些人就是通過黑客技術侵入各大網站，破獲管理員的密碼然後進行手工定向刪除。只不過他們保護的不是客戶的隱私，而大多是丑聞。還有一種職業叫人肉專家，他們負責從互聯網上找到一個與他們根本就無關系用戶的任意信息。這是很可怕的事情，也就是說，如果有人想找到你，只需要兩個條件：1-你上過網，留下過痕跡；2-你的親朋好友或僅僅是認識你的人上過網，留下過你的痕跡。這兩個條件滿足其一，人肉專家就可以很輕松的找到你，可能還知道你現在正在某個餐廳和誰一起共進晚餐。
當很多互聯網企業意識到隱私對於用戶的重要性時，為了繼續得到用戶的信任，他們採取了很多辦法，比如google承諾僅保留用戶的搜索記錄9個月，瀏覽器廠商提供了無痕沖浪模式，社交網站拒絕公共搜索引擎的爬蟲進入，並將提供出去的數據全部採取匿名方式處理等。
在這種復雜的環境裡面，很多人依然沒有建立對於信息隱私的保護意識，讓自己一直處於被滋擾，被精心設計，被利用，被監視的處境中。可是，我們能做的幾乎微乎其微，因為個人隱私數據已經無法由我們自己掌控了，就像一首詩里說到的：「如果你現在繼續麻木，那就別指望這麻木能抵擋得住被」扒光」那一刻的驚恐和絕望……」
和大數據相關的技術
? 雲技術
大數據常和雲計算聯繫到一起，因為實時的大型數據集分析需要分布式處理框架來向數十、數百或甚至數萬的電腦分配工作。可以說，雲計算充當了工業革命時期的發動機的角色，而大數據則是電。
雲計算思想的起源是麥卡錫在上世紀60年代提出的：把計算能力作為一種像水和電一樣的公用事業提供給用戶。
如今，在Google、Amazon、Facebook等一批互聯網企業引領下，一種行之有效的模式出現了：雲計算提供基礎架構平台，大數據應用運行在這個平台上。
業內是這么形容兩者的關系：沒有大數據的信息積淀，則雲計算的計算能力再強大，也難以找到用武之地；沒有雲計算的處理能力，則大數據的信息積淀再豐富，也終究只是鏡花水月。
那麼大數據到底需要哪些雲計算技術呢？
這里暫且列舉一些，比如虛擬化技術，分布式處理技術，海量數據的存儲和管理技術，NoSQL、實時流數據處理、智能分析技術（類似模式識別以及自然語言理解）等。
雲計算和大數據之間的關系可以用下面的一張圖來說明，兩者之間結合後會產生如下效應：可以提供更多基於海量業務數據的創新型服務；通過雲計算技術的不斷發展降低大數據業務的創新成本。
36大數據
如果將雲計算與大數據進行一些比較，最明顯的區分在兩個方面：
第一，在概念上兩者有所不同，雲計算改變了IT，而大數據則改變了業務。然而大數據必須有雲作為基礎架構，才能得以順暢運營。
第二，大數據和雲計算的目標受眾不同，雲計算是CIO等關心的技術層，是一個進階的IT解決方案。而大數據是CEO關注的、是業務層的產品，而大數據的決策者是業務層。
詳情：http://ke..com/view/9424571.htm

Ⅱ 數據有什麼用

大數據的分析今天不是重點，我想帶一下，有很多人還不是很清楚什麼是大數據，我舉兩個小例子跟大家說什麼是大數據。不知道在座的人當中有多少人在天津這樣的大城市工作過，反正在北京的話有一件事情很難，就是打車，打車特別特別難，高峰期打不到車，我問過樓下的人，我說師傅走嗎？太遠、太近、太堵的地方都不去，他只去跟他順路的地方，你還沒有權利投訴他。你發現樓下十輛車裡面找出一輛車跟你順路特別難，所以現在有一個打車軟體，以兩公里為半徑，找司機順路的人。這就是大數據，大數據並不是高端。
有人說大數據是新潮的概念，是在矽谷傳出來的，其實不是，大數據很早以前就有人用了，就是林彪，這是我心中的戰神，他有一個特別好的習慣就是聽戰報，別人喜歡聽戰術和戰果，他喜歡聽繳獲多少槍支和彈葯，所以毛澤東說林彪是中國解放軍最大的財迷。你想過他聽這個干嗎？很多人不知道，1948年10月14日遼沈戰役的時候，林彪在那邊聽戰報，突然他說停，所有人都安靜了，請把這個戰報再說一遍，於是又說了一遍，還把所有人都叫起來有聽了一遍有什麼問題。又聽了一遍，之後林彪問了三個問題，各位將軍，各位指揮員，你們有沒有覺得在這一戰役中，繳獲短槍的數量跟長槍的比例相比來講比其他戰場略高一些，繳獲小車和大車的比例比其他戰場略高，繳獲和俘獲的軍官數量比其他戰場略高，果然大家翻看之前的記錄，真的高了一些。林彪說，我說廖將軍家就在胡家窩棚，抽調4個兵力俘獲廖將軍，20萬人俘獲80萬人，通過這個大數據至少讓中國解放軍少死了四萬人。
有人說這個數據有什麼用？我舉一個更簡單的例子，這個電影大家前段時間看過嗎？叫《小時代》，我們抽樣了十萬用戶，微博裡面對小時代的用戶數據進行了分析，我們發現，北上廣這些地方的人幾乎沒有人評論這件事情，評論的人基本上都在湖南、湖北、江西、浙江這樣一些省份，所以我們是不是可以說，把小時代的投放戰略放在這些省會更好。其中，女性佔到幾乎80%以上，而男性只佔很少的數量，所以如果你要投廣告的話，在小時代裡面，女性用品的廣告是不是更值一點。在所有評論當中，你發現謝霆鋒、至上勵合這些人的粉絲出現的特別多，《小時代2》裡面加上這些人的加盟是不是讓收視率更上一層樓？十萬個關注用戶裡面，排在前面無益於郭敬明、柯震東，還有快樂大本營也在十萬個人關注的裡面，我們《小時代2》是不是可以跟《快樂大本營》做一次活動，因為他們的粉絲是重合的。這些都是關於大數據的分析。

Ⅲ 詳解大數據的思想如何形成與其價值維度

詳解大數據的思想如何形成與其價值維度
比如經濟上，黃仁宇先生對宋朝經濟的分析中發現了「數目字管理」(即定量分析)的廣泛應用(可惜王安石變法有始無終)。又如軍事，「向林彪學習數據挖掘」的橋段不論真假，其背後量化分析的思想無疑有其現實基礎，而這一基礎甚至可以回推到2000多年前，孫臏正是通過編造「十萬灶減到五萬灶再減到三萬灶」的數據、利用龐涓的量化分析習慣對其進行誘殺。
到上世紀50-60年代，磁帶取代穿孔卡片機，啟動了數據存儲的革命。磁碟驅動器隨即發明，它帶來的最大想像空間並不是容量，而是隨機讀寫的能力，這一下子解放了數據工作者的思維模式，開始數據的非線性表達和管理。資料庫應運而生，從層次型資料庫(IBM為阿波羅登月設計的層次型資料庫迄今仍在建行使用)，到網狀資料庫，再到現在通用的關系資料庫。與數據管理同時發源的是決策支持系統(DSS)，80年代演變到商業智能(BI)和數據倉庫，開辟了數據分析——也就是為數據賦予意義——的道路。

那個時代運用數據管理和分析最厲害的是商業。第一個數據倉庫是為寶潔做的，第一個太位元組的數據倉庫是在沃爾瑪。沃爾瑪的典型應用是兩個：一是基於retaillink的供應鏈優化，把數據與供應商共享，指導它們的產品設計、生產、定價、配送、營銷等整個流程，同時供應商可以優化庫存、及時補貨;二是購物籃分析，也就是常說的啤酒加尿布。關於啤酒加尿布，幾乎所有的營銷書都言之鑿鑿，我告訴大家，是Teradata的一個經理編的，人類歷史上從沒有發生過，但是，先教育市場，再收獲市場，它是有功的。
僅次於沃爾瑪的樂購(Tesco)，強在客戶關系管理(CRM)，細分客戶群，分析其行為和意圖，做精準營銷。
這些都發生在90年代。00年代時，科研產生了大量的數據，如天文觀測、粒子碰撞，資料庫大拿吉姆·格雷等提出了第四範式，是數據方法論的一次提升。前三個範式是實驗(伽利略從斜塔往下扔)，理論(牛頓被蘋果砸出靈感，形成經典物理學定律)，模擬(粒子加速太貴，核試驗太臟，於是乎用計算代替)。第四範式是數據探索。這其實也不是新鮮的，開普勒根據前人對行星位置的觀測數據擬合出橢圓軌道，就是數據方法。但是到90年代的時候，科研數據實在太多了，數據探索成為顯學。在現今的學科里，有一對孿生兄弟，計算XX學和XX信息學，前者是模擬/計算範式，後者是數據範式，如計算生物學和生物信息學。有時候計算XX學包含了數據範式，如計算社會學、計算廣告學。
2008年克里斯·安德森(長尾理論的作者)在《連線》雜志寫了一篇《理論的終結》，引起軒然大波。他主要的觀點是有了數據，就不要模型了，或者很難獲得具有可解釋性的模型，那麼模型所代表的理論也沒有意義了。跟大家說一下數據、模型和理論。大家先看個粗糙的圖。
首先，我們在觀察客觀世界中採集了三個點的數據，根據這些數據，可以對客觀世界有個理論假設，用一個簡化的模型來表示，比如說三角形。可以有更多的模型，如四邊形，五邊形。隨著觀察的深入，又採集了兩個點，這時發現三角形、四邊形的模型都是錯的，於是確定模型為五邊形，這個模型反映的世界就在那個五邊形里，殊不知真正的時間是圓形。
大數據時代的問題是數據是如此的多、雜，已經無法用簡單、可解釋的模型來表達，這樣，數據本身成了模型，嚴格地說，數據及應用數學(尤其是統計學)取代了理論。安德森用谷歌翻譯的例子，統一的統計學模型取代了各種語言的理論/模型(如語法)，能從英文翻譯到法文，就能從瑞典文翻譯到中文，只要有語料數據。谷歌甚至能翻譯克萊貢語(StarTrek里編出來的語言)。安德森提出了要相關性不要因果性的問題，以後舍恩伯格(下面稱之為老舍)只是拾人牙慧了。
當然，科學界不認同《理論的終結》，認為科學家的直覺、因果性、可解釋性仍是人類獲得突破的重要因素。有了數據，機器可以發現當前知識疆域裡面隱藏的未知部分。而沒有模型，知識疆域的上限就是機器線性增長的計算力，它不能擴展到新的空間。在人類歷史上，每一次知識疆域的跨越式拓展都是由天才和他們的理論率先吹起的號角。
2010年左右，大數據的浪潮捲起，這些爭論迅速被淹沒了。看谷歌趨勢，」bigdata」這個詞就是那個時間一下子躥升了起來。吹鼓手有幾家，一家是IDC，每年給EMC做digitaluniverse的報告，上升到澤位元組范疇(給大家個概念，現在硬碟是太位元組，1000太=1拍，阿里、Facebook的數據是幾百拍位元組，1000拍=1艾，網路是個位數艾位元組，谷歌是兩位數艾位元組，1000艾=1澤);一家是麥肯錫，發布《大數據：創新、競爭和生產力的下一個前沿》;一家是《經濟學人》，其中的重要寫手是跟老舍同著《大數據時代》的肯尼思？庫克耶;還有一家是Gartner，杜撰了3V(大、雜、快)，其實這3V在2001年就已經被編出來了，只不過在大數據語境里有了全新的詮釋。
咱們國內，歡總、國棟總也是在2011年左右開始呼籲對大數據的重視。
2012年子沛的書《大數據》教育政府官員有功。老舍和庫克耶的《大數據時代》提出了三大思維，現在已經被奉為圭臬，但千萬別當作放之四海而皆準的真理了。
比如要數據全集不要采樣。現實地講，1.沒有全集數據，數據都在孤島里;2.全集太貴，鑒於大數據信息密度低，是貧礦，投入產出比不見得好;3.宏觀分析中采樣還是有用的，蓋洛普用5000個樣本勝過幾百萬調查的做法還是有實踐意義;4.采樣要有隨機性、代表性，采訪火車上的民工得出都買到票的結論不是好采樣，現在只做固定電話采樣調查也不行了(行動電話是大頭)，在國外基於Twitter采樣也發現不完全具有代表性(老年人沒被包括);5.采樣的缺點是有百分之幾的偏差，更會丟失黑天鵝的信號，因此在全集數據存在且可分析的前提下，全量是首選。全量>好的采樣>不均勻的大量。
再說混雜性由於精確性。擁抱混雜性(這樣一種客觀現象)的態度是不錯的，但不等於喜歡混雜性。數據清洗比以前更重要，數據失去辨識度、失去有效性，就該扔了。老舍引用谷歌PeterNovig的結論，少數高質量數據+復雜演算法被大量低質量數據+簡單演算法打敗，來證明這一思維。Peter的研究是Web文本分析，確實成立。但谷歌的深度學習已經證明這個不完全對，對於信息維度豐富的語音、圖片數據，需要大量數據+復雜模型。
最後是要相關性不要因果性。對於大批量的小決策，相關性是有用的，如亞馬遜的個性化推薦;而對於小批量的大決策，因果性依然重要。就如中葯，只到達了相關性這一步，但它沒有可解釋性，無法得出是有些樹皮和蟲殼的因導致治癒的果。西葯在發現相關性後，要做隨機對照試驗，把所有可能導致「治癒的果」的干擾因素排除，獲得因果性和可解釋性。在商業決策上也是一樣，相關性只是開始，它取代了拍腦袋、直覺獲得的假設，而後面驗證因果性的過程仍然重要。
把大數據的一些分析結果落實在相關性上也是倫理的需要，動機不代錶行為。預測性分析也一樣，不然警察會預測人犯罪，保險公司會預測人生病，社會很麻煩。大數據演算法極大影響了我們的生活，有時候會覺得挺悲哀的，是演算法覺得了你貸不貸得到款，谷歌每調整一次演算法，很多在線商業就會受到影響，因為被排到後面去了。
下面時間不多了，關於價值維度，我貼一些以前講過的東西。大數據思想中很重要的一點是決策智能化之外，還有數據本身的價值化。這一點不贅述了，引用馬雲的話吧，「信息的出發點是我認為我比別人聰明，數據的出發點是認為別人比我聰明;信息是你拿到數據編輯以後給別人，而數據是你搜集數據以後交給比你更聰明的人去處理。」大數據能做什麼？價值這個V怎麼映射到其他3V和時空象限中？我畫了個圖：
再貼上解釋。「見微」與「知著」在Volume的空間維度。小數據見微，作個人刻畫，我曾用《一代宗師》中「見自己」形容之;大數據知著，反映自然和群體的特徵和趨勢，我以「見天地、見眾生」比喻之。「著」推動「微」(如把人群細分為buckets)，又拉動「微」(如推薦相似人群的偏好給個人)。「微」與「著」又反映了時間維度，數據剛產生時個人價值最大，隨著時間decay最後退化為以集合價值為主。
「當下」和「皆明」在Velocity的時間維度。當下在時間原點，是閃念之間的實時智慧，結合過往(負軸)、預測未來(正軸)，可以皆明，即獲得perpetual智慧。《西遊記》里形容真假孫悟空，一個是「知天時、通變化」，一個是「知前後、萬物皆明」，正好對應。為達到皆明，需要全量分析、預測分析和處方式分析(prescriptiveanalytics，為讓設定的未來發生，需要採取什麼樣的行動)。
「辨訛」和「曉意」在Variety的空間維度。基於大體量、多源異質的數據，辨訛過濾雜訊、查漏補缺、去偽存真。曉意達到更高境界，從非結構數據中提取語義、使機器能夠窺探人的思想境界、達到過去結構化數據分析不能達到之高度。
先看知著，對宏觀現象規律的研究早已有之，大數據的知著有兩個新特點，一是從采樣到全量，比如央視去年「你幸福嗎」的調查，是街頭的采樣，前不久《中國經濟生活大調查》關於幸福城市排名的結論，是基於10萬份問卷(17個問題)的采樣，而清華行為與大數據實驗室做的幸福指數(繼挺兄、我、還有多位本群群友參與)，是基於新浪微博數據的全集(托老王的福)，這些數據是人們的自然表達(而不是面對問卷時的被動應對)，同時又有上下文語境，因此更真實、也更有解釋性。北上廣不幸福，是因為空氣還是房價或教育，在微博上更容易傳播的積極情緒還是消極情緒，數據告訴你答案。《中國經濟生活大調查》說「再小的聲音我們都聽得見」，是過頭話，采樣和傳統的統計分析方法對數據分布採用一些簡化的模型，這些模型把異常和長尾忽略了，全量的分析可以看到黑天鵝的身影，聽到長尾的聲音。
另一個特點是從定性到定量。計算社會學就是把定量分析應用到社會學，已經有一批數學家、物理學家成了經濟學家、寬客，現在他們也可以選擇成為社會學家。國泰君安3I指數也是一個例子，它通過幾十萬用戶的數據，主要是反映投資活躍程度和投資收益水平的指標，建立一個量化模型來推知整體投資景氣度。
再看見微，我認為大數據的真正差異化優勢在微觀。自然科學是先宏觀、具體，進入到微觀和抽象，這時大數據就很重要了。我們更關注社會科學，那是先微觀、具體，再宏觀、抽象，許小年索性認為宏觀經濟學是偽科學。如果市場是個體行為的總和，我們原來看到是一張抽象派的畫，看不懂，通過客戶細分慢慢可以形成一張大致看得懂的現實圖景，不過是馬賽克的，再通過微分、甚至定位個人，形成高清圖。我們每一個人現在都生活在零售商的bucket中(前面說的樂購創造了這個概念)，最簡單的是高收入、低收入這類反映背景的，再有就是反映行為和生活方式的，如「精打細算」、「右鍵點擊一族」(使用右鍵的比較techsavvy)。反過來我們消費者也希望能夠獲得個性化的尊崇，Nobody wants to be nobody today。
了解並掌握客戶比以往任何時候都更重要。奧巴馬贏在大數據上，就是因為他知道西岸40-49歲女性的男神是喬治·克魯尼，東岸同樣年齡段女性的偶像則是莎拉·傑西卡·帕克(《慾望都市》的主角)，他還要更細分，搖擺州每一個郡每一個年齡段每一個時間段在看什麼電視，搖擺州(俄亥俄)1%選民隨時間變化的投票傾向，搖擺選民在Reddit上還是Facebook上，都在其掌握之中。
對於企業來說，要從以產品為中心，轉到以客戶(買單者)甚至用戶(使用者)為中心，從關注用戶背景到關注其行為、意圖和意向，從關注交易形成轉到關注每一個交互點/觸點，用戶是從什麼路徑發現我的產品的，決定之前又做了什麼，買了以後又有什麼反饋，是通過網頁、還是QQ、微博或是微信。
再講第三個，當下。時間是金錢，股票交易就是快魚吃慢魚，用免費股票交易軟體有幾秒的延遲，而佔美國交易量60-70%的高頻程序化交易則要發現毫秒級、低至1美分的交易機會。時間又是生命，美國國家大氣與海洋管理局的超級計算機在日本311地震後9分鍾發出海嘯預警，已經太晚。時間還是機會。現在所謂的購物籃分析用的其實並不是真正的購物籃，而是結帳完的小票，真正有價值的是當顧客還拎著購物籃，在瀏覽、試用、選擇商品的時候，在每一個觸點影響他/她的選擇。數據價值具有半衰期，最新鮮的時候個性化價值最大，漸漸退化到只有集合價值。當下的智慧是從刻舟求劍到見時知幾，原來10年一次的人口普查就是刻舟求劍，而現在東莞一出事網路遷徙圖就反映出來了。當然，當下並不一定是完全准確的，其實如果沒有更多、更久的數據，匆忙對網路遷徙圖解讀是可能陷入誤區的。
第四個，皆明。時間有限，就簡單說了。就是從放馬後炮到料事如神(predictiveanalytics)，從料事如神到運籌帷幄(prescriptiveanalytics)，只知道有東風是預測分析，確定要借箭的目標、並給出處方利用草船來借，就是處方性分析。我們現在要提高響應度、降低流失率、吸引新客戶，需要處方性分析。
辨訛就是利用多源數據過濾雜訊、查漏補缺和去偽存真。20多個省市的GDP之和超過全國的GDP就是一個例子，我們的GPS有幾十米的誤差，但與地圖數據結合就能做到精確，GPS在城市的高樓中沒有信號，可以與慣性導航結合。
曉意涉及到大數據下的機器智能，是個大問題，也不展開了。貼一段我的文章：有人說在涉及「曉意」的領域人是無法替代的。這在前大數據時代是事實。《點球成金(Moneyball)》講的是數量化分析和預測對棒球運動的貢獻，它在大數據背景下出現了傳播的誤區：一、它其實不是大數據，而是早已存在的數據思維和方法;二、它刻意或無意忽略了球探的作用。從讀者看來，奧克蘭競技隊的總經理比利·比恩用數量化分析取代了球探。而事實是，在運用數量化工具的同時，比恩也增加了球探的費用，軍功章里有機器的一半，也有人的一半，因為球探對運動員定性指標(如競爭性、抗壓力、意志力等)的衡量是少數結構化量化指標無法刻畫的。大數據改變了這一切。人的數字足跡的無意識記錄，以及機器學習(尤其是深度學習)曉意能力的增強，可能逐漸改變機器的劣勢。今年我們看到基於大數據的情感分析、價值觀分析和個人刻畫，當這些應用於人力資源，已經或多或少體現了球探承擔的。

Ⅳ 漫談大數據的思想形成與價值維度

漫談大數據的思想形成與價值維度

清華基於微博分析獲得的大數據幸福指數發現人們周六最幸福，相信大家心情不錯，因此今天不談枯燥的技術。關於大數據的思維、理念、方法論已經被反復消費了，本來我想直接進入交互環節，繼挺兄還是要求先有一部分規定動作，我就先自彈自唱幾十分鍾，既然是漫談，也不見得扣題，說到哪裡是哪裡。各位有問題，我可以擇時擇機插入討論。
先說大數據思想的形成吧。自從人類開始文字和數字，數據就開始產生。就數據增長曲線而言，極小的初值確實要經歷漫長的過程達到人類能感知的曲線拐點。谷歌前CEO埃里克·施密特曾給出了一個有趣的數據：從人類文明曙光初現到2003年一共產生的數據，只相當於2010年兩天產生的數據量。而一旦越過拐點，「大數據摩爾定律」的滾滾鐵輪下，指數效應爆發：最近兩年產生的數據量相當於之前產生的全部數據量。
在漫長的數據蓄水過程中，數學和統計學逐漸發展，人們開始注意對數據的量化分析，在人類進入信息時代以前這樣的例子就不勝枚舉。比如經濟上，黃仁宇先生對宋朝經濟的分析中發現了「數目字管理」(即定量分析)的廣泛應用(可惜王安石變法有始無終)。又如軍事，「向林彪學習數據挖掘」的橋段不論真假，其背後量化分析的思想無疑有其現實基礎，而這一基礎甚至可以回推到2000多年前，孫臏正是通過編造「十萬灶減到五萬灶再減到三萬灶」的數據、利用龐涓的量化分析習慣對其進行誘殺。
到上世紀50-60年代，磁帶取代穿孔卡片機，啟動了數據存儲的革命。磁碟驅動器隨即發明，它帶來的最大想像空間並不是容量，而是隨機讀寫的能力，這一下子解放了數據工作者的思維模式，開始數據的非線性表達和管理。資料庫應運而生，從層次型資料庫(IBM為阿波羅登月設計的層次型資料庫迄今仍在建行使用)，到網狀資料庫，再到現在通用的關系資料庫。與數據管理同時發源的是決策支持系統(DSS)，80年代演變到商業智能(BI)和數據倉庫，開辟了數據分析——也就是為數據賦予意義——的道路。
那個時代運用數據管理和分析最厲害的是商業。第一個數據倉庫是為寶潔做的，第一個太位元組的數據倉庫是在沃爾瑪。沃爾瑪的典型應用是兩個：一是基於retaillink的供應鏈優化，把數據與供應商共享，指導它們的產品設計、生產、定價、配送、營銷等整個流程，同時供應商可以優化庫存、及時補貨;二是購物籃分析，也就是常說的啤酒加尿布。關於啤酒加尿布，幾乎所有的營銷書都言之鑿鑿，我告訴大家，是Teradata的一個經理編的，人類歷史上從沒有發生過，但是，先教育市場，再收獲市場，它是有功的。
僅次於沃爾瑪的樂購(Tesco)，強在客戶關系管理(CRM)，細分客戶群，分析其行為和意圖，做精準營銷。
這些都發生在90年代。00年代時，科研產生了大量的數據，如天文觀測、粒子碰撞，資料庫大拿吉姆·格雷等提出了第四範式，是數據方法論的一次提升。前三個範式是實驗(伽利略從斜塔往下扔)，理論(牛頓被蘋果砸出靈感，形成經典物理學定律)，模擬(粒子加速太貴，核試驗太臟，於是乎用計算代替)。第四範式是數據探索。這其實也不是新鮮的，開普勒根據前人對行星位置的觀測數據擬合出橢圓軌道，就是數據方法。但是到90年代的時候，科研數據實在太多了，數據探索成為顯學。在現今的學科里，有一對孿生兄弟，計算XX學和XX信息學，前者是模擬/計算範式，後者是數據範式，如計算生物學和生物信息學。有時候計算XX學包含了數據範式，如計算社會學、計算廣告學。
2008年克里斯·安德森(長尾理論的作者)在《連線》雜志寫了一篇《理論的終結》，引起軒然大波。他主要的觀點是有了數據，就不要模型了，或者很難獲得具有可解釋性的模型，那麼模型所代表的理論也沒有意義了。跟大家說一下數據、模型和理論。大家先看個粗糙的圖。
首先，我們在觀察客觀世界中採集了三個點的數據，根據這些數據，可以對客觀世界有個理論假設，用一個簡化的模型來表示，比如說三角形。可以有更多的模型，如四邊形，五邊形。隨著觀察的深入，又採集了兩個點，這時發現三角形、四邊形的模型都是錯的，於是確定模型為五邊形，這個模型反映的世界就在那個五邊形里，殊不知真正的時間是圓形。
大數據時代的問題是數據是如此的多、雜，已經無法用簡單、可解釋的模型來表達，這樣，數據本身成了模型，嚴格地說，數據及應用數學(尤其是統計學)取代了理論。安德森用谷歌翻譯的例子，統一的統計學模型取代了各種語言的理論/模型(如語法)，能從英文翻譯到法文，就能從瑞典文翻譯到中文，只要有語料數據。谷歌甚至能翻譯克萊貢語(StarTrek里編出來的語言)。安德森提出了要相關性不要因果性的問題，以後舍恩伯格(下面稱之為老舍)只是拾人牙慧了。
當然，科學界不認同《理論的終結》，認為科學家的直覺、因果性、可解釋性仍是人類獲得突破的重要因素。有了數據，機器可以發現當前知識疆域裡面隱藏的未知部分。而沒有模型，知識疆域的上限就是機器線性增長的計算力，它不能擴展到新的空間。在人類歷史上，每一次知識疆域的跨越式拓展都是由天才和他們的理論率先吹起的號角。
2010年左右，大數據的浪潮捲起，這些爭論迅速被淹沒了。看谷歌趨勢，」bigdata」這個詞就是那個時間一下子躥升了起來。吹鼓手有幾家，一家是IDC，每年給EMC做digitaluniverse的報告，上升到澤位元組范疇(給大家個概念，現在硬碟是太位元組，1000太=1拍，阿里、Facebook的數據是幾百拍位元組，1000拍=1艾，網路是個位數艾位元組，谷歌是兩位數艾位元組，1000艾=1澤);一家是麥肯錫，發布《大數據：創新、競爭和生產力的下一個前沿》;一家是《經濟學人》，其中的重要寫手是跟老舍同著《大數據時代》的肯尼思?庫克耶;還有一家是Gartner，杜撰了3V(大、雜、快)，其實這3V在2001年就已經被編出來了，只不過在大數據語境里有了全新的詮釋。
咱們國內，歡總、國棟總也是在2011年左右開始呼籲對大數據的重視。
2012年子沛的書《大數據》教育政府官員有功。老舍和庫克耶的《大數據時代》提出了三大思維，現在已經被奉為圭臬，但千萬別當作放之四海而皆準的真理了。
比如要數據全集不要采樣。現實地講，1.沒有全集數據，數據都在孤島里;2.全集太貴，鑒於大數據信息密度低，是貧礦，投入產出比不見得好;3.宏觀分析中采樣還是有用的，蓋洛普用5000個樣本勝過幾百萬調查的做法還是有實踐意義;4.采樣要有隨機性、代表性，采訪火車上的民工得出都買到票的結論不是好采樣，現在只做固定電話采樣調查也不行了(行動電話是大頭)，在國外基於Twitter采樣也發現不完全具有代表性(老年人沒被包括);5.采樣的缺點是有百分之幾的偏差，更會丟失黑天鵝的信號，因此在全集數據存在且可分析的前提下，全量是首選。全量>好的采樣>不均勻的大量。
再說混雜性由於精確性。擁抱混雜性(這樣一種客觀現象)的態度是不錯的，但不等於喜歡混雜性。數據清洗比以前更重要，數據失去辨識度、失去有效性，就該扔了。老舍引用谷歌PeterNovig的結論，少數高質量數據+復雜演算法被大量低質量數據+簡單演算法打敗，來證明這一思維。Peter的研究是Web文本分析，確實成立。但谷歌的深度學習已經證明這個不完全對，對於信息維度豐富的語音、圖片數據，需要大量數據+復雜模型。
最後是要相關性不要因果性。對於大批量的小決策，相關性是有用的，如亞馬遜的個性化推薦;而對於小批量的大決策，因果性依然重要。就如中葯，只到達了相關性這一步，但它沒有可解釋性，無法得出是有些樹皮和蟲殼的因導致治癒的果。西葯在發現相關性後，要做隨機對照試驗，把所有可能導致「治癒的果」的干擾因素排除，獲得因果性和可解釋性。在商業決策上也是一樣，相關性只是開始，它取代了拍腦袋、直覺獲得的假設，而後面驗證因果性的過程仍然重要。
把大數據的一些分析結果落實在相關性上也是倫理的需要，動機不代錶行為。預測性分析也一樣，不然警察會預測人犯罪，保險公司會預測人生病，社會很麻煩。大數據演算法極大影響了我們的生活，有時候會覺得挺悲哀的，是演算法覺得了你貸不貸得到款，谷歌每調整一次演算法，很多在線商業就會受到影響，因為被排到後面去了。
下面時間不多了，關於價值維度，我貼一些以前講過的東西。大數據思想中很重要的一點是決策智能化之外，還有數據本身的價值化。這一點不贅述了，引用馬雲的話吧，「信息的出發點是我認為我比別人聰明，數據的出發點是認為別人比我聰明;信息是你拿到數據編輯以後給別人，而數據是你搜集數據以後交給比你更聰明的人去處理。」大數據能做什麼?價值這個V怎麼映射到其他3V和時空象限中?
再貼上解釋。「見微」與「知著」在Volume的空間維度。小數據見微，作個人刻畫，我曾用《一代宗師》中「見自己」形容之;大數據知著，反映自然和群體的特徵和趨勢，我以「見天地、見眾生」比喻之。「著」推動「微」(如把人群細分為buckets)，又拉動「微」(如推薦相似人群的偏好給個人)。「微」與「著」又反映了時間維度，數據剛產生時個人價值最大，隨著時間decay最後退化為以集合價值為主。
「當下」和「皆明」在Velocity的時間維度。當下在時間原點，是閃念之間的實時智慧，結合過往(負軸)、預測未來(正軸)，可以皆明，即獲得perpetual智慧。《西遊記》里形容真假孫悟空，一個是「知天時、通變化」，一個是「知前後、萬物皆明」，正好對應。為達到皆明，需要全量分析、預測分析和處方式分析(prescriptiveanalytics，為讓設定的未來發生，需要採取什麼樣的行動)。
「辨訛」和「曉意」在Variety的空間維度。基於大體量、多源異質的數據，辨訛過濾雜訊、查漏補缺、去偽存真。曉意達到更高境界，從非結構數據中提取語義、使機器能夠窺探人的思想境界、達到過去結構化數據分析不能達到之高度。
先看知著，對宏觀現象規律的研究早已有之，大數據的知著有兩個新特點，一是從采樣到全量，比如央視去年「你幸福嗎」的調查，是街頭的采樣，前不久《中國經濟生活大調查》關於幸福城市排名的結論，是基於10萬份問卷(17個問題)的采樣，而清華行為與大數據實驗室做的幸福指數(繼挺兄、我、還有多位本群群友參與)，是基於新浪微博數據的全集(托老王的福)，這些數據是人們的自然表達(而不是面對問卷時的被動應對)，同時又有上下文語境，因此更真實、也更有解釋性。北上廣不幸福，是因為空氣還是房價或教育，在微博上更容易傳播的積極情緒還是消極情緒，數據告訴你答案。《中國經濟生活大調查》說「再小的聲音我們都聽得見」，是過頭話，采樣和傳統的統計分析方法對數據分布採用一些簡化的模型，這些模型把異常和長尾忽略了，全量的分析可以看到黑天鵝的身影，聽到長尾的聲音。
另一個特點是從定性到定量。計算社會學就是把定量分析應用到社會學，已經有一批數學家、物理學家成了經濟學家、寬客，現在他們也可以選擇成為社會學家。國泰君安3I指數也是一個例子，它通過幾十萬用戶的數據，主要是反映投資活躍程度和投資收益水平的指標，建立一個量化模型來推知整體投資景氣度。
再看見微，我認為大數據的真正差異化優勢在微觀。自然科學是先宏觀、具體，進入到微觀和抽象，這時大數據就很重要了。我們更關注社會科學，那是先微觀、具體，再宏觀、抽象，許小年索性認為宏觀經濟學是偽科學。如果市場是個體行為的總和，我們原來看到是一張抽象派的畫，看不懂，通過客戶細分慢慢可以形成一張大致看得懂的現實圖景，不過是馬賽克的，再通過微分、甚至定位個人，形成高清圖。我們每一個人現在都生活在零售商的bucket中(前面說的樂購創造了這個概念)，最簡單的是高收入、低收入這類反映背景的，再有就是反映行為和生活方式的，如「精打細算」、「右鍵點擊一族」(使用右鍵的比較techsavvy)。反過來我們消費者也希望能夠獲得個性化的尊崇，Nobodywantstobenobodytoday。
了解並掌握客戶比以往任何時候都更重要。奧巴馬贏在大數據上，就是因為他知道西岸40-49歲女性的男神是喬治·克魯尼，東岸同樣年齡段女性的偶像則是莎拉·傑西卡·帕克(《慾望都市》的主角)，他還要更細分，搖擺州每一個郡每一個年齡段每一個時間段在看什麼電視，搖擺州(俄亥俄)1%選民隨時間變化的投票傾向，搖擺選民在Reddit上還是Facebook上，都在其掌握之中。
對於企業來說，要從以產品為中心，轉到以客戶(買單者)甚至用戶(使用者)為中心，從關注用戶背景到關注其行為、意圖和意向，從關注交易形成轉到關注每一個交互點/觸點，用戶是從什麼路徑發現我的產品的，決定之前又做了什麼，買了以後又有什麼反饋，是通過網頁、還是QQ、微博或是微信。
再講第三個，當下。時間是金錢，股票交易就是快魚吃慢魚，用免費股票交易軟體有幾秒的延遲，而佔美國交易量60-70%的高頻程序化交易則要發現毫秒級、低至1美分的交易機會。時間又是生命，美國國家大氣與海洋管理局的超級計算機在日本311地震後9分鍾發出海嘯預警，已經太晚。時間還是機會。現在所謂的購物籃分析用的其實並不是真正的購物籃，而是結帳完的小票，真正有價值的是當顧客還拎著購物籃，在瀏覽、試用、選擇商品的時候，在每一個觸點影響他/她的選擇。數據價值具有半衰期，最新鮮的時候個性化價值最大，漸漸退化到只有集合價值。當下的智慧是從刻舟求劍到見時知幾，原來10年一次的人口普查就是刻舟求劍，而現在東莞一出事網路遷徙圖就反映出來了。當然，當下並不一定是完全准確的，其實如果沒有更多、更久的數據，匆忙對網路遷徙圖解讀是可能陷入誤區的。
第四個，皆明。時間有限，就簡單說了。就是從放馬後炮到料事如神(predictiveanalytics)，從料事如神到運籌帷幄(prescriptiveanalytics)，只知道有東風是預測分析，確定要借箭的目標、並給出處方利用草船來借，就是處方性分析。我們現在要提高響應度、降低流失率、吸引新客戶，需要處方性分析。
辨訛就是利用多源數據過濾雜訊、查漏補缺和去偽存真。20多個省市的GDP之和超過全國的GDP就是一個例子，我們的GPS有幾十米的誤差，但與地圖數據結合就能做到精確，GPS在城市的高樓中沒有信號，可以與慣性導航結合。
曉意涉及到大數據下的機器智能，是個大問題，也不展開了。貼一段我的文章：有人說在涉及「曉意」的領域人是無法替代的。這在前大數據時代是事實。《點球成金(Moneyball)》講的是數量化分析和預測對棒球運動的貢獻，它在大數據背景下出現了傳播的誤區：一、它其實不是大數據，而是早已存在的數據思維和方法;二、它刻意或無意忽略了球探的作用。從讀者看來，奧克蘭競技隊的總經理比利·比恩用數量化分析取代了球探。而事實是，在運用數量化工具的同時，比恩也增加了球探的費用，軍功章里有機器的一半，也有人的一半，因為球探對運動員定性指標(如競爭性、抗壓力、意志力等)的衡量是少數結構化量化指標無法刻畫的。大數據改變了這一切。人的數字足跡的無意識記錄，以及機器學習(尤其是深度學習)曉意能力的增強，可能逐漸改變機器的劣勢。今年我們看到基於大數據的情感分析、價值觀分析和個人刻畫，當這些應用於人力資源，已經或多或少體現了球探承擔的作用。

以上是小編為大家分享的關於漫談大數據的思想形成與價值維度的相關內容，更多信息可以關注環球青藤分享更多干貨

Ⅳ 大數據只是互聯網嗎其它行業用不著嗎l

首先，我認為大數據就是互聯網發展到現今階段的一種表象或特徵而已，沒有必要神話它或對它保持敬畏之心，在以雲計算為代表的技術創新大幕的襯托下，這些原本很難收集和使用的數據開始容易被利用起來了，通過各行各業的不斷創新，大數據會逐步為人類創造更多的價值。
其次，想要系統的認知大數據，必須要全面而細致的分解它，我著手從三個層面來展開：
第一層面是理論，理論是認知的必經途徑，也是被廣泛認同和傳播的基線。我會從大數據的特徵定義理解行業對大數據的整體描繪和定性；從對大數據價值的探討來深入解析大數據的珍貴所在；從對大數據的現在和未來去洞悉大數據的發展趨勢；從大數據隱私這個特別而重要的視角審視人和數據之間的長久博弈。
第二層面是技術，技術是大數據價值體現的手段和前進的基石。我將分別從雲計算、分布式處理技術、存儲技術和感知技術的發展來說明大數據從採集、處理、存儲到形成結果的整個過程。
第三層面是實踐，實踐是大數據的最終價值體現。我將分別從互聯網的大數據，政府的大數據，企業的大數據和個人的大數據四個方面來描繪大數據已經展現的美好景象及即將實現的藍圖。
和大數據相關的理論
? 特徵定義
最早提出大數據時代到來的是麥肯錫：「數據，已經滲透到當今每一個行業和業務職能領域，成為重要的生產因素。人們對於海量數據的挖掘和運用，預示著新一波生產率增長和消費者盈餘浪潮的到來。」
業界（IBM 最早定義）將大數據的特徵歸納為4個「V」（量Volume，多樣Variety，價值Value，速Velocity），或者說特點有四個層面：第一，數據體量巨大。大數據的起始計量單位至少是P（1000個T）、E（100萬個T）或Z（10億個T）；第二，數據類型繁多。比如，網路日誌、視頻、圖片、地理位置信息等等。第三，價值密度低，商業價值高。第四，處理速度快。最後這一點也是和傳統的數據挖掘技術有著本質的不同。
其實這些V並不能真正說清楚大數據的所有特徵，下面這張圖對大數據的一些相關特性做出了有效的說明。
36大數據
古語雲：三分技術，七分數據，得數據者得天下。先不論誰說的，但是這句話的正確性已經不用去論證了。維克托·邁爾-舍恩伯格在《大數據時代》一書中舉了百般例證，都是為了說明一個道理：在大數據時代已經到來的時候要用大數據思維去發掘大數據的潛在價值。書中，作者提及最多的是Google如何利用人們的搜索記錄挖掘數據二次利用價值，比如預測某地流感爆發的趨勢；Amazon如何利用用戶的購買和瀏覽歷史數據進行有針對性的書籍購買推薦，以此有效提升銷售量；Farecast如何利用過去十年所有的航線機票價格打折數據，來預測用戶購買機票的時機是否合適。
那麼，什麼是大數據思維？維克托·邁爾-舍恩伯格認為，1-需要全部數據樣本而不是抽樣；2-關注效率而不是精確度；3-關注相關性而不是因果關系。
阿里巴巴的王堅對於大數據也有一些獨特的見解，比如，
「今天的數據不是大，真正有意思的是數據變得在線了，這個恰恰是互聯網的特點。」
「非互聯網時期的產品，功能一定是它的價值，今天互聯網的產品，數據一定是它的價值。」
「你千萬不要想著拿數據去改進一個業務，這不是大數據。你一定是去做了一件以前做不了的事情。」
特別是最後一點，我是非常認同的，大數據的真正價值在於創造，在於填補無數個還未實現過的空白。
有人把數據比喻為蘊藏能量的煤礦。煤炭按照性質有焦煤、無煙煤、肥煤、貧煤等分類，而露天煤礦、深山煤礦的挖掘成本又不一樣。與此類似，大數據並不在「大」，而在於「有用」。價值含量、挖掘成本比數量更為重要。
? 價值探討
大數據是什麼？投資者眼裡是金光閃閃的兩個字：資產。比如，Facebook上市時，評估機構評定的有效資產中大部分都是其社交網站上的數據。
如果把大數據比作一種產業，那麼這種產業實現盈利的關鍵，在於提高對數據的「加工能力」，通過「加工」實現數據的「增值」。
Target 超市以20多種懷孕期間孕婦可能會購買的商品為基礎，將所有用戶的購買記錄作為數據來源，通過構建模型分析購買者的行為相關性，能准確的推斷出孕婦的具體臨盆時間，這樣Target的銷售部門就可以有針對的在每個懷孕顧客的不同階段寄送相應的產品優惠卷。
Target的例子是一個很典型的案例，這樣印證了維克托·邁爾-舍恩伯格提過的一個很有指導意義的觀點：通過找出一個關聯物並監控它，就可以預測未來。Target通過監測購買者購買商品的時間和品種來准確預測顧客的孕期，這就是對數據的二次利用的典型案例。如果，我們通過採集駕駛員手機的GPS數據，就可以分析出當前哪些道路正在堵車，並可以及時發佈道路交通提醒；通過採集汽車的GPS位置數據，就可以分析城市的哪些區域停車較多，這也代表該區域有著較為活躍的人群，這些分析數據適合賣給廣告投放商。
不管大數據的核心價值是不是預測，但是基於大數據形成決策的模式已經為不少的企業帶來了盈利和聲譽。
從大數據的價值鏈條來分析，存在三種模式：
1- 手握大數據，但是沒有利用好；比較典型的是金融機構，電信行業，政府機構等。
2- 沒有數據，但是知道如何幫助有數據的人利用它；比較典型的是IT咨詢和服務企業，比如，埃森哲，IBM，Oracle等。
3- 既有數據，又有大數據思維；比較典型的是Google，Amazon，Mastercard等。
未來在大數據領域最具有價值的是兩種事物：1-擁有大數據思維的人，這種人可以將大數據的潛在價值轉化為實際利益；2-還未有被大數據觸及過的業務領域。這些是還未被挖掘的油井，金礦，是所謂的藍海。
Wal-Mart作為零售行業的巨頭，他們的分析人員會對每個階段的銷售記錄進行了全面的分析，有一次他們無意中發現雖不相關但很有價值的數據，在美國的颶風來臨季節，超市的蛋撻和抵禦颶風物品竟然銷量都有大幅增加，於是他們做了一個明智決策，就是將蛋撻的銷售位置移到了颶風物品銷售區域旁邊，看起來是為了方便用戶挑選，但是沒有想到蛋撻的銷量因此又提高了很多。
還有一個有趣的例子，1948年遼沈戰役期間，司令員林彪要求每天要進行例常的「每日軍情匯報」，由值班參謀讀出下屬各個縱隊、師、團用電台報告的當日戰況和繳獲情況。那幾乎是重復著千篇一律枯燥無味的數據：每支部隊殲敵多少、俘虜多少;繳獲的火炮、車輛多少，槍支、物資多少……有一天，參謀照例匯報當日的戰況，林彪突然打斷他：「剛才念的在胡家窩棚那個戰斗的繳獲，你們聽到了嗎?」大家都很茫然，因為如此戰斗每天都有幾十起，不都是差不多一模一樣的枯燥數字嗎?林彪掃視一周，見無人回答，便接連問了三句：「為什麼那裡繳獲的短槍與長槍的比例比其它戰斗略高?」「為什麼那裡繳獲和擊毀的小車與大車的比例比其它戰斗略高?」「為什麼在那裡俘虜和擊斃的軍官與士兵的比例比其它戰斗略高?」林彪司令員大步走向掛滿軍用地圖的牆壁，指著地圖上的那個點說：「我猜想，不，我斷定!敵人的指揮所就在這里!」果然，部隊很快就抓住了敵方的指揮官廖耀湘，並取得這場重要戰役的勝利。
這些例子真實的反映在各行各業，探求數據價值取決於把握數據的人，關鍵是人的數據思維；與其說是大數據創造了價值，不如說是大數據思維觸發了新的價值增長。
? 現在和未來
我們先看看大數據在當下有怎樣的傑出表現：
大數據幫助政府實現市場經濟調控、公共衛生安全防範、災難預警、社會輿論監督；
大數據幫助城市預防犯罪，實現智慧交通，提升緊急應急能力；
大數據幫助醫療機構建立患者的疾病風險跟蹤機制，幫助醫葯企業提升葯品的臨床使用效果，幫助艾滋病研究機構為患者提供定製的葯物；
大數據幫助航空公司節省運營成本，幫助電信企業實現售後服務質量提升，幫助保險企業識別欺詐騙保行為，幫助快遞公司監測分析運輸車輛的故障險情以提前預警維修，幫助電力公司有效識別預警即將發生故障的設備；
大數據幫助電商公司向用戶推薦商品和服務，幫助旅遊網站為旅遊者提供心儀的旅遊路線，幫助二手市場的買賣雙方找到最合適的交易目標，幫助用戶找到最合適的商品購買時期、商家和最優惠價格；
大數據幫助企業提升營銷的針對性，降低物流和庫存的成本，減少投資的風險，以及幫助企業提升廣告投放精準度；
大數據幫助娛樂行業預測歌手，歌曲，電影，電視劇的受歡迎程度，並為投資者分析評估拍一部電影需要投入多少錢才最合適，否則就有可能收不回成本；
大數據幫助社交網站提供更准確的好友推薦，為用戶提供更精準的企業招聘信息，向用戶推薦可能喜歡的游戲以及適合購買的商品。
其實，這些還遠遠不夠，未來大數據的身影應該無處不在，就算無法准確預測大數據終會將人類社會帶往到哪種最終形態，但我相信只要發展腳步在繼續，因大數據而產生的變革浪潮將很快淹沒地球的每一個角落。
比如，Amazon的最終期望是：「最成功的書籍推薦應該只有一本書，就是用戶要買的下一本書。」
Google也希望當用戶在搜索時，最好的體驗是搜索結果只包含用戶所需要的內容，而這並不需要用戶給予Google太多的提示。
而當物聯網發展到達一定規模時，藉助條形碼、二維碼、RFID等能夠唯一標識產品，感測器、可穿戴設備、智能感知、視頻採集、增強現實等技術可實現實時的信息採集和分析，這些數據能夠支撐智慧城市，智慧交通，智慧能源，智慧醫療，智慧環保的理念需要，這些都所謂的智慧將是大數據的採集數據來源和服務范圍。
未來的大數據除了將更好的解決社會問題，商業營銷問題，科學技術問題，還有一個可預見的趨勢是以人為本的大數據方針。人才是地球的主宰，大部分的數據都與人類有關，要通過大數據解決人的問題。
比如，建立個人的數據中心，將每個人的日常生活習慣，身體體征，社會網路，知識能力，愛好性情，疾病嗜好，情緒波動……換言之就是記錄人從出生那一刻起的每一分每一秒，將除了思維外的一切都儲存下來，這些數據可以被充分的利用：
醫療機構將實時的監測用戶的身體健康狀況；
教育機構更有針對的制定用戶喜歡的教育培訓計劃；
服務行業為用戶提供即時健康的符合用戶生活習慣的食物和其它服務；
社交網路能為你提供合適的交友對象，並為志同道合的人群組織各種聚會活動；
政府能在用戶的心理健康出現問題時有效的干預，防範自殺，刑事案件的發生；
金融機構能幫助用戶進行有效的理財管理，為用戶的資金提供更有效的使用建議和規劃；
道路交通、汽車租賃及運輸行業可以為用戶提供更合適的出行線路和路途服務安排；
……
當然，上面的一切看起來都很美好，但是否是以犧牲了用戶的自由為前提呢？只能說當新鮮事物帶來了革新的同時也同樣帶來了「病菌」。比如，在手機未普及前，大家喜歡聚在一起聊天，自從手機普及後特別是有了互聯網，大家不用聚在一起也可以隨時隨地的聊天，只是「病菌」滋生了另外一種情形，大家慢慢習慣了和手機共渡時光，人與人之間情感交流彷彿永遠隔著一張「網」。
? 大數據隱私
你或許並不敏感，當你在不同的網站上注冊了個人信息後，可能這些信息已經被擴散出去了，當你莫名其妙的接到各種郵件，電話，簡訊的滋擾時，你不會想到自己的電話號碼，郵箱，生日，購買記錄，收入水平，家庭住址，親朋好友等私人信息早就被各種商業機構非法存儲或賤賣給其它任何有需要的企業或個人了。
更可怕的是，這些信息你永遠無法刪除，它們永遠存在於互聯網的某些你不知道的角落。除非你更換掉自己的所有信息，但是這代價太大了。
用戶隱私問題一直是大數據應用難以繞開的一個問題，如被央視曝光過的分眾無線、羅維鄧白氏以及網易郵箱都涉及侵犯用戶隱私。目前，中國並沒有專門的法律法規來界定用戶隱私，處理相關問題時多採用其他相關法規條例來解釋。但隨著民眾隱私意識的日益增強，合法合規地獲取數據、分析數據和應用數據，是進行大數據分析時必須遵循的原則。
說到隱私被侵犯，愛德華?斯諾登應該占據一席之地，這位前美國中央情報局（CIA）雇員一手引爆了美國「棱鏡計劃」（PRISM）的內幕消息。「棱鏡」項目是一項由美國國家安全局（NSA）自2007年起開始實施的絕密電子監聽計劃，年耗資近2000億美元，用於監聽全美電話通話記錄，據稱還可以使情報人員通過「後門」進入9家主要科技公司的伺服器，包括微軟、雅虎、谷歌、Facebook、PalTalk、美國在線、Skype、YouTube、蘋果。這個事件引發了人們對政府使用大數據時對公民隱私侵犯的擔心。
再看看我們身邊，當微博，微信，QQ空間這些社交平台肆意的吞噬著數億用戶的各種信息時，你就不要指望你還有隱私權了，就算你在某個地方刪除了，但也許這些信息已經被其他人轉載或保存了，更有可能已經被網路或Google存為快照，早就提供給任意用戶搜索了。
因此在大數據的背景下，很多人都在積極的抵制無底線的數字化，這種大數據和個體之間的博弈還會一直繼續下去……
專家給予了我們一些如何有效保護大數據背景下隱私權的建議：1-減少信息的數字化；2-隱私權立法；3-數字隱私權基礎設施（類似DRM數字版權管理）；4-人類改變認知（接受忽略過去）；5-創造良性的信息生態；6-語境化。
但是這些都很難立即見效或者有實質性的改善。
比如，現在有一種職業叫刪帖人，專門負責幫人到各大網站刪帖，刪除評論。其實這些人就是通過黑客技術侵入各大網站，破獲管理員的密碼然後進行手工定向刪除。只不過他們保護的不是客戶的隱私，而大多是丑聞。還有一種職業叫人肉專家，他們負責從互聯網上找到一個與他們根本就無關系用戶的任意信息。這是很可怕的事情，也就是說，如果有人想找到你，只需要兩個條件：1-你上過網，留下過痕跡；2-你的親朋好友或僅僅是認識你的人上過網，留下過你的痕跡。這兩個條件滿足其一，人肉專家就可以很輕松的找到你，可能還知道你現在正在某個餐廳和誰一起共進晚餐。
當很多互聯網企業意識到隱私對於用戶的重要性時，為了繼續得到用戶的信任，他們採取了很多辦法，比如google承諾僅保留用戶的搜索記錄9個月，瀏覽器廠商提供了無痕沖浪模式，社交網站拒絕公共搜索引擎的爬蟲進入，並將提供出去的數據全部採取匿名方式處理等。
在這種復雜的環境裡面，很多人依然沒有建立對於信息隱私的保護意識，讓自己一直處於被滋擾，被精心設計，被利用，被監視的處境中。可是，我們能做的幾乎微乎其微，因為個人隱私數據已經無法由我們自己掌控了，就像一首詩里說到的：「如果你現在繼續麻木，那就別指望這麻木能抵擋得住被」扒光」那一刻的驚恐和絕望……」
和大數據相關的技術
? 雲技術
大數據常和雲計算聯繫到一起，因為實時的大型數據集分析需要分布式處理框架來向數十、數百或甚至數萬的電腦分配工作。可以說，雲計算充當了工業革命時期的發動機的角色，而大數據則是電。
雲計算思想的起源是麥卡錫在上世紀60年代提出的：把計算能力作為一種像水和電一樣的公用事業提供給用戶。
如今，在Google、Amazon、Facebook等一批互聯網企業引領下，一種行之有效的模式出現了：雲計算提供基礎架構平台，大數據應用運行在這個平台上。
業內是這么形容兩者的關系：沒有大數據的信息積淀，則雲計算的計算能力再強大，也難以找到用武之地；沒有雲計算的處理能力，則大數據的信息積淀再豐富，也終究只是鏡花水月。
那麼大數據到底需要哪些雲計算技術呢？
這里暫且列舉一些，比如虛擬化技術，分布式處理技術，海量數據的存儲和管理技術，NoSQL、實時流數據處理、智能分析技術（類似模式識別以及自然語言理解）等。
雲計算和大數據之間的關系可以用下面的一張圖來說明，兩者之間結合後會產生如下效應：可以提供更多基於海量業務數據的創新型服務；通過雲計算技術的不斷發展降低大數據業務的創新成本。
36大數據
如果將雲計算與大數據進行一些比較，最明顯的區分在兩個方面：
第一，在概念上兩者有所不同，雲計算改變了IT，而大數據則改變了業務。然而大數據必須有雲作為基礎架構，才能得以順暢運營。
第二，大數據和雲計算的目標受眾不同，雲計算是CIO等關心的技術層，是一個進階的IT解決方案。而大數據是CEO關注的、是業務層的產品，而大數據的決策者是業務層。
詳情：http://ke..com/view/9424571.htm

Ⅵ <人間正道是滄桑>里101是指林彪，那 102 103指的是誰那個高人告訴俺，謝謝！

102是指羅榮桓，103指的是劉亞樓。

《人間正道是滄桑》，是江蘇省廣播電視總台出品的革命戰爭歷史題材劇，由張黎執導，孫紅雷、黃志忠、柯藍、張恆等主演。

該劇講述了楊家兄妹三人分別加入國民黨和共產黨，他們因政治信仰不同，而從手足情深，變成水火不容，最後天各一方的故事。

羅榮桓（1902年11月26日-1963年12月16日），原名羅慎鎮，字雅懷，號宗人。生於湖南省衡山縣寒水鄉南灣村（今屬衡東縣榮桓鎮）。中華人民共和國成立後，羅榮桓任最高人民檢察署檢察長、政務院政治法律委員會委員。中華人民共和國的開國元勛，中國十大元帥之一。

劉亞樓（1910.4.8—1965.5.7），中華人民共和國開國上將，福建省武平縣湘店鄉湘洋村人。在革命生涯中，歷任班長、排長、連長、營長、支隊政委、團政委、師政委、師長、縱隊副司令員、抗日軍政大學訓練部部長、教育長、東北民主聯軍參謀長、東北野戰軍參謀長、東北軍區參謀長、四野兵團司令員等職。

(6)創業家林彪大數據擴展閱讀：

角色介紹——楊立青（演員：孫紅雷）

楊家老三，生性頑劣，屢惹禍端，自小與兄長立仁水火不容，在黃埔軍校接受了共產主義的思想啟蒙；經過艱苦的戰斗歲月，正直、真誠、樂觀的他逐漸成長為一名優秀的革命軍人。他錯過了從黃埔時期就深愛的初戀情人，卻與人生導師的遺孀結為革命愛侶。