1XML基礎 1



1.1XML的發展、技術體繫及應用 2



1.1.1標記語言和SGML 2



1.1.2XML的特點和應用 4



1.1.3XML技術體繫 5



1.1.4基於XML的應用標準簡介 15



1.2XML文檔結構 24



1.2.1XML文檔頭部 25



1.2.2XML文檔正文 30



1.3XML Schema 35



1.3.1XML Schema文檔結構 36



1.3.2XML Schema數據類型 40



1.3素內容 57



1.3.4屬性組 61



1.3.5定義和使用實體 64



1.3.6注釋 65



1.3.7構建內容模型 66



1.4命名空間 69



1.4.1目標命名空間和非限定本地聲明 70



1.4.2限定本地聲明 73



1.4.3全局和局部聲明 76



1.4.4未聲明的目標命名空間 77



1.5XML文檔驗證 78



1.6XML Schema使用案例 79



1.6.1XML處理庫lxml的安裝 80



1.6.2使用lxml創建XML文檔 80



1.6.3使用lxml解析XML文檔 85



1.6.4使用lxml驗證XML文檔 88



本章小結 91







2數據挖掘與PMML 93



2.1數據挖掘簡介 94



2.2數據挖掘流程標準 95



2.3數據挖掘繫統 99



2.4PMML的出現 101



本章小結 103







3PMML基礎知識 104



3.1PMML概述 105



3.2PMML文檔結構 107



3.2.1頭部Header 110



3.2.2挖掘任務MiningBuildTask 112



3.2.3數據字典DataDictionary 113



3.2.4轉換字典TransformationDictionary 127



3.2.5MODEL-ELEMENT序列 176



3.2.6擴展Extension 178



3.3PMML規範中的命名規則 180



3.4PMML規範中的數據類型 180



3.4.1基本數據類型 180



3.4.2簡單數組類型 182



3.4.3稀疏數組類型 184



3.4.4矩陣類型 186



3.5變量的作用範圍 189



3.6非評分模型 193



本章小結 194







4模型的輸入和輸出 195



4素MiningSchema 196



4.2模型目標變量集合 201



4.2.1目標素Targets 202



4.2.2目素Target 203



4.2.3目標素Targetvalue 204



4.2.4實例介紹 205



4.3模型輸出變量集合 206



4.3.1結素Output 207



4.3.2輸素OutputField 211



4.3.3素Decisions 214



4.3.4模型輸出結果表 214



4.3.5實例介紹 216



本章小結 219







5模型的統計信息 220



5素UnivariateStats 221



5.1.1素Counts 222



5.1.2數素NumericInfo 223



5.1.3離散變素DiscrStats 225



5.1.4連續變素ContStats 226



5.1.5實例介紹 227



5.2單因素方素Anova 228



5.2.1單因素方素Anova的定義 229



5.2.2方差分析 230



5.2.3實例介紹 232



5素MultivariateStats 234



5.4素Partition 237



本章小結 241







6模型驗證 242



6.1模素ModelVerification 243



6.2模型驗證規則 245



6.3實例介紹 249



本章小結 255







7模型解釋 256



7.1單變素UnivariateStats 258



7.2素Partition 258



7.3預測模型質素PredictiveModelQuality 258



7.4聚類模型質素ClusteringModelQuality 262



7.5混淆矩陣 263



7.5.1混淆矩陣基本知識 263



7.5.2混素ConfusionMatrix 265



7.6接收者操作特征曲線ROC 267



7.6.1ROC基本知識 267



7.6.2RO素ROC 269



7.7增益/提升圖 271



7.7.1增益 272



7.7.2提升度 272



7.7.3素ModelLiftGraph 274



7.8字段（變量）相關性指標 282



本章小結 285







8PMML實際案例 287



8.1構建PMML實例文檔 289



8.2使用PMML實例文檔 294

數據挖掘技術起始於20世紀下半葉，當時伴隨著計算機技術和數據庫在各行各業的廣泛應用，業務繫統產生的數據量不斷膨脹，傳統的統計分析工具受到巨大的挑戰，這促使科學家和研究人員把當時的數據分析技術（例如關聯規則、神經網絡、決策樹等）與數據庫技術結合起來，從而直接導致了數據挖掘技術的誕生。進入21世紀後，各行各業對數據價值的深入探索迅速推動了數據挖掘軟件的應用，各種數據挖掘繫統如雨後春筍般相繼出現，比較著名的開發公司有IBM、SAS、NCR、Tibco等。



數據挖掘技術目前已經應用到幾乎所有的行業，並取得了巨大的成功。但是不同的繫統開發廠商都是基於各自的發展規劃，使用自己的技術，推出的數據挖掘繫統平臺各具特色，從而導致數據挖掘模型不能在不同挖掘繫統間共享，給數據挖掘的進一步普及和發展造成了障礙。



為了解決上述問題，實現數據挖掘模型的共享與交換，1997年，芝加哥伊利諾伊大學的Robert Lee Grossman博士發起設計了數據挖掘模型的開放標準──PMML（Predictive Model Markup Language，預測模型標記語言）它是一種基於XML（Extensible Markup Language，可擴展標記語言）規範的開放式挖掘模型表達語言，為不同繫統提供了定義數據挖掘模型的方法，可使兼容PMML規範的應用程序共享模型。采用PMML語言，用戶可在一個軟件繫統中創建預測模型，然後將其傳遞到另外一個繫統，並在該繫統中用PMML文檔中的模型預測新數據，實現預測模型的跨語言、跨平臺應用，提高可移植性，充分發揮挖掘模型的應用價值。



PMML語言基於XML，XML定義了一套對電子文檔進行編碼的規則，以人類和計算機都能夠讀懂的文本格式來表現文檔，可以表達任意數據結構，是萬維網聯盟W3C（World Wide Web Consortium）的標準語言；XML是眾多應用型標記語言的基礎，如化學領域的CML、數學領域的MathML以及本書介紹的PMML等。



一個完整有效的PMML實例文檔包括數據字典、挖掘模式/架構、數據轉換、模型定義、輸出、目標、模型解釋、模型素，PMML規範針素的聲明和使用制定了模型創建者和模型使用者必須遵守的一致性規則，例如模型創建者通過何種方式生成何種分析模型，模型使用者通過何種方式使用何種分析模型等，這些一致性規則可以確保模型的輸出在語法上是正確的，使所輸出的模型符合PMML定義的語義標準，並確保模型使用者能夠正確地部署和應用模型。本書主要基於以上要點講述PMML規範以及PMML實例文檔的結構和應用。



目前PMML已經發展到版本4.3，能夠支持關聯規則、聚類、回歸、貝葉斯網絡、神經網絡、高斯過程等18種數據挖掘模型，涵蓋了應用廣泛的常用模型。作為事實上的表達分析模型的標準，PMML已經被IBM、SAS、NCR、FICO、NIST、Tibco等絕大多數商業公司所支持，也得到越來越多的開源挖掘繫統如Weka、Tanagra、RapidMiner、KNIME、Orange、GGobi、JHepWork等的支持，目前其影響力越來越大。很多想學習PMML的人員苦於沒有完整的學習資料，而網上的相關資料又比較零散瑣碎，不成體繫，為此我們結合多年來的實踐和體會編寫了本書，希望能在一定程度上助廣大數據挖掘繫統、人工智能繫統開發者和使用者一臂之力，為深入學習PMML起到拋磚引玉的作用。



本書除了供數據挖掘（機器學習）、人工智能領域的軟件開發人員使用外，也可以作為高等院校大數據等相關專業的教材或數據挖掘愛好者自學用書。



由於編寫時間和編寫精力有限，書中難免會有疏漏不當之處，敬請同行批評指正，多多提出寶貴意見和建議，共同進步。作者QQ：420165499。







編者



2019年3月