精選自然語言處理的經典模型和算法，緊扣領域前沿；理論與實踐結合，涵蓋基礎知識與具體案例和實現代碼，全方位展示自然語言處理從理論到實踐的全貌。

《自然語言處理基礎與大模型 案例與實踐》在簡要介紹自然語言處理代表性模型和方法的基礎上，通過具體案例詳細展現了相關模型和算法的實現過程，並給出了可執行的程序代碼、數據集和運行結果。全書內容既有經典的統計語言模型，也有神經網絡基礎模型和大語言模型前沿技術。應用案例從情感分析、信息抽取、自動摘要和文本語義匹配，到閱讀理解、意圖理解、文本生成和機器翻譯，全方位地展示自然語言處理從理論到實踐的全貌。書中提供的所有代碼都已通過調試，並以Jupyter Notebook形式托管在百度AI Studio星河社區上。讀者按照書中的說明就可以直接使用AI Studio提供的免費計算資源在線編譯運行書中的程序代碼，為讀者實踐、練習提供了極大的便利 。
   《自然語言處理基礎與大模型 案例與實踐》可作為高等院校相關專業高年級本科生和研究生學習自然語言處理課程的教學輔導書，也可供對自然語言處理技術感興趣的初學者或者從事相關技術研發的工程技術人員參考。

宗成慶，中國科學院自動化所研究員、博士生導師，中國科學大學崗位教授，ACL/ CAAI/ CCF Fellow，主要從事自然語言處理、機器翻譯和語言認知計算等研究，主持國家項目10餘項，發表論文200餘篇，出版《統計自然語言處理》、《文本數據挖掘》和Text Data Mining三部專著及兩部譯著。現任國際計算語言學委員會（ICCL）委員，中國中文信息學會副理事長，榮獲國家科技進步獎二等獎和多個省部級及國家一級學會的科技獎勵，獲得北京市優秀教師、中科院優秀導師和國科大李佩教學名師等若干榮譽。
趙陽，中國科學院自動化研究所助理研究員，中國中文信息學會開源情報技術專業委員會委員，研究方向為自然語言處理與機器翻譯，作為負責人和參與人員，主持和承擔國家自然基金、科技部重點研發計劃和中國科學院先導計劃等多項國家項目。
飛槳教材編寫組，專注數據分析、商業戰略、機器學習和人工智能等領域，出品過《大數據分析的道與術》《機器學習的思考故事》《零基礎實踐深度學習》和《如何繫統化的分析業務和戰略》等繫列課程。

近年來，自然語言處理技術備受矚目，一方面受益於計算機硬件和機器學習等相關技術的快速發展，自然語言處理的技術性能得到了快速提高，讓人們真實地看到和切身感受到了該技術所帶來的便利； 另一方面，隨著計算機網絡和移動通訊技術的快速發展和普及應用，人們對自然語言處理技術的需求愈加迫切，對技術性能和服務方式的要求也越來越高，從機器翻譯、問答繫統和人機對話繫統，到自動文摘、情感分析和觀點挖掘等，再從輿論監督、社會管理和國家安全，到工商業界的業務需求和普通百姓的日常生活服務，自然語言處理技術都以其不可替代的地位和作用得到了廣泛關注和重視。尤其2022年底大規模語言模型騰空出世，徹底刷新了人們對自然語言處理技術的傳統認知，甚至顛覆和改變了整個人工智能領域的研究範式和發展方向。自然語言處理學科方向從鮮為人知的“丑小鴨”一躍而成為備受追捧的“白天鵝”，這門課程也在大多數高校的人工智能學院或人工智能專業中理所當然地成為專業必修課。自然語言處理的春天來到了。

在春暖花開的季節裡，不同模態數據之間的邊界變得越來越模糊，自然語言文本、語音、圖像和視頻處理幾乎進入了同一種範式。與此同時，學術界和工業界研發機構所從事的工作越來越趨於同質化。越來越多的共享數據、技術和平臺，為該領域的迅速成長和壯大提供了強有力的支持。這對於技術初學者來說，何嘗不是一件幸事！但是，面對蜂擁而出的各類算法和模型，如何為初學者提供一個快速入門的切入點呢？大語言模型席卷全球，其最基本的理論方法和實現技術是什麼？通過一種什麼樣的方式讓初學者快速地了解每一種算法和模型是如何實現的，數據應如何處理，參數該如何配置和優化，繫統要如何搭建，平臺可如何使用？這些基本問題和需求像線蟲一樣蠕動在我的心裡，讓我時不時地產生要撰寫一部介紹技術實現方法著作的衝動，有時候這種蠕動如芒刺在背讓我坐臥不安。當百度飛槳技術團隊通過清華大學出版社聯繫我，有意合作撰寫本書時，讓我頓時眼前一亮，因為我知道飛槳團隊有足夠的實力協助我完成這一任務，他們不僅有經驗豐富的專業技術人員，而且有成熟可靠的飛槳平臺。我自己團隊得力干將趙陽博士（副研究員）的加盟更讓我信心倍增。於是，我們一拍即合。自那一刻起，我便堅信芒刺將不復存在。

本書默認讀者對自然語言處理的基礎理論和方法有一定的了解，所以理論部分僅點到為止，而主要筆墨用於介紹技術具體實現方法。在內容分配上，以當前主流的神經網絡和深度學習方法為主，適當文法模型和條件隨機場等統計自然語言處理的經典方法； 既有關鍵技術，也有應用繫統，通過具體案例從不同層面全方位地貫穿整個自然語言處理全域。書中提供的每個代碼都已經通過調試，並以Jupyter Notebook形式托管在百度AI Studio星河社區上。讀者按照書中的說明就可以直接使用AI Studio星河社區提供的免費GPU算力卡在線編譯運行書中的程序代碼，為讀者實踐、練習提供了極大的便利。

作為共同作者的趙陽博士和飛槳技術團隊為本書的寫作給予了最有力的支持和幫助，如果沒有他們的鼎力相助和友好合作，恐怕一切還隻會停留在我的空想和衝動之中。在此向他們表示最誠摯的謝意！

本書的撰寫工作得到了中國科學院大學教材出版中心的資助。學校教務處的田晨晨老師、人工智能學院的肖俊副院長和屈曉春老師給予了大力幫助和支持。同行專家趙鐵軍、王厚峰、王小捷、黃民烈和張家俊等對本書的初始結構提出了寶貴的修改建議。中國科學院自動化研究所自然語言處理團隊的向露博士對書中的部分內容進行了審閱和補充。清華大學出版社的孫亞楠編輯和王倩編輯給予了最貼心的幫助。一並向他們表示衷心的感謝！

本書從2021年6月開始策劃，基本內容確定之後實施代碼編寫、調試和優化工作，在組織準備過程中對部分內容進行了微調，至2022年初基本完成。2022年底大模型出現之後，根據最新技術發展我們又對書中部分內容重新作了調整。由於時間十分倉促，再加上作者的水平有限，書中難免有不妥之處，甚至可能存在疏漏或錯誤。作者真誠地歡迎讀者給予批評指正，或提出修改建議。謝謝！

宗成慶
2023年12月