課程簡(jiǎn)介
理解大型語言模型的基本原理。
學(xué)習(xí)如何有效地提示、微調(diào)和部署LLM。
培養(yǎng)使用LLM進(jìn)行各種實(shí)際應(yīng)用的技能。
了解與LLM相關(guān)的倫理考量和潛在風(fēng)險(xiǎn)。
獲得使用流行LLM平臺(tái)和工具的實(shí)踐經(jīng)驗(yàn)
目標(biāo)收益
培訓(xùn)對(duì)象
開發(fā)者、數(shù)據(jù)科學(xué)家、商業(yè)分析師、產(chǎn)品經(jīng)理，以及所有對(duì)利用LLM感興趣的人。
課程大綱
| 模塊 1：大型語言模型（LLM）簡(jiǎn)介 |
什么是大型語言模型？定義、特征和歷史。 自然語言處理的演變：從基于規(guī)則的系統(tǒng)到深度學(xué)習(xí)。 關(guān)鍵概念：Transformer、注意力機(jī)制、嵌入和語言建模。 流行的LLM架構(gòu)：BERT、GPT、T5等。 用例和應(yīng)用：內(nèi)容創(chuàng)作、聊天機(jī)器人、代碼生成、翻譯、摘要等。 LLM生態(tài)：概述可用的模型（OpenAI、Google、Meta等）及其能力。 |
| 模塊 2：設(shè)置您的LLM環(huán)境 |
訪問LLM：API、云平臺(tái)和開源選項(xiàng)。 LLM的Python庫：Transformers、Langchain、Hugging Face。 設(shè)置開發(fā)環(huán)境：本地機(jī)器、云實(shí)例或協(xié)作平臺(tái)。 API密鑰和身份驗(yàn)證：安全最佳實(shí)踐。 成本考慮：定價(jià)模式、令牌限制和優(yōu)化策略。 動(dòng)手實(shí)踐：設(shè)置基本的Python環(huán)境并訪問LLM API。 |
| 模塊 3：提示工程：充分利用LLM |
什么是提示工程？定義和重要性。 基本提示技巧：輸入結(jié)構(gòu)、上下文設(shè)置和溫度控制。 高級(jí)提示技巧：少量樣本學(xué)習(xí)、鏈?zhǔn)剿伎继崾竞妥晕乙恢滦浴?br/>提示優(yōu)化：迭代改進(jìn)、A/B測(cè)試和提示庫。 針對(duì)特定任務(wù)的提示設(shè)計(jì)：摘要、翻譯、問答、代碼生成。 提示注入和安全：理解并減輕提示注入攻擊。 動(dòng)手實(shí)踐：設(shè)計(jì)用于各種任務(wù)的提示并評(píng)估其性能。 |
| 模塊 4：微調(diào)LLM以用于特定任務(wù) |
什么是微調(diào)？將預(yù)訓(xùn)練模型調(diào)整到特定的數(shù)據(jù)集和任務(wù)。 何時(shí)進(jìn)行微調(diào)：微調(diào)有益的場(chǎng)景。 準(zhǔn)備用于微調(diào)的數(shù)據(jù)：數(shù)據(jù)清理、格式化和增強(qiáng)。 微調(diào)技巧：完全微調(diào)、參數(shù)高效微調(diào)（LoRA、適配器）。 評(píng)估微調(diào)模型：指標(biāo)、驗(yàn)證集和偏差檢測(cè)。 用于微調(diào)的工具和平臺(tái)：Hugging Face Trainer、基于云的微調(diào)服務(wù)。 動(dòng)手實(shí)踐：在示例數(shù)據(jù)集上微調(diào)小型LLM。 |
| 模塊 5：構(gòu)建基于LLM的應(yīng)用程序 |
應(yīng)用程序設(shè)計(jì)原則：用戶體驗(yàn)、可擴(kuò)展性和可維護(hù)性。 將LLM集成到現(xiàn)有系統(tǒng)中：API、webhook和微服務(wù)。 構(gòu)建聊天機(jī)器人和對(duì)話式AI：對(duì)話管理、意圖識(shí)別和響應(yīng)生成。 內(nèi)容創(chuàng)建和自動(dòng)化：生成文章、營(yíng)銷文案和代碼。 知識(shí)管理和信息檢索：構(gòu)建基于LLM的搜索和問答系統(tǒng)。 動(dòng)手實(shí)踐：使用LLM API和對(duì)話管理框架構(gòu)建一個(gè)簡(jiǎn)單的聊天機(jī)器人。 |
| 模塊 6：部署和擴(kuò)展LLM應(yīng)用程序 |
部署選項(xiàng)：云平臺(tái)、無服務(wù)器函數(shù)和邊緣設(shè)備。 擴(kuò)展LLM推理：負(fù)載均衡、緩存和模型優(yōu)化。 監(jiān)控和日志記錄：跟蹤性能、識(shí)別錯(cuò)誤并確保可靠性。 安全注意事項(xiàng)：保護(hù)LLM免受攻擊并確保數(shù)據(jù)隱私。 成本管理：優(yōu)化資源利用率并最大限度地減少開支。 動(dòng)手實(shí)踐：將簡(jiǎn)單的LLM應(yīng)用程序部署到云平臺(tái)。 |
| 模塊 7：倫理考量與負(fù)責(zé)任的AI |
LLM中的偏見：理解LLM中偏見的來源和影響。 公平性和平等：減輕偏見并促進(jìn)LLM應(yīng)用程序的公平性。 隱私和數(shù)據(jù)安全：保護(hù)敏感數(shù)據(jù)并遵守隱私法規(guī)。 透明度和可解釋性：使LLM更透明和易于理解。 虛假信息和惡意使用：解決LLM可能被用于惡意目的的潛在問題。 負(fù)責(zé)任的AI框架和指南：遵守倫理原則和最佳實(shí)踐。 動(dòng)手實(shí)踐：使用示例數(shù)據(jù)集識(shí)別和減輕LLM中的偏見。 |
| 模塊 8：高級(jí)主題和未來趨勢(shì) |
多模態(tài)LLM：將文本與圖像、音頻和視頻集成。 LLM的強(qiáng)化學(xué)習(xí)：通過強(qiáng)化學(xué)習(xí)訓(xùn)練LLM來執(zhí)行復(fù)雜的任務(wù)。 LLM的聯(lián)邦學(xué)習(xí)：在保護(hù)隱私的同時(shí)在分散數(shù)據(jù)上訓(xùn)練LLM。 新興LLM架構(gòu)：探索新的創(chuàng)新LLM架構(gòu)。 LLM的未來：LLM演變的趨勢(shì)和預(yù)測(cè)。 開放討論：?jiǎn)柎?、頭腦風(fēng)暴和分享未來項(xiàng)目的想法。 |
| 動(dòng)手實(shí)踐和項(xiàng)目： |
在整個(gè)課程中，參與者將參與大量的動(dòng)手實(shí)踐和項(xiàng)目，包括： 設(shè)置LLM開發(fā)環(huán)境。 設(shè)計(jì)和評(píng)估用于各種任務(wù)的提示。 在示例數(shù)據(jù)集上微調(diào)小型LLM。 構(gòu)建一個(gè)簡(jiǎn)單的聊天機(jī)器人。 將LLM應(yīng)用程序部署到云平臺(tái)。 識(shí)別和減輕LLM中的偏見。 |
| 工具和技術(shù)： |
Python Transformers庫 Langchain Hugging Face Hub OpenAI API Google Cloud AI Platform AWS SageMaker Kubernetes（可選） |
| 定制選項(xiàng)： |
行業(yè)特定重點(diǎn)： 針對(duì)特定行業(yè)（例如金融、醫(yī)療保健、零售）定制案例研究和示例。 技能水平調(diào)整： 根據(jù)受眾的技能水平調(diào)整內(nèi)容和練習(xí)的復(fù)雜性。 模塊化交付： 將課程分解為更小、獨(dú)立的模塊，可以單獨(dú)學(xué)習(xí)。 在線/面對(duì)面混合： 將在線講座與面對(duì)面的研討會(huì)和實(shí)踐課程相結(jié)合。 |
|
模塊 1：大型語言模型（LLM）簡(jiǎn)介 什么是大型語言模型？定義、特征和歷史。 自然語言處理的演變：從基于規(guī)則的系統(tǒng)到深度學(xué)習(xí)。 關(guān)鍵概念：Transformer、注意力機(jī)制、嵌入和語言建模。 流行的LLM架構(gòu)：BERT、GPT、T5等。 用例和應(yīng)用：內(nèi)容創(chuàng)作、聊天機(jī)器人、代碼生成、翻譯、摘要等。 LLM生態(tài)：概述可用的模型（OpenAI、Google、Meta等）及其能力。 |
|
模塊 2：設(shè)置您的LLM環(huán)境 訪問LLM：API、云平臺(tái)和開源選項(xiàng)。 LLM的Python庫：Transformers、Langchain、Hugging Face。 設(shè)置開發(fā)環(huán)境：本地機(jī)器、云實(shí)例或協(xié)作平臺(tái)。 API密鑰和身份驗(yàn)證：安全最佳實(shí)踐。 成本考慮：定價(jià)模式、令牌限制和優(yōu)化策略。 動(dòng)手實(shí)踐：設(shè)置基本的Python環(huán)境并訪問LLM API。 |
|
模塊 3：提示工程：充分利用LLM 什么是提示工程？定義和重要性。 基本提示技巧：輸入結(jié)構(gòu)、上下文設(shè)置和溫度控制。 高級(jí)提示技巧：少量樣本學(xué)習(xí)、鏈?zhǔn)剿伎继崾竞妥晕乙恢滦浴?br/>提示優(yōu)化：迭代改進(jìn)、A/B測(cè)試和提示庫。 針對(duì)特定任務(wù)的提示設(shè)計(jì)：摘要、翻譯、問答、代碼生成。 提示注入和安全：理解并減輕提示注入攻擊。 動(dòng)手實(shí)踐：設(shè)計(jì)用于各種任務(wù)的提示并評(píng)估其性能。 |
|
模塊 4：微調(diào)LLM以用于特定任務(wù) 什么是微調(diào)？將預(yù)訓(xùn)練模型調(diào)整到特定的數(shù)據(jù)集和任務(wù)。 何時(shí)進(jìn)行微調(diào)：微調(diào)有益的場(chǎng)景。 準(zhǔn)備用于微調(diào)的數(shù)據(jù)：數(shù)據(jù)清理、格式化和增強(qiáng)。 微調(diào)技巧：完全微調(diào)、參數(shù)高效微調(diào)（LoRA、適配器）。 評(píng)估微調(diào)模型：指標(biāo)、驗(yàn)證集和偏差檢測(cè)。 用于微調(diào)的工具和平臺(tái)：Hugging Face Trainer、基于云的微調(diào)服務(wù)。 動(dòng)手實(shí)踐：在示例數(shù)據(jù)集上微調(diào)小型LLM。 |
|
模塊 5：構(gòu)建基于LLM的應(yīng)用程序 應(yīng)用程序設(shè)計(jì)原則：用戶體驗(yàn)、可擴(kuò)展性和可維護(hù)性。 將LLM集成到現(xiàn)有系統(tǒng)中：API、webhook和微服務(wù)。 構(gòu)建聊天機(jī)器人和對(duì)話式AI：對(duì)話管理、意圖識(shí)別和響應(yīng)生成。 內(nèi)容創(chuàng)建和自動(dòng)化：生成文章、營(yíng)銷文案和代碼。 知識(shí)管理和信息檢索：構(gòu)建基于LLM的搜索和問答系統(tǒng)。 動(dòng)手實(shí)踐：使用LLM API和對(duì)話管理框架構(gòu)建一個(gè)簡(jiǎn)單的聊天機(jī)器人。 |
|
模塊 6：部署和擴(kuò)展LLM應(yīng)用程序 部署選項(xiàng)：云平臺(tái)、無服務(wù)器函數(shù)和邊緣設(shè)備。 擴(kuò)展LLM推理：負(fù)載均衡、緩存和模型優(yōu)化。 監(jiān)控和日志記錄：跟蹤性能、識(shí)別錯(cuò)誤并確保可靠性。 安全注意事項(xiàng)：保護(hù)LLM免受攻擊并確保數(shù)據(jù)隱私。 成本管理：優(yōu)化資源利用率并最大限度地減少開支。 動(dòng)手實(shí)踐：將簡(jiǎn)單的LLM應(yīng)用程序部署到云平臺(tái)。 |
|
模塊 7：倫理考量與負(fù)責(zé)任的AI LLM中的偏見：理解LLM中偏見的來源和影響。 公平性和平等：減輕偏見并促進(jìn)LLM應(yīng)用程序的公平性。 隱私和數(shù)據(jù)安全：保護(hù)敏感數(shù)據(jù)并遵守隱私法規(guī)。 透明度和可解釋性：使LLM更透明和易于理解。 虛假信息和惡意使用：解決LLM可能被用于惡意目的的潛在問題。 負(fù)責(zé)任的AI框架和指南：遵守倫理原則和最佳實(shí)踐。 動(dòng)手實(shí)踐：使用示例數(shù)據(jù)集識(shí)別和減輕LLM中的偏見。 |
|
模塊 8：高級(jí)主題和未來趨勢(shì) 多模態(tài)LLM：將文本與圖像、音頻和視頻集成。 LLM的強(qiáng)化學(xué)習(xí)：通過強(qiáng)化學(xué)習(xí)訓(xùn)練LLM來執(zhí)行復(fù)雜的任務(wù)。 LLM的聯(lián)邦學(xué)習(xí)：在保護(hù)隱私的同時(shí)在分散數(shù)據(jù)上訓(xùn)練LLM。 新興LLM架構(gòu)：探索新的創(chuàng)新LLM架構(gòu)。 LLM的未來：LLM演變的趨勢(shì)和預(yù)測(cè)。 開放討論：?jiǎn)柎?、頭腦風(fēng)暴和分享未來項(xiàng)目的想法。 |
|
動(dòng)手實(shí)踐和項(xiàng)目： 在整個(gè)課程中，參與者將參與大量的動(dòng)手實(shí)踐和項(xiàng)目，包括： 設(shè)置LLM開發(fā)環(huán)境。 設(shè)計(jì)和評(píng)估用于各種任務(wù)的提示。 在示例數(shù)據(jù)集上微調(diào)小型LLM。 構(gòu)建一個(gè)簡(jiǎn)單的聊天機(jī)器人。 將LLM應(yīng)用程序部署到云平臺(tái)。 識(shí)別和減輕LLM中的偏見。 |
|
工具和技術(shù)： Python Transformers庫 Langchain Hugging Face Hub OpenAI API Google Cloud AI Platform AWS SageMaker Kubernetes（可選） |
|
定制選項(xiàng)： 行業(yè)特定重點(diǎn)： 針對(duì)特定行業(yè)（例如金融、醫(yī)療保健、零售）定制案例研究和示例。 技能水平調(diào)整： 根據(jù)受眾的技能水平調(diào)整內(nèi)容和練習(xí)的復(fù)雜性。 模塊化交付： 將課程分解為更小、獨(dú)立的模塊，可以單獨(dú)學(xué)習(xí)。 在線/面對(duì)面混合： 將在線講座與面對(duì)面的研討會(huì)和實(shí)踐課程相結(jié)合。 |
近期公開課推薦
