課程簡介
此課程可在短短2 天之內(nèi)，讓不具備 AI 知識，甚至沒有編程基礎(chǔ)的學(xué)員親手運(yùn)行、修改甚至從頭搭建自己的?【LLM 大語言模型應(yīng)用】。
學(xué)員將會學(xué)習(xí)大語言模型應(yīng)用的科學(xué)知識、技術(shù)框架、編碼技術(shù)、業(yè)務(wù)應(yīng)用。借助課程提供的?【積木代碼】?，學(xué)員可以根據(jù)自己的實(shí)際需求創(chuàng)建?【假想產(chǎn)品】?，并通過為其增加功能來贏得?【勛章】?，用于評估學(xué)習(xí)效果。
學(xué)員還會跟隨講師探索 Langchain 官網(wǎng)、學(xué)習(xí)使用 ChatGpt 編寫代碼以完成?【自學(xué)賦能】，以便保證在課后仍然有能力擴(kuò)展自己的產(chǎn)品功能。
目標(biāo)收益
1.跨越門檻：快速消除初入人工智能領(lǐng)域的陌生與畏懼感。
2.認(rèn)知提升：深入理解大語言模型的工作原理及其在多種場景下的實(shí)際應(yīng)用。
3.編程技能：非編程背景的學(xué)員也能通過課程提供的積木代碼嘗試編寫和改進(jìn)代碼。
4.項(xiàng)目實(shí)戰(zhàn)：圍繞假想產(chǎn)品實(shí)際操作 LLM 平臺，解決實(shí)際問題。
5.自學(xué)賦能：通過對 Langchain 框架的解讀、基于 ChatGpt 的自動化編程，讓沒有 AI 和 python 基礎(chǔ)的學(xué)員在課后仍然能編寫和擴(kuò)展應(yīng)用
培訓(xùn)對象
1、希望成為?LLM 產(chǎn)品經(jīng)理?的專業(yè)人士，希望了解 LLM 的商業(yè)和技術(shù)應(yīng)用。
2、想要轉(zhuǎn)型成為?LLM 軟件工程師的開發(fā)者，希望通過實(shí)際編程加深對 LLM 的理解。
課程大綱
| 概述：LLM 簡介與核心概念 |
一、知識點(diǎn) 1、什么是大語言模型 LLM LLM 的發(fā)展歷史 LLM 是如何工作的 LLM 與 AI 的關(guān)系 二、應(yīng)用與限制 1、LLM 在理解、生成、推理能力方面的具體表現(xiàn) 2、LLM 面臨的挑戰(zhàn)，如偏見、誤解和數(shù)據(jù)依賴性 3、討論如何通過技術(shù)和策略改進(jìn)來克服這些局限 案例《ChatGpt 框架》 通過 ChatGpt 的框架解析，理解大語言模型 APP 的前后臺關(guān)系 案例《辨別極限》 通過 ChatGpt 中存在的若干問題，指出 LLM 在處理該案例時(shí)可能遇到的問題，并提出可能的解決方案。 |
| 第一課：Hello World! |
一、 知識點(diǎn) 1、親手操作 LLM，從最基礎(chǔ)的“Hello World!”程序開始，逐步學(xué)習(xí)如何調(diào)用 LLM 進(jìn)行簡單的文本生成 2、解釋 API 的使用方法與調(diào)用參數(shù) 3、講解如何安全有效地管理 API 賬號與密鑰 4、理解 LLM Api 的計(jì)費(fèi)方式與持續(xù)性成本 二、實(shí)用工具箱 1、利用 ChatGpt 編寫代碼 此內(nèi)容可讓完全沒有編程基礎(chǔ)的學(xué)員，生成、改進(jìn)、調(diào)試 python 代碼，從而解決課后的持續(xù)開發(fā)問題 三、練習(xí)《我的第一條 AI 生成文本》 1、使用提供的 API，編寫一個(gè)簡單的問題回答腳本 2、讓 LLM 能循環(huán)回答用戶問題（需借助 ChatGpt 編程） |
| 第二課：提示詞工程 |
一、知識點(diǎn) 1、學(xué)習(xí)如何設(shè)計(jì)有效的提示詞以引導(dǎo) LLM 生成更高質(zhì)量的內(nèi)容 2、介紹不同類型的提示詞模板，如靜態(tài)提示、動態(tài)提示 3、探討如何利用用戶輸入調(diào)整提示詞以改善交互質(zhì)量 二、練習(xí)《優(yōu)化提示詞》 1、讓 LLM 編寫并執(zhí)行代碼 2、讓 LLM 進(jìn)行智能銷售分析 3、對參數(shù)的排列組合后傳入 LLM 4、從 LLM 返回的結(jié)果中，獲取結(jié)構(gòu)化數(shù)據(jù) 三、 假想產(chǎn)品升級 1、為 AI 設(shè)置一個(gè)合理的人設(shè)與規(guī)則 2、限定 AI 回答問題的范圍 3、使用 2 種以上人類語言回答問題 4、使輸出格式成為一個(gè)可以被解析的 json 結(jié)構(gòu) |
| 第三課：檢索增強(qiáng)生成（RAG） |
一、知識點(diǎn) 1、介紹如何通過集成外部數(shù)據(jù)來提高 LLM 的輸出質(zhì)量和相關(guān)性 2、講解如何構(gòu)建一個(gè)向量數(shù)據(jù)庫，并使用檢索增強(qiáng)技術(shù)來改進(jìn)模型的答案質(zhì)量 二、練習(xí)《內(nèi)部 OA 助手》 1、創(chuàng)建一個(gè)簡單的 OA 助手 2、借助本地文檔回答問題 3、借助內(nèi)網(wǎng)/外網(wǎng)網(wǎng)頁內(nèi)容回答問題 三、假想產(chǎn)品升級 1、訪問本地一個(gè)目錄中的所有文檔（Markdown 格式） 2、訪問一個(gè) URL 頁面的網(wǎng)頁內(nèi)容 |
| 第四課：記憶與持久化 |
一、知識點(diǎn) 1、探討如何通過對話記憶和持久化技術(shù)來實(shí)現(xiàn)復(fù)雜的會話管理 2、介紹如何使用 LLM 存儲和回憶過往對話內(nèi)容 3、了解如何處理長期記憶和短期記憶的不同技術(shù)策略 二、練習(xí)《內(nèi)部 OA 助手》 1、與用戶進(jìn)行多輪相關(guān)聯(lián)的對話 2、在多輪對話中使用多個(gè)不同文檔的內(nèi)容進(jìn)行分析 三、假想產(chǎn)品升級 1、執(zhí)行多輪關(guān)聯(lián)對話 2、上下文來自不同的文檔 3、至少一次上下文來自 URL 頁面的網(wǎng)頁內(nèi)容 |
| 第五課：智能體 |
一、知識點(diǎn) 1、了解智能體與工具的基本運(yùn)行原理原理 2、進(jìn)一步實(shí)踐與感受大語言模型的能力與限制 二、練習(xí)《智能 OA 助手》 1、調(diào)用搜索工具，回答實(shí)時(shí)問題（如搜索天氣） 2、調(diào)用文檔工具，根據(jù)企業(yè)內(nèi)部文檔分析和回答問題 3、調(diào)用數(shù)學(xué)工具，對數(shù)學(xué)問題進(jìn)行計(jì)算 三、假想產(chǎn)品升級 1、自主調(diào)用工具，訪問本地一個(gè)目錄中的所有文檔（Markdown 格式） 2、自主調(diào)用工具，訪問一個(gè) URL 頁面的網(wǎng)頁內(nèi)容 與上一個(gè)練習(xí)的區(qū)別是，智能體可以自主選擇工具，無需人工指定 |
| 擴(kuò)展：自學(xué)賦能 |
一、LLM 相關(guān)資源 1、Langchain 官網(wǎng)概覽 此內(nèi)容整體介紹 Langchain 編程框架官網(wǎng)的結(jié)構(gòu)、模塊、功能 特別會提及部署方案 LangServe 和運(yùn)維方案 LangSmith 2、github 簡單使用指南 在 github 上搜索、瀏覽 LLM 相關(guān)代碼 3、Docker 簡單使用指南 在本機(jī)部署各種向量數(shù)據(jù)庫、redis 等服務(wù)的快捷做法 二、假想產(chǎn)品升級 1、每組推選本組一個(gè)前面練習(xí)后最成熟的假想產(chǎn)品為代表產(chǎn)品 以組為單位（之前可以單個(gè)學(xué)員自己做） 分工協(xié)作，有計(jì)劃地為此產(chǎn)品擴(kuò)展功能。 2、基于 Langchain 官網(wǎng)提供的功能，嘗試實(shí)現(xiàn)課上未涉及的功能 自主決定添加何種新功能（需要與產(chǎn)品相關(guān)） 添加新功能可持續(xù)獲得勛章 |
|
概述：LLM 簡介與核心概念 一、知識點(diǎn) 1、什么是大語言模型 LLM LLM 的發(fā)展歷史 LLM 是如何工作的 LLM 與 AI 的關(guān)系 二、應(yīng)用與限制 1、LLM 在理解、生成、推理能力方面的具體表現(xiàn) 2、LLM 面臨的挑戰(zhàn)，如偏見、誤解和數(shù)據(jù)依賴性 3、討論如何通過技術(shù)和策略改進(jìn)來克服這些局限 案例《ChatGpt 框架》 通過 ChatGpt 的框架解析，理解大語言模型 APP 的前后臺關(guān)系 案例《辨別極限》 通過 ChatGpt 中存在的若干問題，指出 LLM 在處理該案例時(shí)可能遇到的問題，并提出可能的解決方案。 |
|
第一課：Hello World! 一、 知識點(diǎn) 1、親手操作 LLM，從最基礎(chǔ)的“Hello World!”程序開始，逐步學(xué)習(xí)如何調(diào)用 LLM 進(jìn)行簡單的文本生成 2、解釋 API 的使用方法與調(diào)用參數(shù) 3、講解如何安全有效地管理 API 賬號與密鑰 4、理解 LLM Api 的計(jì)費(fèi)方式與持續(xù)性成本 二、實(shí)用工具箱 1、利用 ChatGpt 編寫代碼 此內(nèi)容可讓完全沒有編程基礎(chǔ)的學(xué)員，生成、改進(jìn)、調(diào)試 python 代碼，從而解決課后的持續(xù)開發(fā)問題 三、練習(xí)《我的第一條 AI 生成文本》 1、使用提供的 API，編寫一個(gè)簡單的問題回答腳本 2、讓 LLM 能循環(huán)回答用戶問題（需借助 ChatGpt 編程） |
|
第二課：提示詞工程 一、知識點(diǎn) 1、學(xué)習(xí)如何設(shè)計(jì)有效的提示詞以引導(dǎo) LLM 生成更高質(zhì)量的內(nèi)容 2、介紹不同類型的提示詞模板，如靜態(tài)提示、動態(tài)提示 3、探討如何利用用戶輸入調(diào)整提示詞以改善交互質(zhì)量 二、練習(xí)《優(yōu)化提示詞》 1、讓 LLM 編寫并執(zhí)行代碼 2、讓 LLM 進(jìn)行智能銷售分析 3、對參數(shù)的排列組合后傳入 LLM 4、從 LLM 返回的結(jié)果中，獲取結(jié)構(gòu)化數(shù)據(jù) 三、 假想產(chǎn)品升級 1、為 AI 設(shè)置一個(gè)合理的人設(shè)與規(guī)則 2、限定 AI 回答問題的范圍 3、使用 2 種以上人類語言回答問題 4、使輸出格式成為一個(gè)可以被解析的 json 結(jié)構(gòu) |
|
第三課：檢索增強(qiáng)生成（RAG） 一、知識點(diǎn) 1、介紹如何通過集成外部數(shù)據(jù)來提高 LLM 的輸出質(zhì)量和相關(guān)性 2、講解如何構(gòu)建一個(gè)向量數(shù)據(jù)庫，并使用檢索增強(qiáng)技術(shù)來改進(jìn)模型的答案質(zhì)量 二、練習(xí)《內(nèi)部 OA 助手》 1、創(chuàng)建一個(gè)簡單的 OA 助手 2、借助本地文檔回答問題 3、借助內(nèi)網(wǎng)/外網(wǎng)網(wǎng)頁內(nèi)容回答問題 三、假想產(chǎn)品升級 1、訪問本地一個(gè)目錄中的所有文檔（Markdown 格式） 2、訪問一個(gè) URL 頁面的網(wǎng)頁內(nèi)容 |
|
第四課：記憶與持久化 一、知識點(diǎn) 1、探討如何通過對話記憶和持久化技術(shù)來實(shí)現(xiàn)復(fù)雜的會話管理 2、介紹如何使用 LLM 存儲和回憶過往對話內(nèi)容 3、了解如何處理長期記憶和短期記憶的不同技術(shù)策略 二、練習(xí)《內(nèi)部 OA 助手》 1、與用戶進(jìn)行多輪相關(guān)聯(lián)的對話 2、在多輪對話中使用多個(gè)不同文檔的內(nèi)容進(jìn)行分析 三、假想產(chǎn)品升級 1、執(zhí)行多輪關(guān)聯(lián)對話 2、上下文來自不同的文檔 3、至少一次上下文來自 URL 頁面的網(wǎng)頁內(nèi)容 |
|
第五課：智能體 一、知識點(diǎn) 1、了解智能體與工具的基本運(yùn)行原理原理 2、進(jìn)一步實(shí)踐與感受大語言模型的能力與限制 二、練習(xí)《智能 OA 助手》 1、調(diào)用搜索工具，回答實(shí)時(shí)問題（如搜索天氣） 2、調(diào)用文檔工具，根據(jù)企業(yè)內(nèi)部文檔分析和回答問題 3、調(diào)用數(shù)學(xué)工具，對數(shù)學(xué)問題進(jìn)行計(jì)算 三、假想產(chǎn)品升級 1、自主調(diào)用工具，訪問本地一個(gè)目錄中的所有文檔（Markdown 格式） 2、自主調(diào)用工具，訪問一個(gè) URL 頁面的網(wǎng)頁內(nèi)容 與上一個(gè)練習(xí)的區(qū)別是，智能體可以自主選擇工具，無需人工指定 |
|
擴(kuò)展：自學(xué)賦能 一、LLM 相關(guān)資源 1、Langchain 官網(wǎng)概覽 此內(nèi)容整體介紹 Langchain 編程框架官網(wǎng)的結(jié)構(gòu)、模塊、功能 特別會提及部署方案 LangServe 和運(yùn)維方案 LangSmith 2、github 簡單使用指南 在 github 上搜索、瀏覽 LLM 相關(guān)代碼 3、Docker 簡單使用指南 在本機(jī)部署各種向量數(shù)據(jù)庫、redis 等服務(wù)的快捷做法 二、假想產(chǎn)品升級 1、每組推選本組一個(gè)前面練習(xí)后最成熟的假想產(chǎn)品為代表產(chǎn)品 以組為單位（之前可以單個(gè)學(xué)員自己做） 分工協(xié)作，有計(jì)劃地為此產(chǎn)品擴(kuò)展功能。 2、基于 Langchain 官網(wǎng)提供的功能，嘗試實(shí)現(xiàn)課上未涉及的功能 自主決定添加何種新功能（需要與產(chǎn)品相關(guān)） 添加新功能可持續(xù)獲得勛章 |
近期公開課推薦
