課程簡(jiǎn)介

在這個(gè)課程中，我們首先將研究生成式人工智能（AIGC）和大語(yǔ)言模型（LLM）的概念和技術(shù)體系，探討其工作原理，生態(tài)體系以及與 OpenAI的關(guān)系。接下來，我們將深入討論"提示工程"，介紹如何構(gòu)建和優(yōu)化提示以提高LLM的結(jié)果質(zhì)量。在環(huán)境配置方面，我們將展示如何使用Python代碼實(shí)現(xiàn)流式自動(dòng)對(duì)話，并快速創(chuàng)建Chat Bot。
在課程的第二部分，我們將通過LangChain來開發(fā)AIGC應(yīng)用，詳細(xì)講解其概念、模型調(diào)用、提示工程、輸出解析。我們還會(huì)介紹如何在LangChain中使用鏈（Chain）、內(nèi)存（Memory）和代理（Agent）。一起探索樓LangChain的高級(jí)應(yīng)用，并在實(shí)際演練中構(gòu)建一個(gè)客戶服務(wù)型Chatbot。
最后，我們將搭建一個(gè)API網(wǎng)關(guān)，實(shí)現(xiàn)LLM模型的本地運(yùn)行，并構(gòu)建一個(gè)低代碼/無(wú)代碼的AIGC開發(fā)平臺(tái)。課程最后將主要專注于應(yīng)用部署，包含容器化部署和PaaS化部署，以便于快速上線自定義LLM應(yīng)用。

目標(biāo)收益

通過參與本課程，學(xué)員將能夠獲得必要的知識(shí)和技能，以在各自的領(lǐng)域中有效利用AIGC技術(shù)，開發(fā)創(chuàng)新的應(yīng)用程序，并推動(dòng)人工智能技術(shù)的發(fā)展。
?理解AIGC和LLM技術(shù)：使學(xué)員能夠理解AIGC的概念、技術(shù)體系以及LLM的工作原理。
?掌握提示工程：教授學(xué)員如何構(gòu)建和優(yōu)化提示，以改善LLM的輸出質(zhì)量。
?開發(fā)環(huán)境搭建：指導(dǎo)學(xué)員如何獲取和使用LLM API Key，以及如何使用Python代碼實(shí)現(xiàn)流式自動(dòng)對(duì)話。
?LangChain應(yīng)用開發(fā)：深入學(xué)習(xí)LangChain的基本概念，掌握如何使用LangChain調(diào)用LLM API，以及如何串聯(lián)不同的組件構(gòu)建復(fù)雜的AIGC應(yīng)用。
?記憶與代理機(jī)制：了解如何在AIGC應(yīng)用中保存對(duì)話上下文，以及如何使用代理機(jī)制進(jìn)行結(jié)構(gòu)化工具對(duì)話。
?高級(jí)應(yīng)用與工具箱：學(xué)習(xí)如何實(shí)現(xiàn)檢索增強(qiáng)生成、連接數(shù)據(jù)庫(kù)、異步通信機(jī)制，以及角色扮演等高級(jí)應(yīng)用。
?自主可控開發(fā)底座：教授學(xué)員如何搭建API Gateway，管理API渠道和令牌，以及如何實(shí)現(xiàn)LLM模型的本地運(yùn)行。
?低代碼無(wú)代碼平臺(tái)構(gòu)建：介紹如何部署低代碼無(wú)代碼AIGC應(yīng)用開發(fā)平臺(tái)，如Flowise，并實(shí)現(xiàn)基本會(huì)話機(jī)器人。
?應(yīng)用部署：了解應(yīng)用容器化部署，以及如何借助云服務(wù)快速上線自定義LLM應(yīng)用。
?項(xiàng)目實(shí)戰(zhàn)：通過構(gòu)建客服Chatbot和知識(shí)庫(kù)問答系統(tǒng)，讓學(xué)員將所學(xué)知識(shí)應(yīng)用于實(shí)際項(xiàng)目中。

培訓(xùn)對(duì)象

本課程適用于以下受眾
?AI技術(shù)愛好者：對(duì)人工智能特別是生成式AI感興趣的個(gè)人。
?數(shù)據(jù)科學(xué)家：需要使用LLM進(jìn)行數(shù)據(jù)分析和模式識(shí)別的專業(yè)人士。
?軟件開發(fā)者：希望將AIGC集成到其應(yīng)用程序中的軟件開發(fā)者。
?產(chǎn)品經(jīng)理：負(fù)責(zé)設(shè)計(jì)和推出基于AIGC技術(shù)的產(chǎn)品的產(chǎn)品經(jīng)理。
?研究人員和學(xué)者：在學(xué)術(shù)研究中探索AIGC應(yīng)用的研究人員。
?企業(yè)決策者：尋求利用AIGC技術(shù)改進(jìn)業(yè)務(wù)流程和提高效率的企業(yè)決策者。
?技術(shù)創(chuàng)業(yè)者：正在尋找利用AIGC技術(shù)創(chuàng)造新業(yè)務(wù)機(jī)會(huì)的創(chuàng)業(yè)者。

課程內(nèi)容

1. 生成式人工智能和大語(yǔ)言模型技術(shù)概覽 （1天）
AIGC的概念和技術(shù)體系
?生成式人工智能（AIGC）體系概述
?大語(yǔ)言模型技術(shù)（LLM）工作原理
?LLM 生態(tài)體系
?OpenAI 及其相關(guān)模型介紹
提示工程
?什么是提示工程
?構(gòu)建提示的方法
?優(yōu)化提示技巧改善LLM輸出質(zhì)量
?提示工程思維和提示工程最佳實(shí)踐
實(shí)現(xiàn)AIGC開發(fā)環(huán)境
?獲取并使用LLM API Key
?構(gòu)建開發(fā)環(huán)境使用Python代碼實(shí)現(xiàn)流式自動(dòng)對(duì)話
?快速創(chuàng)建Chat Bot，練習(xí)提示詞

2. 使用 LangChain 開發(fā)AIGC應(yīng)用 （2天）
LangChain的基本概念和環(huán)境準(zhǔn)備
?大語(yǔ)言模型的概念
?LangChain的概念和組件
?安裝LangChain環(huán)境
?使用LangChain調(diào)用LLM API
模型的調(diào)用、提示工程和輸出解析
?模型I/O
?提示工程
?輸出解析
Chain：串聯(lián)不同的組件
?Chain的概念
?LLMChain
?Sequential Chain
?RouterChain
Memory：保存對(duì)話上下文
?Memory 概述
?ConversationChain
?ConversationBufferMemory（緩沖記憶）
?ConversationBufferWindowMemory
?ConversationSummaryMemory
?ConversationSummaryBufferMemory
Agent：代理
?Agent概念和體系
?React框架
?結(jié)構(gòu)化工具對(duì)話代理
?自主詢問搜索代理
?計(jì)劃與執(zhí)行代理
LangChain高級(jí)應(yīng)用
?工具和工具箱
?實(shí)現(xiàn)檢索增強(qiáng)生成RAG
?連接數(shù)據(jù)庫(kù)
?回調(diào)函數(shù)實(shí)現(xiàn)異步通信機(jī)制
?CAMEL：實(shí)現(xiàn)角色扮演
?實(shí)現(xiàn)自治代理
綜合演練：構(gòu)建客服Chatbot
?技術(shù)架構(gòu)
?實(shí)現(xiàn)步驟
?實(shí)現(xiàn)基本聊天
?實(shí)現(xiàn)記憶功能
?整合文檔庫(kù)具備檢索機(jī)制
?使用Gradio/StreamLit框架部署Chatbot
項(xiàng)目實(shí)戰(zhàn)：開發(fā)知識(shí)庫(kù)問答系統(tǒng)
?項(xiàng)目需求
?技術(shù)框架
?核心實(shí)現(xiàn)機(jī)制
?核心代碼分析
?功能實(shí)現(xiàn)
3. 實(shí)現(xiàn)自主可控的AIGC應(yīng)用開發(fā)底座 （1天）
搭建API Gateway
?AIGC 開發(fā)底座工具鏈介紹
?LLM API 調(diào)用方法和策略綜述
?使用One-API項(xiàng)目部署API Geateway
?管理API渠道和令牌
?API 調(diào)用的監(jiān)控以及用戶管理
實(shí)現(xiàn)LLM模型本地運(yùn)行
?使用LM Studio實(shí)現(xiàn)開源大模型的本地運(yùn)行
?開源大語(yǔ)言模型和本地開發(fā)環(huán)境的對(duì)接
?測(cè)試和評(píng)估LLaMa模型
?測(cè)試和評(píng)估Mixtrel MoE模型
?使用Phi 2實(shí)現(xiàn)本地平替Github Copilot解決方案
?實(shí)現(xiàn)嵌入式模型的本地運(yùn)行
構(gòu)建低代碼無(wú)代碼AIGC應(yīng)用開發(fā)平臺(tái)
?部署Flowise
?快速實(shí)現(xiàn)基本會(huì)話機(jī)器人
?實(shí)現(xiàn)整合Web瀏覽插件的會(huì)話機(jī)器人
?實(shí)現(xiàn)領(lǐng)域知識(shí)庫(kù)（Embedding & 向量檢索引擎）
?實(shí)現(xiàn)智能體
AIGC 應(yīng)用的部署
?應(yīng)用容器化部署介紹
?借助Vercel實(shí)現(xiàn)應(yīng)用的PaaS化部署
?部署ChatGPT Web
?快速上線自定義LLM應(yīng)用