課程簡介
本課程"實現(xiàn)自主可控的AIGC應用開發(fā)底座"旨在指導學員如何利用一系列開源工具形成工具鏈,實現(xiàn)自主可控的AIGC解決方案底座。我們將首先介紹如何使用開源工具搭建和管理API網(wǎng)關(guān),這是連接模型和應用的重要橋梁。接著,我們將學習如何在本地環(huán)境中運行和測試開源大型語言模型(LLM),這是自然語言處理(NLP)解決方案的核心。然后,我們將探討如何構(gòu)建低代碼無代碼的AIGC應用開發(fā)平臺,使得開發(fā)過程更加高效和靈活。最后,我們將學習如何將LLM應用部署和上線,以實現(xiàn)其在實際環(huán)境中的應用。通過本課程,學員將掌握如何利用開源工具實現(xiàn)自主可控的AIGC解決方案底座的全套技能。
目標收益
1.理解并掌握AIGC開發(fā)底座工具鏈:學員將全面理解LLM開發(fā)底座工具鏈的構(gòu)成和工作原理,能夠熟練使用這些工具進行AIGC應用的開發(fā)和部署。
2.熟練搭建和管理API網(wǎng)關(guān):包括LLM API的調(diào)用方法和策略,使用One-API項目部署API Gateway,以及API渠道和令牌的管理,API調(diào)用的監(jiān)控和用戶管理。
3.掌握LLM模型的本地運行和測試評估:學員將能夠使用LM Studio實現(xiàn)開源大模型的本地運行,對接開源大語言模型和本地開發(fā)環(huán)境。同時,學員還將掌握LLaMa模型和Mixtrel MoE模型的測試和評估,以及使用Phi 2實現(xiàn)本地平替Github Copilot解決方案和嵌入式模型的本地運行。
4.自主構(gòu)建和優(yōu)化低代碼無代碼AIGC應用開發(fā)平臺:學員將能夠部署Flowise并快速實現(xiàn)基本的會話機器人,整合Web瀏覽插件的會話機器人,實現(xiàn)領域知識庫(Embedding & 向量檢索引擎),以及實現(xiàn)智能體。
5.理解并實施LLM應用的部署:學員將掌握應用容器化部署的基本概念,借助Vercel實現(xiàn)應用的PaaS化部署,部署ChatGPT Web,以及快速上線自定義LLM應用。
6.通過實戰(zhàn)項目,能夠?qū)⒗碚撝R轉(zhuǎn)化為實際應用:學員將有機會實踐和應用所學的知識和技能,以自主開發(fā)和部署AIGC應用。
培訓對象
這個課程特別適合那些希望在AIGC領域快速實現(xiàn)應用開發(fā)和部署,同時對技術(shù)有一定的理解和實踐經(jīng)驗,但希望進一步簡化開發(fā)流程和提高效率的專業(yè)人士。
1.有經(jīng)驗的AIGC開發(fā)者:已經(jīng)具備LLM和AIGC基礎知識,希望進一步提升技能,通過開源項目快速構(gòu)建和部署AIGC應用的開發(fā)者。
2.快速應用部署者:尋求快速上線AIGC解決方案的專業(yè)人士,他們可能已經(jīng)有一定的AIGC應用開發(fā)經(jīng)驗,但希望利用低代碼或無代碼工具加速開發(fā)流程。
3.技術(shù)轉(zhuǎn)型者:希望從傳統(tǒng)軟件開發(fā)轉(zhuǎn)向AIGC領域的技術(shù)人員,他們需要一個實踐導向的課程來快速掌握AIGC工具鏈的搭建和應用開發(fā)。
4.企業(yè)內(nèi)部創(chuàng)新團隊:企業(yè)中負責推動技
課程大綱
搭建API Gateway |
?AIGC 開發(fā)底座工具鏈介紹 ?LLM API 調(diào)用方法和策略綜述 ?使用One-API項目部署API Geateway ?管理API渠道和令牌 ?API 調(diào)用的監(jiān)控以及用戶管理 |
實現(xiàn)LLM模型本地運行 |
?使用LM Studio實現(xiàn)開源大模型的本地運行 ?開源大語言模型和本地開發(fā)環(huán)境的對接 ?測試和評估LLaMa模型 ?測試和評估Mixtrel MoE模型 ?使用Phi 2實現(xiàn)本地平替Github Copilot解決方案 ?實現(xiàn)嵌入式模型的本地運行 |
構(gòu)建低代碼無代碼AIGC應用開發(fā)平臺 |
?部署Flowise ?快速實現(xiàn)基本會話機器人 ?實現(xiàn)整合Web瀏覽插件的會話機器人 ?實現(xiàn)領域知識庫(Embedding & 向量檢索引擎) ?實現(xiàn)智能體 |
AIGC 應用的部署 |
?應用容器化部署介紹 ?借助Vercel實現(xiàn)應用的PaaS化部署 ?部署ChatGPT Web ?快速上線自定義LLM應用 |
搭建API Gateway ?AIGC 開發(fā)底座工具鏈介紹 ?LLM API 調(diào)用方法和策略綜述 ?使用One-API項目部署API Geateway ?管理API渠道和令牌 ?API 調(diào)用的監(jiān)控以及用戶管理 |
實現(xiàn)LLM模型本地運行 ?使用LM Studio實現(xiàn)開源大模型的本地運行 ?開源大語言模型和本地開發(fā)環(huán)境的對接 ?測試和評估LLaMa模型 ?測試和評估Mixtrel MoE模型 ?使用Phi 2實現(xiàn)本地平替Github Copilot解決方案 ?實現(xiàn)嵌入式模型的本地運行 |
構(gòu)建低代碼無代碼AIGC應用開發(fā)平臺 ?部署Flowise ?快速實現(xiàn)基本會話機器人 ?實現(xiàn)整合Web瀏覽插件的會話機器人 ?實現(xiàn)領域知識庫(Embedding & 向量檢索引擎) ?實現(xiàn)智能體 |
AIGC 應用的部署 ?應用容器化部署介紹 ?借助Vercel實現(xiàn)應用的PaaS化部署 ?部署ChatGPT Web ?快速上線自定義LLM應用 |