中文字幕理论片,69视频免费在线观看,亚洲成人app,国产1级毛片,刘涛最大尺度戏视频,欧美亚洲美女视频,2021韩国美女仙女屋vip视频

打開APP
userphoto
未登錄

開通VIP,暢享免費(fèi)電子書等14項(xiàng)超值服

開通VIP
Llama3本地部署及API接口本地調(diào)試,15分鐘搞定最新Meta AI開源大模型本地Windows電腦部署

文章目錄

      • 目的
      • 操作難度等級
      • 15分鐘本地Windows電腦部署Llama3 開源大模型
        • 1、下載安裝Ollama
        • 2、使用Ollama的命令下載Llama3模型文件
        • 3、使用Llama3聊天對話功能
        • 4、本地Llama3 API接口調(diào)用

目的

你知道國內(nèi)大模型多少是基于Llama2改造的,你就知道Llama模型有多厲害了,那么現(xiàn)在Llama3剛出來,搞自媒體的趕緊蹭Llama3的流量,搞技術(shù)的程序員趕緊抓住研究一下,看能否技術(shù)變現(xiàn)一下,尤其搞技術(shù)的,再不動(dòng)到時(shí)年齡大了被裁員了不要怨天怨地的!

操作難度等級

非程序員的普通人及產(chǎn)品經(jīng)理都可以按此文章說來本地部署

15分鐘本地Windows電腦部署Llama3 開源大模型

1、下載安裝Ollama

訪問https://ollama.com,下載Ollama客戶端,下載Windows版本,如果你的電腦是MacOs,下載對應(yīng)的版本即可。

安裝完成后,打開Windows命令窗口,輸入ollama,出現(xiàn)如下提示,說明安裝成功,可以使用了:

2、使用Ollama的命令下載Llama3模型文件

在ollama命令窗口輸入:

ollama run llama3

按回車后就開始自動(dòng)下載Llama3模型文件,默認(rèn)下載最新的8B版本,模型文件大小4.7G。

等待5到10分鐘即可下載完成(下載文件途中可以去上個(gè)廁所或者關(guān)注一下我的賬號)

3、使用Llama3聊天對話功能

下載完成后出現(xiàn)send a message提示時(shí),就可以直接與它進(jìn)行對話了。看看我和它的對話:

4、本地Llama3 API接口調(diào)用

ollama會(huì)自動(dòng)生成Llama3的API接口訪問地址,API文檔地址:https://github.com/ollama/ollama/blob/main/docs/api.md

請求地址:

curl http://localhost:11434/api/chat -d '{
  'model': 'llama3',
  'messages': [
    {
      'role': 'user',
      'content': 'why is the sky blue?'
    }
  ],
  'stream': false
}'

不會(huì)寫代碼的,使用Postman去調(diào)試:

本站僅提供存儲服務(wù),所有內(nèi)容均由用戶發(fā)布,如發(fā)現(xiàn)有害或侵權(quán)內(nèi)容,請點(diǎn)擊舉報(bào)。
打開APP,閱讀全文并永久保存 查看更多類似文章
猜你喜歡
類似文章
?無顯卡+純本地跑Qwen1.5版模型!0基礎(chǔ)閉眼部署指南!適用絕大部分開源模型!llama2+Mistral+Zephyr通殺!
1.8B多模態(tài)大模型-MoonDream2,圖像識別能力超乎想象,支持ollama部署
非??煽?,手把手教你本地部署AI大模型-llama3:70b
Ollama WebUI AnythingLLM,構(gòu)建安全可靠的個(gè)人/企業(yè)知識庫
本地部署完全離線版并上傳PDF知識庫的對話大模型
247.2k star! 超強(qiáng)大的私有化ChatGPT,支持圖像識別/文生圖/語音輸入/文本朗讀,個(gè)人電腦可運(yùn)行!
更多類似文章 >>
生活服務(wù)
熱點(diǎn)新聞
分享 收藏 導(dǎo)長圖 關(guān)注 下載文章
綁定賬號成功
后續(xù)可登錄賬號暢享VIP特權(quán)!
如果VIP功能使用有故障,
可點(diǎn)擊這里聯(lián)系客服!

聯(lián)系客服