你知道國內(nèi)大模型多少是基于Llama2改造的,你就知道Llama模型有多厲害了,那么現(xiàn)在Llama3剛出來,搞自媒體的趕緊蹭Llama3的流量,搞技術(shù)的程序員趕緊抓住研究一下,看能否技術(shù)變現(xiàn)一下,尤其搞技術(shù)的,再不動(dòng)到時(shí)年齡大了被裁員了不要怨天怨地的!
非程序員的普通人及產(chǎn)品經(jīng)理都可以按此文章說來本地部署
訪問https://ollama.com,下載Ollama客戶端,下載Windows版本,如果你的電腦是MacOs,下載對應(yīng)的版本即可。
安裝完成后,打開Windows命令窗口,輸入ollama,出現(xiàn)如下提示,說明安裝成功,可以使用了:
在ollama命令窗口輸入:
ollama run llama3
按回車后就開始自動(dòng)下載Llama3模型文件,默認(rèn)下載最新的8B版本,模型文件大小4.7G。
等待5到10分鐘即可下載完成(下載文件途中可以去上個(gè)廁所或者關(guān)注一下我的賬號)
下載完成后出現(xiàn)send a message提示時(shí),就可以直接與它進(jìn)行對話了。看看我和它的對話:
ollama會(huì)自動(dòng)生成Llama3的API接口訪問地址,API文檔地址:https://github.com/ollama/ollama/blob/main/docs/api.md
請求地址:
curl http://localhost:11434/api/chat -d '{ 'model': 'llama3', 'messages': [ { 'role': 'user', 'content': 'why is the sky blue?' } ], 'stream': false }'
不會(huì)寫代碼的,使用Postman去調(diào)試:
聯(lián)系客服