大家好,我是在管理咨詢行業(yè)工作超10年的顧問輕舟,擁抱AI,效率賦能。
導(dǎo)讀:本文內(nèi)容較多,包括3個主題,大家根據(jù)不同興趣定位章節(jié)閱讀。- 我用扣子+Kimi語言模型開發(fā)了智能體——AI秒讀標書
昨天,月之暗面與字節(jié)旗下的「扣子Coze」在上海聯(lián)合舉辦了一場線下開發(fā)者活動。前不久,Kimi 大模型已經(jīng)入駐了字節(jié)跳動旗下的「扣子Coze」開發(fā)平臺,成為首個入駐的第三方大模型。開發(fā)者在扣子(coze.cn)上,可以體驗到 Kimi 大模型全新的 Tool Calling 能力和超強的用戶意圖識別能力,將這顆全新的'大腦'與平臺上豐富的插件、工作流等能力結(jié)合,低門檻地打造各種業(yè)務(wù)場景下的 AI Agents。
這場線下活動,也是為了幫助開發(fā)者更好使用 Kimi 大模型這項全新的 Tool Calling 能力, 以及超長的文本能力、Variable、LTM、Task、Multiagent 等眾多強大功能目前都可以在扣子(coze.cn)實現(xiàn)。下圖就是我在「扣子Coze」平臺開發(fā)的一個AI Bot(Agent智能體)—AI投標助手(https://www.coze.cn/s/iYEcHfpq/),使用了kimi大語言模型。過去只能配置字節(jié)自己的云雀語言模型。扣子bot開發(fā)頁面配置kimi模型非常簡單,如下圖所示,選擇不同版本的moonshot模型,從回復(fù)隨機性、最大回復(fù)長度、上下輪輪次三個方面配置好就可以。moonshot-v1-8k: 它是一個長度為 8k 的模型,適用于生成短文本。
moonshot-v1-32k: 它是一個長度為 32k 的模型,適用于生成長文本。
moonshot-v1-128k: 它是一個長度為 128k 的模型,適用于生成超長文本。
扣子(coze)字節(jié)跳動旗下,新一代一站式 AI Bot (即AI Agent)開發(fā)平臺。無論你是否有編程基礎(chǔ),都可以在扣子平臺上快速搭建基于 AI 模型的各類問答 Bot,從解決簡單的問答到處理復(fù)雜邏輯的對話。而且你可以將搭建的 Bot 發(fā)布到各類社交平臺和通訊軟件上,讓更多的用戶與你搭建的 Bot 聊天。月之暗面 (Moonshot AI)是一家成立于2023年的中國AI創(chuàng)業(yè)公司,月之暗面獲得了阿里、紅杉、小紅書、美團等多方的超10億美金融資,估值達到180億,成為AI領(lǐng)域的獨角獸公司。kim是月之暗面非常爆火的一款A(yù)I產(chǎn)品。月之暗面旗下的 Kimi 開放平臺為開發(fā)者提供 Kimi 智能助手背后的同款大模型 API,允許開發(fā)者將 Kimi 大模型卓越的長文本處理能力和指令遵循能力接入到自己的產(chǎn)品中。扣子已經(jīng)是國內(nèi)智能體開發(fā)功能比較完善、生態(tài)比較豐富的平臺了。但大語言模型的調(diào)用是Agent智能體的核心能力,所以,能夠調(diào)用什么樣的大語言模型,對智能體開發(fā)平臺就有很大影響。這次kimi全面接入扣子,對扣子而言,如虎添翼,極大的增強了bot的問答效果,特別是對于長文檔閱讀理解與處理、聯(lián)網(wǎng)搜索,這是kimi的強項。kimi畢竟是后起之秀,即使有大額融資,經(jīng)濟實力也比不過百度、字節(jié)、騰訊、阿里等大巨頭。kimi發(fā)布開發(fā)者平臺公測,開放API相對較晚,目前kimi還沒有自己的智能體開發(fā)平臺。與扣子的合作,可以借助扣子的開發(fā)平臺,加速自己面向開發(fā)者的業(yè)務(wù)構(gòu)建,實現(xiàn)B端的快速突破。我親測了智譜智能體平臺、文心智能體平臺、扣子智能體平臺,目前來看,扣子智能體平臺是資源最豐富、操作最便捷、最好用的。雖然國內(nèi)版扣子據(jù)了解遠不如海外版扣子,但是kimi大模型加持后,創(chuàng)建的Bot質(zhì)量輸出還是很不錯的。下面根據(jù)我的使用感受,簡單總結(jié)扣子平臺開發(fā)智能體Agent(扣子叫Bot)的核心特點和優(yōu)勢,供大家快速了解。扣子的插件市場已經(jīng)很豐富了,有扣子官方出的插件,也有開發(fā)者提供的插件。所謂插件通俗理解就是做智能體的積木塊,有了現(xiàn)成的插件,你就可以不用再通過編程等技術(shù)方式單獨開發(fā),可以大大降低Agent的開發(fā)難度,提高開發(fā)效率,真正實現(xiàn)零代碼開發(fā)自己的Agent。目前扣子平臺的插件,比剛剛上線的文心智能體平臺要豐富很多,文心智能體大概只有十幾款工具可用。當然了,智能體平臺是一個生態(tài),相信大家很快就會豐富起來。bot商店有開發(fā)者發(fā)布的bot,不過親自體驗了一些,應(yīng)該說質(zhì)量參差不齊,總體質(zhì)量一般,很多bot的效果不如直接與kimi、文心等這樣的AI工具對話的效果。bot商店有個很好的功能,選擇公開配置選項后,可以篩選出公開了bot配置信息的智能體,就是你可以看到別人開發(fā)的智能體的prompt信息。會看到中上位置有一個prompt選項,點擊一下,會很驚奇吧,他的prompt及所有配置信息全部可以看到。也就是說你按照他的配置,可以復(fù)制出一個一模一樣的bot,也可以在他的基礎(chǔ)上優(yōu)化、借鑒。這個功能不得不說是一個很好的學(xué)習(xí)智能體的方式。以下是創(chuàng)建一個新的bot的頁面,設(shè)計起來很方便,完全不用懂代碼。配置語言模型,無需懂配置參數(shù),編寫prompt,提示詞優(yōu)化功能非常好用,驚嘆AI的語文確實比我們學(xué)得好。中間是各種技能配置,插件點擊添加,直接在插件市場選好添加即可,基本不用專有參數(shù)配置,除非你要做比較復(fù)雜的智能體。工作流就是智能體的任務(wù)比較復(fù)雜,要用流程化的方式,把多個prompt單獨設(shè)計,流程串聯(lián)。零代碼的人有一點難度。可以配置私有知識庫,操作簡便。帶有私有知識庫的bot,參數(shù)配置不會公開。
最右側(cè)是調(diào)試區(qū)域,需要點贊的是,對話框有文檔上傳功能,這個對于一些長文檔理解類智能體,非常友好。可以不斷地在右側(cè)通過問答調(diào)試提示詞及配置信息,到理想情況下就可以發(fā)布了。扣子做好的Bot,可以發(fā)布到多個平臺應(yīng)用。包括bot商店、豆包、飛書,這幾個都是自己自己的應(yīng)用平臺。除此以外,還可以在微信平臺發(fā)布,以及掘金平臺發(fā)布。多平臺發(fā)布,可以大幅增加智能體的曝光和用戶使用。不過目前可能跨平臺的Bot功能使用還存在一些問題,比如我在扣子制作的“AI秒讀標書”Bot,在Bot商店可以正常使用文檔上傳功能,但是發(fā)布到豆包的版本,就沒有文檔上傳按鈕了。在飛書里面的使用也存在發(fā)揮不太穩(wěn)定的情況。跨平臺發(fā)布,bot的封裝、功能一致性、穩(wěn)定性還需要優(yōu)化。講了這么多,總的有個實戰(zhàn)環(huán)節(jié),我給大家分享一個我自己做的智能體——AI投標助手。在扣子上的使用地址為:https://www.coze.cn/s/iYEcHfpq/這款智能體,可以實現(xiàn)上傳采購文件后,不需要輸入任何提示詞,就可以自動提取出標書文件中多達20多項的關(guān)鍵信息,自動標注原文內(nèi)容、引用章節(jié)、所在頁碼。這款智能體的開發(fā),也非常感謝公眾號的一位用戶,他看完文章后,私信交流希望可以有一整個prompt,能夠一次性把標書的所有關(guān)鍵信息都整體出來,而不是一條一條的問答。我寫了比較完整的提示詞,測試了kimi對話,發(fā)現(xiàn)達不到理想的效果。于是我做了這款智能體,剛好扣子接入了kimi大模型,而我測試AI讀標書,最穩(wěn)定、最精準的輸出就是kimi。剛好可以在扣子平臺實現(xiàn)功能需求。最終AI問答,和智能體自運行對比下來,智能體的執(zhí)行效果要好很多。實際上現(xiàn)在AI大模型在特定的具體業(yè)務(wù)場景中使用的精準性、穩(wěn)定性、專業(yè)性還存在一定差距,相當于汽車智能駕駛分級的初級階段。AI Agent/AI Bot是大模型應(yīng)用的重要載體,在落地行業(yè)、場景應(yīng)用方面的前景十分廣闊。AI Agent/AI Bot就像APP一樣,基礎(chǔ)大模型廠商的競爭必然最后是一個寡頭格局,剩下少數(shù)的幾家、十幾家,如同手機操作系統(tǒng)。應(yīng)用商店則會多一些,為基礎(chǔ)大模型、行業(yè)大模型接入,智能體開發(fā)者提供平臺資源、技術(shù)和用戶支撐。
智能體就是應(yīng)用商店的一個個APP,不過借助AI技術(shù),智能體的開發(fā)比APP更加容易,開發(fā)一個好的智能體,核心競爭力已經(jīng)不在于編程和代碼的技術(shù)因素,而在于專家級的業(yè)務(wù)理解、專有知識和數(shù)據(jù)積累。不提供AI產(chǎn)出的提示詞模板,都是耍流氓。所以,我給大家介紹智能體,一定要是我自己親自實踐過,才會拿出來跟大家分享。
我是在管理咨詢行業(yè)工作超10年的顧問輕舟,擁抱AI,效率賦能。
下期見~
AI咨詢?nèi)Γ?/span>讓腦力工作者學(xué)習(xí)AI少走彎路,基于職場角色+工作場景,賦能AI實踐,讓閱讀更有效率、更具價值。
本站僅提供存儲服務(wù),所有內(nèi)容均由用戶發(fā)布,如發(fā)現(xiàn)有害或侵權(quán)內(nèi)容,請
點擊舉報。