沒有想到寫了那么多 DeepSeek 如何厲害、如何好用之后,忽然間回到初心,寫一寫怎么才能「用上」。 最近 DeepSeek 官方服務(wù)的情況,大家也知道,非常不穩(wěn)定;局荒苤我惠唽(duì)話,多問一句就服務(wù)器繁忙,或者卡著跑不出來。于是慕名而來的用戶們,只能滿大街地找其它渠道。 真是令人想起了當(dāng)年 GPT 剛出時(shí),滿世界打游擊的盛況啊。 類比于游戲,大模型的服務(wù)也可以簡單地分為官服和渠道服。當(dāng)然還有 API,但如果官方卡得一塌糊涂,API 也就只能想想。 還有一種解決卡頓的「終極」方案:本地部署。已經(jīng)安排技術(shù)部同事 kuku 一頓測試,馬上就能端上來。 與此同時(shí),越來越多的「渠道服」正在快速跟上,作為對(duì)官方服務(wù)的補(bǔ)充。這些渠道服各有各的優(yōu)劣,我們收集了一些并小測了使用體驗(yàn)。 硅基流動(dòng):價(jià)格好、選擇多 目前比較熱門的渠道服,注冊即送 2000 萬的 tokens。目前 SiliconCloud 正在做活動(dòng),通過邀請(qǐng)碼注冊,兩邊都可以獲得 2000 萬的 tokens。 一時(shí)間,社交媒體上網(wǎng)友默默不語,只一昧發(fā)邀請(qǐng)碼。 硅基流動(dòng)提供的模型選項(xiàng)很多,其中不乏低價(jià)乃至免費(fèi)的。 看上去 tokens 是不愁了,不過使用起來要繞一點(diǎn)。硅基流動(dòng)有自己的體驗(yàn)中心有文本對(duì)話的窗口。 但不太好用,還有一種方法是搭配 Chatbox:借硅基流動(dòng)生成 API,貼到 Chatbox 里。后者是一個(gè)搭建得比較完整的對(duì)話 bot,前者的個(gè)性化空間更多一點(diǎn)。實(shí)際上,只要你能連得上 DeepSeek 的開放中心后臺(tái),且賬號(hào)里有余額,也可以直接從官服生成 API。 老實(shí)講目前借助 API 的供應(yīng),都是不太穩(wěn)定的。而且 DeepSeek 已經(jīng)暫停了 API 服務(wù)充值。 新賬號(hào)有 10RMB 的贈(zèng)送余額,怎么說呢,也可以用,但就是不太經(jīng)造。我注冊了 Chatbox 之后,一直在碰到吞答案的情況。雖然賬單看也就花了幾分錢,但花了 tokens 卻什么都沒看到,很浪費(fèi)時(shí)間。 Groq:主打一個(gè)「快」字 是一個(gè)專門收集推理型開源大模型的集成平臺(tái),使用針對(duì) AI 語言和推理的 LPU,主打一個(gè)「快」。 好處是真的快,非?欤@也是它們引以為豪的一點(diǎn),甚至?xí)秧憫?yīng)速度標(biāo)記出來。 Groq 沒有引入滿血 R1,不過 70b 的蒸餾版,普通使用夠了,適合一些短平快的任務(wù),比如翻譯、一些簡單的生成。 不過,Groq 不是百分之一百的穩(wěn)定,也會(huì)有宕機(jī)的情況。 Groq 這個(gè)渠道,是簡單對(duì)話比較好的選擇。雖然不是滿血,也沒有提供太多選項(xiàng),勝在打開就能用,可以看到 R1 的思維鏈過程,穩(wěn)定性到目前為止沒有大問題。不能通過 API 聯(lián)網(wǎng),但問題不大。 SCNet:能用 提供三種選項(xiàng),但穩(wěn)定性、交互和速度都比較一般。離譜的時(shí)候需要刷新一次,出一段回答,刷新一次再出一段回答。 不推薦。 秘塔 AI:最推薦 秘塔明晃晃地打出了廣告,目前在網(wǎng)頁版支持 DeepSeek R1,客戶端還要稍等。 秘塔在深度檢索上就很強(qiáng),接入 R1 之后,簡直是天作之合、強(qiáng)強(qiáng)聯(lián)手。在同一個(gè)問題下,秘塔的滿血版 R1 給出了更多細(xì)節(jié)以及例子。 左圖:Groq,右圖:秘塔 相比于 Groq,秘塔不僅檢索更有深度,信息也更即時(shí),這是它在「游戲的官服和渠道服有什么區(qū)別」問題下,涉及到的來源: 秘塔是一個(gè)垂直于調(diào)研、學(xué)術(shù)等場景的 AI 產(chǎn)品,適合對(duì)檢索深度有要求的使用。因此交互設(shè)計(jì)上,不以對(duì)話的形式呈現(xiàn)。并且,會(huì)把所有的問題都拆解成分析,包括最典型的「Strawberry 里有幾個(gè) r?」 哪怕是數(shù)字母這樣的任務(wù),秘塔也會(huì)做檢索,甚至還聯(lián)系到了草莓的基因?qū)W研究…… 想要跟官服一樣,和模型「談心」,就不太行得通。 像這樣一個(gè)比較偏探討的問題,還是被拆解成了分析。 如果是文本生成任務(wù),優(yōu)點(diǎn)是會(huì)主動(dòng)理解 prompt 中的需求,進(jìn)行相應(yīng)的檢索。 比如下面這個(gè)視頻腳本任務(wù)的生成任務(wù),除了按要求給出腳本,還外鏈了很多創(chuàng)作指南——它就非得用檢索的思路來理解所有任務(wù)。 雖然明確要求了用流行熱梗,但就,春晚水平吧。 根據(jù)對(duì)要生成的文本的要求,有時(shí)候會(huì)觸發(fā)跳轉(zhuǎn)到秘塔寫作貓,就需要單獨(dú)注冊登錄了。涉及到檢索和分析的,會(huì)留在秘塔內(nèi)完成。 整體上,秘塔是現(xiàn)有渠道服里,最能結(jié)合自身和 R1 優(yōu)勢的。使用也很穩(wěn)定,而且更新、更詳盡,同時(shí)也保留了 R1 的思考過程。 華為小藝:最快上線的端側(cè) DeepSeek agent 秘塔雖然好用,但還沒有在 app 內(nèi)安排上。移動(dòng)端使用,現(xiàn)在利好華為純血鴻蒙用戶:升級(jí)小藝助手到 11.2.10.310 版本后,可以看到 DeepSeek 出現(xiàn)在小藝的智能體廣場中。 小藝版的 DeepSeek 沿用了對(duì)話 bot 的形態(tài),背后的模型是 DeepSeek-R1 Beta。 Beta 的上下文長度性能、回答準(zhǔn)確度以及功能尚處于一個(gè)比較基礎(chǔ)的狀態(tài)。跟官服相比,有兩個(gè)重要的不同:不展示思維鏈過程,以及不提供聯(lián)網(wǎng)選項(xiàng),只能被動(dòng)觸發(fā)。 另外,小藝對(duì)上下文的支持比較有限。這個(gè)數(shù)據(jù)沒有公開,但是經(jīng)過測試,輸入應(yīng)該不超過千字。 這或許跟 DeepSeek 接入小藝的形態(tài)有關(guān)系,在介紹里可以看到,這是「基于 DeepSeek 開源版本部署的智能體」。 比如,還是「文學(xué)創(chuàng)作會(huì)被 AI 取代嗎」這個(gè)問題下,它的表現(xiàn)跟秘塔如出一轍。 從實(shí)際使用來看,它更像是一個(gè) agent 化了的「秘塔+DeepSeek」?紤]到小藝作為純血鴻蒙的系統(tǒng)級(jí) AI,是真正的「親兒子」,agent group 比較像封神里的質(zhì)子團(tuán):來是來了,發(fā)揮空間不大。 從上面的菜單設(shè)置可以看到,DeepSeek 的 agent 已經(jīng)是三級(jí)菜單。如果想要通過語音交互,直接呼出的是小藝。想用 DeepSeek 的話,還是要手動(dòng)點(diǎn)點(diǎn),進(jìn)入專門的智能體。 利好……但又沒完全利好吧。 總結(jié) 在官服支棱起來之前,體驗(yàn)最好的是秘塔的 web 端:最大程度保留 R1 的 CoT 特色,同時(shí)結(jié)合了秘塔原有的深度檢索,保證信息來源的可復(fù)核性,同時(shí)服務(wù)器連接穩(wěn)定,是唯一一個(gè)沒有大崩過的渠道。 除了不能當(dāng)聊天搭子之外,大部分任務(wù)都能很好的完成,跳轉(zhuǎn)自家的寫作貓產(chǎn)品,也可以理解吧。不過,秘塔的 app 還沒有更新,端側(cè)表現(xiàn)如何有待檢驗(yàn)。 說一千道一萬,穩(wěn)定性還得指望 DeepSeek 官方,千百萬用戶都在翹首以盼。DeepSeek 的工程師大佬們,你們千萬別累著,但也別歇著啊。 文章來源:APPSO |
原創(chuàng)欄目
IT百科
網(wǎng)友評(píng)論
聚超值•精選