DeepSeek: Ko te mea whakararu i te Hurihuri i te Whenua AI

AIPU WATON GROUP

Kupu Whakataki

Maharahara tonu i waenga i nga Tauira Nui Whakataetae, Kaiwhakarato Kapua e whakataetae ana mo te Maakete Maakete, me nga Kaihanga Tipu Mahinga Mahi—Kei te Tonu Te Whakaaetanga DeepSeek.

I te mutunga o te Huihuinga Koanga, kei te kaha tonu te ihiihi e karapoti ana i a DeepSeek. I whakanuia e te hararei tata nei te ahua nui o te whakataetae i roto i te umanga hangarau, me te maha o nga korerorero me te tātari i tenei "kakahu." Kei te raru a Silicon Valley i te ahua o te raru: ko nga kaitautoko o te puna tuwhera kei te whakapuaki ano i o raatau whakaaro, a ko OpenAI kei te arotake ano mena ko tana rautaki kati-puna te mea pai rawa atu. Ko te tauira hou mo te iti ake o nga utu rorohiko kua puta he tauhohenga mekameka i waenga i nga riipene maramara penei i a Nvidia, e arai ana ki te tuhi i nga ngaronga uara o te maakete mo te ra kotahi i roto i te hitori o te maakete kararehe o Amerika, i te wa e tirotirohia ana e nga tari a te kawanatanga te tutukitanga o nga maramara i whakamahia e DeepSeek. I roto i nga arotake whakaurunga o DeepSeek ki tawahi, i roto i te kaainga, kei te tino tupu te tipu. Whai muri i te whakarewatanga o te tauira R1, kua kite te taupānga hono i te piki haere o nga waka, e tohu ana ko te tipu o nga waahanga tono ka neke whakamua te rauwiringa kaiao AI. Ko te ahua pai ko te DeepSeek ka whakawhanui i nga huarahi tono, e kii ana ko te whakawhirinaki ki te ChatGPT ka kore e rite te utu a muri ake nei. Ko tenei nekehanga kua kitea i roto i nga mahi a OpenAI, tae atu ki te whakarato i tetahi tauira whakaaro e kiia nei ko o3-mini ki nga kaiwhakamahi kore utu hei whakautu ki a DeepSeek R1, me nga whakahoutanga o muri mai i hanga ai te mekameka whakaaro o te o3-mini iwi. He maha nga kaiwhakamahi o tawahi i mihi ki a DeepSeek mo enei whanaketanga, ahakoa ko tenei mekameka whakaaro hei whakarapopototanga.

Ma te pai, ka kitea kei te whakakotahi a DeepSeek i nga kaitakaro o-whare. I runga i tana aro ki te whakaheke i nga utu whakangungu, nga tini kaihanga maramara whakarunga, nga kaiwhakarato kapua takawaenga, me te maha o nga tiimata kei te uru kaha ki te puunaha rauwiringa kaiao, me te whakapiki i te pai o te utu mo te whakamahi i te tauira DeepSeek. E ai ki nga pepa a DeepSeek, ko te whakangungu katoa o te tauira V3 me 2.788 miriona haora H800 GPU anake, a he tino pumau te mahi whakangungu. He mea tino nui te hoahoanga MoE (Mixture of Experts) mo te whakaiti i nga utu whakangungu i mua i te tekau tau ka whakaritea ki te Llama 3 me te 405 piriona tawhā. I tenei wa, ko V3 te tauira tuatahi e mohiotia ana e te iwi katoa e whakaatu ana i te tino mokemoke i MoE. I tua atu, ko te MLA (Multi Layer Attention) e mahi tahi ana, ina koa i nga waahanga whakaaro. "Ko te iti ake o te MoE, ka nui ake te rahi o te puranga e hiahiatia ana i te wa e whakaaro ana ki te whakamahi katoa i te mana rorohiko, me te rahi o te KVCache te take whakatiki matua; ko te MLA te whakaiti i te rahi o te KVCache, "e kii ana tetahi kairangahau mai i te Hangarau Chuanjing i roto i te tātaritanga mo te Arotake Hangarau AI. I te katoa, ko te angitu a DeepSeek kei roto i te whakakotahitanga o nga momo hangarau, ehara i te mea kotahi anake. Ka whakanuia e nga Kaihanga Ahumahi nga pukenga miihini a te roopu DeepSeek, e kii ana i to raatau hiranga i roto i nga whakangungu whakarara me te arotautanga o nga kaiwhakahaere, ka eke ki nga hua o te whenua ma te whakamahine i nga korero katoa. Ko te huarahi tuwhera-puna a DeepSeek ka kaha ake te whakawhanaketanga o nga tauira nui, a ko te whakaaro mena ka piki ake nga tauira rite ki nga whakaahua, ataata, me etahi atu, ka tino whakaohooho te hiahia puta noa i te umanga.

He whai waahi mo nga Ratonga Whakaaro Tuatoru

Ko nga raraunga e tohu ana mai i tana tukunga, kua whiwhi a DeepSeek i te 22.15 miriona nga kaiwhakamahi kaha o ia ra (DAU) i roto noa i nga ra 21, kua eke ki te 41.6% o te turanga kaiwhakamahi ChatGPT me te neke atu i te 16.95 miriona nga kaiwhakamahi kaha o Doubao ia ra, na reira ka noho hei tono tere-tere puta noa i te ao, ka eke ki runga ake i te Apple App Store / rohe 157. Heoi, i te tini o nga kaiwhakamahi, ka whakaekea e nga kaiwhai ipurangi te taupānga DeepSeek, he nui te taumahatanga o ana kaimau. E whakapono ana nga Kaitirotiro Ahumahi na te DeepSeek e tuku ana i nga kaari mo te whakangungu i te kore o te mana rorohiko mo te whakaaro. I whakamohiotia e tetahi kaitoha o te ahumahi te Arotake Hangarau AI, "Ka taea te whakatau ngawari nga take o te tūmau i te nuinga o te wa ma te utu i nga utu, te putea moni ranei ki te hoko miihini maha atu; i te mutunga, ka whakawhirinaki ki nga whakatau a DeepSeek." Ka puta tenei he hokohoko ki te aro ki te hangarau me te whakaputa hua. I whakawhirinaki nui a DeepSeek ki te ine ine mo te oranga whaiaro, na te iti o te whiwhinga putea o waho, na te iti o te pehanga rere moni me te taiao hangarau parakore. I tenei wa, i runga i nga raruraru kua whakahuahia ake nei, kei te tohe etahi o nga kaiwhakamahi ki a DeepSeek i runga i nga paapori paapori ki te whakanui ake i nga paepae whakamahi, ki te whakauru ranei i nga waahanga utu hei whakanui ake i te oranga o te kaiwhakamahi. I tua atu, kua timata nga kaihanga ki te whakamahi i te API mana, i nga API tuatoru ranei mo te arotautanga. Heoi, i kii mai te papa tuwhera a DeepSeek, "He iti rawa nga rauemi a nga kaitoro o naianei, kua whakatarewahia nga utu ratonga API."

 

Ma tenei ka whakatuwhera ake nga waahi mo nga kaihoko tuatoru i roto i te waahanga hangahanga AI. Ina tata nei, he maha nga roroa kapua o roto me te ao kua whakarewahia nga API tauira a DeepSeek—ko nga tangata nunui o tawahi, ko Microsoft me Amazon tetahi o nga tangata tuatahi i uru mai i te mutunga o Hanuere. Ko te rangatira o te whare, a Huawei Cloud, i mahi tuatahi, i tuku i nga ratonga whakaaro whakaaro DeepSeek R1 me V3 i te mahi tahi me te Silicon-based Flow i te Hui-tanguru 1. Ko nga korero mai i te Arotake Hangarau AI e tohu ana kua kite nga ratonga a Silicon-based Flow i te urunga mai o nga kaiwhakamahi, he pai te "tukituki" i te turanga. Ko nga kamupene hangarau nui e toru - BAT (Baidu, Alibaba, Tencent) me ByteDance-i tukuna ano he utu iti, he iti noa te wa i timata mai i te Hui-tanguru 3, he maumahara ki nga pakanga utu kaihoko kapua o tera tau i tahuna e te whakarewanga tauira V2 a DeepSeek, i reira ka timata a DeepSeek ki te tapaina ko te "patu utu." Ko nga mahi ohorere a nga kaihoko kapua e whakaatu ana i nga hononga kaha o mua i waenga i a Microsoft Azure me OpenAI, i te tau 2019, he nui te $1 piriona haumi a Microsoft ki OpenAI me te kokoti i nga hua i muri i te whakarewanga o ChatGPT i te tau 2023. Heoi, i timata tenei hononga tata ki te pakaru i muri mai i te Meta tuwhera-puna Llama, ka taea e etahi atu kaihoko ki waho o te rauwiringa kaiao Microsoft Azure te whakataetae. I tenei wa, kaore i eke a DeepSeek ki a ChatGPT i runga i te wera o nga hua engari kua whakaurua ano e ia nga tauira tuwhera-puna whai muri i te tukunga o1, he rite ki te harikoa e karapoti ana i te whakaoranga a Llama o GPT-3.

 

Ko te mea pono, kei te tuu ano nga kaiwhakarato kapua i a raatau ano hei huarahi hokohoko mo nga tono AI, ko te tikanga ko te whakahohonutanga o nga hononga ki nga kaiwhakawhanake ka whai hua ki mua. E ai ki nga ripoata ko Baidu Smart Cloud neke atu i te 15,000 nga kaihoko e whakamahi ana i te tauira DeepSeek ma te papaaho Qianfan i te ra whakarewatanga o te tauira. Hei taapiri, he maha nga umanga iti kei te tuku rongoa, tae atu ki te Rere-a-Silicon, Hangarau Luchen, Hangarau Chuanjing, me nga momo kaiwhakarato AI Infra kua whakarewahia te tautoko mo nga tauira DeepSeek. Kua akohia e te Arotake Hangarau AI ko nga huarahi arotautanga o naianei mo te whakaurunga a-rohe o DeepSeek kei roto i nga waahanga e rua: ko tetahi e arotau ana mo nga ahuatanga mokowhiti o te tauira MoE ma te whakamahi i te huarahi whakaaro whakauru ki te tuku i te 671 piriona tawhā tauira MoE i te rohe i te wa e whakamahi ana i te riipene GPU/CPU ranu. Hei taapiri, he mea nui te arotautanga o te MLA. Heoi, kei te raru tonu nga tauira e rua a DeepSeek i roto i te arotautanga tuku. "Na te rahi o te tauira me te maha o nga tawhā, he tino uaua te arotautanga, ina koa mo nga whakatakotoranga a-rohe he uaua ki te whakatutuki i te toenga pai i waenga i nga mahi me te utu," e kii ana tetahi kairangahau mai i te Hangarau Chuanjing. Ko te arai tino nui ko te hinga i nga rohe kaha mahara. "Ka whakatauhia e matou he huarahi mahi tahi ki te whakamahi katoa i nga PTM me etahi atu rauemi rorohiko, ka tuu noa nga waahanga kore-tiritiri o te matrix MoE mokowhiti i runga i te PTM/DRAM mo te tukatuka ma te whakamahi i nga kaiwhakahaere PTM tino mahi, i te wa e noho ana nga waahanga kiko ki runga i te GPU," ka whakamarama ano ia. Ko nga purongo e tohu ana ko te anga-puna tuwhera a Chuanjing KTransformers ka werohia nga momo rautaki me nga kaiwhakahaere ki roto i te whakatinanatanga Transformers taketake na roto i te tauira, ka tino whakanui ake i te tere whakatau ma te whakamahi i nga tikanga penei i te CUDAGraph. Kua hangaia e DeepSeek nga whai waahi mo enei tiimata, i te mea kua kitea nga hua tipu; he maha nga umanga kua korero i te tipu o nga kaihoko i muri i te whakarewatanga o te DeepSeek API, i te whiwhi patai mai i nga kaihoko o mua e rapu ana i nga arotautanga. I kii nga Kaitohu o te Ahumahi, "I nga wa o mua, he maha nga wa i mauhia ai nga roopu kaihoko ki roto i nga ratonga paerewa o nga kamupene nui, e herea ana e o ratou painga utu na te tauine. Heoi, i muri i te whakaotinga o te tukunga o DeepSeek-R1 / V3 i mua i te Huihuinga o te Koanga, ka tae ohorere mai ki a matou nga tono mahi tahi mai i te maha o nga kaihoko rongonui, tae noa ki nga kaihoko kua moe i mua i timata te whakapiri atu ki te whakauru i a matou ratonga DeepSeek. " I tenei wa, ko te ahua kei te kaha ake te mahi whakatauira a DeepSeek, a, na te whaanuitanga o nga tauira nui, ka awe tonu tenei i te whanaketanga o te umanga AI Infra. Mena ka tukuna he tauira taumata-DeepSeek ki te rohe me te utu iti, ka tino awhina i nga mahi whakarereke a te kawanatanga me te hinonga. Heoi, ka mau tonu nga wero, na te mea he nui nga tumanako a etahi o nga kaihoko mo te kaha o nga tauira nui, na te mea he mea nui te whakataurite i nga mahi me te utu i roto i nga mahi mahi. 

Hei arotake mehemea he pai ake a DeepSeek i te ChatGPT, he mea nui kia mohio ki o raatau rereketanga, kaha, me nga keehi whakamahi. Anei he whakataurite matawhānui:

Āhuahira/Ahuatanga Rapu hohonu KōreroreroGPT
Rangatiratanga I whakawhanakehia e te kamupene Hainamana I whakawhanakehia e OpenAI
Tauira Puna Tuwhera-puna Kaipupuri
Utu Free ki te whakamahi; he iti ake nga whiringa whakauru API Utu ohaurunga, utu-ia-whakamahi ranei
Whakaritenga He tino whakarite, ka taea e nga kaiwhakamahi te tarai me te hanga ki runga He iti te whakaritenga e waatea ana
Mahi i roto i nga Mahi Tauwhāiti He pai ki etahi waahi penei i te tātari raraunga me te tiki korero He maha nga mahi me nga mahi kaha i roto i nga mahi tuhituhi auaha me nga mahi korero
Tautoko Reo Ka kaha te aro ki te reo Hainamana me nga tikanga Tautoko reo whanui engari ko te US-centric
Utu Whakangungu He iti ake nga utu whakangungu, kua pai ake mo te whai hua He nui ake nga utu whakangungu, me nui nga rauemi rorohiko
Rerekētanga Whakautu Ka tuku whakautu rereke, ka awehia pea e te horopaki geopolitical Whakautu riterite i runga i nga raraunga whakangungu
Te hunga whakarongo Ko nga kaiwhakawhanake me nga kairangahau e hiahia ana kia ngawari E whai ana ki nga kaiwhakamahi whanui e rapu ana i nga kaha korero
Whakamahi Take He pai ake mo te hanga waehere me nga mahi tere He pai mo te whakaputa tuhinga, te whakautu i nga paatai, me te whai waahi ki te korerorero

He Tirohanga Nui mo te "Whakararuraru i a Nvidia"

I tenei wa, haunga a Huawei, he maha nga kaihanga maramara a-whare penei i a Moore Threads, Muxi, Hangarau Biran, me Tianxu Zhixin kei te urutau ano ki nga tauira e rua a DeepSeek. I kii tetahi kaihanga maramara ki te Arotake Hangarau AI, "Ko te hanganga a DeepSeek e whakaatu ana i nga mahi auaha, engari he LLM tonu. Ko ta maatau urunga ki DeepSeek e aro nui ana ki nga tono whakaaro, kia tino tika, kia tere hoki te whakatinanatanga hangarau." Heoi, ko te huarahi MoE me nui ake nga tono mo te rokiroki me te tohatoha, me te whakapumau i te hototahi i te wa e tuku ana me nga maramara o-whare, e whakaatu ana i nga wero miihini maha hei whakatau i te waa urutaunga. "I tenei wa, kaore e taurite te mana rorohiko a-whare ki a Nvidia i roto i te whaihua me te pumau, me whai waahi wheketere taketake mo te tatūnga taiao rorohiko, rapurongoa, me te arotautanga mahi turanga," ko ta tetahi kaimahi ahumahi i runga i nga wheako mahi. I te wa ano, "Na te nui o te tauine tawhā o DeepSeek R1, me nui ake te mana rorohiko a-whare mo te whakarara. Hei taapiri, kei muri tonu nga waahanga taputapu o te kaainga; hei tauira, kaore e taea e te Huawei 910B te tautoko i te whakatauki FP8 i whakauruhia e DeepSeek." Ko tetahi o nga mea nui o te tauira DeepSeek V3 ko te whakaurunga o te anga whakangungu FP8 whakauru tika, kua whakamanahia i runga i tetahi tauira tino nui, e tohu ana i te tino whakatutukitanga. I mua, ko nga kaitakaro nui penei i a Microsoft me Nvidia i kii he mahi e pa ana, engari kei te noho tonu nga feaa i roto i te umanga mo te whaihua. Kei te maarama ko te whakataurite ki te INT8, ko te painga tuatahi o FP8 ko te inenga i muri i te whakangungu ka taea te whakatutuki i te tino kore ngaro me te whakanui ake i te tere o te whakatau. I te whakatairite ki te FP16, ka taea e FP8 te mohio ki te rua nga wa whakatere i runga i te Nvidia's H20 me te neke atu i te 1.5 nga wa whakatere i te H100. Ko te mea nui, i te mea ka kaha haere nga korerorero mo te ahua o te mana rorohiko o-whare me nga tauira o-whare, kei te kaha haere te whakaaro mo te raru pea a Nvidia, me te peehia te moat CUDA. Ko tetahi mea e kore e taea te whakakahore ko DeepSeek kua tino heke te uara o te maakete o Nvidia, engari na tenei nekehanga ka puta nga paatai ​​​​mo te pono o te mana rorohiko teitei o Nvidia. Ko nga korero i whakaaetia i mua mo te whakaemi i nga mahi a te whakapaipai, kei te werohia, engari he uaua tonu mo Nvidia te whakakapi i nga ahuatanga whakangungu. Ko te tātaritanga o te whakamahinga hohonu a DeepSeek mo te CUDA e whakaatu ana ko te ngawari—penei i te whakamahi i te SM mo te whakawhitiwhiti korero, te whakahaere tika ranei i nga kaari whatunga—kaore e taea te whakauru ki nga GPU auau. Ko nga tirohanga a te Ahumahi e whakanui ana ko te moat o Nvidia kei roto katoa te rauwiringa kaiao CUDA, kaua ko te CUDA anake, a ko nga tohutohu PTX (Parallel Thread Execution) e whakamahia ana e DeepSeek he wahanga tonu o te rauwiringa kaiao CUDA. "I roto i te wa poto, e kore e taea te karo i te mana rorohiko o Nvidia-he tino marama tenei i roto i te whakangungu; Heoi, ko te tuku i nga kaari kaainga mo te whakaaro ka tino ngawari ake, na reira ka tere ake te ahunga whakamua. Ko te urutaunga o nga kaari kaainga e aro nui ana ki te whakaaro; kaore ano tetahi i kaha ki te whakangungu i tetahi tauira o te mahi a DeepSeek i runga i nga kaari kaainga i te tauine, "ko te korero a tetahi Kaitirotiro Hangarau Hangarau ki te AI Arotake. I te katoa, mai i te tirohanga, kei te whakatenatena nga ahuatanga mo nga maramara tauira nui o te kainga. Ko nga whai waahi mo nga kaihanga maramara o-whare i roto i te rohe o te whakatau ka kitea ake na te nui o nga whakaritenga whakangungu, e aukati ana i te urunga. E tohe ana nga kai-a-tangata ma te whakamahi noa i nga kaari whakatau a-whare e ranea ana; Mena e tika ana, ka taea te hoko miihini taapiri, engari ko nga tauira whakangungu he wero ahurei—ko te whakahaere i te maha o nga miihini ka kaha te taumaha, ka nui ake nga reiti hapa ka pa kino ki nga hua whakangungu. Kei te whakangungu ano nga whakaritenga tauine huinga, engari ko nga tono mo nga tautau mo te whakatau kaore i te tino kaha, na reira ka ngawari nga whakaritenga GPU. I tenei wa, ko te mahinga o te kaari H20 kotahi a Nvidia kaore e nui atu i tera o Huawei, Cambrian ranei; ko tona kaha kei te tautau. I runga i te paanga katoa ki te maakete hiko rorohiko, ko te kaiwhakaara o Luchen Technology, You Yang, i kii i roto i te uiui me te Arotake Hangarau AI, "Ka taea e DeepSeek te whakararu mo te wa poto i te whakatuutanga me te riihi o nga roopu rorohiko whakangungu tino nui. I te wa roa, ma te tino whakaiti i nga utu e pa ana ki te whakangungu tauira nui, te whakaaro, me nga tono, ka kaha tonu te tono o te maakete i runga i nga mate o te AI. te maakete hiko rorohiko." I tua atu, "Ko te tono nui a DeepSeek mo nga ratonga whakaaro me te whakatikatika pai he hototahi ki te whenua rorohiko o-whare, he ngoikore te kaha o te rohe, e awhina ana ki te whakaiti i nga ururua mai i nga rauemi mangere i muri mai i te whakaturanga kapoipoi. Kua mahi tahi a Luchen Technology me Huawei Cloud ki te whakarewa i te raupapa DeepSeek R1 e whakaaro ana ki nga API me nga ratonga atahanga kapua i runga i te mana rorohiko. I kii a You Yang i te tumanako mo nga ra kei te heke mai: "Ka whakakorikori a DeepSeek i te maia ki nga otinga i hangaia i roto i te kaainga, e akiaki ana i te ngakau nui me te whakangao ki nga mahi rorohiko aa-roto kei te anga whakamua."

微信图片_20240614024031.jpg1

Whakamutunga

Mena he "pai" a DeepSeek i te ChatGPT ka whakawhirinaki ki nga hiahia me nga whaainga o te kaiwhakamahi. Mo nga mahi e hiahia ana kia ngawari, utu iti, me te whakaritenga, ka pai ake pea a DeepSeek. Mo te tuhi auaha, te pakirehua whanui, me nga atanga korero ngawari, ka taea e ChatGPT te arahi. He rereke nga kaupapa o ia taputapu, no reira ka whakawhirinaki te whiringa ki te horopaki e whakamahia ana.

Kimihia ELV Cable Solution

Tauira Mana

Mo BMS, BUS, Ahumahi, Tauera Taputapu.

Pūnaha Tauira Hangaia

Whatunga me te Raraunga, Tauera Fiber-Optic, Patch Cord, Modules, Faceplate

2024 Whakaaturanga me te Arotake Takahanga

Apr.16th-18th, 2024 Middle-East-Energy in Dubai

Apr.16th-18th, 2024 Securika i Moscow

Mei.9th, 2024 HUA HOU ME TE HANGAURANGA KAUPAPA KAUPAPA KI Shanghai

Oct.22nd-25th, 2024 SECURITY CHINA i Beijing

Noema 19-20, 2024 TE AO KSA HUINA


Wā tuku: Feb-10-2025