Zaskakująco niedrogie modele AI Deepseeka rzuca wyzwanie normom branżowym. Podczas gdy Deepseek ma zaledwie 6 milionów dolarów kosztów szkolenia dla swojego modelu Deepseek V3, bliższe spojrzenie ujawnia znacznie bardziej znaczącą inwestycję.
Obraz: engame.com
Deepseek V3 wykorzystuje innowacyjne technologie, w tym prognozę wielofunkcyjną (MTP) w celu zwiększenia dokładności i wydajności, mieszanki ekspertów (MOE) z wykorzystaniem 256 sieci neuronowych do przyspieszonego treningu i wielorakiej uwagi utajonej (MLA) w celu ulepszonego ekstrakcji informacji. Postępy te przyczyniają się do jego konkurencyjnych wyników.
Obraz: engame.com
Jednak semianaliza odkryła masową infrastrukturę obliczeniową: około 50 000 GPU Nvidia Hopper, w tym 10 000 H800, 10 000 H100 i dodatkowych jednostek H20, rozłożonych na wiele centrów danych. Ta infrastruktura o wartości około 1,6 miliarda dolarów z 944 milionami dolarów na wydatki operacyjne, znacznie zaprzecza roszczeniom o wartości 6 milionów dolarów.
Obraz: engame.com
Deepseek, spółka zależna od High-Flyer, chińskiego funduszu hedgingowego, jest właścicielem swoich centrów danych, zapewniając kontrolę i szybsze innowacje. Jego status samofinansowany zwiększa zwinność. Wysokie wynagrodzenie, przekraczające 1,3 miliona dolarów rocznie dla niektórych badaczy, przyciągają najlepsze chińskie talenty.
Obraz: engame.com
Liczba 6 milionów dolarów reprezentuje jedynie koszty GPU przed treningiem, pomijając badania, udoskonalenie, przetwarzanie danych i infrastrukturę. Całkowita inwestycja AI Deepseek przekracza 500 milionów dolarów. Podczas gdy jego szczupła struktura sprzyja wydajności, narracja „rewolucyjna budżet” jest myląca. Prawdziwy koszt jest znacznie wyższy, choć nadal potencjalnie niższy niż konkurenci. Na przykład model R1 Deepseek kosztował 5 milionów dolarów, w porównaniu do 100 milionów dolarów CHATGPT4O. Sukces Deepseek wynika ze znacznych inwestycji, przełomów technologicznych i wykwalifikowanego zespołu, nie tylko niskiego budżetu. Niemniej jednak jego koszt pozostaje znacznie niższy niż jego konkurenci.
