Удивительно недорогие модели ИИ Deepseek бросают вызов гигантам отрасли. Китайский стартап утверждает, что обучил свою мощную нейронную сеть Deepseek V3 всего за 6 миллионов долларов, используя только 2048 графических процессоров, что резко контрастирует со значительно более высокими затратами конкурентов. Эта, казалось бы, низкая цифра, однако, пропускает существенные расходы, такие как исследования, уточнение, обработка данных и инфраструктура.
Изображение: Ensigame.com
Инновационная архитектура DeepSeek V3 способствует его эффективности. Ключевые технологии включают многократный прогноз (MTP), который предсказывает несколько слов одновременно; Смесь экспертов (MOE), используя 256 нейронных сетей для ускоренного обучения; и мультиголовое скрытое внимание (MLA), сосредоточенное на важных элементах предложения для повышения точности.
Изображение: Ensigame.com
Вопреки публикационным данным Deepseek, полуанализ выявляет массовую вычислительную инфраструктуру, включающую приблизительно 50 000 графических процессоров Nvidia Hopper, стоимостью примерно 1,6 миллиарда долларов, при этом эксплуатационные расходы достигают 944 миллиона долларов. Эти существенные инвестиции в сочетании с высокой заработной платой для исследователей (превышают 1,3 млн. Долл. США в год), противоречат первоначальной заявлении на стоимость обучения в 6 миллионов долларов.
Изображение: Ensigame.com
Уникальная структура DeepSeek-дочерняя компания High-Flyer, китайского хедж-фонда, владеющая своими центрами обработки данных и независимо от работы-обеспечивает гибкость и контроль. Этот самофинансируемый подход контрастирует с облачными зависимыми конкурентами. Общая инвестиция компании в развитие искусственного интеллекта превышает 500 миллионов долларов.
Изображение: Ensigame.com
В то время как успех Deepseek демонстрирует потенциал хорошо финансируемых независимых компаний искусственного интеллекта, его «благоприятный для бюджета» повествование является упрощением. Реальность указывает на значительные инвестиции, технологические прорывы и высококвалифицированную команду как истинные движущие силы его достижений. Тем не менее, даже с этими существенными инвестициями, его затраты по -прежнему бледны по сравнению с конкурентами, при этом 5 миллионов долларов потратили на R1 по сравнению с Catgpt 100 миллионов долларов на Chatgpt4o. Значительная разница в затратах остается ключевым отличием.
![Love and Ashes – New Version v24Oct2023 [EngelKuchKuch]](https://img.hpncn.com/uploads/62/1719586547667ecef3ca549.png)
