Đột phá AI: Deepseek tiết lộ chi phí thực sự của nó là 1,6 tỷ đô la

Mô hình AI rẻ tiền đáng ngạc nhiên của Deepseek thách thức những người khổng lồ trong ngành. Khởi nghiệp Trung Quốc tuyên bố đã đào tạo mạng lưới thần kinh Deepseek V3 mạnh mẽ của mình chỉ với 6 triệu đô la, chỉ sử dụng GPU 2048, một sự tương phản rõ rệt với chi phí cao hơn đáng kể của các đối thủ. Tuy nhiên, con số dường như thấp này bỏ qua các chi phí đáng kể như nghiên cứu, sàng lọc, xử lý dữ liệu và cơ sở hạ tầng.

DeepSeek Test Hình ảnh: Obligame.com

Kiến trúc sáng tạo của Deepseek V3 đóng góp cho hiệu quả của nó. Các công nghệ chính bao gồm dự đoán đa điểm (MTP), dự đoán đồng thời nhiều từ; Hỗn hợp các chuyên gia (MOE), sử dụng 256 mạng lưới thần kinh để đào tạo tăng tốc; và sự chú ý tiềm ẩn đa đầu (MLA), tập trung vào các yếu tố câu quan trọng để cải thiện độ chính xác.

DeepSeek V3 Hình ảnh: Obligame.com

Trái ngược với các số liệu công khai của Deepseek, bán phân giải cho thấy một cơ sở hạ tầng tính toán lớn liên quan đến khoảng 50.000 GPU phễu NVIDIA, trị giá khoảng 1,6 tỷ đô la, với chi phí hoạt động đạt 944 triệu đô la. Khoản đầu tư đáng kể này, cùng với mức lương cao cho các nhà nghiên cứu (vượt quá 1,3 triệu đô la hàng năm), mâu thuẫn với yêu cầu chi phí đào tạo 6 triệu đô la ban đầu.

DeepSeek Hình ảnh: Obligame.com

Cấu trúc độc đáo của Deepseek, một công ty con của High Flyer, một quỹ phòng hộ của Trung Quốc, sở hữu các trung tâm dữ liệu của mình và vận hành độc lập cung cấp sự nhanh nhẹn và kiểm soát. Cách tiếp cận tự tài trợ này tương phản với các đối thủ cạnh tranh phụ thuộc vào đám mây. Tổng đầu tư của công ty vào phát triển AI vượt qua 500 triệu đô la.

DeepSeek Hình ảnh: Obligame.com

Trong khi thành công của Deepseek thể hiện tiềm năng của các công ty AI độc lập được tài trợ tốt, thì tường thuật "thân thiện với ngân sách" của nó là một sự đơn giản hóa. Thực tế chỉ ra sự đầu tư đáng kể, đột phá công nghệ và một nhóm có tay nghề cao là những người điều khiển thực sự của thành tích của nó. Tuy nhiên, ngay cả với các khoản đầu tư đáng kể này, chi phí của nó vẫn nhợt nhạt so với các đối thủ cạnh tranh, với 5 triệu đô la được báo cáo chi cho R1 so với 100 triệu đô la của TATGPT cho TATGPT4O. Sự khác biệt đáng kể về chi phí vẫn là một điểm khác biệt quan trọng.