Góc nhìn AI
Kinh tế học điện toán: chi phí suy luận giảm đang định hình lại startup AI ra sao
Suy luận ngày càng rẻ trong khi huấn luyện mô hình tiên phong ngày càng đắt. Sự phân kỳ này có ý nghĩa gì với biên lợi nhuận và chiến lược của startup.
Hai đường chi phí định hình nền kinh tế AI. Huấn luyện các mô hình tiên phong ngày càng đắt đỏ, trong khi chi phí vận hành một mức năng lực nhất định — tức suy luận — tiếp tục giảm.
Với startup, sự phân kỳ này là tin tốt. Sản phẩm xây dựng trên mô hình được hưởng lợi từ chi phí giảm, nên biên lợi nhuận của quy trình tác tử cải thiện theo thời gian mà không cần thêm công sức kỹ thuật. Những nhiệm vụ năm ngoái chưa có lãi thì năm nay đã sinh lời.
Bài học chiến lược là thiết kế để dễ chuyển đổi mô hình. Những đội có thể phân bổ công việc giữa nhiều nhà cung cấp và mô hình trọng số mở sẽ tận dụng đường chi phí, tránh bị khóa chặt và tự bảo vệ trước các cú sốc nguồn cung trên thị trường chip.
Câu hỏi thường gặp
Chi phí suy luận AI có đang giảm không?
Có. Chi phí cung cấp một mức năng lực AI nhất định đã giảm đều đặn, giúp cải thiện biên lợi nhuận cho các công ty xây dựng sản phẩm trên mô hình.
