MỚI

Tạo thiệp giáng sinh 2024

#Quốc tế

24HMONEY đã kiểm duyệt

ChatGPT có thể tốn hơn 700.000 USD mỗi ngày để vận hành

"Hầu hết chi phí này là do các máy chủ đắt tiền mà dịch vụ này sử dụng", Dylan Patel, nhà phân tích chính của công ty nghiên cứu chất bán dẫn SemiAnalysis chia sẻ.

Việc sử dụng ChatGPT để viết thư xin việc, tạo kế hoạch, làm hồ sơ của bạn có thể tiêu tốn OpenAI tới 700.000 USD mỗi ngày do cơ sở hạ tầng công nghệ đắt đỏ mà AI vận hành, Dylan Patel, nhà phân tích chính của công ty nghiên cứu chất bán dẫn SemiAnalysis chia sẻ The Information.

Đó là vì ChatGPT yêu cầu sức mạnh tính toán cực lớn để xử lý phản hồi dựa trên yêu cầu của người dùng.

"Hầu hết chi phí này là do các máy chủ đắt tiền mà dịch vụ này sử dụng", ông Patel chia sẻ.

Trong một cuộc trò chuyện với Insider, ông Patel cho biết việc vận hành bây giờ thậm chí còn tốn kém hơn, vì ước tính ban đầu của ông dựa trên mô hình GPT-3 của OpenAI. Để vận hành được GPT-4 — mô hình mới nhất của công ty — thậm chí còn đắt hơn.

Afzal Ahmad, nhà phân tích khác của SemiAnalysis, đánh giá việc đào tạo mô hình ngôn ngữ lớn có nhiều người dùng như ChatGPT cần chi phí rất lớn, "vượt xa bất kỳ mô hình AI ở quy mô bình thường khác".

Nick Walton, Giám đốc điều hành của Latitude, một công ty khởi nghiệp đằng sau trò chơi Dungeon AI, cho biết việc chạy mô hình này - cùng với các khoản thanh toán cho máy chủ Amazon Web Services - khiến công ty phải trả 200.000 USD mỗi tháng để AI trả lời hàng triệu câu hỏi, truy vấn của người dùng vào năm 2021, CNBC đưa tin.

Chi phí cao là lý do tại sao Walton cho biết ông quyết định chuyển sang một nhà cung cấp phần mềm ngôn ngữ được hỗ trợ bởi AI21 Labs, theo ông, điều này đã cắt giảm một nửa chi phí AI của công ty xuống còn 100.000 USD mỗi tháng.

Cuối năm ngoái, Tom Goldstein, Phó giáo sư khoa học máy tính tại Đại học Maryland, cho rằng OpenAI cần ít nhất 100.000 USD mỗi ngày cho ChatGPT. Ước tính của ông được đưa ra khi siêu AI chưa quá phổ biến. Tính đến tháng 2, ChatGPT đã có hơn 100 triệu người dùng và chi phí vận hành được cho là đã tăng lên nhiều lần.

Hồi tháng 2, Google xác nhận sẽ tốn hàng tỉ USD để vận hành Bard như một công cụ tìm kiếm. "Mỗi truy vấn trên AI như chatbot Bard có thể khiến công ty tốn phí gấp 10 lần so với tìm kiếm thông tin bằng từ khóa trên Google Search", John Hennessy, Chủ tịch Alphabet.

Theo Business Insider