OpenAI cần bao nhiêu tiền vận hành ChatGPT mỗi ngày

Để có thể trả lời câu hỏi một cách lưu loát "giống con người", OpenAI được cho là đã chi 100.000 USD/ngày, tức ba triệu USD mỗi tháng cho ChatGPT.

Các công cụ AI thường được xây dựng cho một mục đích cụ thể và huấn luyện dựa trên kho dữ liệu lớn tương ứng, như nhận diện khuôn mặt, chăm sóc khách hàng, vẽ tranh... Trong khi đó, ChatGPT được đánh giá phải lưu nhiều dữ liệu hơn để có thể trả lời đa dạng câu hỏi trong nhiều lĩnh vực từ người dùng, đồng thời tiếp tục "học" thêm hàng triệu kiến thức khác trong quá trình tương tác với chính người dùng để trở nên thông minh hơn. Theo OpenAI, ChatGPT hiện chạy trên nền tảng đám mây Azure của Microsoft - công ty đã đổ hàng tỷ USD cho startup này.

Ngày 2/2, OpenAI tung ra gói đăng ký 20 USD/tháng cho phiên bản ChatGPT Plus, cung cấp cho người dùng dịch vụ ổn định hơn, nhanh hơn cùng các tính năng tiên tiến so với bản miễn phí. Câu hỏi được đặt ra là, mức phí này có đủ để OpenAI có lời?

Theo tính toán của Tom Goldstein, phó giáo sư khoa học máy tính tại Đại học Maryland, OpenAI có thể đã tiêu tốn khoảng 100.000 USD mỗi ngày để vận hành siêu AI.

Cụ thể, ChatGPT hiện sử dụng mô hình xử lý ngôn ngữ tự nhiên GPT-3 làm nền tảng. Với 175 tỷ tham số, đây được xem là mô hình xử lý ngôn ngữ đứng thứ hai thế giới sau Swift Transformer của Google.

Hiện máy chủ Microsoft sử dụng GPU Nvidia A100 80GB cho việc xử lý ngôn ngữ trên GPT-3. Theo Goldstein, một mô hình với ba tỷ tham số chạy trên GPU này có thể sản sinh ra một token trong khoảng 6 mili giây (ms). Với 175 tỷ tham số, Nvidia A100 mất khoảng 350 ms để tạo ra được một từ duy nhất.

Tất nhiên, hệ thống cần nhiều GPU hơn thế để xử lý ngôn ngữ. Theo Goldstein, riêng việc tải và xử lý một đoạn văn bản trong GPT-3 đã cần năm GPU tải mô hình và văn bản. Trong khi đó, ChatGPT hiện có khả năng tạo khoảng 15-20 từ mỗi giây, do đó cần một máy chủ với ít nhất tám GPU A100.

Trung bình, mỗi GPU A100 tốn khoảng 3 USD mỗi giờ sử dụng, đồng nghĩa với 0,0003 USD cho mỗi từ được tạo ra đối với ChatGPT. Trung bình, mỗi câu trả lời của AI này chứa 30-40 từ, tương đương 1 cent (0,01 USD). Với một đoạn hội thoại ngắn 5-10 câu trả lời mỗi ngày, số tiền sẽ là 0,05-0,1 USD. Nếu một triệu cuộc hội thoại diễn ra, mức phí là 50.000-100.000 USD. Đây có thể là mức tối thiểu, chưa tính đến các chi phí khác để phát triển và vận hành mô hình.

Con số của Goldstein có thể thấp hơn thực tế, trong bối cảnh lượng người dùng ChatGPT tăng vọt. Theo ước tính của ngân hàng đầu tư UBS, siêu AI đã đạt 100 triệu người dùng sau ba tháng ra mắt.

Về thói quen sử dụng, nếu một người muốn nói chuyện với ChatGPT hai lần mỗi giờ và tám giờ mỗi ngày ở định dạng câu hỏi - trả lời đơn giản, với hai câu trong mỗi lần trao đổi, mức phí có thể là 0,48 USD mỗi ngày, tức 14,5 USD mỗi tháng. Trong trường hợp này, mức phí 20 USD của OpenAI có thể giúp công ty sinh lời.

Tuy nhiên, nếu người dùng đặt nhiều câu hỏi và được ChatGPT trả lời nhiều hơn 30 từ, Goldstein ước tính OpenAI sẽ cần tính phí ít nhất 25 USD mỗi tháng cho gói cơ bản, cung cấp tối đa 1.500 từ mỗi ngày.

Thực tế, đã có công ty áp dụng hình thức tính phí dạng này là Jassper. Mô hình ngôn ngữ được xây dựng trên GPT-3 hiện tính phí 40 USD mỗi tháng cho gói truy vấn 35.000 từ.

Theo Fortune, OpenAI hiện vẫn lỗ nặng dù đã chuyển từ tổ chức phi lợi nhuận sang công ty kinh doanh. Năm ngoái, công ty đạt doanh thu 30 triệu USD nhưng tiêu tốn đến 416,45 triệu USD chi phí máy chủ và xử lý dữ liệu, hơn 89 triệu USD lương nhân viên và 39 triệu USD cho các chi phí hoạt động khác. Tổng cộng, công ty lỗ 544,5 triệu USD năm ngoái.

Tuy nhiên, OpenAI vẫn có kinh phí hoạt động, nhờ khoản đầu tư một tỷ USD từ 2019 của Microsoft. Hãng phần mềm Mỹ tháng trước tuyên bố tiếp tục chi hàng tỷ USD cho startup này. Nguồn tin từ Bloomberg cho biết khoản tiền có thể lên tới 10 tỷ USD. Hãng cũng lên kế hoạch tích hợp ChatGPT vào công cụ tìm kiếm Bing nhằm cạnh tranh thị phần với Google Search.

OpenAI do tỷ phú Elon Musk, nhà đầu tư Sam Altman và một số tên tuổi khác đồng sáng lập. Công ty đã gặt hái những thành công đầu tiên với mô hình GPT-3 năm 2020, Dall-E năm 2021 và ChatGPT dựa trên mô hình GPT-3.5 cuối 2022. Theo Reuters, việc Microsoft đổ tiền vào OpenAI là hướng đi đúng đắn, giúp đón đầu xu hướng AI tiên tiến và tạo tiền đề cho sự cạnh tranh nhiều hơn với đối thủ Alphabet.

ChatGPT hoạt động dựa trên mô hình NLP (Natural Language Processing) sử dụng mạng xử lý ngôn ngữ tự nhiên Neural Transformer để trả lời câu hỏi của người dùng. Mô hình được huấn luyện trên dữ liệu lớn về ngôn ngữ tự nhiên, sau đó có thể sử dụng những kiến thức đã học để trả lời câu hỏi của người dùng.

Khi người dùng gửi một câu hỏi đến ChatGPT, mô hình tiến hành phân tích câu hỏi và tìm kiếm trong kho kiến thức đã "học" để trả lời một cách hợp lý nhất. Nó sử dụng các thuật toán xử lý ngôn ngữ tự nhiên để hiểu ý của người dùng và tìm kiếm trong kiến thức đã học để tìm ra câu trả lời phù hợp.

Theo Time, OpenAI kiểm duyệt nội dung bằng cả AI và người thật. AI dùng để tự động phát hiện và loại bỏ nội dung vi phạm, không phù hợp, trong khi con người để kiểm tra và xác minh kết quả của AI. Việc sử dụng cả hai phương pháp giúp OpenAI đảm bảo tính chính xác và tính phù hợp của nội dung trả lời. Dù vậy, trong nhiều trường hợp, ChatGPT vẫn trả về kết quả vi phạm điều khoản hoặc sai thông tin.