VietBF

VietBF (https://www.vietbf.com/forum/index.php)
-   Computer News|Tin Vi Tính (https://www.vietbf.com/forum/forumdisplay.php?f=180)
-   -   OpenAI cần bao nhiêu tiền vận hành ChatGPT mỗi ngày (https://www.vietbf.com/forum/showthread.php?t=1734971)

sunshine1104 02-03-2023 07:28

OpenAI cần bao nhiêu tiền vận hành ChatGPT mỗi ngày
 
1 Attachment(s)
Để có thể trả lời câu hỏi một cách lưu loát "giống con người", OpenAI được cho là đă chi 100.000 USD/ngày, tức ba triệu USD mỗi tháng cho ChatGPT.

Các công cụ AI thường được xây dựng cho một mục đích cụ thể và huấn luyện dựa trên kho dữ liệu lớn tương ứng, như nhận diện khuôn mặt, chăm sóc khách hàng, vẽ tranh... Trong khi đó, ChatGPT được đánh giá phải lưu nhiều dữ liệu hơn để có thể trả lời đa dạng câu hỏi trong nhiều lĩnh vực từ người dùng, đồng thời tiếp tục "học" thêm hàng triệu kiến thức khác trong quá tŕnh tương tác với chính người dùng để trở nên thông minh hơn. Theo OpenAI, ChatGPT hiện chạy trên nền tảng đám mây Azure của Microsoft - công ty đă đổ hàng tỷ USD cho startup này.

Ngày 2/2, OpenAI tung ra gói đăng kư 20 USD/tháng cho phiên bản ChatGPT Plus, cung cấp cho người dùng dịch vụ ổn định hơn, nhanh hơn cùng các tính năng tiên tiến so với bản miễn phí. Câu hỏi được đặt ra là, mức phí này có đủ để OpenAI có lời?

Theo tính toán của Tom Goldstein, phó giáo sư khoa học máy tính tại Đại học Maryland, OpenAI có thể đă tiêu tốn khoảng 100.000 USD mỗi ngày để vận hành siêu AI.

Cụ thể, ChatGPT hiện sử dụng mô h́nh xử lư ngôn ngữ tự nhiên GPT-3 làm nền tảng. Với 175 tỷ tham số, đây được xem là mô h́nh xử lư ngôn ngữ đứng thứ hai thế giới sau Swift Transformer của Google.

Hiện máy chủ Microsoft sử dụng GPU Nvidia A100 80GB cho việc xử lư ngôn ngữ trên GPT-3. Theo Goldstein, một mô h́nh với ba tỷ tham số chạy trên GPU này có thể sản sinh ra một token trong khoảng 6 mili giây (ms). Với 175 tỷ tham số, Nvidia A100 mất khoảng 350 ms để tạo ra được một từ duy nhất.

Tất nhiên, hệ thống cần nhiều GPU hơn thế để xử lư ngôn ngữ. Theo Goldstein, riêng việc tải và xử lư một đoạn văn bản trong GPT-3 đă cần năm GPU tải mô h́nh và văn bản. Trong khi đó, ChatGPT hiện có khả năng tạo khoảng 15-20 từ mỗi giây, do đó cần một máy chủ với ít nhất tám GPU A100.

Trung b́nh, mỗi GPU A100 tốn khoảng 3 USD mỗi giờ sử dụng, đồng nghĩa với 0,0003 USD cho mỗi từ được tạo ra đối với ChatGPT. Trung b́nh, mỗi câu trả lời của AI này chứa 30-40 từ, tương đương 1 cent (0,01 USD). Với một đoạn hội thoại ngắn 5-10 câu trả lời mỗi ngày, số tiền sẽ là 0,05-0,1 USD. Nếu một triệu cuộc hội thoại diễn ra, mức phí là 50.000-100.000 USD. Đây có thể là mức tối thiểu, chưa tính đến các chi phí khác để phát triển và vận hành mô h́nh.

Con số của Goldstein có thể thấp hơn thực tế, trong bối cảnh lượng người dùng ChatGPT tăng vọt. Theo ước tính của ngân hàng đầu tư UBS, siêu AI đă đạt 100 triệu người dùng sau ba tháng ra mắt.

Về thói quen sử dụng, nếu một người muốn nói chuyện với ChatGPT hai lần mỗi giờ và tám giờ mỗi ngày ở định dạng câu hỏi - trả lời đơn giản, với hai câu trong mỗi lần trao đổi, mức phí có thể là 0,48 USD mỗi ngày, tức 14,5 USD mỗi tháng. Trong trường hợp này, mức phí 20 USD của OpenAI có thể giúp công ty sinh lời.

Tuy nhiên, nếu người dùng đặt nhiều câu hỏi và được ChatGPT trả lời nhiều hơn 30 từ, Goldstein ước tính OpenAI sẽ cần tính phí ít nhất 25 USD mỗi tháng cho gói cơ bản, cung cấp tối đa 1.500 từ mỗi ngày.

Thực tế, đă có công ty áp dụng h́nh thức tính phí dạng này là Jassper. Mô h́nh ngôn ngữ được xây dựng trên GPT-3 hiện tính phí 40 USD mỗi tháng cho gói truy vấn 35.000 từ.

Theo Fortune, OpenAI hiện vẫn lỗ nặng dù đă chuyển từ tổ chức phi lợi nhuận sang công ty kinh doanh. Năm ngoái, công ty đạt doanh thu 30 triệu USD nhưng tiêu tốn đến 416,45 triệu USD chi phí máy chủ và xử lư dữ liệu, hơn 89 triệu USD lương nhân viên và 39 triệu USD cho các chi phí hoạt động khác. Tổng cộng, công ty lỗ 544,5 triệu USD năm ngoái.

Tuy nhiên, OpenAI vẫn có kinh phí hoạt động, nhờ khoản đầu tư một tỷ USD từ 2019 của Microsoft. Hăng phần mềm Mỹ tháng trước tuyên bố tiếp tục chi hàng tỷ USD cho startup này. Nguồn tin từ Bloomberg cho biết khoản tiền có thể lên tới 10 tỷ USD. Hăng cũng lên kế hoạch tích hợp ChatGPT vào công cụ t́m kiếm Bing nhằm cạnh tranh thị phần với Google Search.

OpenAI do tỷ phú Elon Musk, nhà đầu tư Sam Altman và một số tên tuổi khác đồng sáng lập. Công ty đă gặt hái những thành công đầu tiên với mô h́nh GPT-3 năm 2020, Dall-E năm 2021 và ChatGPT dựa trên mô h́nh GPT-3.5 cuối 2022. Theo Reuters, việc Microsoft đổ tiền vào OpenAI là hướng đi đúng đắn, giúp đón đầu xu hướng AI tiên tiến và tạo tiền đề cho sự cạnh tranh nhiều hơn với đối thủ Alphabet.

ChatGPT hoạt động dựa trên mô h́nh NLP (Natural Language Processing) sử dụng mạng xử lư ngôn ngữ tự nhiên Neural Transformer để trả lời câu hỏi của người dùng. Mô h́nh được huấn luyện trên dữ liệu lớn về ngôn ngữ tự nhiên, sau đó có thể sử dụng những kiến thức đă học để trả lời câu hỏi của người dùng.

Khi người dùng gửi một câu hỏi đến ChatGPT, mô h́nh tiến hành phân tích câu hỏi và t́m kiếm trong kho kiến thức đă "học" để trả lời một cách hợp lư nhất. Nó sử dụng các thuật toán xử lư ngôn ngữ tự nhiên để hiểu ư của người dùng và t́m kiếm trong kiến thức đă học để t́m ra câu trả lời phù hợp.

Theo Time, OpenAI kiểm duyệt nội dung bằng cả AI và người thật. AI dùng để tự động phát hiện và loại bỏ nội dung vi phạm, không phù hợp, trong khi con người để kiểm tra và xác minh kết quả của AI. Việc sử dụng cả hai phương pháp giúp OpenAI đảm bảo tính chính xác và tính phù hợp của nội dung trả lời. Dù vậy, trong nhiều trường hợp, ChatGPT vẫn trả về kết quả vi phạm điều khoản hoặc sai thông tin.


All times are GMT. The time now is 00:56.

VietBF - Vietnamese Best Forum Copyright ©2006 - 2024
User Alert System provided by Advanced User Tagging (Pro) - vBulletin Mods & Addons Copyright © 2024 DragonByte Technologies Ltd.

Page generated in 0.04086 seconds with 8 queries