OpenAI cần bao nhiêu tiền vận hành ChatGPT mỗi ngày - VietBF
 
 
 
News Library Technology Giải Trí Portals Tin Sốt Home

HOME

NEWS 24h

ZONE 1

ZONE 2

Phim Bộ

Phim Lẻ

Ca Nhạc

Breaking

Go Back   VietBF > Other News|Tin Khác > Computer News|Tin Vi Tính


Reply
 
Thread Tools
  #1  
Old  Default OpenAI cần bao nhiêu tiền vận hành ChatGPT mỗi ngày
Để có thể trả lời câu hỏi một cách lưu loát "giống con người", OpenAI được cho là đă chi 100.000 USD/ngày, tức ba triệu USD mỗi tháng cho ChatGPT.

Các công cụ AI thường được xây dựng cho một mục đích cụ thể và huấn luyện dựa trên kho dữ liệu lớn tương ứng, như nhận diện khuôn mặt, chăm sóc khách hàng, vẽ tranh... Trong khi đó, ChatGPT được đánh giá phải lưu nhiều dữ liệu hơn để có thể trả lời đa dạng câu hỏi trong nhiều lĩnh vực từ người dùng, đồng thời tiếp tục "học" thêm hàng triệu kiến thức khác trong quá tŕnh tương tác với chính người dùng để trở nên thông minh hơn. Theo OpenAI, ChatGPT hiện chạy trên nền tảng đám mây Azure của Microsoft - công ty đă đổ hàng tỷ USD cho startup này.

Ngày 2/2, OpenAI tung ra gói đăng kư 20 USD/tháng cho phiên bản ChatGPT Plus, cung cấp cho người dùng dịch vụ ổn định hơn, nhanh hơn cùng các tính năng tiên tiến so với bản miễn phí. Câu hỏi được đặt ra là, mức phí này có đủ để OpenAI có lời?

Theo tính toán của Tom Goldstein, phó giáo sư khoa học máy tính tại Đại học Maryland, OpenAI có thể đă tiêu tốn khoảng 100.000 USD mỗi ngày để vận hành siêu AI.

Cụ thể, ChatGPT hiện sử dụng mô h́nh xử lư ngôn ngữ tự nhiên GPT-3 làm nền tảng. Với 175 tỷ tham số, đây được xem là mô h́nh xử lư ngôn ngữ đứng thứ hai thế giới sau Swift Transformer của Google.

Hiện máy chủ Microsoft sử dụng GPU Nvidia A100 80GB cho việc xử lư ngôn ngữ trên GPT-3. Theo Goldstein, một mô h́nh với ba tỷ tham số chạy trên GPU này có thể sản sinh ra một token trong khoảng 6 mili giây (ms). Với 175 tỷ tham số, Nvidia A100 mất khoảng 350 ms để tạo ra được một từ duy nhất.

Tất nhiên, hệ thống cần nhiều GPU hơn thế để xử lư ngôn ngữ. Theo Goldstein, riêng việc tải và xử lư một đoạn văn bản trong GPT-3 đă cần năm GPU tải mô h́nh và văn bản. Trong khi đó, ChatGPT hiện có khả năng tạo khoảng 15-20 từ mỗi giây, do đó cần một máy chủ với ít nhất tám GPU A100.

Trung b́nh, mỗi GPU A100 tốn khoảng 3 USD mỗi giờ sử dụng, đồng nghĩa với 0,0003 USD cho mỗi từ được tạo ra đối với ChatGPT. Trung b́nh, mỗi câu trả lời của AI này chứa 30-40 từ, tương đương 1 cent (0,01 USD). Với một đoạn hội thoại ngắn 5-10 câu trả lời mỗi ngày, số tiền sẽ là 0,05-0,1 USD. Nếu một triệu cuộc hội thoại diễn ra, mức phí là 50.000-100.000 USD. Đây có thể là mức tối thiểu, chưa tính đến các chi phí khác để phát triển và vận hành mô h́nh.

Con số của Goldstein có thể thấp hơn thực tế, trong bối cảnh lượng người dùng ChatGPT tăng vọt. Theo ước tính của ngân hàng đầu tư UBS, siêu AI đă đạt 100 triệu người dùng sau ba tháng ra mắt.

Về thói quen sử dụng, nếu một người muốn nói chuyện với ChatGPT hai lần mỗi giờ và tám giờ mỗi ngày ở định dạng câu hỏi - trả lời đơn giản, với hai câu trong mỗi lần trao đổi, mức phí có thể là 0,48 USD mỗi ngày, tức 14,5 USD mỗi tháng. Trong trường hợp này, mức phí 20 USD của OpenAI có thể giúp công ty sinh lời.

Tuy nhiên, nếu người dùng đặt nhiều câu hỏi và được ChatGPT trả lời nhiều hơn 30 từ, Goldstein ước tính OpenAI sẽ cần tính phí ít nhất 25 USD mỗi tháng cho gói cơ bản, cung cấp tối đa 1.500 từ mỗi ngày.

Thực tế, đă có công ty áp dụng h́nh thức tính phí dạng này là Jassper. Mô h́nh ngôn ngữ được xây dựng trên GPT-3 hiện tính phí 40 USD mỗi tháng cho gói truy vấn 35.000 từ.

Theo Fortune, OpenAI hiện vẫn lỗ nặng dù đă chuyển từ tổ chức phi lợi nhuận sang công ty kinh doanh. Năm ngoái, công ty đạt doanh thu 30 triệu USD nhưng tiêu tốn đến 416,45 triệu USD chi phí máy chủ và xử lư dữ liệu, hơn 89 triệu USD lương nhân viên và 39 triệu USD cho các chi phí hoạt động khác. Tổng cộng, công ty lỗ 544,5 triệu USD năm ngoái.

Tuy nhiên, OpenAI vẫn có kinh phí hoạt động, nhờ khoản đầu tư một tỷ USD từ 2019 của Microsoft. Hăng phần mềm Mỹ tháng trước tuyên bố tiếp tục chi hàng tỷ USD cho startup này. Nguồn tin từ Bloomberg cho biết khoản tiền có thể lên tới 10 tỷ USD. Hăng cũng lên kế hoạch tích hợp ChatGPT vào công cụ t́m kiếm Bing nhằm cạnh tranh thị phần với Google Search.

OpenAI do tỷ phú Elon Musk, nhà đầu tư Sam Altman và một số tên tuổi khác đồng sáng lập. Công ty đă gặt hái những thành công đầu tiên với mô h́nh GPT-3 năm 2020, Dall-E năm 2021 và ChatGPT dựa trên mô h́nh GPT-3.5 cuối 2022. Theo Reuters, việc Microsoft đổ tiền vào OpenAI là hướng đi đúng đắn, giúp đón đầu xu hướng AI tiên tiến và tạo tiền đề cho sự cạnh tranh nhiều hơn với đối thủ Alphabet.

ChatGPT hoạt động dựa trên mô h́nh NLP (Natural Language Processing) sử dụng mạng xử lư ngôn ngữ tự nhiên Neural Transformer để trả lời câu hỏi của người dùng. Mô h́nh được huấn luyện trên dữ liệu lớn về ngôn ngữ tự nhiên, sau đó có thể sử dụng những kiến thức đă học để trả lời câu hỏi của người dùng.

Khi người dùng gửi một câu hỏi đến ChatGPT, mô h́nh tiến hành phân tích câu hỏi và t́m kiếm trong kho kiến thức đă "học" để trả lời một cách hợp lư nhất. Nó sử dụng các thuật toán xử lư ngôn ngữ tự nhiên để hiểu ư của người dùng và t́m kiếm trong kiến thức đă học để t́m ra câu trả lời phù hợp.

Theo Time, OpenAI kiểm duyệt nội dung bằng cả AI và người thật. AI dùng để tự động phát hiện và loại bỏ nội dung vi phạm, không phù hợp, trong khi con người để kiểm tra và xác minh kết quả của AI. Việc sử dụng cả hai phương pháp giúp OpenAI đảm bảo tính chính xác và tính phù hợp của nội dung trả lời. Dù vậy, trong nhiều trường hợp, ChatGPT vẫn trả về kết quả vi phạm điều khoản hoặc sai thông tin.

sunshine1104
R10 Vô Địch Thiên Hạ
Release: 02-03-2023
Reputation: 24240


Profile:
Join Date: Feb 2015
Posts: 68,722
Last Update: None Rating: None
Attached Thumbnails
Click image for larger version

Name:	chat.jpg
Views:	0
Size:	161.3 KB
ID:	2173575  
sunshine1104 is_online_now
Thanks: 4
Thanked 3,693 Times in 3,238 Posts
Mentioned: 4 Post(s)
Tagged: 0 Thread(s)
Quoted: 19 Post(s)
Rep Power: 79 sunshine1104 Reputation Uy Tín Level 7sunshine1104 Reputation Uy Tín Level 7
sunshine1104 Reputation Uy Tín Level 7sunshine1104 Reputation Uy Tín Level 7sunshine1104 Reputation Uy Tín Level 7sunshine1104 Reputation Uy Tín Level 7sunshine1104 Reputation Uy Tín Level 7sunshine1104 Reputation Uy Tín Level 7sunshine1104 Reputation Uy Tín Level 7sunshine1104 Reputation Uy Tín Level 7sunshine1104 Reputation Uy Tín Level 7sunshine1104 Reputation Uy Tín Level 7sunshine1104 Reputation Uy Tín Level 7sunshine1104 Reputation Uy Tín Level 7sunshine1104 Reputation Uy Tín Level 7sunshine1104 Reputation Uy Tín Level 7sunshine1104 Reputation Uy Tín Level 7sunshine1104 Reputation Uy Tín Level 7sunshine1104 Reputation Uy Tín Level 7
Reply

User Tag List


Facebook Comments


 
iPad Tablet Menu

HOME

Breaking News

Society News

VietOversea

World News

Business News

Other News

History

Car News

Computer News

Game News

USA News

Mobile News

Music News

Movies News

Sport News

ZONE 1

ZONE 2

Phim Bộ

Phim Lẻ

Ca Nhạc

Thơ Ca

Help Me

Sport Live

Stranger Stories

Comedy Stories

Cooking Chat

Nice Pictures

Fashion

School

Travelling

Funny Videos

NEWS 24h

HOT 3 Days

NEWS 3 Days

HOT 7 Days

NEWS 7 Days

HOT 30 Days

NEWS 30 Days

Member News

Tin Sôi Nổi Nhất 24h Qua

Tin Sôi Nổi Nhất 3 Ngày Qua

Tin Sôi Nổi Nhất 7 Ngày Qua

Tin Sôi Nổi Nhất 14 Ngày Qua

Tin Sôi Nổi Nhất 30 Ngày Qua
Diễn Đàn Người Việt Hải Ngoại. Tự do ngôn luận, an toàn và uy tín. V́ một tương lai tươi đẹp cho các thế hệ Việt Nam hăy ghé thăm chúng tôi, hăy tâm sự với chúng tôi mỗi ngày, mỗi giờ và mỗi giây phút có thể. VietBF.Com Xin cám ơn các bạn, chúc tất cả các bạn vui vẻ và gặp nhiều may mắn.
Welcome to Vietnamese American Community, Vietnamese European, Canadian, Australian Forum, Vietnamese Overseas Forum. Freedom of speech, safety and prestige. For a beautiful future for Vietnamese generations, please visit us, talk to us every day, every hour and every moment possible. VietBF.Com Thank you all and good luck.


All times are GMT. The time now is 15:52.
VietBF - Vietnamese Best Forum Copyright ©2006 - 2024
User Alert System provided by Advanced User Tagging (Pro) - vBulletin Mods & Addons Copyright © 2024 DragonByte Technologies Ltd.
Log Out Unregistered

Page generated in 0.07217 seconds with 15 queries