pizza
07-15-2023, 22:25
ChatGPT bất ngờ bị chê là lười hơn, kém thông minh hơn. Mô h́nh AI mạnh nhất thế giới ChatGPT được cho là trở nên kém mạnh mẽ hơn. Điều đó khiến những người trong ngành đồn đoán rằng nguyên nhân là do công ty OpenAI đă thiết kế lại hệ thống.
Theo tờ Business Insider, trong những tuần gần đây, người dùng GPT-4 của OpenAI đă phàn nàn về t́nh trạng hiệu suất suy giảm, một số người nói mô h́nh này “lười biếng” và kém thông minh hơn so với khả năng suy luận và đưa ra câu trả lời trước đây. GPT-4 là phiên bản thay thế GPT3.5 vốn là hệ thống mô h́nh ngôn ngữ của ứng dụng ChatGPT.
Người dùng đă bày tỏ sự thất vọng trên Twitter và diễn đàn nhà phát triển của OpenAI về các vấn đề như tính logic yếu, đưa ra nhiều phản hồi sai hơn, không nắm được thông tin mà người dùng cung cấp, gặp rắc rối khi làm theo hướng dẫn, quên thêm dấu ngoặc đơn trong mă phần mềm cơ bản và chỉ nhớ lời nhắc gần đây nhất.
Một người dùng GPT4 để hỗ trợ viết mă trang web của ḿnh nhận xét: “GPT4 hiện tại thật đáng thất vọng. Giống như việc lái một chiếc Ferrari trong một tháng rồi đột nhiên nó biến thành một chiếc xe cũ nát. Tôi không chắc là ḿnh muốn trả tiền cho nó”.
Ông Peter Yang, trưởng nhóm sản phẩm tại Roblox, đă viết trên Twitter rằng mô h́nh này tạo kết quả đầu ra nhanh hơn nhưng chất lượng kém hơn. Ông nói: “Chỉ là những câu hỏi đơn giản như làm cho văn bản rơ ràng, súc tích hơn và tạo ra ư tưởng. Theo ư kiến của tôi, chất lượng bài viết đă đi xuống”.
Một người dùng khác tên là Frazier MacLeod viết trên Twitter: “Tôi thấy nó lười biếng hơn”. C̣n người dùng Christi Kennedy đă viết trên diễn đàn dành cho nhà phát triển của OpenAI rằng GPT-4 đă bắt đầu lặp đi lặp lại các kết quả đầu ra của mă và các thông tin khác. Cô nói: “Nó bị chết năo so với trước đây… Nếu bạn thực sự sử dụng ứng dụng này đầy đủ trước đây, bạn sẽ thấy nó rơ ràng là ngu ngốc hơn nhiều”.
Đây là một sự thay đổi khá lớn so với đầu năm nay khi OpenAI đă làm kinh ngạc cả thế giới khi ra mắt ChatGPT và ngành công nghệ đă háo hức chờ đợi GPT-4 ra mắt. ChatGPT ban đầu chạy trên GPT-3 và GPT-3.5. Đây là những mô h́nh AI lớn, hỗ trợ ChatGPT trả lời các câu hỏi.
GPT-4 có quy mô hơn đă ra mắt vào tháng 3 và nhanh chóng trở thành mô h́nh phù hợp cho các nhà phát triển và những người trong ngành công nghệ khác. GPT-4 thường được coi là mô h́nh AI mạnh nhất hiện có và mô h́nh này đa phương thức, có nghĩa là có thể hiểu được h́nh ảnh và văn bản nhập vào.
Sau lần đầu dùng thử mô h́nh mới này, một số người đă bị sốc trước hóa đơn sử dụng GPT-4.
Bà Sharon Zhou, Giám đốc điều hành Lamini (một công ty khởi nghiệp giúp các nhà phát triển xây dựng các mô h́nh ngôn ngữ lớn tùy chỉnh), cho biết mô h́nh mới tuy chậm nhưng rất chính xác. Tuy nhiên, đó là t́nh h́nh của một vài tuần trước. Sau đó, GPT-4 trở nên nhanh hơn, nhưng hiệu suất giảm đi rơ rệt, khiến cộng đồng AI bàn tán và các chuyên gia khác cho rằng có một thay đổi lớn đang diễn ra.
Họ cho biết OpenAI có thể đang tạo ra một số mô h́nh GPT-4 nhỏ hơn. Các mô h́nh này sẽ hoạt động tương tự như mô h́nh lớn nhưng sẽ ít tốn kém hơn khi chạy.
Theo bà Zhou, cách tiếp cận này được gọi là Hỗn hợp Chuyên gia (MOE). Các mô h́nh chuyên gia nhỏ hơn được đào tạo về các nhiệm vụ và lĩnh vực chủ đề riêng, nghĩa là có thể có một GPT-4 chuyên về sinh học và một GPT-4 chuyên về vật lư, hóa học…
Khi người dùng GPT-4 đặt câu hỏi, hệ thống mới sẽ biết chuyển câu hỏi tới mô h́nh chuyên gia nào. Hệ thống mới có thể quyết định gửi một câu hỏi tới hai hoặc nhiều mô h́nh chuyên gia này để đề pḥng và sau đó kết hợp các kết quả.
Bà Zhou cho biết ư tưởng này đă xuất hiện được một thời gian và đó là một bước tiếp theo tự nhiên.
Ông Yam Peleg, nhà sáng lập một công ty khởi nghiệp, đă viết trên Twitter rằng OpenAI có thể giảm chi phí bằng cách sử dụng mô h́nh MOE có 16 chuyên gia.
Theo ông Oren Etzioni, Giám đốc điều hành Viện AI Allen, có hai lư do kỹ thuật chính để sử dụng cách tiếp cận MOE: phản hồi tốt hơn và nhanh hơn, rẻ hơn. Ông nói: “Kết hợp đúng sẽ mang lại cả hai nhưng thường có sự đánh đổi giữa chi phí và chất lượng. Trong trường hợp này, có vẻ như OpenAI đang hy sinh chất lượng để giảm chi phí”.
OpenAI đă viết về cách tiếp cận MOE trong nghiên cứu năm 2022 do Greg Brockman, Chủ tịch OpenAI, làm đồng tác giả. Theo bài viết, ông Brockman nói: “Với cách tiếp cận MOE, chỉ cần sử dụng một phần nhỏ của mạng để tính toán đầu ra cho một đầu vào… Điều này cho phép nhiều tham số hơn mà không làm tăng chi phí tính toán”.
Bà Zhou cho biết t́nh trạng suy giảm hiệu suất đáng kinh ngạc của GPT-4 trong những tuần gần đây có thể liên quan đến quá tŕnh đào tạo này và do OpenAI tung ra nhóm các mô h́nh GPT-4 chuyên gia nhỏ hơn nói trên. Bà nói: “Khi người dùng kiểm tra nó, chúng tôi sẽ hỏi rất nhiều câu hỏi khác nhau. Nó sẽ không hoạt động tốt như vậy, nhưng nó đang thu thập dữ liệu từ chúng tôi, nó sẽ cải thiện và học hỏi”.
VietBS@ sưu tập
Theo tờ Business Insider, trong những tuần gần đây, người dùng GPT-4 của OpenAI đă phàn nàn về t́nh trạng hiệu suất suy giảm, một số người nói mô h́nh này “lười biếng” và kém thông minh hơn so với khả năng suy luận và đưa ra câu trả lời trước đây. GPT-4 là phiên bản thay thế GPT3.5 vốn là hệ thống mô h́nh ngôn ngữ của ứng dụng ChatGPT.
Người dùng đă bày tỏ sự thất vọng trên Twitter và diễn đàn nhà phát triển của OpenAI về các vấn đề như tính logic yếu, đưa ra nhiều phản hồi sai hơn, không nắm được thông tin mà người dùng cung cấp, gặp rắc rối khi làm theo hướng dẫn, quên thêm dấu ngoặc đơn trong mă phần mềm cơ bản và chỉ nhớ lời nhắc gần đây nhất.
Một người dùng GPT4 để hỗ trợ viết mă trang web của ḿnh nhận xét: “GPT4 hiện tại thật đáng thất vọng. Giống như việc lái một chiếc Ferrari trong một tháng rồi đột nhiên nó biến thành một chiếc xe cũ nát. Tôi không chắc là ḿnh muốn trả tiền cho nó”.
Ông Peter Yang, trưởng nhóm sản phẩm tại Roblox, đă viết trên Twitter rằng mô h́nh này tạo kết quả đầu ra nhanh hơn nhưng chất lượng kém hơn. Ông nói: “Chỉ là những câu hỏi đơn giản như làm cho văn bản rơ ràng, súc tích hơn và tạo ra ư tưởng. Theo ư kiến của tôi, chất lượng bài viết đă đi xuống”.
Một người dùng khác tên là Frazier MacLeod viết trên Twitter: “Tôi thấy nó lười biếng hơn”. C̣n người dùng Christi Kennedy đă viết trên diễn đàn dành cho nhà phát triển của OpenAI rằng GPT-4 đă bắt đầu lặp đi lặp lại các kết quả đầu ra của mă và các thông tin khác. Cô nói: “Nó bị chết năo so với trước đây… Nếu bạn thực sự sử dụng ứng dụng này đầy đủ trước đây, bạn sẽ thấy nó rơ ràng là ngu ngốc hơn nhiều”.
Đây là một sự thay đổi khá lớn so với đầu năm nay khi OpenAI đă làm kinh ngạc cả thế giới khi ra mắt ChatGPT và ngành công nghệ đă háo hức chờ đợi GPT-4 ra mắt. ChatGPT ban đầu chạy trên GPT-3 và GPT-3.5. Đây là những mô h́nh AI lớn, hỗ trợ ChatGPT trả lời các câu hỏi.
GPT-4 có quy mô hơn đă ra mắt vào tháng 3 và nhanh chóng trở thành mô h́nh phù hợp cho các nhà phát triển và những người trong ngành công nghệ khác. GPT-4 thường được coi là mô h́nh AI mạnh nhất hiện có và mô h́nh này đa phương thức, có nghĩa là có thể hiểu được h́nh ảnh và văn bản nhập vào.
Sau lần đầu dùng thử mô h́nh mới này, một số người đă bị sốc trước hóa đơn sử dụng GPT-4.
Bà Sharon Zhou, Giám đốc điều hành Lamini (một công ty khởi nghiệp giúp các nhà phát triển xây dựng các mô h́nh ngôn ngữ lớn tùy chỉnh), cho biết mô h́nh mới tuy chậm nhưng rất chính xác. Tuy nhiên, đó là t́nh h́nh của một vài tuần trước. Sau đó, GPT-4 trở nên nhanh hơn, nhưng hiệu suất giảm đi rơ rệt, khiến cộng đồng AI bàn tán và các chuyên gia khác cho rằng có một thay đổi lớn đang diễn ra.
Họ cho biết OpenAI có thể đang tạo ra một số mô h́nh GPT-4 nhỏ hơn. Các mô h́nh này sẽ hoạt động tương tự như mô h́nh lớn nhưng sẽ ít tốn kém hơn khi chạy.
Theo bà Zhou, cách tiếp cận này được gọi là Hỗn hợp Chuyên gia (MOE). Các mô h́nh chuyên gia nhỏ hơn được đào tạo về các nhiệm vụ và lĩnh vực chủ đề riêng, nghĩa là có thể có một GPT-4 chuyên về sinh học và một GPT-4 chuyên về vật lư, hóa học…
Khi người dùng GPT-4 đặt câu hỏi, hệ thống mới sẽ biết chuyển câu hỏi tới mô h́nh chuyên gia nào. Hệ thống mới có thể quyết định gửi một câu hỏi tới hai hoặc nhiều mô h́nh chuyên gia này để đề pḥng và sau đó kết hợp các kết quả.
Bà Zhou cho biết ư tưởng này đă xuất hiện được một thời gian và đó là một bước tiếp theo tự nhiên.
Ông Yam Peleg, nhà sáng lập một công ty khởi nghiệp, đă viết trên Twitter rằng OpenAI có thể giảm chi phí bằng cách sử dụng mô h́nh MOE có 16 chuyên gia.
Theo ông Oren Etzioni, Giám đốc điều hành Viện AI Allen, có hai lư do kỹ thuật chính để sử dụng cách tiếp cận MOE: phản hồi tốt hơn và nhanh hơn, rẻ hơn. Ông nói: “Kết hợp đúng sẽ mang lại cả hai nhưng thường có sự đánh đổi giữa chi phí và chất lượng. Trong trường hợp này, có vẻ như OpenAI đang hy sinh chất lượng để giảm chi phí”.
OpenAI đă viết về cách tiếp cận MOE trong nghiên cứu năm 2022 do Greg Brockman, Chủ tịch OpenAI, làm đồng tác giả. Theo bài viết, ông Brockman nói: “Với cách tiếp cận MOE, chỉ cần sử dụng một phần nhỏ của mạng để tính toán đầu ra cho một đầu vào… Điều này cho phép nhiều tham số hơn mà không làm tăng chi phí tính toán”.
Bà Zhou cho biết t́nh trạng suy giảm hiệu suất đáng kinh ngạc của GPT-4 trong những tuần gần đây có thể liên quan đến quá tŕnh đào tạo này và do OpenAI tung ra nhóm các mô h́nh GPT-4 chuyên gia nhỏ hơn nói trên. Bà nói: “Khi người dùng kiểm tra nó, chúng tôi sẽ hỏi rất nhiều câu hỏi khác nhau. Nó sẽ không hoạt động tốt như vậy, nhưng nó đang thu thập dữ liệu từ chúng tôi, nó sẽ cải thiện và học hỏi”.
VietBS@ sưu tập