Công nghệ AI đang phát triển nhanh chóng trên toàn cầu, nhưng việc tiếp cận phần cứng tiên tiến trở thành rào cản lớn đối với các công ty công nghệ Trung Quốc do lệnh cấm vận từ Mỹ. Tuy nhiên, 01.ai đã chứng minh rằng bằng sự sáng tạo, họ có thể vượt qua thách thức và đạt được thành tựu đáng nể trong lĩnh vực này.
- Cách sử dụng ChatGPT để viết CV và 4 mẹo viết CV hiệu quả bằng AI
- ChatGPT sử dụng công nghệ giọng nói AI giống hệt như người thật
- ChatGPT miễn phí hay ChatGPT Plus: Liệu bản nâng cấp $20 có xứng đáng
Công ty Trung Quốc làm nên điều không tưởng
Mới đây, Kai-Fu Lee, nhà sáng lập và CEO của 01.ai, công bố rằng công ty của ông đã thành công trong việc tạo ra mô hình AI hiệu suất cao có tên Yi-Lightning với mức chi phí chỉ 3 triệu USD và 2.000 GPU. Điều này gây ấn tượng mạnh khi so sánh với con số 80-100 triệu USD mà OpenAI được cho là đã chi để huấn luyện GPT-4 và có thể lên tới 1 tỷ USD cho GPT-5.
“Điều khiến bạn bè tôi ở Thung lũng Silicon bất ngờ không chỉ là hiệu suất của chúng tôi, mà còn là việc chúng tôi chỉ dùng 3 triệu USD để huấn luyện mô hình này,” Lee chia sẻ (theo @tsarnick).
Tối ưu hóa kỹ thuật để tiết kiệm chi phí
Kai-Fu Lee cho biết công ty đã áp dụng nhiều giải pháp sáng tạo để vượt qua những hạn chế về phần cứng, bao gồm:
- Giảm thiểu các nút thắt trong quá trình tính toán
- Phát triển hệ thống đa lớp bộ nhớ đệm
- Thiết kế động cơ suy luận chuyên biệt
Những cải tiến này giúp tối ưu hóa việc sử dụng bộ nhớ và quá trình huấn luyện mô hình, mang lại hiệu suất cao với chi phí thấp. Lee tiết lộ rằng chi phí suy luận của 01.ai chỉ vào khoảng 10 cent cho mỗi triệu token, tức chỉ bằng 1/30 mức phí mà các mô hình tương đương thường áp dụng.
“Khi chỉ có 2.000 GPU, đội ngũ của chúng tôi phải tìm cách sử dụng hiệu quả từng tài nguyên,” Lee nhấn mạnh. “Tôi, với vai trò CEO, phải ưu tiên các nguồn lực, và không chỉ huấn luyện nhanh mà quá trình suy luận cũng phải nhanh. Điều quan trọng là chúng tôi đã thành công với chi phí cực kỳ thấp.”
Bất chấp những hoài nghi về khả năng huấn luyện mô hình AI mạnh mẽ chỉ với nguồn lực hạn chế, thực tế đã chứng minh 01.ai đang gặt hái thành quả. Theo LMSIS của Đại học UC Berkeley, Yi-Lightning được xếp thứ 6 toàn cầu về hiệu suất, khẳng định khả năng cạnh tranh của mô hình này với chi phí vô cùng khiêm tốn. Vẫn còn rất nhiều thông tin thú vị khác đang chờ đón các bạn, hãy theo dõi Phong Vũ Tech News để cập nhật những tin tức công nghệ mới nhất nhé!
