Reflection AI, startup có trụ sở tại Brooklyn và mới hoạt động được hai năm, cho biết sẽ ra mắt Beam, mô hình AI open-weight tiên phong đầu tiên của mình. Open-weight là phương thức công khai trọng số của mô hình (các giá trị bên trong mô hình được xác định qua quá trình huấn luyện) để bên ngoài có thể sử dụng. Reflection tuyên bố Beam đạt hiệu năng tương đương các mô hình mở lớn của Trung Quốc trên các bài đánh giá suy luận nâng cao, nhưng sử dụng ít phép tính suy luận hơn nhiều. Tuy nhiên, các tuyên bố về hiệu năng và chi phí này chưa được kiểm chứng độc lập.
Bối cảnh
Theo phần giới thiệu do Reflection công bố, Beam là mô hình hỗn hợp chuyên gia (MoE) chỉ xử lý văn bản. MoE là cấu trúc sử dụng một số mô hình con chuyên biệt trong số nhiều mô hình để xử lý yêu cầu. Công ty cho biết đã huấn luyện mô hình bằng phương pháp học tăng cường sử dụng nhiều phép tính, nhằm giúp mô hình hoạt động hiệu quả trong suy luận, lập trình và các tác vụ tác nhân.
Beam là mô hình có tổng cộng 501 tỷ tham số, trong đó 23 tỷ tham số được kích hoạt. Quá trình tiền huấn luyện sử dụng 23,8 nghìn tỷ token, còn cửa sổ ngữ cảnh (phạm vi đầu vào có thể tham khảo trong một lần) là 1 triệu token. Mô hình được đưa ra để so sánh là GLM-5.2 của Z.ai, có tổng cộng khoảng 744 tỷ tham số, trong đó 40 tỷ tham số được kích hoạt.
Reflection tuyên bố Beam ngang bằng GLM-5.2 trên các bài đánh giá suy luận nâng cao, đạt điểm cao hơn các mô hình mở hàng đầu hiện nay của phương Tây, đồng thời sử dụng lượng phép tính suy luận ít hơn 3–4 lần. Trong một phép so sánh khác do công ty đưa ra, Beam đạt điểm cao hơn Inkling ở cả 4 bài kiểm tra lập trình mà kết quả của cả hai mô hình đều được công bố. Tuy nhiên, Inkling là mô hình đa phương thức (xử lý nhiều loại thông tin ngoài văn bản), còn Beam chỉ xử lý văn bản, nên mục đích sử dụng và phạm vi đầu vào của hai mô hình không giống nhau.
Các tuyên bố về hiệu năng và chi phí suy luận của Beam vẫn chưa được kiểm chứng độc lập. Chỉ dựa vào kết quả đánh giá do công ty đưa ra thì chưa thể khẳng định hiệu năng hoặc chi phí trong các dịch vụ thực tế.
Reflection giới thiệu Beam là “mô hình ngựa thồ” dành cho doanh nghiệp, khu vực công và nhà phát triển. Việc ra mắt này phù hợp với kế hoạch của công ty nhằm đưa ra một mô hình phương Tây có thể cạnh tranh với các mô hình mở của Trung Quốc. Tuy nhiên, trọng số và toàn bộ thông tin kỹ thuật chi tiết—những dữ liệu thiết yếu để đánh giá hiệu năng mô hình—vẫn là những thứ công ty cho biết sẽ công bố trong tháng này.
Reflection được thành lập năm 2024 bởi hai nhà nghiên cứu từng làm việc tại Google DeepMind. Theo PitchBook, công ty đã huy động khoảng 4,7 tỷ USD từ các nhà đầu tư, trong đó có Nvidia, Sequoia Capital và Lightspeed Venture Partners; tại vòng gọi vốn gần nhất, định giá trước đầu tư của công ty là 25 tỷ USD. Mùa hè năm nay, công ty ký các hợp đồng tổng trị giá hơn 7 tỷ USD với SpaceX và Nebius, nhờ đó có thể tiếp cận chip Nvidia GB300 đến năm 2029.
Ý nghĩa của tin này
Nếu các tuyên bố của Beam về open-weight và chi phí suy luận thấp được xác nhận trong thực tế, doanh nghiệp và cơ quan công quyền muốn trực tiếp sử dụng mô hình có thể có thêm lựa chọn. Đặc biệt, “nhà máy AI” mà Reflection đang thúc đẩy là ý tưởng giúp các tổ chức huấn luyện mô hình Reflection bằng dữ liệu độc quyền của chính họ để xây dựng hệ thống AI cục bộ tùy chỉnh. Nếu chi phí sử dụng mô hình hoặc lượng phép tính cần thiết giảm, điều đó có thể giảm gánh nặng cho các tổ chức đang cân nhắc những hệ thống như vậy. Đây là tác động có thể xảy ra nếu tuyên bố về chi phí của công ty được chứng minh, chứ chưa phải kết quả đã được xác nhận.
Chẳng hạn, một tổ chức đang cân nhắc hệ thống AI sử dụng dữ liệu riêng có thể xem xét hiệu năng và lượng phép tính cần thiết trong môi trường của mình sau khi trọng số và tài liệu kỹ thuật của Beam được công bố. Tuy nhiên, chi phí triển khai thực tế và các điều kiện phân phối chưa được công bố. Vì vậy, không thể khẳng định rằng tuyên bố “sử dụng ít phép tính hơn” sẽ ngay lập tức dẫn đến giảm chi phí triển khai.
Reflection đã bắt đầu thử nghiệm ý tưởng hợp tác với Tập đoàn Shinsegae (신세계그룹) về một nhà máy AI có chủ quyền. Theo Axios, các quỹ phòng hộ và công ty giao dịch cũng bày tỏ quan tâm đến việc xây dựng những hệ thống như vậy. Công ty cho biết sẽ công bố trọng số và toàn bộ thông tin kỹ thuật chi tiết của Beam trong tháng này, đồng thời cung cấp khả năng phân phối thông qua các nhà cung cấp dịch vụ đám mây quy mô siêu lớn và nhà cung cấp đám mây thế hệ mới, cũng như tích hợp với các thư viện mã nguồn mở khi ra mắt. Vì vậy, điểm tiếp theo cần theo dõi là những tổ chức nào sẽ có thể sử dụng mô hình, và sử dụng theo cách nào.
Những gì đã được xác nhận và những gì vẫn chưa rõ
Những gì đã được xác nhận
- Reflection cho biết sẽ ra mắt Beam, mô hình open-weight tiên phong đầu tiên của mình.
- Beam là mô hình chỉ xử lý văn bản, có tổng cộng 501 tỷ tham số, trong đó 23 tỷ tham số được kích hoạt.
- Mô hình được tiền huấn luyện bằng 23,8 nghìn tỷ token và có cửa sổ ngữ cảnh 1 triệu token.
- Công ty đã bắt đầu thử nghiệm ý tưởng hợp tác với Tập đoàn Shinsegae về một nhà máy AI có chủ quyền.
Những gì vẫn chưa rõ
- Chưa biết các tuyên bố về hiệu năng và chi phí suy luận của Beam sẽ được xác nhận như thế nào qua quá trình kiểm chứng độc lập.
- Công ty chưa nêu chính xác thời điểm công bố trọng số và tài liệu kỹ thuật trong tháng này.
- Chưa có thông tin cụ thể về cách thức thử nghiệm với Tập đoàn Shinsegae.
- Giá sử dụng thực tế và điều kiện phân phối Beam chưa được công bố.
Những điều độc giả cần theo dõi
- Doanh nghiệp và nhà phát triển muốn đánh giá mô hình cần xem xét các điều kiện của bài đánh giá, tiêu chí so sánh lượng phép tính suy luận và kết quả phù hợp với công việc của mình sau khi trọng số và tài liệu kỹ thuật được công bố.
- Các tổ chức đang cân nhắc triển khai cần kiểm tra xem giá thực tế và điều kiện sử dụng có được công bố hay không, bên cạnh việc phân phối qua các nhà cung cấp dịch vụ đám mây quy mô siêu lớn và nhà cung cấp đám mây thế hệ mới.
- Những tổ chức quan tâm đến hệ thống AI sử dụng dữ liệu riêng có thể theo dõi cách thức và phạm vi ứng dụng được công bố trong ý tưởng thử nghiệm với Tập đoàn Shinsegae.
