Thêm mô hình ngôn ngữ lớn mở rộng hiệu suất và hiệu quả hàng đầu trong ngành vào dòng sản phẩm Snowflake Arctic

Mã nguồn mở dựa trên giấy phép Apache 2.0… Cung cấp tính linh hoạt tùy chỉnh với hỗ trợ nhiều khung

Snowflake, nhà cung cấp dịch vụ đám mây dữ liệu toàn cầu, đã ra mắt mô hình ngôn ngữ lớn (LLM) cấp doanh nghiệp “Snowflake Arctic” với tính mở và hiệu năng hàng đầu ngành.

https://seenthis.kr/newspage/2344

Được thiết kế với phương thức chuyên gia hỗn hợp độc đáo của Snowflake (MoE - Mixture-of-Experts), Arctic cung cấp hiệu năng và năng suất hàng đầu ngành. Nó được tối ưu hóa để xử lý các yêu cầu phức tạp của doanh nghiệp, đáp ứng các tiêu chuẩn cao nhất trong các lĩnh vực như tạo mã SQL, thực thi lệnh, v.v.

Đặc biệt, Arctic được cấp phép theo giấy phép Apache 2.0, cho phép sử dụng thương mại miễn phí. Snowflake công khai các chi tiết về phương pháp đào tạo AI, thiết lập một tiêu chuẩn mở mới cho công nghệ AI cấp doanh nghiệp. Arctic LLM là một phần của dòng sản phẩm Snowflake Arctic, cũng bao gồm mô hình nhúng văn bản để tìm kiếm.

Giám đốc điều hành của Snowflake, Sridhar Ramaswamy, cho biết: “Đội ngũ nghiên cứu AI của Snowflake đang dẫn đầu sự đổi mới ở tuyến đầu của AI, đánh dấu một bước ngoặt quan trọng cho công ty. Bằng cách công khai mã nguồn mở với hiệu năng và hiệu quả hàng đầu ngành cho cộng đồng AI, Snowflake đang mở rộng ranh giới tiềm năng của AI mã nguồn mở. Năng lực AI của Snowflake cũng đang được nâng cao để cung cấp cho khách hàng các mô hình AI đáng tin cậy và hiệu quả.”

◇ Arctic, LLM mã nguồn mở hỗ trợ cộng tác rộng rãi

Theo một báo cáo gần đây của công ty nghiên cứu thị trường Forrester, khoảng 46% người ra quyết định về AI tại các doanh nghiệp toàn cầu cho biết họ sử dụng LLM mã nguồn mở hiện có để triển khai AI tạo sinh cho doanh nghiệp của mình như một phần của chiến lược AI. Nền tảng đám mây dữ liệu Snowflake hiện được sử dụng bởi hơn 9.400 doanh nghiệp và tổ chức trên toàn cầu. Họ có thể tận dụng dữ liệu của mình với LLM cung cấp tính mở hàng đầu ngành.

Arctic, một mô hình mã nguồn mở được cấp phép theo giấy phép Apache 2.0, cung cấp tính linh hoạt trong việc lựa chọn phương thức suy luận và đào tạo cùng với các mẫu mã. Người dùng có thể sử dụng và tùy chỉnh Arctic với các khung được doanh nghiệp ưa chuộng như NVIDIA NIM, NVIDIA TensorRT-LLM, vLLM và Hugging Face. Arctic có thể được sử dụng ngay lập tức thông qua suy luận không máy chủ trong Snowflake Cortex. Snowflake Cortex là một dịch vụ được quản lý đầy đủ, cung cấp các giải pháp AI và máy học trên đám mây dữ liệu cùng với danh sách các mô hình đa dạng bao gồm Hugging Face, Lamini, Microsoft Azure, danh mục API của NVIDIA, Perplexity, Together AI, v.v. Arctic cũng sẽ sớm có sẵn trên Amazon Web Services (AWS).

◇ Hiệu quả tài nguyên vượt trội và hiệu suất hàng đầu ngành

Đội ngũ nghiên cứu AI của Snowflake bao gồm những nhà nghiên cứu và kỹ sư hệ thống hàng đầu ngành. Arctic được xây dựng trong vòng chưa đầy 3 tháng. Việc đào tạo mô hình sử dụng Amazon Elastic Compute Cloud (Amazon EC2) P5, với chi phí đào tạo chỉ bằng 1/8 so với các mô hình tương tự. Snowflake đặt ra tiêu chuẩn mới về tốc độ đào tạo cho các mô hình mở rộng cấp doanh nghiệp tiên tiến, cuối cùng cho phép người dùng tạo ra các mô hình hiệu quả về chi phí và được cá nhân hóa với quy mô tối ưu.

Thiết kế MoE khác biệt của Arctic tăng cường cả hệ thống đào tạo và hiệu năng mô hình thông qua việc lắp ráp dữ liệu được thiết kế cẩn thận cho phù hợp với nhu cầu của doanh nghiệp. Ngoài ra, nó cung cấp kết quả tối ưu với hiệu quả mã thông báo vượt trội và chất lượng hàng đầu ngành bằng cách kích hoạt đồng thời 17 trong số 480 tỷ tham số. Arctic kích hoạt ít tham số hơn khoảng 50% so với DBRX và khoảng 75% so với Llama 3 70B trong suy luận hoặc đào tạo để cải thiện hiệu quả đáng kể. Nó cũng vượt trội các mô hình mã nguồn mở hiện có phổ biến như DBRX, Mixtral-8x7B trong mã hóa (HumanEval+, MBPP+) và tạo SQL (Spider), đồng thời đạt hiệu suất hàng đầu trong lĩnh vực hiểu ngôn ngữ chung (MMLU, hiểu ngôn ngữ đa nhiệm quy mô lớn).

◇ Snowflake dẫn đầu cuộc cách mạng AI dành cho tất cả mọi người

Snowflake cung cấp cho các doanh nghiệp nền tảng dữ liệu và các khối xây dựng AI tiên tiến cần thiết để tạo ra các ứng dụng AI/máy học thực tế bằng cách sử dụng dữ liệu của riêng họ. Khi khách hàng sử dụng Arctic thông qua Snowflake Cortex, việc xây dựng các ứng dụng AI sản xuất ở quy mô phù hợp trở nên dễ dàng hơn trong phạm vi bảo mật và quản trị của đám mây dữ liệu.

Dòng sản phẩm Snowflake Arctic, bao gồm Arctic LLM, cũng bao gồm Arctic embed, một trong những mô hình nhúng văn bản tiên tiến mới được Snowflake ra mắt gần đây. Sản phẩm này có sẵn miễn phí cho cộng đồng mã nguồn mở theo giấy phép Apache 2.0. Gói gồm 5 mô hình này có sẵn ngay lập tức trên Hugging Face và sẽ được công khai dưới dạng xem trước riêng tư trong Snowflake Cortex. Mô hình nhúng này, chỉ bằng khoảng 1/3 kích thước của các mô hình tương tự, được tối ưu hóa để mang lại hiệu suất tìm kiếm tốt nhất, cung cấp một giải pháp hiệu quả và tiết kiệm chi phí cho các doanh nghiệp khi kết hợp các tập dữ liệu độc quyền của họ với LLM dưới dạng một phần của các dịch vụ Tìm kiếm được tăng cường tạo sinh (RAG) hoặc Tìm kiếm ngữ nghĩa.

Gần đây, Snowflake đã bổ sung các mô hình của Reka và Mistral AI, hỗ trợ khách hàng truy cập vào các LLM mới nhất và hiệu quả nhất trên đám mây dữ liệu. Ngoài ra, công ty gần đây đã công bố mối quan hệ đối tác mở rộng với NVIDIA để tiếp tục đổi mới trong lĩnh vực AI. Đám mây dữ liệu của Snowflake, kết hợp với nền tảng được tăng tốc đầy đủ của NVIDIA, cung cấp cơ sở hạ tầng an toàn và mạnh mẽ cũng như khả năng tính toán để tận dụng hiệu quả năng suất AI trên toàn ngành. Snowflake Ventures cũng đã đầu tư vào Landing AI, Mistral AI và Reka gần đây để hỗ trợ khách hàng khai thác giá trị từ LLM và AI trên dữ liệu doanh nghiệp của riêng họ.