- SK C&C, 고객 맞춤형 sLLM 구현 지원 플랫폼 ‘솔루어 LLMOps’ 선보여 > 뉴스 - 스타트업 커뮤니티 씬디스
- 챗GPT, 클로바X 등 상용 LLM, 오픈소스 LLM이 제공하는 다양한 파운데이션 모델 활용데이터수집∙전처리∙학습∙테스트∙서빙 등 sLLM 제작…, 스타트업에 종사하시는 여러분들의 놀이터 씬디스는 스타트업 커뮤니티 입니다.
Sử dụng các mô hình cơ sở đa dạng do các LLM thương mại như ChatGPT, ClovaX và LLM mã nguồn mở cung cấp
Triển khai siêu tự động hóa trong toàn bộ quá trình tạo sLLM, bao gồm thu thập dữ liệu, tiền xử lý, đào tạo, kiểm thử và phục vụ
Cung cấp cả chức năng loại bỏ hiện tượng ảo giác (Hallucination) và chức năng kiểm thử sLLM
Tạo sLLM nhanh chóng thông qua kéo và thả và đảm bảo độ tin cậy của sLLM thông qua việc học song song dữ liệu thường xuyên
Kỷ nguyên mà các doanh nghiệp có thể tự triển khai các dịch vụ AI tùy chỉnh thông qua sLLM (mô hình ngôn ngữ lớn nhỏ) được kết hợp linh hoạt từ nhiều mô hình cơ sở khác nhau đã đến.
sLLM có kích thước nhỏ hơn so với các LLM (mô hình ngôn ngữ lớn) như ChatGPT, HyperclovaX, Gemini nhưng có khả năng học tập chuyên sâu trong các lĩnh vực cụ thể. Việc tiêu thụ ít tài nguyên tính toán hơn giúp giảm chi phí phát triển và tăng cường bảo mật. Do đó, việc sử dụng sLLM sẽ giúp doanh nghiệp xây dựng các dịch vụ AI chuyên dụng một cách hiệu quả.
SK C&C (Giám đốc điều hành: Yoon Phong Young, skcc.co.kr) hôm nay đã thông báo rằng họ sẽ cung cấp nền tảng ‘Solur LLMOps’ (sau đây gọi tắt là ‘Solur LLMOps’) hỗ trợ các doanh nghiệp triển khai sLLM (mô hình ngôn ngữ lớn nhỏ) tùy chỉnh một cách dễ dàng và nhanh chóng.
SK C&C đã tích hợp các phương pháp áp dụng mô hình cơ sở AI thế hệ mới, chuyên môn kết hợp và học tập dữ liệu của doanh nghiệp, cũng như toàn bộ quy trình triển khai sLLM tùy chỉnh cho doanh nghiệp vào ‘Solur LLMOps’, dựa trên kinh nghiệm tích lũy được từ việc xây dựng và vận hành các dịch vụ AI thế hệ mới trong nhiều lĩnh vực như tài chính, sản xuất, viễn thông và dịch vụ cùng với nhiều khách hàng khác nhau.
Mô hình cơ sở hỗ trợ thực hiện nhiều tác vụ AI khác nhau như hiểu ngôn ngữ, tạo văn bản và hình ảnh, cũng như tương tác bằng ngôn ngữ tự nhiên bằng cách học tập dữ liệu có cấu trúc và không cấu trúc.
‘Solur LLMOps’ trước tiên hỗ trợ kết hợp và sử dụng nhiều mô hình cơ sở bên ngoài khác nhau.
Ngoài các LLM thương mại như ChatGPT của OpenAI và HyperclovaX của Naver Cloud, nền tảng này còn hỗ trợ sử dụng nhiều mô hình cơ sở được tạo ra từ LLM mã nguồn mở. Nền tảng này sẽ đề xuất, hỗ trợ lựa chọn, kết hợp và sử dụng các mô hình cơ sở cần thiết để xây dựng sLLM phù hợp với đặc điểm AI của doanh nghiệp.
Đặc biệt, nền tảng này áp dụng siêu tự động hóa (Hyperautomation) cho toàn bộ quá trình, bao gồm △thu thập và tiền xử lý dữ liệu △tạo dữ liệu đào tạo tự động △đào tạo bằng cách sử dụng mô hình cơ sở bên ngoài △tạo và kiểm thử sLLM, giúp nâng cao hiệu quả và giảm chi phí trong quá trình xây dựng sLLM tùy chỉnh cho doanh nghiệp.
Cụ thể, ‘Solur LLMOps’ sẽ tự động tạo dữ liệu đào tạo bằng cách tiền xử lý dữ liệu không cấu trúc đồng thời với việc thu thập dữ liệu của doanh nghiệp. Sau đó, nền tảng này sẽ sử dụng mô hình cơ sở AI thế hệ mới được chọn để tiến hành đào tạo nhanh chóng và hoàn thiện sLLM phù hợp với mục tiêu công việc của doanh nghiệp. Ngoài ra, nền tảng này còn cung cấp kiến trúc tối ưu hóa tài nguyên hạn chế thông qua quản lý tài nguyên đào tạo không máy chủ (Serverless).
‘Solur LLMOps’ cũng cung cấp chức năng loại bỏ hiện tượng ảo giác (Hallucination) và chức năng kiểm thử sLLM, vốn là những vấn đề AI có thể tạo ra câu trả lời sai.
Nền tảng này cung cấp các công cụ tự động hóa AI để xử lý hiện tượng ảo giác ở từng giai đoạn, từ tiền xử lý dữ liệu, tạo mô hình, đánh giá đến sử dụng, giúp cho cả những người không chuyên cũng có thể yên tâm tạo ra sLLM.
Người dùng có thể thực hiện kiểm thử độ hoàn thiện thông qua việc đặt câu hỏi đơn giản trong cửa sổ trò chuyện của ‘Solur LLMOps’, đồng thời nền tảng này cũng tự động cung cấp các câu hỏi cần thiết cho việc kiểm thử.
Ngoài ra, ‘Solur LLMOps’ còn cung cấp giao diện người dùng (UI) và trải nghiệm người dùng (UX) thân thiện, giúp doanh nghiệp tạo ra mô hình sLLM nhanh chóng và phù hợp với môi trường làm việc, đồng thời đảm bảo độ tin cậy của mô hình.
Người dùng có thể lặp lại các thao tác từ làm sạch dữ liệu đến tinh chỉnh và kiểm thử mô hình bằng cách đơn giản kéo và thả (Drag & Drop) dữ liệu đã chọn trên màn hình web. Việc xử lý nhiều dữ liệu cũng như việc học song song trên nhiều mô hình cơ sở cũng có thể được thực hiện một cách đơn giản chỉ bằng thao tác chuột.
Nhờ đó, nhân viên tại các doanh nghiệp có thể dễ dàng tạo ra sLLM phù hợp với công việc của mình và sử dụng chúng trong nhiều công việc khác nhau.
Cha Ji Won, Trưởng nhóm G.AI của SK C&C cho biết: “Các chức năng chính được tích hợp trong Solur LLMOps đã được áp dụng trong các dự án xây dựng AI thế hệ mới của các công ty tài chính cũng như các công ty liên quan đến SK”. Ông cũng cho biết thêm: “Chúng tôi sẽ nỗ lực hết mình để phổ biến sLLM tùy chỉnh cho doanh nghiệp trên toàn ngành công nghiệp trong nước, bắt đầu từ những ứng dụng này.”
Trang web: http://www.skcc.com
Thông tin liên lạc
SK㈜ C&C
Bộ phận PR
Quản lý Ji Yoon Jin
Bình luận0