스타트업 커뮤니티 씬디스 (SeenThis.kr)

SK C&C推出客製化小型LLM實作平台「Solu:LLMOps」

  • 撰写语言: 韓国語
  • 基准国家: 所有国家country-flag
  • 信息技术

撰写: 2024-05-20

撰写: 2024-05-20 11:29

利用 ChatGPT、Clova X 等商業 LLM 和開源 LLM 提供的各種基礎模型。

在 sLLM 製作的整個過程中,包含資料收集、預處理、學習、測試和服務等,都實現了超自動化。

還提供消除幻覺 (Hallucination) 現象和 sLLM 測試功能。

透過拖放快速生成 sLLM,並透過持續資料並行學習來確保 sLLM 的可靠性。

企業可以透過自由組合各種基礎模型的 sLLM,自行建構客製化的 AI 服務,一個新的時代就此展開。

相較於 ChatGPT、HyperCLOVA X、Gemini 等 LLM(大型語言模型),sLLM(小型大型語言模型)規模較小,但可以針對特定領域進行專門的學習。由於所需的運算資源大幅減少,因此可以降低開發成本並增強安全性。透過使用 sLLM,企業可以有效率地建構專屬的 AI 服務。

SK C&C(社長:尹風英,skcc.co.kr)於 20 日宣布,推出一個名為『Solur LLMOps』(以下簡稱『Solur LLMOps』)的平台,協助企業輕鬆快速地建構客製化的 sLLM(小型大型語言模型)。

SK C&C 在金融、製造、電信、服務等各個產業領域,與眾多客戶合作建構和營運生成式 AI 服務,並將累積的生成式 AI 基礎模型應用方案、企業資料整合和學習訣竅,以及企業客製化 sLLM 建構的整個流程,都整合到『Solur LLMOps』中。

基礎模型透過學習結構化和非結構化資料,來支援各種 AI 作業,例如語言理解、文字和影像生成、自然語言對話等。

『Solur LLMOps』首先支援組合和運用各種外部基礎模型。

除了 OpenAI 的 ChatGPT、NAVER Cloud 的 HyperCLOVA X 等商業 LLM 之外,還可以運用各種由開源 LLM 建構的基礎模型。為了建構符合企業 AI 特性的 sLLM,系統會推薦所需的基礎模型,並支援選擇、組合和運用的過程。

特別是在企業業務所需的△資料收集和預處理△自動生成學習資料△運用外部基礎模型進行學習△ sLLM 生成和測試等整個過程中,都應用了超自動化 (Hyperautomation),大幅提升企業客製化 sLLM 建構流程的效率,並降低成本。

實際上,『Solur LLMOps』在企業收集資料的同時,也會預處理非結構化資料,並自動生成學習資料。之後,運用選定的外部生成式 AI 基礎模型快速進行學習,並建構符合企業業務目的的 sLLM。此外,它還提供無伺服器 (Serverless) 學習資源管理,提供可以最佳化有限資源的架構。

『Solur LLMOps』也提供 AI 生成錯誤答案的幻覺 (Hallucination) 現象消除和 sLLM 測試功能。

在資料預處理、模型生成、評估和運用等各個階段,都提供 AI 自動化工具來處理幻覺,讓非專業人士也能安心地建構 sLLM。

在『Solur LLMOps』的聊天視窗中,只需提出簡單的問題就能執行完整性測試,系統也會自動提供測試所需的問題。

此外,『Solur LLMOps』還提供使用者友善的介面 (UI) 和體驗 (UX),以建構符合企業業務環境的快速 sLLM 模型,並確保其可靠性。

使用者可以在網頁畫面中選擇資料,並透過簡單的拖放 (Drag & Drop) 方式重複執行從資料清理到模型調整和測試等作業。不僅可以處理大量資料,還可以透過滑鼠操作輕鬆執行運用多個基礎模型的同步並行學習。

透過這種方式,企業現場的實務人員可以輕鬆建構符合自身業務需求的 sLLM,並將其應用於各種業務中。

SK C&C G.AI 事業群長車志元表示:「『Solur LLMOps』中包含的主要功能已應用於金融業和其他 SK 集團公司生成式 AI 建構專案。」並進一步表示:「我們將以此為起點,積極努力推廣在韓國各個產業領域的企業客製化 sLLM。」

網站:http://www.skcc.com

聯絡方式
SK㈜ C&C
公關團隊
池允珍經理

评论0