- SK C&C, 고객 맞춤형 sLLM 구현 지원 플랫폼 ‘솔루어 LLMOps’ 선보여 > 뉴스 - 스타트업 커뮤니티 씬디스
- 챗GPT, 클로바X 등 상용 LLM, 오픈소스 LLM이 제공하는 다양한 파운데이션 모델 활용데이터수집∙전처리∙학습∙테스트∙서빙 등 sLLM 제작…, 스타트업에 종사하시는 여러분들의 놀이터 씬디스는 스타트업 커뮤니티 입니다.
Nutzung verschiedener Foundation Models, die von kommerziellen LLMs wie ChatGPT und Clova X sowie Open-Source-LLMs bereitgestellt werden
Implementierung von Hyperautomatisierung im gesamten Prozess der sLLM-Erstellung, von der Datenerfassung und -vorverarbeitung über das Training und Testen bis hin zum Bereitstellen
Beseitigung von Halluzinationsphänomenen (Hallucination) und Bereitstellung von Testfunktionen für sLLM
Schnelle sLLM-Erstellung per Drag & Drop und Sicherstellung der sLLM-Zuverlässigkeit durch fortlaufendes paralleles Lernen von Daten
Es beginnt eine Ära, in der Unternehmen durch die freie Kombination verschiedener Foundation Models zu sLLMs maßgeschneiderte KI-Dienste selbst implementieren können.
sLLMs sind im Vergleich zu LLMs (Large Language Models) wie ChatGPT, Hyperclova X und Gemini zwar kleiner, ermöglichen aber ein spezialisiertes Training für bestimmte Bereiche. Da sie deutlich weniger Rechenressourcen benötigen, lassen sich Entwicklungskosten senken und die Sicherheit verbessern. Durch den Einsatz von sLLMs können Unternehmen effizient KI-Dienste für den eigenen Gebrauch aufbauen.
SK C&C (CEO: Yoon Fung-yeong, skcc.co.kr) gab heute bekannt, dass die Plattform ‚Solur LLMOps‘ (im Folgenden ‚Solur LLMOps‘) bereitgestellt wird, mit der Unternehmen einfach und schnell maßgeschneiderte sLLMs (Small Large Language Models) implementieren können.
SK C&C hat die ‚Solur LLMOps‘ mit den Erfahrungen aus der Entwicklung und dem Betrieb von generativen KI-Diensten in verschiedenen Branchen wie Finanzwesen, Fertigung, Telekommunikation und Dienstleistungen zusammengetragen. Diese Erfahrungen umfassen die Anwendung von Foundation Models für generative KI, die Kombination und das Training von Unternehmensdaten sowie die Implementierung von sLLMs, die auf die jeweiligen Unternehmen zugeschnitten sind.
Foundation Models lernen strukturierte und unstrukturierte Daten und unterstützen verschiedene KI-Aufgaben wie Sprachverständnis, Text- und Bildgenerierung sowie natürliche Sprachkonversation.
‚Solur LLMOps‘ unterstützt zunächst die Kombination und Nutzung verschiedener externer Foundation Models.
Neben kommerziellen LLMs wie OpenAI ChatGPT und Naver Cloud Hyperclova X können auch verschiedene Foundation Models verwendet werden, die aus Open-Source-LLMs erstellt wurden. Die Plattform empfiehlt, wählt und kombiniert die für den Aufbau eines sLLM geeigneten Foundation Models und unterstützt den gesamten Prozess der Nutzung.
Insbesondere wird Hyperautomatisierung (Hyperautomation) auf den gesamten Prozess angewendet, der für den Aufbau eines unternehmensspezifischen sLLM erforderlich ist, von der Datenerfassung und -vorverarbeitung über die automatische Generierung von Trainingsdaten und das Training mit externen Foundation Models bis hin zur Generierung und zum Testen von sLLMs. Dadurch wird die Effizienz beim Aufbau eines unternehmensspezifischen sLLM deutlich gesteigert und die Kosten reduziert.
‚Solur LLMOps‘ sammelt und verarbeitet unstrukturierte Daten gleichzeitig mit der Datenerfassung des Unternehmens automatisch zu Trainingsdaten. Anschließend wird schnell mit dem ausgewählten externen generativen KI-Foundation Model trainiert und ein sLLM erstellt, das den geschäftlichen Zielen des Unternehmens entspricht. Darüber hinaus bietet es eine Architektur, die eine optimale Ressourcennutzung durch Serverless-Trainingsressourcenmanagement ermöglicht.
‚Solur LLMOps‘ bietet auch Funktionen zur Beseitigung von Halluzinationsphänomenen (Hallucination, Illusionen), bei denen die KI falsche Antworten generiert, sowie Testfunktionen für sLLMs.
Es werden automatisierte KI-Tools bereitgestellt, die Halluzinationen in den verschiedenen Phasen der Datenvorverarbeitung, Modellgenerierung, Bewertung und Nutzung behandeln, sodass auch Laien sLLMs sicher erstellen können.
Im Chatfenster von ‚Solur LLMOps‘ können Sie durch einfache Fragen die Vollständigkeit testen, und es werden automatisch Fragen bereitgestellt, die für den Test benötigt werden.
Darüber hinaus bietet ‚Solur LLMOps‘ eine benutzerfreundliche Oberfläche (UI) und Erfahrung (UX), um schnell ein sLLM zu erstellen, das genau auf die jeweilige Unternehmensumgebung zugeschnitten ist, und die Zuverlässigkeit zu gewährleisten.
Benutzer können auf dem Web-Bildschirm Daten auswählen und mit der einfachen Drag & Drop-Methode (Drag & Drop) die Aufgaben von der Datenbereinigung über das Modell-Tuning bis hin zum Testen wiederholt ausführen. Die Verarbeitung großer Datenmengen sowie paralleles Training mit mehreren Foundation Models kann einfach mit der Maus gesteuert werden.
Dadurch können Mitarbeiter vor Ort in Unternehmen einfach die benötigten sLLMs erstellen und für verschiedene Aufgaben verwenden.
Cha Ji-won, Leiter der G.AI-Gruppe von SK C&C, sagte: „Die Hauptfunktionen von Solur LLMOps sind bereits in Projekten zum Aufbau generativer KI bei Finanzinstituten und verbundenen Unternehmen von SK im Einsatz.“ Er fuhr fort: „Ausgehend davon werden wir uns aktiv für die Verbreitung unternehmensspezifischer sLLMs in der gesamten heimischen Industrie einsetzen.“
Website: http://www.skcc.com
Kontakt
SK㈜ C&C
PR-Team
Ji Yun-jin, Manager
Kommentare0