- SK C&C, 고객 맞춤형 sLLM 구현 지원 플랫폼 ‘솔루어 LLMOps’ 선보여 > 뉴스 - 스타트업 커뮤니티 씬디스
- 챗GPT, 클로바X 등 상용 LLM, 오픈소스 LLM이 제공하는 다양한 파운데이션 모델 활용데이터수집∙전처리∙학습∙테스트∙서빙 등 sLLM 제작…, 스타트업에 종사하시는 여러분들의 놀이터 씬디스는 스타트업 커뮤니티 입니다.
Gebruik van diverse foundationmodellen aangeboden door commerciële LLM's zoals ChatGPT en Clova X, en open-source LLM's.
Implementatie van hyperautomatisering in het hele proces van sLLM-productie, inclusief dataverzameling, -voorbewerking, -training, -testen en -serving.
Ook het elimineren van hallucinatie (Hallucination) verschijnselen en het aanbieden van sLLM-testfunctionaliteit.
Snelle sLLM-generatie via drag-and-drop en het waarborgen van de betrouwbaarheid van sLLM via regelmatig parallelle data-training.
Er breekt een tijdperk aan waarin bedrijven via sLLM's (kleine taalmodellen), die vrij gecombineerde foundationmodellen gebruiken, op maat gemaakte AI-diensten zelf kunnen implementeren.
sLLM's zijn kleiner dan LLM's (Large Language Models) zoals ChatGPT, Hyperclova X en Gemini, maar kunnen worden getraind om te specialiseren in specifieke domeinen. Ze verbruiken ook aanzienlijk minder rekenkracht, wat resulteert in lagere ontwikkelkosten en verbeterde beveiliging. Door gebruik te maken van sLLM's kunnen bedrijven efficiënt AI-diensten voor eigen gebruik opzetten.
SK C&C (CEO: Yoon Fung-young, skcc.co.kr) kondigde vandaag aan dat ze het platform 'Solur LLMOps' (hierna 'Solur LLMOps' genoemd) aanbieden, waarmee bedrijven eenvoudig en snel op maat gemaakte sLLM's kunnen implementeren.
SK C&C heeft de ervaring en expertise opgedaan in de implementatie en het beheer van generatieve AI-diensten in verschillende sectoren, zoals financiën, productie, telecommunicatie en diensten, in samenwerking met diverse klanten. Deze kennis en kunde, met betrekking tot het toepassen van generatieve AI foundationmodellen, het integreren en trainen van bedrijfsdata, en het hele implementatieproces van sLLM's op maat, is verwerkt in 'Solur LLMOps'.
Foundationmodellen worden getraind met gestructureerde en ongestructureerde data en ondersteunen diverse AI-taken, zoals taalbegrip, tekst- en beeldgeneratie en natuurlijke taaldialogen.
Ten eerste biedt 'Solur LLMOps' ondersteuning voor het combineren en gebruiken van diverse externe foundationmodellen.
Naast commerciële LLM's zoals OpenAI ChatGPT en Naver Cloud Hyperclova X, kunnen ook diverse foundationmodellen die zijn gecreëerd met open-source LLM's worden gebruikt. Het platform adviseert over, ondersteunt bij het selecteren, combineren en gebruiken van de benodigde foundationmodellen om een sLLM te bouwen die is afgestemd op de AI-kenmerken van het bedrijf.
Vooral in het hele proces, van △dataverzameling en -voorbewerking △automatische generatie van trainingsdata △training met behulp van externe foundationmodellen △sLLM-generatie en -testen, wordt hyperautomatisering toegepast om de efficiëntie van het proces van het opzetten van een op maat gemaakte sLLM te verbeteren en de kosten te verlagen.
Concreet genereert 'Solur LLMOps' automatisch trainingsdata door het verzamelen van data van bedrijven en het voorverwerken van ongestructureerde data. Vervolgens wordt met behulp van het geselecteerde externe generatieve AI foundationmodel snel getraind en wordt een sLLM voltooid die is afgestemd op de zakelijke doelstellingen van het bedrijf. Bovendien biedt het een architectuur die schaarse resources kan optimaliseren door middel van serverloze (Serverless) trainingsresourcebeheer.
‘Solur LLMOps’ biedt ook functies voor het elimineren van hallucinatie (Hallucination, waanvoorstellingen) - een fenomeen waarbij AI onjuiste antwoorden genereert - en voor het testen van sLLM's.
In elke fase, van datavoorbewerking tot modelgeneratie, evaluatie en gebruik, worden geautomatiseerde AI-tools voor het verwerken van hallucinaties aangeboden, zodat zelfs niet-experts zonder zorgen sLLM's kunnen creëren.
Via het chatvenster van 'Solur LLMOps' kan men door middel van eenvoudige vragen de volledigheid van het model testen, en het platform genereert automatisch vragen voor de test.
Daarnaast biedt 'Solur LLMOps' een gebruiksvriendelijke interface (UI) en ervaring (UX) voor het snel genereren van sLLM-modellen die perfect aansluiten bij de werkomgeving van het bedrijf, en voor het waarborgen van de betrouwbaarheid ervan.
Gebruikers kunnen via het webscherm data selecteren en via de eenvoudige drag-and-drop (Drag & Drop) methode de taken herhaaldelijk uitvoeren, van data-opschooning tot modeltuning en testen. Zowel het verwerken van grote hoeveelheden data als parallelle training met diverse foundationmodellen kunnen eenvoudig worden uitgevoerd met alleen muisbediening.
Daarmee kunnen medewerkers op de werkvloer eenvoudig de benodigde sLLM's creëren en deze inzetten voor diverse taken die relevant zijn voor hun werk.
Cha Ji-won, hoofd van de G.AI-groep van SK C&C, zei: “De belangrijkste functies van Solur LLMOps worden al toegepast in projecten voor het opzetten van generatieve AI bij financiële instellingen en andere SK-gelieerde bedrijven.” en voegde eraan toe: “We zullen ons actief inzetten om de verspreiding van sLLM's op maat voor bedrijven in alle sectoren van de nationale industrie te bevorderen.”
Website: http://www.skcc.com
Contact
SK㈜ C&C
PR-team
Manager Ji Yun-jin
Reacties0