스타트업 커뮤니티 씬디스 (SeenThis.kr)

SK C&C presenta 'Soluer LLMOps', una plataforma para la implementación de sLLM personalizados para clientes

Creado: 2024-05-20

Creado: 2024-05-20 11:29

Utilización de diversos modelos básicos proporcionados por LLM comerciales como ChatGPT y ClovaX, y LLM de código abierto

Implementación de hiperautomatización en todo el proceso de creación de sLLM, incluyendo la recopilación y preprocesamiento de datos, el entrenamiento, las pruebas y el servicio.

También se ofrece la función de eliminación de fenómenos de alucinación (Hallucination) y pruebas de sLLM.

Creación rápida de sLLM mediante arrastrar y soltar y aseguramiento de la confiabilidad del sLLM mediante aprendizaje paralelo de datos periódico.

Se abre una nueva era en la que las empresas pueden implementar por sí mismas servicios de IA personalizados a través de sLLM (modelos de lenguaje extenso pequeños) que combinan libremente diversos modelos básicos.

Los sLLM son más pequeños que los LLM (modelos de lenguaje extenso) como ChatGPT, HyperCLOVA X y Gemini, pero pueden entrenarse para especializarse en áreas específicas. Consumen muchos menos recursos informáticos, lo que reduce los costos de desarrollo y mejora la seguridad. Por lo tanto, el uso de sLLM permite la construcción eficiente de servicios de IA exclusivos para empresas.

SK C&C (Presidente: Yoon Fung-young, skcc.co.kr) anunció hoy que proporcionará "Solur LLMOps" (en adelante, "Solur LLMOps"), una plataforma que ayuda a las empresas a implementar sLLM (modelos de lenguaje extenso pequeños) personalizados de forma fácil y rápida.

SK C&C ha integrado en "Solur LLMOps" las estrategias de aplicación de modelos básicos de IA generativa, los conocimientos acumulados sobre la combinación y el entrenamiento de datos empresariales, y todo el proceso de implementación de sLLM personalizados, basados en la experiencia adquirida a través de la implementación y operación de servicios de IA generativa con diversos clientes en una variedad de sectores, incluyendo finanzas, manufactura, telecomunicaciones y servicios.

Los modelos básicos son capaces de realizar diversas tareas de IA, como la comprensión del lenguaje, la generación de texto e imágenes, y la conversación en lenguaje natural, mediante el entrenamiento con datos estructurados y no estructurados.

En primer lugar, "Solur LLMOps" proporciona soporte para combinar y utilizar diversos modelos básicos externos.

Además de los LLM comerciales como OpenAI ChatGPT y Naver Cloud HyperCLOVA X, también se pueden utilizar varios modelos básicos creados con LLM de código abierto. Se recomienda el modelo básico necesario para construir un sLLM adecuado a las características de la IA de la empresa, y se apoya el proceso de selección, combinación y uso.

En particular, se aplica la hiperautomatización (hiperautomatización) a todo el proceso, incluyendo la recopilación y preprocesamiento de datos, la generación automática de datos de entrenamiento, el entrenamiento utilizando modelos básicos externos, y la creación y prueba de sLLM, con el fin de mejorar radicalmente la eficiencia y reducir los costos en el proceso de creación de sLLM personalizados para empresas.

De hecho, "Solur LLMOps" genera automáticamente datos de entrenamiento al preprocesar datos no estructurados al mismo tiempo que recopila los datos que posee la empresa. Posteriormente, utiliza el modelo básico de IA generativa externo seleccionado para llevar a cabo un entrenamiento rápido y completar un sLLM adaptado a los objetivos de la empresa. Además, proporciona una arquitectura que permite optimizar los recursos limitados a través de la gestión de recursos de entrenamiento sin servidor (Serverless).

“Solur LLMOps” también ofrece funciones de eliminación de fenómenos de alucinación (Hallucination, alucinación) de la IA y prueba de sLLM.

Proporciona herramientas de automatización de IA para el tratamiento de alucinaciones en cada etapa, desde el preprocesamiento de datos hasta la creación, evaluación y utilización del modelo, lo que permite a los no expertos crear sLLM con confianza.

Se puede realizar una prueba de integridad a través de la ventana de chat de "Solur LLMOps" con una simple pregunta, y también se proporcionan automáticamente preguntas para la prueba.

Además de lo anterior, "Solur LLMOps" ofrece una interfaz de usuario (UI) y una experiencia de usuario (UX) fáciles de usar para la creación rápida de modelos sLLM que se ajusten al entorno de trabajo de la empresa y para asegurar su confiabilidad.

Los usuarios pueden realizar repetidamente tareas como el refinamiento de datos, el ajuste fino del modelo y las pruebas, desde la selección de datos en la pantalla web hasta mediante un simple método de arrastrar y soltar (Drag & Drop). También pueden realizar fácilmente el procesamiento de una gran cantidad de datos y el entrenamiento paralelo simultáneo utilizando varios modelos básicos con solo unos pocos clics del ratón.

Esto permite que los empleados en el lugar de trabajo puedan crear fácilmente los sLLM que necesitan para su trabajo y utilizarlos en una variedad de tareas.

Cha Ji-won, director del grupo G.AI de SK C&C, dijo: "Las principales funciones incluidas en Solur LLMOps se han aplicado a proyectos de creación de IA generativa para empresas financieras y empresas relacionadas con SK." Y agregó: "Sobre la base de esto, nos esforzaremos activamente para difundir el sLLM personalizado para empresas en toda la industria nacional."

Sitio web: http://www.skcc.com

Información de contacto
SK㈜ C&C
Departamento de Relaciones Públicas
Gerente Ji Yun-jin

Comentarios0