Se agregó un modelo de lenguaje amplio de código abierto de última generación con el mejor rendimiento y eficiencia de su clase a la familia de modelos Snowflakes Arctic.

De código abierto bajo la licencia Apache 2.0... Flexibilidad para personalizar con soporte para una variedad de marcos.

Snowflake, una empresa de datos en la nube global, ha lanzado 'Snowflake Arctic', un modelo de lenguaje amplio de nivel empresarial (LLM) de nivel empresarial que ofrece el mejor rendimiento y apertura de la industria.

https://seenthis.kr/newspage/2344

Diseñado con el enfoque único de mezcla de expertos (MoE) de Snowflake, Arctic ofrece el mejor rendimiento y productividad de su clase. Está optimizado para manejar requisitos comerciales complejos, satisfaciendo los criterios más altos en una variedad de medidas, incluida la generación de código SQL y la ejecución de comandos.

En particular, Arctic es de código abierto bajo la licencia Apache 2.0, que permite un uso comercial gratuito. Snowflake ha publicado los detalles de los métodos de aprendizaje de IA, estableciendo un nuevo estándar abierto para la tecnología de IA empresarial. Arctic LLM forma parte de la familia de modelos Snowflake Arctic y también incluye un modelo de incrustación de texto para uso de búsqueda.

Sridhar Ramaswamy, CEO de Snowflake, dijo: “El equipo de investigación de IA de Snowflake está liderando la innovación en la vanguardia de la IA, marcando un punto de inflexión significativo para nuestra empresa. Al hacer que la IA de mejor rendimiento y eficiencia de la industria esté disponible de código abierto para la comunidad de IA, estamos ampliando el ámbito de las posibilidades de la IA de código abierto. También estamos fortaleciendo la capacidad de IA de Snowflake para ofrecer modelos de IA competentes y confiables a nuestros clientes”.

◇ Arctic, un LLM de código abierto que admite una amplia colaboración

Un informe reciente de Forrester, una firma de investigación de mercado, encontró que alrededor del 46% de los tomadores de decisiones de IA en empresas globales dijeron que “están utilizando LLM de código abierto existentes como parte de su estrategia de IA para adoptar la IA generativa en sus empresas”. La plataforma de datos en la nube de Snowflake actualmente está impulsando los datos de más de 9400 empresas y organizaciones en todo el mundo. Ahora pueden aprovechar los datos a través de un LLM que ofrece los niveles más altos de apertura de la industria.

Arctic, un modelo de código abierto bajo la licencia Apache 2.0, también ofrece flexibilidad para elegir el método de inferencia y aprendizaje junto con las plantillas de código. Los usuarios pueden usar y personalizar Arctic con marcos que las empresas prefieren, como NVIDIA NIM, NVIDIA TensorRT-LLM, vLLM y Hugging Face. También pueden usar Arctic de inmediato a través de la inferencia sin servidor en Snowflake Cortex. Snowflake Cortex es un servicio completamente administrado que ofrece soluciones de aprendizaje automático e IA en la nube de datos, junto con una variedad de modelos, incluidos Hugging Face, Lamini, Microsoft Azure, Catálogo de API de NVIDIA, Perplexity y Together AI. El uso de Arctic también estará disponible en Amazon Web Services (AWS).

◇ Excelentes recursos de eficiencia y rendimiento de vanguardia

El equipo de investigación de IA de Snowflake está formado por los mejores investigadores e ingenieros de sistemas de la industria. Se tardó menos de tres meses en construir Arctic. Para entrenar el modelo, se utilizaron instancias de Amazon Elastic Compute Cloud (Amazon EC2) P5, y los costos de entrenamiento fueron una octava parte de los modelos similares. Snowflake está estableciendo un nuevo estándar para la velocidad de entrenamiento de modelos empresariales de código abierto de última generación, que en última instancia permite a los usuarios generar modelos económicos y personalizados a escala óptima.

El diseño único de MoE de Arctic mejora tanto el sistema de aprendizaje como el rendimiento del modelo a través de una compilación de datos cuidadosamente diseñada de acuerdo con los requisitos comerciales. También logra una eficiencia de tokens excepcional y la mejor calidad de la industria, activando 480 mil millones de parámetros 17 a la vez para ofrecer los mejores resultados. Para mejorar drásticamente la eficiencia, Arctic activa aproximadamente un 50% menos de parámetros que DBRX durante la inferencia o el aprendizaje, y aproximadamente un 75% menos que Llama 3 70B. En cuanto a la codificación (HumanEval+, MBPP+) y la generación de SQL (Spider), supera el rendimiento de los modelos de código abierto existentes populares, como DBRX, Mixtral-8x7B, y al mismo tiempo ofrece un rendimiento de primer nivel en la comprensión del lenguaje natural (MMLU, comprensión del lenguaje de múltiples tareas a gran escala).

◇ Innovación de IA para todos impulsada por Snowflake

Snowflake proporciona la base de datos y los bloques de construcción de IA de vanguardia necesarios para que las empresas creen aplicaciones prácticas de IA/aprendizaje automático con sus propios datos. Cuando los clientes usan Arctic a través de Snowflake Cortex, es más fácil construir aplicaciones de IA de producción a escala adecuada dentro del alcance de seguridad y gobernanza de la nube de datos.

La familia de modelos Snowflake Arctic, que incluye Arctic LLM, también incluye Arctic Embed, uno de los modelos de incrustación de texto de última generación lanzados recientemente por Snowflake. Este producto está disponible de forma gratuita para la comunidad de código abierto bajo la licencia Apache 2.0. Esta familia de modelos, compuesta por cinco modelos, está disponible en Hugging Face y se lanzará pronto como una vista previa privada integrada en Snowflake Cortex. Esta incrustación de modelo, que es aproximadamente un tercio del tamaño de modelos similares, está optimizada para ofrecer el mejor rendimiento de búsqueda, lo que proporciona a las empresas una solución económica y efectiva cuando combinan conjuntos de datos únicos con LLM como parte de los servicios de búsqueda aumentada por generación (RAG) o búsqueda semántica.

Recientemente, Snowflake ha agregado modelos de Reka y Mistral AI, brindando a los clientes acceso a los LLM más potentes y modernos en la nube de datos. También está impulsando continuamente la innovación en IA con su asociación ampliada con NVIDIA recientemente anunciada. La nube de datos de Snowflake se combina con la plataforma NVIDIA acelerada de extremo a extremo para brindar una infraestructura segura y robusta y capacidades de computación para aprovechar activamente la productividad de la IA en todas las industrias. Snowflake Ventures ha invertido recientemente en Landing AI, Mistral AI y Reka, entre otros, para ayudar a los clientes a desbloquear el valor de LLM e IA en sus propios datos empresariales.