- 스노우플레이크, 업계 최고 수준의 개방성 갖춘 엔터프라이즈급 LLM ‘아크틱’ 출시 > 뉴스 - 스타트업 커뮤니티 씬디스
- 스노우플레이크 아크틱 모델군에 동급 최고 성능·효율 갖춘 개방형 대규모언어모델 추가아파치 2.0 라이선스 기반 오픈소스… 다양한 프레임워크 지원…, 스타트업에 종사하시는 여러분들의 놀이터 씬디스는 스타트업 커뮤니티 입니다.
Snowflake adiciona modelo de linguagem de grande escala (LLM) de código aberto com desempenho e eficiência incomparáveis à família de modelos Snowflake Arctic
Open source sob licença Apache 2.0… Flexibilidade para personalização com suporte a vários frameworks
A Snowflake, empresa global de dados na nuvem, lançou o Snowflake Arctic, um modelo de linguagem de grande escala (LLM) empresarial com o mais alto nível de abertura e desempenho do setor.
Projetado com o método exclusivo de mistura de especialistas (MoE - Mixture-of-Experts) da Snowflake, o Arctic oferece desempenho e produtividade incomparáveis. Ele também é otimizado para lidar com os requisitos complexos das empresas, atendendo aos requisitos de nível superior em várias áreas, como geração de código SQL e execução de comandos.
Em particular, o Arctic é licenciado sob a licença Apache 2.0, que permite o uso comercial gratuito. A Snowflake divulgou detalhes sobre como o IA é treinado e estabeleceu um novo padrão aberto para tecnologia de IA empresarial. Além disso, o Arctic LLM faz parte da família de modelos Snowflake Arctic, que também inclui um modelo de incorporação de texto para pesquisa.
Sridhar Ramaswamy, CEO da Snowflake, disse: "A equipe de pesquisa de IA da Snowflake está impulsionando inovações de ponta em IA e criando um ponto de virada significativo para a nossa empresa." "Ao disponibilizar a IA de código aberto de melhor desempenho e eficiência para a comunidade, estamos expandindo as possibilidades da IA de código aberto. Também estamos aprimorando as capacidades de IA da Snowflake para fornecer aos nossos clientes modelos de IA confiáveis e eficazes."
◇ Arctic: um LLM de código aberto que promove ampla colaboração
De acordo com um relatório recente da Forrester, cerca de 46% dos tomadores de decisão de IA em empresas globais disseram que estão usando LLMs de código aberto existentes como parte de sua estratégia de IA para implantar IA generativa em suas empresas. A plataforma de dados na nuvem Snowflake está sendo usada por mais de 9.400 empresas e organizações em todo o mundo. Eles podem usar LLMs com o mais alto nível de abertura do setor para aproveitar seus dados.
Como um modelo de código aberto sob a licença Apache 2.0, o Arctic oferece flexibilidade na escolha de métodos de inferência e treinamento, juntamente com modelos de código. Os usuários podem usar e personalizar o Arctic com seus frameworks preferidos, incluindo NVIDIA NIM, NVIDIA TensorRT-LLM, vLLM e Hugging Face. O Snowflake Cortex permite que você use o Arctic instantaneamente por meio de inferência sem servidor. O Snowflake Cortex é um serviço totalmente gerenciado que fornece soluções de aprendizado de máquina e IA no Snowflake Data Cloud, juntamente com uma lista de vários modelos, incluindo Hugging Face, Lamini, Microsoft Azure, NVIDIA API Catalog, Perplexity e Together AI. O uso do Arctic também estará disponível no Amazon Web Services (AWS) no futuro.
◇ Eficiência de recursos incomparável e desempenho de ponta
A equipe de pesquisa de IA da Snowflake é composta por alguns dos principais pesquisadores e engenheiros de sistemas do setor. O Arctic foi construído em menos de três meses. O treinamento do modelo foi realizado em instâncias Amazon Elastic Compute Cloud (Amazon EC2) P5, e o custo de treinamento foi ⅛ do custo de modelos semelhantes. A Snowflake está estabelecendo um novo padrão para a velocidade de treinamento de modelos empresariais abertos de ponta e, em última análise, ajudará os usuários a gerar modelos otimizados, econômicos e personalizados em escala.
O design MoE diferenciado do Arctic melhora tanto o sistema de treinamento quanto o desempenho do modelo por meio da compilação de dados cuidadosamente projetada para atender às necessidades dos negócios. Ele também fornece os melhores resultados, ativando 480 bilhões de parâmetros 17 de cada vez para excelente eficiência de token e qualidade de ponta. Para melhorar a eficiência de forma inovadora, o Arctic ativa cerca de 50% menos parâmetros que o DBRX e 75% menos que o Llama 3 70B durante a inferência ou treinamento. Ele também supera o desempenho de modelos de código aberto existentes como DBRX e Mixtral-8x7B em tarefas de codificação (HumanEval+, MBPP+) e geração de SQL (Spider) e fornece desempenho de ponta em compreensão de linguagem geral (MMLU, Compreensão de Linguagem Multitarefa em Grande Escala).
◇ IA inovadora para todos, liderada pela Snowflake
A Snowflake fornece a base de dados e os blocos de construção de IA de ponta necessários para as empresas criarem aplicativos de IA/aprendizado de máquina práticos usando seus próprios dados. Quando os clientes usam o Arctic por meio do Snowflake Cortex, fica mais fácil construir aplicativos de IA em produção na escala certa dentro do escopo de segurança e governança do Snowflake Data Cloud.
A família de modelos Snowflake Arctic, que inclui o Arctic LLM, também inclui o Arctic Embed, um dos modelos de incorporação de texto de última geração recentemente lançados pela Snowflake. Este produto está disponível gratuitamente para a comunidade de código aberto sob a licença Apache 2.0. Esta família de cinco modelos está disponível no Hugging Face e será lançada em acesso antecipado por meio do Snowflake Cortex. Com aproximadamente ⅓ do tamanho de modelos semelhantes, este modelo de incorporação é otimizado para o melhor desempenho de pesquisa, fornecendo uma solução econômica e eficaz para empresas que desejam combinar seus próprios conjuntos de dados com LLMs como parte de serviços de recuperação aumentada por IA ou pesquisa semântica.
Recentemente, a Snowflake adicionou os modelos Reka e Mistral AI para garantir que os clientes possam acessar os LLMs mais poderosos e modernos no Snowflake Data Cloud. Também estamos continuando nossa inovação em IA por meio de uma parceria expandida com a NVIDIA. O Snowflake Data Cloud, em conjunto com a plataforma NVIDIA totalmente acelerada, fornece infraestrutura e capacidade de computação seguras e robustas que permitem o uso produtivo da IA em toda a indústria. A Snowflake Ventures também fez investimentos recentes em Landing AI, Mistral AI e Reka para ajudar os clientes a gerar valor por meio de LLMs e IA em seus próprios dados corporativos.
Comentários0