Snowflake lanceert Arctic: een Enterprise-grade LLM met ongeëvenaarde openheid

Snowflake voegt een toonaangevend open Large Language Model (LLM) toe aan de Snowflake Arctic-modelfamilie.

Open source onder Apache 2.0-licentie… Biedt flexibiliteit voor aanpassing met ondersteuning voor verschillende frameworks.

Snowflake, een toonaangevend bedrijf op het gebied van globale dataclouden, heeft 'Snowflake Arctic', een enterprise-grade Large Language Model (LLM) met ongeëvenaarde openheid en prestaties, gelanceerd.

https://seenthis.kr/newspage/2344

Arctic, ontworpen met de unieke MoE (Mixture-of-Experts)-benadering van Snowflake, biedt toonaangevende prestaties en productiviteit. Het is geoptimaliseerd voor het verwerken van complexe bedrijfsvereisten en voldoet aan de hoogste normen in verschillende benchmarks, zoals het genereren van SQL-code en het uitvoeren van opdrachten.

Met name Arctic wordt verspreid onder de Apache 2.0-licentie, die gratis gebruik en commerciële toepassing toestaat. Snowflake heeft details over de AI-trainingsmethoden openbaar gemaakt en daarmee een nieuwe open standaard voor enterprise-grade AI-technologie gecreëerd. Bovendien maakt Arctic LLM deel uit van de Snowflake Arctic-modelfamilie en omvat het ook tekst-embeddingmodellen voor zoektoepassingen.

Sridhar Ramaswamy, CEO van Snowflake, zei: "Het Snowflake AI-onderzoeksteam heeft baanbrekende innovaties in AI gerealiseerd en een belangrijke mijlpaal voor ons bedrijf bereikt." "Door de beste prestaties en efficiëntie in de sector als open source beschikbaar te stellen aan de AI-community, breidt Snowflake de mogelijkheden van open source AI uit. We versterken ook de AI-mogelijkheden van Snowflake om klanten betrouwbare en krachtige AI-modellen te kunnen bieden."

◇ Arctic: een open source LLM die brede samenwerking ondersteunt

Volgens een recent rapport van Forrester gebruikt ongeveer 46% van de AI-besluitvormers bij wereldwijde bedrijven bestaande open source LLM's om generatieve AI in hun organisaties te implementeren als onderdeel van hun AI-strategie. Het Snowflake-datacloudplatform wordt momenteel door meer dan 9400 bedrijven en organisaties wereldwijd gebruikt om gegevens te benutten. Dankzij de LLM met toonaangevende openheid kunnen deze organisaties hun gegevens optimaal gebruiken.

Arctic, een open source model onder Apache 2.0-licentie, biedt ook flexibiliteit in de keuze van inferentie- en trainingsmethoden, samen met codetemplates. Gebruikers kunnen Arctic gebruiken en aanpassen met de door hen gewenste frameworks, zoals NVIDIA NIM, NVIDIA TensorRT-LLM, vLLM en Hugging Face. Met serverloze inferentie via Snowflake Cortex kunnen gebruikers Arctic onmiddellijk gebruiken. Snowflake Cortex is een volledig beheerde service die machine learning- en AI-oplossingen in de datacloud biedt, inclusief een uitgebreide lijst met modellen van bedrijven zoals Hugging Face, Lamini, Microsoft Azure, NVIDIA API-catalogus, Perplexity en Together AI. Arctic zal ook beschikbaar zijn op Amazon Web Services (AWS).

◇ Uitstekende bronnenefficiëntie en toonaangevende prestaties

Het Snowflake AI-onderzoeksteam bestaat uit toonaangevende onderzoekers en systeemengineers. De ontwikkeling van Arctic duurde minder dan drie maanden. Voor de training van het model werd gebruik gemaakt van Amazon Elastic Compute Cloud (Amazon EC2) P5-instanties, met trainingskosten die slechts een achtste waren van vergelijkbare modellen. Snowflake zet daarmee nieuwe normen voor de trainingstijd van geavanceerde open enterprise-modellen en streeft ernaar gebruikers in staat te stellen kostenbesparende en aangepaste modellen te creëren op de optimale schaal.

Het unieke MoE-ontwerp van Arctic verbetert zowel het trainingssysteem als de modelprestaties door nauwkeurig ontworpen gegevensassemblage die is afgestemd op de vereisten van het bedrijf. Door tegelijkertijd 17 van de 480 miljard parameters te activeren, levert het een uitzonderlijke token-efficiëntie en toonaangevende kwaliteit, wat leidt tot optimale resultaten. Arctic activeert tijdens inferentie of training ongeveer 50% minder parameters dan DBRX en ongeveer 75% minder dan Llama 3 70B voor een aanzienlijke verbetering van de efficiëntie. Het overtreft ook toonaangevende bestaande open source modellen, zoals DBRX en Mixtral-8x7B, op het gebied van codering (HumanEval+, MBPP+) en SQL-generatie (Spider), en presteert uitstekend op algemene taalbegrip (MMLU, Large-scale Multitask Language Understanding).

◇ AI-innovatie voor iedereen, geleid door Snowflake

Snowflake biedt bedrijven de gegevensbasis en geavanceerde AI-bouwstenen die nodig zijn om praktische AI/machine learning-toepassingen te bouwen op basis van hun eigen gegevens. Wanneer klanten Arctic gebruiken via Snowflake Cortex, wordt het eenvoudiger om productie-klare AI-toepassingen op de juiste schaal te bouwen binnen de beveiligings- en governance-parameters van de datacloud.

De Snowflake Arctic-modelfamilie, waartoe ook Arctic LLM behoort, omvat Arctic Embed, een van de nieuwste geavanceerde tekst-embeddingmodellen die onlangs door Snowflake zijn gelanceerd. Dit product is open source onder de Apache 2.0-licentie en gratis beschikbaar voor de open source-community. Deze productfamilie, bestaande uit vijf modellen, is direct beschikbaar via Hugging Face en zal binnenkort in een private preview-vorm worden geïntegreerd in Snowflake Cortex. Dit embeddingmodel, dat ongeveer een derde van de grootte is van vergelijkbare modellen, is geoptimaliseerd voor optimale zoekprestaties en biedt bedrijven een efficiënte en kosteneffectieve oplossing wanneer ze hun eigen datasets combineren met LLM's als onderdeel van een RAG (Retrieval Augmented Generation)- of semantische zoekdienst.

Snowflake blijft AI-innovatie stimuleren, met recente toevoegingen van modellen van Reka en Mistral AI om ervoor te zorgen dat klanten toegang hebben tot de meest geavanceerde en krachtige LLM's in de datacloud. Daarnaast heeft Snowflake onlangs een uitgebreide samenwerking met NVIDIA aangekondigd. De Snowflake-datacloud, gecombineerd met het volledige NVIDIA-versnelde platform, levert veilige en robuuste infrastructuur en rekencapaciteit die AI-productiviteit in verschillende sectoren maximaliseert. Snowflake Ventures heeft onlangs ook geïnvesteerd in bedrijven zoals Landing AI, Mistral AI en Reka om klanten te helpen waarde te creëren uit hun eigen bedrijfsgegevens met behulp van LLM's en AI.