Snowflake Arctic model ailesine, sınıfının en iyi performansa ve verimliliğe sahip açık kaynaklı büyük dil modeli eklendi.

Apache 2.0 lisansı altında açık kaynaklı... Çeşitli çerçeveleri destekleyerek özelleştirilebilir esneklik sunar.

Global veri bulutu şirketi Snowflake, sektörün en iyi açıklık ve performansını sunan kurumsal düzeyde büyük bir dil modeli (Large Language Model, kısaca LLM) olan 'Snowflake Arctic'i piyasaya sürdü.

https://seenthis.kr/newspage/2344

Snowflake'in benzersiz Uzman Karışımı (MoE·Mixture-of-Experts) yaklaşımıyla tasarlanan Arctic, sınıfının en iyi performansını ve verimliliğini sunar. Şirketlerin karmaşık gereksinimlerini karşılamak üzere optimize edilmiş olan Arctic, SQL kodu oluşturma, komut yürütme ve diğer birçok ölçütte en yüksek standartları karşılar.

Özellikle Arctic, ücretsiz ve ticari kullanım için geçerli Apache 2.0 lisansı altında sunulur. Snowflake, AI eğitim yöntemleri hakkında ayrıntılı bilgileri açıklayarak kurumsal düzeyde AI teknolojisi için yeni bir açık standart oluşturdu. Arctic LLM, Snowflake Arctic model ailesinin bir parçasıdır ve arama kullanımı için metin gömme modelleri de içerir.

Snowflake CEO'su Sridhar Ramaswamy, "Snowflake AI araştırma ekibi, AI alanında öncü inovasyonları gerçekleştirerek şirketimizde önemli bir dönüm noktasına ulaştı." dedi ve ekledi: "Snowflake, açık kaynak kodlu AI'nın potansiyelini genişleterek sektöre en iyi performans ve verimliliği açık kaynaklı olarak sunuyor. Müşterilerimize yetenekli ve güvenilir AI modelleri sunma kapasitemiz de gelişiyor."

◇ Arctic, geniş çapta iş birliğini destekleyen açık kaynaklı bir LLM

Piyasa araştırma kuruluşu Forrester'ın son raporuna göre, küresel şirketlerin AI karar alma yetkililerinin yaklaşık %46'sı, 'AI stratejileri kapsamında, şirketlerine üretken AI eklemek için mevcut açık kaynaklı LLM'leri kullanacaklarını' söylüyor. Snowflake veri bulutu platformu, şu anda dünya çapında 9.400'den fazla şirket ve kuruluş tarafından veri tabanlı olarak kullanılıyor. Bu şirketler, sektörün en iyi açıklık düzeyini sunan LLM'ler aracılığıyla verilere erişebilecekler.

Apache 2.0 lisansı altında sunulan açık kaynaklı bir model olan Arctic, kod şablonları ve hem çıkarım hem de eğitim yöntemleri için seçenekler sunarak esneklik sağlar. Kullanıcılar, NVIDIA NIM, NVIDIA TensorRT-LLM, vLLM, Hugging Face gibi şirketlerin tercih ettiği çerçevelerle Arctic'i kullanabilir ve özelleştirebilirler. Snowflake Cortex, Arctic'i sunucusuz çıkarım aracılığıyla hemen kullanmaya imkan tanır. Snowflake Cortex, tamamen yönetilen bir hizmettir ve veri bulutunda makine öğrenimi ve AI çözümleri sunan Hugging Face, Lamini, Microsoft Azure, NVIDIA API Kataloğu, Perplexity ve Together AI gibi çeşitli model listeleri sunar. Arctic'in yakın gelecekte Amazon Web Services'te (AWS) de kullanılabilir hale gelmesi planlanıyor.

◇ Mükemmel kaynak verimliliği ve en üst düzeyde performans

Snowflake AI araştırma ekibi, sektörün en iyi araştırmacıları ve sistem mühendislerinden oluşmaktadır. Arctic'in kurulumu 3 aydan kısa sürede tamamlandı. Model eğitiminde Amazon Elastic Compute Cloud (Amazon EC2) P5 örnekleri kullanıldı ve eğitim maliyeti, benzer modellere kıyasla 8 kat daha az oldu. Snowflake, en son açık kaynaklı kurumsal düzeyde modellerin eğitim hızında yeni bir standart belirleyerek, kullanıcıların maliyet etkin ve özelleştirilmiş modelleri en uygun ölçekte oluşturmasını sağlamayı hedefliyor.

Arctic'in benzersiz MoE tasarımı, şirketlerin ihtiyaçlarına göre özel olarak tasarlanan veri derlemeleri aracılığıyla hem eğitim sisteminin hem de model performansının iyileştirilmesini sağlar. Ayrıca, 480 milyar parametreyi bir seferde 17'şer olmak üzere etkinleştirerek üstün belirteç verimliliği ve sektörün en iyi kalitesini sunarak en iyi sonuçları sağlar. Arctic, çıkarım veya eğitim sırasında DBRX'ten yaklaşık %50 ve Llama 3 70B'den yaklaşık %75 daha az parametre etkinleştirerek çığır açan verimlilik iyileştirmeleri sağlar. Kodlama (HumanEval+, MBPP+) ve SQL oluşturma (Spider) açısından da DBRX, Mixtral-8x7B gibi önde gelen mevcut açık kaynaklı modellerin performansını geride bırakırken, genel dil anlayışı (MMLU, büyük ölçekli çoklu görevli dil anlayışı) konusunda en üst düzeyde performans sergiliyor.

◇ Snowflake'in öncülüğünde herkes için AI devrimi

Snowflake, şirketlerin kendi verilerini kullanarak pratik AI/makine öğrenimi uygulamaları oluşturmak için ihtiyaç duydukları veri tabanını ve en son AI yapı taşlarını sunar. Müşteriler Snowflake Cortex aracılığıyla Arctic'i kullandığında, veri bulutunun güvenlik ve yönetişim kapsamında üretim düzeyinde AI uygulamalarını uygun ölçekte oluşturmak daha kolay hale gelir.

Arctic LLM'nin de yer aldığı Snowflake Arctic model ailesinde, Snowflake'in yakın zamanda piyasaya sürdüğü en son metin gömme modellerinden biri olan Arctic embed de bulunuyor. Bu ürün, Apache 2.0 lisansı altında açık kaynaklı topluluk tarafından ücretsiz olarak kullanılabilir. 5 modelden oluşan bu aile, doğrudan Hugging Face'ten kullanılabilir ve Snowflake Cortex'e entegre olarak özel önizleme halinde sunulacaktır. Benzer modellere kıyasla yaklaşık üçte biri boyutunda olan bu gömme modeli, en iyi arama performansı için optimize edilmiştir ve şirketlerin Arama Artırılmış Oluşturma (RAG) veya anlamsal arama hizmetlerinin bir parçası olarak benzersiz veri kümelerini LLM'lerle birleştirdiklerinde etkili ve ekonomik bir çözüm sunar.

Son zamanlarda Snowflake, müşterilerin veri bulutunda en yüksek performanslı en son LLM'lere erişebilmelerini sağlamak amacıyla Reka ve Mistral AI modellerini de ekledi. Ayrıca, AI inovasyonunu sürdürmek için yakın zamanda NVIDIA ile genişletilmiş bir ortaklık duyurusu yaptı. Snowflake'in veri bulutu, tam yığımlı NVIDIA hızlandırılmış platformlarla birleşerek sektör genelinde AI üretkenliğini aktif olarak kullanabilen güvenli ve güçlü bir altyapı ve bilgi işlem kapasitesi sağlıyor. Snowflake Ventures, müşterilerin kendi şirket verilerinde LLM ve AI aracılığıyla değer yaratmalarına yardımcı olmak için yakın zamanda Landing AI, Mistral AI ve Reka'ya yatırım yaptı.