- 스노우플레이크, 업계 최고 수준의 개방성 갖춘 엔터프라이즈급 LLM ‘아크틱’ 출시 > 뉴스 - 스타트업 커뮤니티 씬디스
- 스노우플레이크 아크틱 모델군에 동급 최고 성능·효율 갖춘 개방형 대규모언어모델 추가아파치 2.0 라이선스 기반 오픈소스… 다양한 프레임워크 지원…, 스타트업에 종사하시는 여러분들의 놀이터 씬디스는 스타트업 커뮤니티 입니다.
Snowflake Arctic model ailesine, sınıfının en iyi performansına ve verimliliğine sahip açık kaynaklı büyük dil modeli eklendi
Apache 2.0 lisansı altında açık kaynaklıdır… Çeşitli çerçeveleri destekleyerek özelleştirme olanağı sağlayan esneklik sunar
Küresel veri bulutu şirketi Snowflake (Snowflake), sektörde en üst düzeyde açıklık ve performansa sahip kurumsal büyük dil modeli (Large Language Model, kısaca LLM) olan ‘Snowflake Arctic’i piyasaya sürdü.
Snowflake'e özgü uzman karışımı (MoE - Mixture-of-Experts) yöntemiyle tasarlanan Arctic, sınıfının en iyi performansını ve üretkenliğini destekler. Şirketlerin karmaşık gereksinimlerini işlemekte de optimize edilmiş olup, SQL kod oluşturma, komut yürütme gibi çeşitli kriterlerde en üst düzeyde koşulları karşılar.
Özellikle Arctic, ticari kullanıma kadar ücretsiz olan Apache 2.0 lisansı altında sunulur ve Snowflake, yapay zeka öğrenme yöntemleriyle ilgili ayrıntıları açıklayarak kurumsal yapay zeka teknolojileri için yeni bir açık standart belirlemiştir. Ayrıca, Arctic LLM, Snowflake Arctic model ailesinin bir parçasıdır ve arama kullanımı için metin gömme modeli de içerir.
Snowflake CEO'su Sridhar Ramaswamy, “Snowflake Yapay Zeka araştırma ekibi, yapay zeka alanında öncü bir şekilde yenilikçilik yaparak şirketimize önemli bir dönüm noktası kazandırdı” diyerek, “Snowflake, sektörün en iyi performansını ve verimliliğini açık kaynak olarak yapay zeka topluluğuna sunarak açık kaynaklı yapay zekanın potansiyel alanını genişletiyor. Müşterilerimize yetenekli ve güvenilir yapay zeka modelleri sunabilme yeteneğimiz de artıyor” dedi.
◇ Arctic, geniş kapsamlı iş birliğini destekleyen açık kaynaklı LLM
Piyasa araştırma kuruluşu Forrester'ın yayınladığı son rapora göre, küresel şirketlerin yapay zeka karar vericilerinin yaklaşık %46'sı, ‘yapay zeka stratejilerinin bir parçası olarak, kendi şirketlerine üretken yapay zeka uygulamak için mevcut açık kaynaklı LLM'leri kullanıyorlar’ yanıtını verdi. Snowflake veri bulutu platformu, şu anda dünya çapında 9.400'den fazla şirket ve kurumun veri tabanlı olarak kullanılmaktadır. Bu şirketler ve kurumlar, sektördeki en üst düzeyde açıklığı sağlayan LLM ile verilerini kullanabilir hale geliyor.
Apache 2.0 lisansı altında sunulan açık kaynaklı bir model olan Arctic, kod şablonları ile birlikte çıkarım ve öğrenme yöntemlerini seçme esnekliği de sunmaktadır. Kullanıcılar, NVIDIA NIM, NVIDIA TensorRT-LLM (TensorRT-LLM), vLLM, Hugging Face gibi şirketlerin tercih ettiği çerçevelerle Arctic'i kullanabilir ve özelleştirebilirler. Snowflake Cortex'te sunucusuz çıkarım aracılığıyla Arctic'i hemen kullanmaya başlayabilirsiniz. Snowflake Cortex, tamamen yönetilen bir hizmettir ve Hugging Face, Lamini, Microsoft Azure, NVIDIA API kataloğu, Perplexity, Together AI gibi çeşitli model listeleri ile birlikte veri bulutunda makine öğrenimi ve yapay zeka çözümleri sunar. Arctic'in Amazon Web Services (AWS) üzerinden de kullanılabilmesi planlanmaktadır.
◇ Üstün kaynak verimliliği ve en üst düzeyde performans
Snowflake Yapay Zeka araştırma ekibi, sektörün en iyi araştırmacıları ve sistem mühendislerinden oluşmaktadır. Arctic'in geliştirilmesi 3 aydan kısa sürede tamamlanmıştır. Model eğitiminde Amazon Elastic Compute Cloud (Amazon EC2) P5 örnekleri kullanılmış ve eğitim maliyeti benzer modellere göre 8 kat daha az olmuştur. Snowflake, en gelişmiş açık kaynaklı kurumsal modelin eğitim hızında yeni bir standart belirliyor ve nihayetinde kullanıcıların maliyet açısından etkin ve özelleştirilmiş modelleri en uygun ölçekte oluşturmalarını sağlıyor.
Arctic'in farklılaşan MoE tasarımı, şirketlerin gereksinimlerine göre ince ayarlanmış veri derlemesiyle hem eğitim sistemini hem de model performansını iyileştirir. Ayrıca, 480 milyar parametreyi bir seferde 17'şer olmak üzere etkinleştirerek olağanüstü belirteç verimliliği ve sektördeki en iyi kaliteyi sunarak en iyi sonuçları sağlar. Arctic, çıkarım veya eğitim sırasında DBRX'ten yaklaşık %50, Llama 3 70B'den yaklaşık %75 daha az parametreyi etkinleştirerek çığır açan verimlilik artışı sağlıyor. Kodlama (HumanEval+, MBPP+) ve SQL oluşturma (Spider) alanlarında da DBRX, Mixtral-8x7B gibi önde gelen mevcut açık kaynaklı modellerin performansını geride bırakırken, genel dil anlayışı (MMLU, Büyük Ölçekli Çoklu Görev Dili Anlayışı) alanında en üst düzeyde performans sergiliyor.
◇ Snowflake'in önderliğindeki herkes için yapay zeka devrimi
Snowflake, şirketlerin kendi verilerini kullanarak pratik yapay zeka/makine öğrenimi uygulamaları oluşturmak için gereken veri tabanını ve en gelişmiş yapay zeka yapı taşlarını sağlar. Müşteriler, Snowflake Cortex aracılığıyla Arctic'i kullandıklarında, veri bulutunun güvenlik ve yönetişim kapsamı içinde üretim düzeyinde yapay zeka uygulamalarını uygun ölçekte oluşturmak daha da kolaylaşıyor.
Arctic LLM'nin dahil olduğu Snowflake Arctic model ailesi, Snowflake'in yakın zamanda piyasaya sürdüğü en gelişmiş metin gömme modellerinden biri olan Arctic Embed'i de içerir. Bu ürün, Apache 2.0 lisansı altında açık kaynaklı topluluk tarafından ücretsiz olarak kullanılabilir. 5 model içeren bu ürün ailesi, Hugging Face'ten hemen kullanılabilir ve Snowflake Cortex'e entegre edilerek özel önizleme şeklinde sunulacaktır. Benzer modellerin yaklaşık üçte biri büyüklüğünde olan bu gömme modeli, en iyi arama performansını elde etmek üzere optimize edilmiştir ve şirketlerin arama artırılmış oluşturma (RAG) veya anlamsal arama hizmetlerinin bir parçası olarak kendi veri kümelerini LLM'lerle birleştirdiklerinde etkili ve ekonomik bir çözüm sunar.
Son zamanlarda Snowflake, müşterilerin veri bulutunda en yüksek performansa sahip en yeni LLM'lere erişebilmelerini sağlamak üzere Reka ve Mistral AI (Mistral AI) modellerini de eklemiştir. Ayrıca, yapay zeka inovasyonunu sürdürmek için yakın zamanda NVIDIA ile genişletilmiş ortaklığını duyurdu. Snowflake'in veri bulutu, tam yığın NVIDIA hızlandırılmış platformuyla birleştiğinde, sektör genelinde yapay zekanın üretkenliğini aktif olarak kullanan güvenli ve güçlü bir altyapı ve bilgi işlem kapasitesi sunmaktadır. Snowflake Ventures (Snowflake Ventures), müşterilerin kendi kurumsal verilerinde LLM ve yapay zeka aracılığıyla değer yaratmalarını desteklemek için yakın zamanda Landing AI, Mistral AI ve Reka'ya da yatırım yapmıştır.
Yorumlar0