Snowflake Meluncurkan LLM Enterprise 'Arctic' dengan Tingkat Keterbukaan Terbaik di Industri

Snowflake menambahkan model bahasa besar (Large Language Model/LLM) open-source kelas terbaik dengan kinerja dan efisiensi terbaik ke dalam keluarga model Snowflake Arctic

Open-source berdasarkan lisensi Apache 2.0… Memberikan fleksibilitas yang dapat disesuaikan dengan dukungan berbagai kerangka kerja

Snowflake, perusahaan cloud data global, telah meluncurkan model bahasa besar (Large Language Model/LLM) kelas enterprise 'Snowflake Arctic' yang menawarkan tingkat keterbukaan dan kinerja terbaik di industri.

https://seenthis.kr/newspage/2344

Dirancang dengan pendekatan Mixture-of-Experts (MoE) khusus Snowflake, Arctic mendukung kinerja dan produktivitas terbaik di kelasnya. Dioptimalkan untuk menangani kebutuhan bisnis yang kompleks, memenuhi persyaratan tertinggi dalam berbagai kriteria, termasuk pembuatan kode SQL dan eksekusi perintah.

Secara khusus, Arctic tersedia dengan lisensi Apache 2.0 yang memungkinkan penggunaan komersial secara gratis, dan Snowflake telah merilis detail tentang cara melatih AI, menetapkan standar keterbukaan baru untuk teknologi AI kelas enterprise. Selain itu, LLM Arctic merupakan bagian dari keluarga model Snowflake Arctic, yang juga mencakup model embedding teks untuk penggunaan pencarian.

Sridhar Ramaswamy, CEO Snowflake, mengatakan, "Tim Riset AI Snowflake telah mendorong inovasi di garis depan AI, yang merupakan titik balik yang signifikan bagi perusahaan kami." "Dengan merilis AI dengan kinerja dan efisiensi terbaik di industri kepada komunitas AI sebagai open-source, Snowflake memperluas potensi AI open-source. Hal ini juga meningkatkan kemampuan AI Snowflake dalam memberikan model AI yang andal dan berdaya guna kepada pelanggan kami."

◇ Arctic, LLM Open-Source yang Mendukung Kolaborasi Luas

Menurut laporan terbaru dari Forrester, sekitar 46% dari pengambil keputusan AI di perusahaan global menyatakan bahwa mereka menggunakan LLM open-source yang ada untuk mengimplementasikan AI generatif di perusahaan mereka sebagai bagian dari strategi AI mereka. Platform cloud data Snowflake saat ini digunakan oleh lebih dari 9.400 perusahaan dan organisasi di seluruh dunia. Mereka akan dapat memanfaatkan data mereka dengan LLM yang menawarkan tingkat keterbukaan terbaik di industri.

Sebagai model open-source dengan lisensi Apache 2.0, Arctic memberikan fleksibilitas untuk memilih antara inferensi dan pelatihan, bersama dengan template kode. Pengguna dapat menggunakan dan menyesuaikan Arctic dengan kerangka kerja pilihan mereka, termasuk NVIDIA NIM, NVIDIA TensorRT-LLM, vLLM, dan Hugging Face. Inferensi serverless juga memungkinkan pengguna untuk segera menggunakan Arctic di Snowflake Cortex. Snowflake Cortex adalah layanan yang sepenuhnya terkelola yang menyediakan solusi machine learning dan AI di cloud data, termasuk daftar model yang beragam dari Hugging Face, Lamini, Microsoft Azure, Katalog API NVIDIA, Perplexity, dan Together AI. Arctic juga akan tersedia di Amazon Web Services (AWS) di masa mendatang.

◇ Efisiensi Sumber Daya yang Unggul dan Kinerja Terbaik

Tim Riset AI Snowflake terdiri dari peneliti dan insinyur sistem terkemuka di industri. Arctic dibangun dalam waktu kurang dari tiga bulan. Pelatihan model memanfaatkan instance Amazon Elastic Compute Cloud (Amazon EC2) P5, dengan biaya pelatihan hanya seperdelapan dari model serupa. Snowflake menetapkan standar baru untuk kecepatan pelatihan model enterprise open-source canggih, dan pada akhirnya akan memberdayakan pengguna untuk membuat model yang hemat biaya dan disesuaikan dalam skala optimal.

Desain MoE yang membedakan Arctic meningkatkan baik sistem pelatihan maupun kinerja model melalui perakitan data yang dirancang dengan cermat untuk memenuhi kebutuhan bisnis. Selain itu, dengan mengaktifkan 480 miliar parameter 17 sekaligus, Arctic menawarkan efisiensi token yang luar biasa dan kualitas terbaik di industri untuk hasil terbaik. Untuk meningkatkan efisiensi secara signifikan, Arctic mengaktifkan lebih sedikit parameter selama inferensi atau pelatihan, sekitar 50% lebih sedikit daripada DBRX dan sekitar 75% lebih sedikit daripada Llama 3 70B. Arctic juga melampaui kinerja model open-source populer yang ada seperti DBRX dan Mixtral-8x7B dalam pengkodean (HumanEval+, MBPP+) dan pembuatan SQL (Spider), serta menunjukkan kinerja tingkat atas dalam pemahaman bahasa umum (MMLU, Pemahaman Bahasa Multi-Task Skala Besar).

◇ Inovasi AI untuk Semua yang Dipimpin oleh Snowflake

Snowflake menyediakan fondasi data dan building block AI canggih yang diperlukan untuk membangun aplikasi AI/machine learning yang praktis menggunakan data masing-masing bisnis. Dengan menggunakan Arctic melalui Snowflake Cortex, pelanggan dapat lebih mudah membangun aplikasi AI tingkat produksi dalam skala optimal di dalam batas keamanan dan tata kelola cloud data.

Keluarga model Snowflake Arctic, yang mencakup LLM Arctic, juga menyertakan Arctic Embed, salah satu model embedding teks canggih yang baru-baru ini diluncurkan oleh Snowflake. Produk ini juga tersedia secara open-source untuk komunitas dengan lisensi Apache 2.0. Keluarga model ini, yang terdiri dari lima model, tersedia langsung di Hugging Face dan akan dirilis dalam pratinjau pribadi di Snowflake Cortex. Dengan ukuran sekitar sepertiga dari model serupa, model embedding ini dioptimalkan untuk kinerja pencarian terbaik, memberikan solusi yang efisien dan hemat biaya bagi bisnis yang ingin menggabungkan kumpulan data unik mereka dengan LLM sebagai bagian dari layanan pencarian semantik atau pencarian yang diperkaya generasi (RAG).

Snowflake terus mendukung pelanggan dalam mengakses LLM terbaru dengan kinerja terbaik di cloud data, termasuk penambahan model dari Reka dan Mistral AI baru-baru ini. Mereka juga terus mendorong inovasi AI melalui kemitraan yang diperluas dengan NVIDIA. Cloud data Snowflake, yang digabungkan dengan platform akselerasi NVIDIA yang lengkap, menyediakan infrastruktur dan kemampuan komputasi yang kuat dan aman untuk memanfaatkan produktivitas AI secara luas di seluruh industri. Snowflake Ventures juga telah berinvestasi di Landing AI, Mistral AI, dan Reka untuk mendukung pelanggan dalam menciptakan nilai dari LLM dan AI pada data bisnis mereka.