Perkhidmatan Inferens AI Cloudera meningkatkan kelajuan prestasi LLM sebanyak 36 kali ganda menggunakan pengkomputeran yang dipercepatkan NVIDIA dan perkhidmatan mikro NVIDIA NIM, memberikan prestasi yang dipertingkatkan, keselamatan yang teguh dan fleksibiliti boleh skala untuk perusahaan
Keupayaan gabungan menghimpunkan pembeza syarikat dalam satu tawaran tunggal: Data dipercayai Cloudera sebagai asas untuk AI yang dipercayai dengan pengkomputeran dipercepatkan NVIDIA dan platform perisian NVIDIA AI Enterprise untuk menggunakan aplikasi AI yang selamat dan berprestasi secara persendirian di Cloudera
SANTA CLARA, California dan NEW YORK, Oct. 09, 2024 (GLOBE NEWSWIRE) — Cloudera, satu-satunya platform hibrid sebenar untuk data, analitik dan AI, hari ini melancarkan Inferens AI Cloudera yang dikuasakan oleh Perkhidmatan mikro NVIDIA NIM, sebahagian daripada platform NVIDIA AI Enterprise. Sebagai salah satu perkhidmatan inferens AI pertama dalam industri yang menyediakan keupayaan mikro perkhidmatan NIM terbenam, Inferens AI Cloudera secara unik menyelaraskan penggunaan dan pengurusan model AI berskala besar, membolehkan perusahaan memanfaatkan potensi sebenar data mereka untuk memajukan GenAI daripada fasa perintis kepada pengeluaran penuh.
Data terkini daripada Deloitte mendedahkan halangan terbesar kepada penggunaan GenAI untuk perusahaan adalah risiko pematuhan dan kebimbangan tadbir urus, namun penggunaan GenAI sedang berkembang dengan pantas, dengan lebih dua pertiga organisasi meningkatkan belanjawan GenAI mereka dalam S3 tahun ini. Untuk mengurangkan kebimbangan ini, perniagaan mesti beralih kepada menjalankan model dan aplikasi AI secara persendirian – sama ada di premis atau di awan awam. Peralihan ini memerlukan penyelesaian yang selamat dan berskala yang mengelakkan pendekatan yang rumit dan buat sendiri.
Inferens AI Cloudera melindungi data sensitif daripada bocor kepada perkhidmatan model AI bukan persendirian yang dihoskan vendor dengan menyediakan pembangunan dan penggunaan selamat dalam kawalan perusahaan. Dikuasakan oleh teknologi NVIDIA, perkhidmatan ini membantu membina data yang dipercayai untuk AI dengan kelajuan berprestasi tinggi, membolehkan pembangunan cekap chatbots dipacu AI, pembantu maya dan aplikasi agen yang memberi kesan kepada kedua-dua produktiviti dan pertumbuhan perniagaan baharu.
Pelancaran Inferens AI Cloudera muncul berikutan kerjasama syarikat dengan NVIDIA, mengukuhkan komitmen Cloudera untuk memacukan inovasi AI perusahaan pada saat genting, sambil industri menavigasi kerumitan transformasi digital dan integrasi AI.
Pembangun boleh membina, menyesuaikan dan menggunakan LLM gred perusahaan dengan prestasi sehingga 36 kali ganda lebih pantas menggunakan GPU Teras Tensor NVIDIA dan daya pemprosesan hampir 4 kali ganda berbanding dengan CPU. Pengalaman pengguna yang lancar menyepadukan UI dan API secara langsung dengan konten perkhidmatan mikro NVIDIA NIM yang menghapuskan keperluan antara muka baris arahan (CLI) dan sistem pemantauan yang berasingan. Penyepaduan perkhidmatan dengan Daftar Model AI Cloudera juga mempertingkatkan keselamatan dan tadbir urus dengan mengurus kawalan akses untuk titik akhir dan operasi model. Pengguna mendapat manfaat daripada platform bersatu di mana semua model—sama ada model penggunaan LLM atau tradisional—diuruskan dengan lancar di bawah satu perkhidmatan tunggal.
Ciri utama tambahan Inferens AI Cloudera merangkumi:
- Keupayaan AI Lanjutan: Gunakan perkhidmatan mikro NIM NVIDIA untuk mengoptimumkan LLM sumber terbuka, termasuk LLama dan Mistral untuk kemajuan termaju dalam pemprosesan bahasa semula jadi (NLP), penglihatan komputer dan domain AI yang lain.
- Awan & Privasi Hibrid: Jalankan beban kerja di premis atau dalam awan, dengan penggunaan VPC untuk keselamatan dan pematuhan kawal selia yang dipertingkatkan.
- Skalabiliti & Pemantauan: Bergantung kepada penskalaan automatik, ketersediaan tinggi (HA) dan penjejakan prestasi masa nyata untuk mengesan dan membetulkan isu serta menyampaikan pengurusan sumber yang cekap.
- API Terbuka & Penyepaduan CI/CD: Akses API yang mematuhi piawaian untuk penggunaan model, pengurusan dan pemantauan untuk penyepaduan yang lancar dengan saluran paip CI/CD dan aliran kerja MLOps.
- Keselamatan Perusahaan: Kuatkuasakan akses model dengan ciri Akaun Perkhidmatan, Kawalan Akses, Keturunan dan Pengauditan.
- Penggunaan Terurus Risiko: Menjalankan ujian A/B dan pelancaran canary untuk kemas kini model terkawal.
“Perusahaan tidak sabar untuk melabur dalam GenAI, tetapi ia bukan sahaja memerlukan data berskala tetapi juga data yang selamat, patuh dan ditadbir dengan baik,” kata penganalisis industri, Sanjeev Mohan. “Penghasilan AI pada skala secara persendirian memperkenalkan kerumitan yang sukar ditangani oleh pendekatan DIY. Inferens AI Cloudera merapatkan jurang ini dengan menyepadukan pengurusan data lanjutan dengan kepakaran AI NVIDIA, membuka kunci potensi penuh data sambil melindunginya. Dengan ciri keselamatan gred perusahaan seperti akaun perkhidmatan, kawalan akses dan audit, organisasi boleh melindungi data mereka dengan yakin dan menjalankan beban kerja di premis atau di awan dan menggunakan model AI secara cekap dengan fleksibiliti dan tadbir urus yang diperlukan.”
“Kami teruja untuk bekerjasama dengan NVIDIA untuk membawa Inferens AI Cloudera ke pasaran, menyediakan satu platform AI/ML tunggal yang menyokong hampir semua model dan kes penggunaan agar perusahaan boleh mencipta aplikasi AI yang berkuasa dengan perisian kami dan kemudian menjalankan aplikasi AI berprestasi tersebut dalam Cloudera juga,” kata Dipto Chakravarty, Ketua Pegawai produk di Cloudera. “Dengan penyepaduan NVIDIA AI, yang memudahkan pembuatan keputusan yang lebih bijak melalui prestasi lanjutan, Cloudera membuat inovasi bagi pihak pelanggannya dengan membina aplikasi AI yang dipercayai dengan data yang dipercayai pada skala besar.”
“Perusahaan hari ini perlu mengintegrasikan AI generatif dengan lancar dengan infrastruktur data sedia ada mereka untuk memacu hasil perniagaan,” kata Kari Briski, naib presiden perisian AI, model dan perkhidmatan di NVIDIA. “Dengan menggabungkan perkhidmatan mikro NVIDIA NIM ke dalam platform Inferens AI Cloudera, kami memperkasakan pembangun untuk mencipta aplikasi AI generatif yang boleh dipercayai dengan mudah sambil memupuk roda tenaga data AI yang mampan sendiri.”
Keupayaan baharu ini akan didedahkan pada persidangan AI dan data utama Cloudera, Cloudera EVOLVE NY, yang berlangsung pada 10 Okt. Klik di sini untuk mengetahui lebih lanjut mengenai cara kemas kini terbaharu ini memperdalamkan komitmen Cloudera, meningkatkan data perusahaan daripada perintis kepada pengeluaran dengan GenAI.
Perihal Cloudera
Cloudera adalah satu-satunya platform hibrid sebenar untuk data, analitik dan AI. Dengan 100 kali ganda lebih data di bawah pengurusan berbanding vendor awan sahaja yang lain, Cloudera memperkasakan perusahaan global untuk mengubah semua jenis data, pada mana-mana awan awam atau persendirian kepada cerapan yang bernilai dan dipercayai. Lakehouse data terbuka kami menyampaikan pengurusan data berskala dan selamat dengan analitik asli awan mudah alih, membolehkan pelanggan membawa model GenAI kepada data mereka sambil mengekalkan privasi dan memastikan penggunaan AI yang bertanggungjawab dan boleh dipercayai. Jenama terbesar dunia dalam perkhidmatan kewangan, insurans, media, pembuatan dan kerajaan bergantung pada Cloudera untuk menggunakan data mereka untuk menyelesaikan perkara yang kelihatan mustahil—hari ini dan pada masa hadapan.
Untuk mengetahui lebih lanjut, layari Cloudera.com dan ikuti kami di LinkedIn dan X. Cloudera dan tanda berkaitan ialah tanda dagangan atau tanda dagangan berdaftar Cloudera, Inc. Semua syarikat dan nama produk lain mungkin merupakan tanda dagangan pemilik masing-masing.
Hubungi
Jess Hohn-Cabana
cloudera@v2comms.com
