Perkhidmatan Inferens AI Cloudera meningkatkan kelajuan prestasi LLM sebanyak 36 kali ganda menggunakan pengkomputeran yang dipercepatkan NVIDIA dan perkhidmatan mikro NVIDIA NIM, memberikan prestasi yang dipertingkatkan, keselamatan yang teguh dan fleksibiliti boleh skala untuk perusahaan
Keupayaan gabungan menghimpunkan pembeza syarikat dalam satu tawaran tunggal: Data dipercayai Cloudera sebagai asas untuk AI yang dipercayai dengan pengkomputeran dipercepatkan NVIDIA dan platform perisian NVIDIA AI Enterprise untuk menggunakan aplikasi AI yang selamat dan berprestasi secara persendirian di Cloudera
SANTA CLARA, California dan NEW YORK, Oct. 09, 2024 (GLOBE NEWSWIRE) — Cloudera, satu-satunya platform hibrid sebenar untuk data, analitik dan AI, hari ini melancarkan Inferens AI Cloudera yang dikuasakan oleh Perkhidmatan mikro NVIDIA NIM, sebahagian daripada platform NVIDIA AI Enterprise. Sebagai salah satu perkhidmatan inferens AI pertama dalam industri yang menyediakan keupayaan mikro perkhidmatan NIM terbenam, Inferens AI Cloudera secara unik menyelaraskan penggunaan dan pengurusan model AI berskala besar, membolehkan perusahaan memanfaatkan potensi sebenar data mereka untuk memajukan GenAI daripada fasa perintis kepada pengeluaran penuh.
Data terkini daripada Deloitte mendedahkan halangan terbesar kepada penggunaan GenAI untuk perusahaan adalah risiko pematuhan dan kebimbangan tadbir urus, namun penggunaan GenAI sedang berkembang dengan pantas, dengan lebih dua pertiga organisasi meningkatkan belanjawan GenAI mereka dalam S3 tahun ini. Untuk mengurangkan kebimbangan ini, perniagaan mesti beralih kepada menjalankan model dan aplikasi AI secara persendirian – sama ada di premis atau di awan awam. Peralihan ini memerlukan penyelesaian yang selamat dan berskala yang mengelakkan pendekatan yang rumit dan buat sendiri.
Inferens AI Cloudera melindungi data sensitif daripada bocor kepada perkhidmatan model AI bukan persendirian yang dihoskan vendor dengan menyediakan pembangunan dan penggunaan selamat dalam kawalan perusahaan. Dikuasakan oleh teknologi NVIDIA, perkhidmatan ini membantu membina data yang dipercayai untuk AI dengan kelajuan berprestasi tinggi, membolehkan pembangunan cekap chatbots dipacu AI, pembantu maya dan aplikasi agen yang memberi kesan kepada kedua-dua produktiviti dan pertumbuhan perniagaan baharu.
Pelancaran Inferens AI Cloudera muncul berikutan kerjasama syarikat dengan NVIDIA, mengukuhkan komitmen Cloudera untuk memacukan inovasi AI perusahaan pada saat genting, sambil industri menavigasi kerumitan transformasi digital dan integrasi AI.
Pembangun boleh membina, menyesuaikan dan menggunakan LLM gred perusahaan dengan prestasi sehingga 36 kali ganda lebih pantas menggunakan GPU Teras Tensor NVIDIA dan daya pemprosesan hampir 4 kali ganda berbanding dengan CPU. Pengalaman pengguna yang lancar menyepadukan UI dan API secara langsung dengan konten perkhidmatan mikro NVIDIA NIM yang menghapuskan keperluan antara muka baris arahan (CLI) dan sistem pemantauan yang berasingan. Penyepaduan perkhidmatan dengan Daftar Model AI Cloudera juga mempertingkatkan keselamatan dan tadbir urus dengan mengurus kawalan akses untuk titik akhir dan operasi model. Pengguna mendapat manfaat daripada platform bersatu di mana semua model—sama ada model penggunaan LLM atau tradisional—diuruskan dengan lancar di bawah satu perkhidmatan tunggal.
Ciri utama tambahan Inferens AI Cloudera merangkumi:
“Perusahaan tidak sabar untuk melabur dalam GenAI, tetapi ia bukan sahaja memerlukan data berskala tetapi juga data yang selamat, patuh dan ditadbir dengan baik,” kata penganalisis industri, Sanjeev Mohan. “Penghasilan AI pada skala secara persendirian memperkenalkan kerumitan yang sukar ditangani oleh pendekatan DIY. Inferens AI Cloudera merapatkan jurang ini dengan menyepadukan pengurusan data lanjutan dengan kepakaran AI NVIDIA, membuka kunci potensi penuh data sambil melindunginya. Dengan ciri keselamatan gred perusahaan seperti akaun perkhidmatan, kawalan akses dan audit, organisasi boleh melindungi data mereka dengan yakin dan menjalankan beban kerja di premis atau di awan dan menggunakan model AI secara cekap dengan fleksibiliti dan tadbir urus yang diperlukan.”
“Kami teruja untuk bekerjasama dengan NVIDIA untuk membawa Inferens AI Cloudera ke pasaran, menyediakan satu platform AI/ML tunggal yang menyokong hampir semua model dan kes penggunaan agar perusahaan boleh mencipta aplikasi AI yang berkuasa dengan perisian kami dan kemudian menjalankan aplikasi AI berprestasi tersebut dalam Cloudera juga,” kata Dipto Chakravarty, Ketua Pegawai produk di Cloudera. “Dengan penyepaduan NVIDIA AI, yang memudahkan pembuatan keputusan yang lebih bijak melalui prestasi lanjutan, Cloudera membuat inovasi bagi pihak pelanggannya dengan membina aplikasi AI yang dipercayai dengan data yang dipercayai pada skala besar.”
“Perusahaan hari ini perlu mengintegrasikan AI generatif dengan lancar dengan infrastruktur data sedia ada mereka untuk memacu hasil perniagaan,” kata Kari Briski, naib presiden perisian AI, model dan perkhidmatan di NVIDIA. “Dengan menggabungkan perkhidmatan mikro NVIDIA NIM ke dalam platform Inferens AI Cloudera, kami memperkasakan pembangun untuk mencipta aplikasi AI generatif yang boleh dipercayai dengan mudah sambil memupuk roda tenaga data AI yang mampan sendiri.”
Keupayaan baharu ini akan didedahkan pada persidangan AI dan data utama Cloudera, Cloudera EVOLVE NY, yang berlangsung pada 10 Okt. Klik di sini untuk mengetahui lebih lanjut mengenai cara kemas kini terbaharu ini memperdalamkan komitmen Cloudera, meningkatkan data perusahaan daripada perintis kepada pengeluaran dengan GenAI.
Please login or subscribe to continue.
No account? Register | Lost password
✖✖
Are you sure you want to cancel your subscription? You will lose your Premium access and stored playlists.
✖
Be the first to leave a comment