Institut Inovasi Teknologi Emiriah Arab Bersatu (UAE) Merevolusikan Model Bahasa AI dengan Seni Bina Baharu

• Falcon Mamba 7B ialah Model Bahasa Ruang Keadaan (SSLM) sumber terbuka no.1 yang berprestasi global, seperti yang disahkan secara bebas oleh Hugging Face
• SSLM mempunyai kos memori yang rendah dan tidak memerlukan memori tambahan untuk menghasilkan blok teks yang panjang secara arbitrari
• Falcon Mamba 7B juga mengatasi model seni bina pengubah tradisional seperti Llama 3.1 8B Meta dan 7B Mistral
• Model baharu menunjukkan inovasi dan pendekatan rintisan Abu Dhabi dalam penyelidikan dan pembangunan AI

ABU DHABI, Emiriah Arab Bersatu, 13 Ogos 2024 (Bernama) — Institut Inovasi Teknologi (TII), pusat penyelidikan saintifik global terkemuka dan tonggak penyelidikan gunaan Majlis Penyelidikan Teknologi Lanjutan (ATRC) Abu Dhabi, telah melancarkan model bahasa baharu yang besar dalam siri Falcon, iaitu Falcon Mamba 7B. Model baharu tersebut ialah Model Bahasa Ruang Keadaan (SSLM) sumber terbuka no.1 yang berprestasi global di dunia, seperti yang disahkan secara bebas oleh Hugging Face.

Sebagai SSLM pertama untuk Falcon, ini menyimpang daripada model Falcon terdahulu yang semuanya menggunakan seni bina berasaskan pengubah. Model Falcon Mamba 7B yang baharu ini ialah satu lagi contoh penyelidikan rintisan yang dikendalikan oleh institut dan alatan serta produk rintisan yang disediakan kepada komuniti dalam format sumber terbuka.

Tuan Yang Terutama Faisal Al Bannai, Setiausaha Agung ATRC dan Penasihat Presiden UAE untuk Penyelidikan Strategik dan Hal Ehwal Teknologi Lanjutan, berkata: “Falcon Mamba 7B menandakan model AI TII berada pada kedudukan teratas kali keempat berturut-turut, mengukuhkan Abu Dhabi sebagai hab global untuk penyelidikan dan pembangunan AI. Pencapaian ini menyerlahkan komitmen UAE yang tidak berbelah bahagi terhadap inovasi.”

Untuk model seni bina pengubah, Falcon Mamba 7B mengatasi Llama 3.1 8B Meta, Llama 3 8B dan 7B Mistral pada penanda aras yang baharu diperkenalkan daripada HuggingFace. Sementara itu untuk SSLM lain, Falcon Mamba 7B mengalahkan semua model sumber terbuka lain dalam penanda aras lama dan ini akan menjadi model pertama pada carta kedudukan penanda aras baharu HuggingFace yang lebih sukar.

Dr. Najwa Aaraj, Ketua Eksekutif TII, berkata: “Institut Inovasi Teknologi terus menganjak sempadan teknologi dengan siri model AI Falcon. Falcon Mamba 7B mewakili usaha rintisan sebenar dan membuka jalan untuk inovasi AI masa depan yang akan meningkatkan keupayaan manusia dan menambah baik kehidupan.”

Model Ruang Keadaan amat berprestasi tinggi dalam memahami situasi kompleks yang berkembang dari masa ke masa, seperti keseluruhan buku. Ini kerana SSLM tidak memerlukan memori tambahan untuk memahami bit maklumat yang begitu besar.

Model berasaskan pengubah, sebaliknya, sangat cekap dalam mengingati dan menggunakan maklumat yang telah diproses lebih awal dalam urutan. Ini menjadikan pengubah sangat mahir dalam tugas seperti penjanaan kandungan, walau bagaimanapun, oleh kerana ini dilakukan melalui perbandingan setiap perkataan dengan setiap perkataan lain, ini memerlukan kuasa pengiraan yang besar.

SSLM boleh mencari aplikasi dalam pelbagai bidang seperti anggaran, ramalan dan tugas kawalan. Serupa seperti model seni bina pengubah, aplikasi ini juga cemerlang dalam tugas Pemprosesan Bahasa Semula Jadi dan boleh digunakan untuk penterjemahan mesin, ringkasan teks, penglihatan komputer dan pemprosesan audio.

Dr. Hakim Hacid, Pemangku Ketua Penyelidik Unit Rentas Pusat AI TII, berkata: “Apabila kami memperkenalkan Falcon Mamba 7B, saya berbangga dengan ekosistem kerjasama TII yang memupuk pembangunan ini. Pelancaran ini mewakili langkah besar ke hadapan, memberikan inspirasi kepada perspektif baharu dan menyemarakkan lagi usaha untuk sistem pintar. Di TII, kami menganjak sempadan model SSLM dan pengubah untuk mencetuskan inovasi seterusnya dalam AI generatif.”

Falcon LLM telah dimuat turun lebih 45 juta kali, membuktikan kejayaan cemerlang model tersebut. Falcon Mamba 7B akan dilancarkan di bawah lesen TII Falcon 2.0, lesen perisian berasaskan Apache 2.0 permisif yang merangkumi dasar penggunaan boleh diterima yang menggalakkan penggunaan AI secara bertanggungjawab. Maklumat lanjut tentang model baharu boleh didapati di FalconLLM.TII.ae.