10 hours ago
4
SHANGHAI, 18 September 2026 /PRNewswire/ — Huawei resmi memperkenalkan OceanStor M900 Context Memory Storage dalam ajang HUAWEI CONNECT 2026. David Wang, Deputy Chairman of the Board yang juga menjabat Rotating Chairman, Huawei, memperkenalkan produk tersebut melalui sebuah presentasi. Dirancang untuk kebutuhan inferensi AI di pusat data hyperscale, OceanStor M900 menyediakan ruang memori bersama bagi SuperPoD dengan kapasitas hingga skala PB dan performa hingga tingkat TB/detik. Kehadiran solusi ini menandai pergeseran infrastruktur AI dari pendekatan yang berfokus pada komputasi menuju kolaborasi erat antara komputasi, jaringan, dan penyimpanan data sehingga turut mengoptimalkan daya komputasi SuperPoD.
Pada 2026, AI semakin cepat beralih dari sekadar terobosan teknologi menuju fase implementasi dalam skala besar. Aplikasi AI juga berkembang dari chatbot menjadi agen AI yang mampu menyelesaikan tugas-tugas kompleks secara mandiri. Penggunaan agen AI kini semakin marak di berbagai sektor penting, menandai dimulainya era agentic AI.
Setelah model AI skala besar berkembang hingga mencapai skala 10 triliun parameter, SuperPoD semakin menjadi pilihan utama untuk infrastruktur AI. Model AI utama saat ini telah mendukung context window lebih dari satu juta token, sementara inferensi multi-turn dan tugas kompleks semakin lazim. Pada saat yang sama, volume data KV cache yang dihasilkan selama proses inferensi terus bertambah. Kondisi ini membuat memori on-chip dan DRAM semakin terbatas, baik dari sisi kapasitas maupun efisiensi biaya. Karena itu, industri mulai melihat perlunya sistem penyimpanan bertingkat yang mengoordinasikan memori on-chip, DRAM, dan SSD untuk membentuk ruang memori bersama dengan kapasitas sangat besar.
Huawei menghadirkan OceanStor M900 Context Memory Storage untuk mengatasi keterbatasan kapasitas memori dalam inferensi dengan konteks sangat panjang dan multi-turn. OceanStor M900 memanfaatkan jaringan UnifiedBus untuk membangun KV cache global berjenjang berskala PB melalui koneksi satu hop. Pendekatan ini mengoptimalkan potensi daya komputasi SuperPoD dan mempercepat inferensi AI di pusat data hyperscale. OceanStor M900 Context Memory Storage menawarkan tiga kemampuan utama:
Menembus Batas Kapasitas guna Mendukung AI Skala Besar dengan Memori Berkapasitas Masif
Dengan dukungan jaringan interkoneksi UnifiedBus berkecepatan tinggi, KV cache dapat dihimpun dan digunakan bersama secara global melalui penyimpanan data berjenjang. Kapasitas KV cache SuperPoD diperluas dari memori on-chip dan DRAM hingga ke SSD sehingga satu klaster mampu menyediakan kapasitas 64 PB. Kapasitas KV cache yang tersedia pada setiap NPU juga meningkat dari gigabita menjadi terabita. Dengan kapasitas tersebut, lebih banyak konteks dapat disimpan, digunakan bersama, dan digunakan kembali sehingga rasio hit KV cache meningkat secara signifikan.
Meningkatkan Performa Inferensi untuk Mengoptimalkan Daya Komputasi
OceanStor M900 merupakan arsitektur pertama di industri yang mengintegrasikan CPU, network controller unit, dan NAND controller unit. Produk ini menyediakan semantik KV secara native agar NPU SuperPoD terhubung langsung ke SSD melalui satu hop. Pendekatan tersebut menghilangkan kebutuhan konversi protokol dan penerusan melalui CPU. Dengan demikian, latensi akses turun dari hitungan milidetik menjadi 60 mikrodetik, atau berkurang 90%. Satu klaster mampu menghasilkan bandwidth akses agregat hingga 40 TB/detik, atau 1,5 kali lebih tinggi dibandingkan solusi sejenis. Dalam skenario pemrograman AI pada umumnya, arsitektur ini melipatgandakan token throughput klaster inferensi dan memangkas separuh waktu untuk menghasilkan token pertama. Hasilnya, daya komputasi dapat dimanfaatkan secara lebih produktif.
Menekan Biaya Token untuk Mendorong Adopsi AI Skala Besar yang Lebih Ekonomis
OceanStor M900 menggunakan teknologi penyimpanan adaptif berbasis KV yang pertama di industri. Teknologi ini memprediksi siklus hidup KV cache berdasarkan nilai data dan secara cerdas mendistribusikannya ke berbagai media penyimpanan. Teknologi tersebut mendukung hingga 24 penulisan drive per hari (DWPD), memperpanjang ketahanan SSD hingga 16 kali dan menjaga stabilitas selama tiga tahun. Dengan mengurangi kebutuhan penggantian media serta biaya O&M, solusi ini menekan biaya jangka panjang infrastruktur inferensi AI berskala besar sekaligus mempercepat adopsi AI.
AI semakin banyak digunakan dalam sistem produksi utama di berbagai industri. Lebih lagi, infrastruktur AI juga berkembang dari model yang berpusat pada komputasi menuju kolaborasi yang lebih erat antara komputasi, jaringan, dan penyimpanan data. Context memory storage akan menjadi komponen penting yang terus meningkatkan kapasitas dan efisiensi akses KV cache pada sistem inferensi hyperscale.
