Pada hari Senin, IBM mengumumkan terobosan dalam teknologi optik yang menjanjikan untuk secara dramatis meningkatkan cara pusat data melatih dan menjalankan model kecerdasan buatan generatif (AI). Teknologi co-paket Optik (co-paket optik) yang baru pada dasarnya memungkinkan kekuatan optik untuk dibawa ke dalam chip, memungkinkan koneksi di pusat data untuk mencapai kecepatan cahaya.
Berbicara kepada wartawan di sebuah briefing media, Mukesh Khare, manajer umum IBM Semiconductor, mengatakan bahwa industri telekomunikasi telah membuat langkah yang signifikan dalam membuat chip yang lebih cepat, tetapi kecepatan komunikasi antara chip tersebut tidak mengimbangi itu. Ada kesenjangan beberapa urutan besarnya antara laju pertumbuhan kekuatan komputasi dan laju pertumbuhan dalam kecepatan komunikasi antar chip.
Faktanya, pada tingkat yang lebih dasar, chip masih berkomunikasi melalui listrik, mereka menggunakan kabel tembaga, "katanya. Dan kita semua tahu bahwa teknologi komunikasi terbaik adalah serat optik, itulah sebabnya ia digunakan di mana-mana dalam komunikasi jarak jauh."
Meskipun optik yang dienkapsulasi bersama telah ada selama beberapa waktu, IBM telah merevolusi optik yang dienkapsulasi bersama dengan mengembangkan teknologi polimer optik baru (PWG) yang memungkinkan para pembuat chip untuk menempatkan chip fotonik silikon di wilayah tepi - ruang berharga yang dikenal sebagai "real estat utama" - dan kemudian menggunakannya untuk pertama kalinya. Teknologi PWG memungkinkan para pembuat chip untuk menempatkan serat optik enam kali lebih banyak di area tepi chip fotonik silikon - ruang berharga yang dikenal sebagai "real estat utama" - daripada sebelumnya. Setiap serat kira -kira tiga kali lebih lebar dari rambut manusia, dapat memanjang dari beberapa sentimeter hingga ratusan meter, dan dapat mengirimkan data pada terabit per detik.
Apa artinya semua itu?
Perusahaan mengatakan teknologi ini akan memungkinkan bandwidth komunikasi yang lebih cepat 80 kali lebih cepat antara chip daripada yang mungkin terjadi saat ini menggunakan elektronik, dan mengurangi konsumsi energi lebih dari lima kali.
Ini juga bisa membuat pelatihan model bahasa besar (LLM) hingga lima kali lebih cepat, mengurangi waktu yang diperlukan untuk melatih LLM standar dari tiga bulan hingga tiga minggu, dengan peningkatan kinerja meningkat karena model yang lebih besar dan lebih banyak GPU digunakan.
Selain memungkinkan pedal GPU dan gas untuk berkomunikasi satu sama lain lebih cepat, teknologi ini memiliki potensi untuk mendefinisikan kembali cara industri komputasi mentransmisikan data bandwidth tinggi melalui papan dan server.
Khare berkata, "Kami sangat senang memperkenalkan kekuatan cahaya untuk secara radikal mempercepat dunia AI dan banyak aplikasi lainnya."
Ketika ditanya kapan teknologi akan dikomersialkan, Khare mengatakan departemen penelitian IBM "siap untuk digunakan."
