Peneliti MIT mengembangkan chip "foton" baru

Beberapa hari yang lalu, para peneliti MIT mengembangkan chip "foton" baru yang menggunakan cahaya alih-alih listrik dan mengkonsumsi daya yang relatif sedikit dalam proses tersebut. Chip ini digunakan untuk memproses jaringan saraf berskala besar dengan efisiensi jutaan kali lebih banyak daripada komputer yang ada. Hasil simulasi menunjukkan bahwa chip fotonik berjalan 10 juta kali lebih efisien daripada chip elektronik. Jaringan saraf adalah model pembelajaran mesin yang banyak digunakan untuk pengenalan target robot, pemrosesan bahasa alami, pengembangan obat, pencitraan medis, dan mengendarai kendaraan tak berawak. Jaringan saraf optik baru yang menggunakan fenomena optik untuk mempercepat perhitungan dapat beroperasi lebih cepat dan lebih efisien daripada rekan elektronik lainnya. Tetapi ketika jaringan saraf tradisional dan jaringan saraf optik menjadi lebih kompleks, mereka mengkonsumsi banyak energi. Untuk mengatasi masalah ini, peneliti dan perusahaan teknologi besar termasuk Google, IBM, dan Tesla telah mengembangkan "Akselerator Kecerdasan Buatan," sebuah chip khusus yang meningkatkan kecepatan dan efisiensi pelatihan dan pengujian jaringan saraf.

Untuk chip elektronik, termasuk akselerator kecerdasan buatan kebanyakan, ada batas konsumsi daya minimum teoretis. Baru-baru ini, peneliti MIT mulai mengembangkan akselerator foton untuk jaringan saraf optik. Chip ini adalah pesanan yang besarnya lebih efisien, tetapi mereka bergantung pada komponen optik besar yang membatasi penggunaannya dalam jaringan saraf yang relatif kecil.

Dalam sebuah makalah yang diterbitkan dalam Physical Review X, peneliti MIT menggambarkan jenis baru akselerator foton yang menggunakan optik lebih kompak dan teknik pemrosesan sinyal optik untuk secara dramatis mengurangi konsumsi daya dan area mati. Ini memungkinkan chip untuk skala ke jaringan saraf, yang merupakan urutan besarnya lebih besar dari chip yang sesuai.

10 juta kali lebih rendah dari batas energi akselerator elektron tradisional

Pelatihan simulasi jaringan saraf pada dataset klasifikasi gambar MNIST menunjukkan bahwa akselerator secara teoritis dapat memproses jaringan saraf, yang 10 juta kali lebih rendah dari batas energi akselerator elektron tradisional dan 1000 kali lebih rendah dari batas energi akselerator foton . Para peneliti sekarang bekerja pada chip prototipe untuk menguji hasilnya.

"Orang-orang mencari teknologi yang dapat menghitung di luar batas energi dasar," kata Ryan Hamerly, seorang postdoctoral fellow di Electronic Research Laboratory. "Akselerator foton menjanjikan ... tetapi motivasi kami adalah untuk membangun (akselerator foton) yang diperluas ke jaringan saraf besar."

Aplikasi praktis dari teknologi ini termasuk mengurangi konsumsi energi di pusat data. "Permintaan untuk pusat data yang menjalankan jaringan saraf besar sedang tumbuh, dan seiring meningkatnya permintaan, menjadi semakin sulit untuk dihitung," kata Alexander Sludds, rekan penulis dan mahasiswa pascasarjana di laboratorium penelitian elektronik. Perangkat keras jaringan memenuhi kebutuhan komputasi ... untuk mengatasi hambatan dalam konsumsi energi dan latensi. "

Ditulis bersama dengan Sludds dan Hamerly: mahasiswa pascasarjana RLE, rekan penulis Liane Bernstein; Profesor fisika MIT Marin Soljacic; Associate professor MIT teknik elektro dan ilmu komputer Dirk Englund; seorang peneliti RLE, dan Kepala Laboratorium Photonics Quantum.

Andalkan solusi "fotovoltaik" yang lebih hemat energi dan efisien

Jaringan saraf memproses data melalui sejumlah lapisan komputasi yang mengandung node yang saling berhubungan (disebut "neuron") untuk menemukan pola dalam data. Neuron menerima input dari "tetangga" hulu dan menghitung sinyal output yang dikirim ke neuron hilir lebih lanjut. Setiap input juga diberi "bobot", nilai berdasarkan kepentingan relatifnya terhadap semua input lainnya. Saat data menyebar "mendalam" di seluruh lapisan, jaringan mempelajari informasi yang lebih kompleks. Akhirnya, lapisan output menghasilkan prediksi berdasarkan pada perhitungan seluruh lapisan.

Tujuan dari semua akselerator kecerdasan buatan adalah untuk mengurangi energi yang dibutuhkan untuk memproses dan memindahkan data dalam langkah aljabar linier tertentu dalam jaringan saraf yang disebut "perkalian matriks." Di sana, neuron dan bobot dikodekan ke dalam baris dan daftar yang terpisah, yang kemudian digabungkan untuk menghitung output.

Dalam akselerator foton konvensional, laser berdenyut mengkodekan informasi tentang masing-masing neuron dalam lapisan dan kemudian mengalir ke Waveguide dan melalui splitter balok. Sinyal optik yang dihasilkan dimasukkan ke dalam kotak elemen optik persegi yang disebut "Mach-Zehnder Interferometer" yang diprogram untuk melakukan perkalian matriks. Interferometer mengkodekan dengan setiap bobot informasi dan menggunakan teknik interferensi sinyal yang memproses sinyal optik dan nilai-nilai berat untuk menghitung output masing-masing neuron. Tetapi ada masalah penskalaan: untuk setiap neuron, harus ada Waveguide, dan untuk setiap berat harus ada interferometer. Karena jumlah berat sebanding dengan jumlah neuron, interferometer tersebut memakan banyak ruang.

"Anda akan segera menyadari bahwa jumlah neuron input tidak akan pernah melebihi 100 atau lebih, karena Anda tidak dapat menginstal banyak komponen pada chip," kata Hamerly. "Jika akselerator foton Anda tidak dapat menangani lebih dari 100 lapisan per lapisan." Neuron, sulit untuk menerapkan jaringan saraf besar ke struktur ini. "

Chip para peneliti mengandalkan skema "fotovoltaik" yang lebih hemat energi dan efisien yang menggunakan sinyal optik untuk menyandikan data, tetapi menggunakan "deteksi homodyne seimbang" untuk perkalian matriks. Ini adalah teknik untuk menghasilkan sinyal listrik yang dapat diukur setelah menghitung produk dari amplitudo (tinggi gelombang) dari dua sinyal optik.

Input informasi optik yang disandikan pulsa dan output neuron dari setiap lapisan jaringan saraf - yang digunakan untuk melatih jaringan - mengalir melalui saluran tunggal. Pulsa individu dikodekan dengan seluruh baris informasi berat dalam tabel perkalian matriks mengalir melalui saluran terpisah. Neuron dan data berat ditransmisikan ke sinyal optik dari grid photodetector homodyne. Fotodetektor menggunakan amplitudo sinyal untuk menghitung nilai output masing-masing neuron. Setiap detektor memasukkan sinyal keluaran listrik untuk setiap neuron menjadi modulator yang mengubah sinyal kembali menjadi pulsa cahaya. Sinyal cahaya menjadi input ke lapisan berikutnya, dan seterusnya.

Desain ini hanya membutuhkan satu saluran per input dan output neuron, dan hanya membutuhkan banyak photodetektor homodyne seperti neuron, tanpa perlu berat. Karena jumlah neuron selalu jauh lebih sedikit daripada berat, ini menghemat banyak ruang, sehingga chip dapat diperluas ke jaringan saraf dengan lebih dari satu juta neuron per lapisan.

Temukan lokasi terbaik

Dengan akselerator foton, ada sinyal yang tak terhindarkan dalam sinyal. Semakin banyak cahaya yang disuntikkan ke dalam chip, semakin sedikit noise dan semakin tinggi keakuratan - tetapi bisa sangat tidak efisien. Semakin sedikit cahaya input, semakin tinggi efisiensinya, tetapi akan berdampak negatif pada kinerja jaringan saraf. Tetapi ada "titik terbaik," kata Bernstein, yang menggunakan kekuatan optik terkecil dengan tetap menjaga akurasi.

Posisi optimal akselerator kecerdasan buatan diukur dengan berapa banyak joule yang diperlukan untuk melakukan operasi tunggal mengalikan dua angka (seperti perkalian matriks). Saat ini, akselerator tradisional diukur dengan picojoule atau terajoule. Akselerator foton diukur pada attojoule dan satu juta kali lebih efisien. Dalam simulasi, para peneliti menemukan bahwa akselerator foton mereka dapat beroperasi pada kurang dari attojoule. "Sebelum kehilangan keakuratan, Anda dapat mengirim beberapa daya optik minimum. Batas dasar chip kami jauh lebih rendah daripada akselerator tradisional ..... dan lebih rendah daripada akselerator foton lainnya," kata Bernstein.