Teknologi.Bagian dari ensiklopedia.onlineCari/
BerandaKomputasi & perangkat lunakCAREER: Efficient Large Language Model Inference Through Codesign: Adaptable Software Partitioning and FPGA-based Distributed Hardware
Proyek riset & pengembangan

CAREER: Efficient Large Language Model Inference Through Codesign: Adaptable Software Partitioning and FPGA-based Distributed Hardware

Ringkasan tujuan riset

Inferensi model bahasa besar dioptimalkan melalui partisi perangkat lunak, FPGA terdistribusi dan kompresi sadar platform untuk mengatasi kebutuhan memori serta komputasi besar.

Komputasi & perangkat lunak1 rujukanProfil diperbarui
Lihat rujukanBandingkan proyek
Linimasa NSF 2339084Periode tercatat 2024-05-01 sampai 2029-04-30.NSF 2339084MulaiAkhir tercatat202420302024-05-012029-04-30
Linimasa dan catatan proyek

Tanggal dan TRL menurut catatan penerbit. Akhir periode dan target bukan bukti hasil riset.

Teknologi · CC BY 4.0 · Sumber data

Apa tujuan dan pendekatan risetnya?

Profil ini merangkum ruang lingkup proyek yang dipublikasikan National Science Foundation (NSF). Sumber diakses . Uraian pendekatan dan manfaat menyatakan tujuan pengembangan, kecuali sumber secara khusus melaporkan hasil.

Algoritme memetakan bagian model secara otomatis menggunakan estimator performa yang mencakup GPU maupun arsitektur baru. FPGA di jaringan dan dekat penyimpanan dieksplorasi untuk mempercepat inferensi, disertai kuantisasi presisi campuran serta aproksimasi peringkat rendah. Kerangka desain bersama mengoptimalkan ketiganya secara sinergis. Penelitian menargetkan efisiensi implementasi interaktif, dengan perbedaan tuntutan komputasi dan distribusi data tetap menjadi faktor yang harus dimodelkan.

Baca uraian penerbit

Konteks pengembangan

Institusi penerima pada catatan
Cornell University
Program
Software & Hardware Foundation
Periode pendanaan tercatat
2024-05-01 → 2029-04-30

Proyek kolaboratif beberapa institusi diwakili oleh satu catatan penghargaan. Institusi di atas adalah penerima pada catatan tersebut.

Klasifikasi NSF

  • Directorate for Computer and Information Science and Engineering
  • Software & Systems Foundations

Label penerbit dipertahankan sebagai konteks. Bidang katalog merupakan pengelompokan editorial.

Apa yang diketahui tentang statusnya?

Status pendanaan menurut NSFAktif (catatan pendanaan NSF)

Catatan NSF tidak melaporkan tingkat kesiapan teknologi (TRL). Status pendanaan aktif atau berakhir bukan bukti keberhasilan riset.

Batas informasi

Profil merangkum tujuan dan pendekatan dalam abstrak pendanaan NSF. Status pendanaan tidak membuktikan keberhasilan riset, kesiapan teknologi, atau ketersediaan produk. Hasil dan performa belum diverifikasi secara independen; tinjauan ahli belum dilakukan.

Dasar profil

Metodologi dan batas pemeriksaan. Ringkasan berbahasa Indonesia disusun sebagai parafrasa editorial dengan pemeriksaan sumber primer oleh agen AI. Identitas, periode, serta status berasal dari catatan penerbit. Tinjauan ahli dan pengujian kinerja independen belum dilakukan; rujukan tidak menyiratkan dukungan atau sertifikasi NSF.