← Indonesian conversations Indonesian · technology · advanced · 168 words · ~1 min
Desain Prosesor dan Bottleneck Komputasi
การออกแบบโปรเซสเซอร์และคอขวดในการประมวลผล
Processor Design and Computational Bottlenecks
Two hardware engineers discuss CPU and GPU architecture trade-offs for modern AI workloads.
Recorded narration All 10 sentences have audio clips — tap any line to start there.
Thai
Script
Sign in to save texts and track what you've read.
Close macro photograph of an unbranded GPU circuit board with memory chips and heatsink on a clean electronics bench. Irwan , ? เมื่อความต้องการด้านการประมวลผลสำหรับการฝึกโมเดล AI พุ่งสูงขึ้น สถาปัตยกรรม GPU ในปัจจุบันยังเพียงพอไหม หรือเราต้องการกระบวนทัศน์ใหม่
Mega . , . GPU ที่ใช้สถาปัตยกรรม SIMD มีประสิทธิภาพสูงมากสำหรับการดำเนินงานเมทริกซ์แบบขนานที่เป็นหัวใจหลักของการฝึก แต่คอขวดตอนนี้อยู่ที่ bandwidth ของหน่วยความจำ ไม่ใช่ throughput ของการประมวลผล
Irwan ? ทำไม bandwidth ของหน่วยความจำถึงเป็นปัญหาหลัก
Mega , . . เพราะโปรเซสเซอร์เร็วขึ้นเรื่อยๆ แต่ความเร็วในการถ่ายโอนข้อมูลระหว่าง HBM กับ core ไม่ได้เพิ่มขึ้นในอัตราเดียวกัน ภาวะ data starvation ทำให้ core หลายพันตัวนั่งว่างรอข้อมูล
Irwan ? อุตสาหกรรมกำลังพัฒนาวิธีแก้ปัญหาอะไรบ้าง
Mega , , . การรวมหน่วยความจำเข้าใน die โดยตรงด้วยเทคโนโลยี 3D stacking สถาปัตยกรรม near-memory computing และชิปออกแบบเฉพาะอย่าง TPU ที่สร้างมาสำหรับ workload บางประเภทโดยเฉพาะ
Layered stack of semiconductor packages beside a processor die and fine circuit substrate, three-dimensional memory integration hardware research.Irwan ? ? neuromorphic computing อยู่ตรงไหน เกี่ยวข้องกับ AI ในอนาคตไหม
Mega . , . เกี่ยวข้องมากสำหรับการ inference ที่ประหยัดพลังงานบน edge device แต่สำหรับการฝึกโมเดลขนาดใหญ่ ยังห่างไกลจากความสมบูรณ์ในเชิงพาณิชย์
Irwan , ? เมื่อควอนตัมคอมพิวเตอร์เกิดขึ้น จะมาแทนที่สถาปัตยกรรมคลาสสิกสำหรับ AI ไหม
Mega . . . ไม่ในเร็วๆ นี้ ควอนตัมคอมพิวเตอร์ปัจจุบันยังอยู่ในขั้น NISQ ที่มีอัตราความผิดพลาดสูง ข้อได้เปรียบเชิงควอนตัมสำหรับ ML บางอย่างยังคงเป็นแค่ทฤษฎี
colour key NounVerbAdjectiveAdverbPronounParticleConjunctionDeterminer