Broadcom nỗ lực tích hợp kết nối quang học trực tiếp vào GPU, giải quyết tình trạng ‘thắt cổ chai’ băng thông cho AI (trí tuệ nhân tạo).
Theo TechSpot, trong bối cảnh nhu cầu về băng thông cho các tác vụ AI ngày càng tăng cao, Broadcom đang dẫn đầu trong việc phát triển công nghệ silicon photonics đột phá cho GPU, hứa hẹn sẽ giải quyết các hạn chế về kết nối dữ liệu hiện tại.
Theo thông tin từ hội nghị Hot Chips gần đây, Broadcom đang nghiên cứu tích hợp các thành phần kết nối quang học trực tiếp vào GPU, sử dụng công nghệ đóng gói quang học đồng bộ (CPO). “Động cơ quang học” mới của họ có khả năng cung cấp băng thông kết nối lên tới 1,6 TB/giây, tương đương với 800 GB/giây theo mỗi chiều, vượt xa khả năng của các kết nối đồng truyền thống.
Công nghệ này không chỉ mang lại tốc độ truyền dữ liệu vượt trội mà còn giảm đáng kể mức tiêu thụ điện năng, một vấn đề nan giải với các hệ thống AI hiện nay. Broadcom đã đạt được điều này bằng cách sử dụng công nghệ đóng gói CoWoS của TSMC, cho phép đặt các bộ thu phát quang học trực tiếp lên GPU.
Manish Mehta, Phó chủ tịch bộ phận hệ thống quang học của Broadcom, cho biết công nghệ CPO có thể kết nối tới 512 GPU trên 8 rack, tạo thành một hệ thống tính toán thống nhất mạnh mẽ. Điều này cho thấy tiềm năng vượt trội của giải pháp này trong việc xử lý các tác vụ AI đòi hỏi băng thông và sức mạnh tính toán khổng lồ.
Mặc dù Broadcom chưa tích hợp công nghệ này vào các sản phẩm thương mại, nhưng những bước tiến mới nhất của họ đã mở ra một hướng đi đầy hứa hẹn cho tương lai của kết nối dữ liệu trong lĩnh vực AI.