Trí tuệ nhân tạo (AI) đang nhanh chóng định nghĩa lại điện toán nhúng để cung cấp trình điều khiển cốt lõi cho các giải pháp thế hệ tiếp theo trong các lĩnh vực như robot, tự động hóa công nghiệp và thiết bị y tế. Khi quá trình xử lý dữ liệu ngày càng tiến tới biên, một nền tảng có hiệu suất AI hiệu quả, độ trễ thấp và khả năng tùy biến cao đã trở thành một yêu cầu khắt khe trong nhiều lĩnh vực công nghiệp khác nhau.
Mô-đun hệ thống iW-RainboW-G58M của IWave (Hình 1) dựa trên Agilex ™ 5 SoC FPGA của Altera, Thiết kế AI vượt biên. Mô-đun nhỏ gọn này kết hợp kiến trúc FPGA đầu tiên của Altera, đưa chức năng AI trực tiếp vào Fabric, cho phép kết hợp độc đáo giữa tính linh hoạt, sức mạnh tính toán và hiệu quả cho các hệ thống nhúng do AI điều khiển.
Hình 1: Hệ thống mô-đun iWave iW-RainboW-G58M. Nguồn ảnh: iWave)
Thiết kế nhỏ gọn và lực tính toán mạnh mẽ
IW-RainboW-G58M SoM kích thước tổng thể 60 mm x 70 mm, được đóng gói B32A, các sản phẩm dòng ™ SoC FPGA E của Altera Agilex được hỗ trợ. Chuỗi mô-đun được chia thành hai nhóm:
Nhóm A: A5E06AA/052A/043A/028A/013A SoC FPGA
Nhóm B: A5E065B/052B/043B/028B/013B/008B SoC FPGA
Mô-đun Agilex ™ Series 5 tích hợp hệ thống xử lý không đồng nhất bất đối xứng, mang lõi kép Cortex-A76 và lõi Cortex-A55 kép, đồng thời đạt được sự cân bằng tối ưu giữa hiệu suất và hiệu quả năng lượng. Các khối DSP nâng cao được tích hợp với các khối tensor AI tăng tốc khối lượng công việc học sâu, trong khi bộ thu phát GTS lên đến 28,1 Gbps PCIe ® X 8 và các giao diện hiển thị như HDMI và DisplayPort cung cấp kết nối tốc độ cao cho các ứng dụng AI và đa phương tiện phức tạp.
Hệ sinh thái phần mềm AI và các công cụ phát triển
Agilex ™ Việc tích hợp liền mạch nền tảng 5 với khung AI hàng đầu (Hình 2) giúp đơn giản hóa việc phát triển các giải pháp suy luận AI tùy chỉnh. Nền tảng này hỗ trợ Bộ công cụ TennorFlow, Pyr và Open ™ với phần mềm thiết kế FPGA AI Suite và Quartus ® Prime của Altera tối ưu hóa mô hình học tập chuyên sâu cho lý luận FPGA.
Hình 2: Agile™ Tích hợp liền mạch nền tảng và framework AI hàng đầu. Nguồn ảnh: iWave)
Với bộ AI Altera FPGA, tất cả các nhà phát triển từ kỹ sư phần cứng đến chuyên gia dữ liệu đều có thể xây dựng và triển khai các quy trình AI được tối ưu hóa một cách hiệu quả bằng cách sử dụng các quy trình công việc quen thuộc. Bộ phần mềm này kết nối thành công thiết kế FPGA với khung AI cấp cao, giảm thời gian đưa sản phẩm ra thị trường trong khi vẫn duy trì hiệu suất xác định và hiệu quả sử dụng năng lượng ở cấp độ phần cứng.
Cloud AI và Edge AI: Sự cân bằng
Trong các kiến trúc hiện đại, xử lý AI được chia thành xử lý đám mây và xử lý biên (Hình 3). Cloud AI cung cấp khả năng mở rộng rất lớn nhưng thường gặp phải sự chậm trễ và hạn chế về quyền riêng tư. Ngược lại, Edge AI thực hiện xử lý cục bộ theo thời gian thực, cho phép đưa ra quyết định tức thời, bảo vệ an ninh mạnh mẽ hơn và hoạt động liên tục, ổn định ngay cả khi không có kết nối mạng.
Hình 3: Cloud AI có thể mở rộng nhưng thường có những hạn chế về độ trễ và quyền riêng tư. Edge AI thực hiện xử lý cục bộ theo thời gian thực để đưa ra quyết định tức thì, tăng cường bảo mật và hoạt động liên tục ngay cả khi không có kết nối mạng. Nguồn ảnh: iWave)
Trong kiến trúc triển khai kết hợp, các nút biên xử lý các nhiệm vụ phân tích quan trọng về thời gian, trong khi trung tâm dữ liệu tóm tắt và xử lý các bộ dữ liệu lớn hơn để phân tích xu hướng hoặc lập mô hình dự đoán.- g. iW-RainboW-G58M được thiết kế cho mẫu máy kết hợp này, cho phép điện toán biên linh hoạt và tích hợp liền mạch với cơ sở hạ tầng đám mây.