Edge AI
Trí tuệ nhân tạo biên (AI), hay AI ở biên, là việc triển khai trí tuệ nhân tạo trong môi trường điện toán biên, cho phép thực hiện tính toán gần với nơi dữ liệu thực sự được thu thập, thay vì tại cơ sở điện toán đám mây tập trung hoặc bên ngoài trung tâm dữ liệu. Edge AI cho phép các thiết bị đưa ra quyết định thông minh hơn nhanh hơn mà không cần kết nối với đám mây hoặc trung tâm dữ liệu ngoại vi.
Khi điện toán biên đưa việc lưu trữ dữ liệu đến gần vị trí của thiết bị hơn, thuật toán AI sẽ xử lý dữ liệu được tạo trên thiết bị dù có hoặc không có kết nối Internet. Điều này cho phép dữ liệu được xử lý trong vòng một phần nghìn giây, cung cấp phản hồi theo thời gian thực. Edge AI cho phép gửi phản hồi gần như ngay lập tức. Điều này có thể an toàn hơn khi điều đó có nghĩa là một số dữ liệu nhạy cảm không bao giờ thực sự rời khỏi ranh giới.
Do khả năng di chuyển dữ liệu khỏi các trung tâm dữ liệu đám mây quá tải, các thiết bị biên như cảm biến và thiết bị IoT đang trên đường trở thành công nghệ chủ chốt.
AI tại biên khác với AI truyền thống như thế nào?
Edge AI khác với khung ứng dụng AI truyền thống, nơi dữ liệu được tạo ra bởi các công nghệ được kết nối sẽ được truyền tới hệ thống đám mây phụ trợ. Thay vì chạy các mô hình AI ở phần phụ trợ, chúng được cấu hình trên bộ xử lý bên trong các thiết bị được kết nối hoạt động ở biên mạng. Điều này bổ sung thêm một lớp trí thông minh ở biên, nơi thiết bị biên không chỉ thu thập số liệu và phân tích mà còn có thể hành động dựa trên chúng vì có mô hình máy học (ML) tích hợp trong thiết bị biên tạo ra AI thực sự ở biên.
Mục tiêu của trí tuệ nhân tạo vẫn giữ nguyên – tạo ra những cỗ máy thông minh hoạt động và thực hiện các nhiệm vụ mà con người thường làm mà không có sự giám sát của con người. Tuy nhiên, Edge AI thực hiện công việc và đưa ra quyết định cục bộ, bên trong hoặc gần bất kỳ thiết bị nào đang được sử dụng.
Lợi ích của AI biên là gì?
Sự kết hợp giữa điện toán biên và trí tuệ nhân tạo mang lại những lợi ích to lớn. Với AI biên, khả năng tính toán hiệu suất cao được đưa đến biên, nơi đặt các cảm biến và thiết bị IoT. Người dùng có thể xử lý dữ liệu trên thiết bị theo thời gian thực vì không cần kết nối và tích hợp giữa các hệ thống và họ có thể tiết kiệm thời gian bằng cách tổng hợp dữ liệu mà không cần liên lạc với các vị trí thực tế khác.
Những lợi ích của AI biên bao gồm:
- Sử dụng ít năng lượng hơn : Tiết kiệm chi phí năng lượng với các quy trình dữ liệu ở cấp cục bộ với yêu cầu về năng lượng để chạy AI ở biên thấp hơn nhiều so với trong các trung tâm dữ liệu đám mây
- Giảm băng thông : Giảm băng thông trong luồng dữ liệu và giảm thiểu chi phí với nhiều dữ liệu được xử lý, phân tích và lưu trữ cục bộ hơn thay vì được gửi lên đám mây
- Quyền riêng tư : Giảm nguy cơ dữ liệu bị chiếm dụng hoặc xử lý sai do dữ liệu được xử lý cục bộ trên các thiết bị biên từ hoạt động AI biên
- Bảo mật : Ưu tiên truyền dữ liệu quan trọng bằng cách xử lý và lưu trữ dữ liệu trong mạng biên hoặc lọc dữ liệu dư thừa, không liên quan và không cần thiết
- Khả năng mở rộng : Dễ dàng mở rộng quy mô hệ thống với nền tảng dựa trên đám mây và khả năng biên gốc trên thiết bị của nhà sản xuất thiết bị gốc (OEM)
- Giảm độ trễ : Loại bỏ một phần tải trọng đó khỏi nền tảng đám mây và phân tích cục bộ để nền tảng dựa trên đám mây rảnh rỗi cho các tác vụ khác như phân tích