Data science

Trung tâm siêu máy tính Barcelona cung cấp sức mạnh cho các mạng thần kinh được mã hóa với Intel Tech

Mã hóa đồng hình cung cấp hai lợi ích phi thường: thứ nhất, nó có tiềm năng an toàn trước sự xâm nhập của các máy tính lượng tử; thứ hai, nó cho phép người dùng sử dụng dữ liệu để tính toán mà không cần giải mã, cho phép giảm tải dữ liệu an toàn tới các đám mây thương mại và các vị trí bên ngoài khác. Tuy nhiên – như các nhà nghiên cứu từ Intel và Trung tâm Siêu máy tính Barcelona (BSC) đã giải thích – mã hóa đồng cấu hình “không được miễn trừ khỏi những nhược điểm khiến nó hiện không thực tế trong nhiều trường hợp”, bao gồm cả việc “kích thước của dữ liệu tăng lên dữ dội khi được mã hóa,” hạn chế ứng dụng cho các mạng nơron lớn. Bây giờ, điều đó có thể đang thay đổi: BSC và Intel lần đầu tiên đã thực thi các mạng nơ-ron lớn được mã hóa đồng hình. “Mã hóa đồng hình… cho phép suy luận bằng cách sử dụng dữ liệu được mã hóa nhưng nó phải chịu 100 x – 10, 000 x chi phí cho bộ nhớ và thời gian chạy, ”các tác giả viết trong bài báo của họ. “Bảo mật mạng thần kinh sâu… suy luận bằng cách sử dụng hiện đang bị giới hạn bởi tài nguyên máy tính và bộ nhớ, với các khuôn khổ yêu cầu hàng trăm gigabyte DRAM để đánh giá các mô hình nhỏ ”. Để làm được điều đó, các nhà nghiên cứu đã triển khai công nghệ của Intel: cụ thể là bộ nhớ bền bỉ Intel Optane và bộ xử lý Intel Xeon Scalable. Bộ nhớ Optane được kết hợp với DRAM để bổ sung dung lượng bộ nhớ bền bỉ cao hơn với tốc độ nhanh hơn của DRAM. Họ đã thử nghiệm sự kết hợp bằng cách sử dụng nhiều cấu hình khác nhau để chạy các mạng nơ-ron lớn, bao gồm ResNet – 50 (hiện là mạng nơ-ron lớn nhất từng được sử dụng mã hóa đồng hình) và biến thể lớn nhất của MobileNetV2. Sau các thử nghiệm, họ đã hạ cánh trên một cấu hình chỉ với một phần ba DRAM – nhưng chỉ giảm 10 phần trăm hiệu suất so với hệ thống đầy đủ DRAM. “Công nghệ mới này sẽ cho phép sử dụng chung các mạng nơ-ron trong môi trường đám mây, lần đầu tiên, bao gồm, nơi yêu cầu tính bảo mật không thể chối cãi cho dữ liệu hoặc mô hình mạng nơ-ron,” Antonio J. Peña, nhà nghiên cứu của BSC, người dẫn đầu cho biết nghiên cứu và là trưởng nhóm Gia tốc và Truyền thông cho Nhóm Máy tính Hiệu suất cao của BSC. Fabian Boemer, trưởng nhóm kỹ thuật của Intel hỗ trợ nghiên cứu này cho biết: “Việc tính toán vừa tốn nhiều máy tính vừa tốn nhiều bộ nhớ. “Để tăng tốc độ tắc nghẽn của việc truy cập bộ nhớ, chúng tôi đang nghiên cứu các kiến ​​trúc bộ nhớ khác nhau cho phép tính toán bộ nhớ gần tốt hơn. Công việc này là bước đầu tiên quan trọng để giải quyết thách thức thường bị bỏ qua này. Trong số các công nghệ khác, chúng tôi đang nghiên cứu việc sử dụng [of] bộ nhớ liên tục Intel Optane để giữ cho dữ liệu được truy cập liên tục gần bộ xử lý trong quá trình đánh giá. ” Để tìm hiểu thêm về nghiên cứu này, hãy đọc tài liệu nghiên cứu có đầy đủ tại đây.

Back to top button