Helpex - Trao đổi & giúp đỡ Đăng nhập

Xem xét cách các API học máy có thể vi phạm quyền riêng tư và bảo mật

Tôi đang đọc về cách Carbon Black, một dịch vụ phát hiện và phản hồi điểm cuối (EDR), tiết lộ dữ liệu khách hàng thông qua dịch vụ API của bên thứ ba mà họ đang sử dụng . Nhà cung cấp phản hồi và phát hiện điểm cuối cho phép khách hàng tùy chọn quét các tệp hệ thống và chương trình bằng cách sử dụng dịch vụ VirusTotal. Carbon Black không nhận ra rằng những người đăng ký cao cấp của dịch vụ VirusTotal có quyền truy cập vào các tệp đã gửi, cho phép một công ty hoặc cơ quan chính phủ có quyền truy cập cao cấp vào giao diện lập trình ứng dụng (API) của VirusTotal để khai thác các tệp đó để lấy dữ liệu nhạy cảm.

Nó cung cấp một cái nhìn khá đáng sợ về tương lai của quyền riêng tư và bảo mật trong thế giới API của bên thứ 3 nếu chúng ta không nghĩ sâu về các giải pháp mà chúng ta đưa vào các ứng dụng và dịch vụ của mình. Mỗi API mà chúng tôi đưa vào các ứng dụng của mình phải luôn được xem xét kỹ lưỡng về các mối quan tâm về quyền riêng tư và bảo mật, đảm bảo người dùng cuối không phải chịu những tình huống không cần thiết. Tình huống này có vẻ như cả nhà cung cấp API và người tiêu dùng đều góp phần vào việc vi phạm quyền riêng tư và việc điều chỉnh các cấp độ truy cập nền tảng và giao tiếp với người tiêu dùng API sẽ là con đường tốt nhất về phía trước.

Ngoài tình huống này, tôi muốn viết về chủ đề này như một câu chuyện cảnh báo cho bối cảnh API học máy đang diễn ra. Đảm bảo rằng chúng tôi đang suy nghĩ sâu sắc về dữ liệu và nội dung mà chúng tôi đang cung cấp cho các nền tảng thông qua trí tuệ nhân tạo và API học máy. Đảm bảo rằng chúng tôi đang đặt những câu hỏi hóc búa về tính bảo mật và quyền riêng tư của dữ liệu và nội dung mà chúng tôi đang chạy thông qua các API học máy. Đảm bảo rằng chúng tôi đang suy nghĩ sâu sắc về bộ dữ liệu và nội dung mà chúng tôi đang chạy thông qua các API học máy và giảm bất kỳ sự tiếp xúc không cần thiết nào đối với dữ liệu cá nhân, nội dung và phương tiện.

Thật dễ dàng bị thu hút bởi sự kỳ diệu của trí tuệ nhân tạo và API học máy. Có thể dễ dàng xem các API như một thứ bên ngoài và không có nhiều mối đe dọa về quyền riêng tư hoặc bảo mật. Tuy nhiên, với mỗi lệnh gọi API, chúng tôi sẽ mời một API của bên thứ ba vào cơ sở dữ liệu, tệp và các hệ thống riêng tư khác của chúng tôi. Hãy đảm bảo rằng chúng tôi có một cuộc trò chuyện trung thực với các nhà cung cấp API của chúng tôi về cách dữ liệu và nội dung được truy cập, lưu trữ, lưu vào bộ nhớ cache và được sử dụng như một phần của bất kỳ quy trình AI hoặc ML nào. Hãy đảm bảo rằng chúng tôi làm rõ đối tác hoặc nhà cung cấp bên thứ 3 nào khác đang có quyền truy cập vào dữ liệu và nội dung được lập chỉ mục và thực thi như một phần của các yêu cầu và phản hồi API AI và ML. Video hoặc hình ảnh được lưu trữ trong bao lâu? Dữ liệu được lưu trữ trong bao lâu?

Tôi thấy có nhiều cuộc thảo luận hơn về các phụ thuộc đang diễn ra trong không gian API, mà các thư viện phần mềm và API mà chúng tôi phụ thuộc vào cho các ứng dụng và dịch vụ của mình. Tôi cảm thấy cuộc trò chuyện này sẽ tiếp tục được mở rộng và bảo mật, quyền riêng tư và khả năng quan sát sẽ trở thành một phần quan trọng hơn trong các cuộc thảo luận về sự phụ thuộc này. Đây sẽ là một cuộc trò chuyện tiếp tục thúc đẩy triển khai API tại chỗ và ngoài cơ sở. Ngoài ra, chúng ta cần tiếp tục quan sát cách các hoạt động API ML và AI đang được ghi lại, lưu trữ và theo dõi. Tôi sẽ tiếp tục theo dõi cách các API cố tình hoặc vô ý vi phạm bảo mật và quyền riêng tư như thế này và theo dõi cuộc trò chuyện về sự phụ thuộc của API để xem nó phát triển như thế nào trong cuộc thảo luận về bảo mật và quyền riêng tư này.

10 hữu ích 0 bình luận 3.1k xem chia sẻ

Có thể bạn quan tâm

loading