AI lên ngôi: Cảnh báo rủi ro tiềm ẩn đối với người dùng

Tốc độ và quy mô áp dụng AI hiện nay đang gia tăng một cách nhanh chóng khiến các tổ chức đang gặp phải các rủi ro liên quan đến AI ngay trong quá trình thử nghiệm và triển khai công nghệ này.

Với sự phổ biến ngày càng tăng của AI, thách thức trong công tác quản trị rủi ro cũng trở nên phức tạp hơn. Do đó, việc thiết lập các khung quản trị vững chắc không chỉ giúp doanh nghiệp ứng dụng AI một cách hiệu quả, mà còn xây dựng niềm tin từ khách hàng, thúc đẩy việc khai thác giá trị và mở rộng quy mô.

Tiến sĩ Elea Wurth, Phó Tổng giám đốc phụ trách Dịch vụ chiến lược AI đáng tin cậy, rủi ro và giao dịch tại Deloitte khu vực Châu Á - Thái Bình Dương và Australia, nhận định rằng việc quản trị AI hiệu quả không chỉ là yêu cầu tuân thủ, mà còn là chìa khóa để khai thác tối đa giá trị tiềm năng từ những công nghệ AI hiện đại.

Theo bà, các tổ chức sở hữu một khung quản trị vững chắc sẽ không chỉ quản lý rủi ro một cách hiệu quả mà còn gia tăng sự tin tưởng vào kết quả mà AI mang lại, từ đó nâng cao hiệu suất hoạt động và tạo dựng giá trị bền vững, mở rộng quy mô hoạt động.

Trong một nghiên cứu gần đây tại các quốc gia Đông Nam Á, Tiến sĩ Wurth chỉ ra rằng các lỗ hổng bảo mật, đặc biệt là các nguy cơ tấn công mạng, luôn là mối lo ngại hàng đầu khi áp dụng AI. Bên cạnh đó, các vấn đề về quyền riêng tư, như vi phạm dữ liệu cá nhân hay xâm phạm quyền riêng tư qua giám sát tràn lan, cũng đang dần trở thành thách thức không thể bỏ qua.

Ông Chris Lewin, lãnh đạo bộ phận AI và dữ liệu tại Deloitte khu vực Châu Á - Thái Bình Dương, cũng chia sẻ rằng tốc độ triển khai AI hiện nay đang gia tăng chóng mặt, khiến các tổ chức phải đối mặt với những rủi ro ngay trong quá trình thử nghiệm và ứng dụng công nghệ này. Đông Nam Á, và rộng hơn là khu vực Châu Á - Thái Bình Dương, đang là điểm nóng đối với các cuộc tấn công mạng và những mối lo ngại về lỗ hổng bảo mật từ các giải pháp AI, đặc biệt là khi khối lượng dữ liệu lớn mà AI sử dụng càng gia tăng.

Về phía Việt Nam, ông Đỗ Danh Thanh, Phó Tổng giám đốc Dịch vụ tư vấn công nghệ và chuyển đổi CNTT, nhận định rằng xâm phạm quyền riêng tư là một trong ba mối lo ngại lớn nhất của các tổ chức khi ứng dụng AI. Ngoài ra, vấn đề chia sẻ trách nhiệm giữa các kỹ sư phần mềm và người dùng hệ thống AI cũng như độ tin cậy của kết quả đầu ra là những thách thức đáng quan tâm.

Tuy nhiên, ông Thanh cũng cho rằng nếu các tổ chức xác định rõ chiến lược và tầm nhìn ngay từ giai đoạn đầu khi triển khai AI, các rủi ro sẽ được giảm thiểu và quản lý một cách hiệu quả hơn.

Để hỗ trợ việc phát triển và áp dụng AI một cách bền vững, Deloitte đã đưa ra báo cáo tổng quan về việc phát triển các giải pháp AI đáng tin cậy, nhấn mạnh rằng việc xây dựng một khung quản trị AI rõ ràng và hiệu quả là yếu tố then chốt cho sự thành công trong việc quản trị rủi ro. Báo cáo này cũng đưa ra các khuyến nghị quan trọng, như việc ưu tiên quản trị AI để tối đa hóa lợi ích từ công nghệ này, hiểu rõ chuỗi cung ứng AI rộng lớn và phát triển các đơn vị quản lý rủi ro. Ngoài ra, việc truyền thông và đảm bảo sự sẵn sàng chuyển đổi AI trong phạm vi toàn doanh nghiệp là yếu tố không thể thiếu.

Deloitte cũng chỉ ra rằng hơn 70% nhân viên trẻ và sinh viên ở Đông Nam Á đã và đang sử dụng AI thế hệ mới (GenAI), cho thấy rằng thành công trong quản trị AI phụ thuộc vào khả năng phán đoán và hành động của con người. Quản trị AI tốt cần được tích hợp xuyên suốt vòng đời của các giải pháp AI và vào mọi khía cạnh công nghệ, quy trình và nguồn lực nhân sự.