Nhóm nhân viên OpenAI, Google: 'Các công ty đang che giấu về hiểm họa AI'

Một nhóm nhân viên OpenAI và Google nói các công ty trong ngành đang giấu thông tin về hiểm họa từ AI, trong đó có nguy cơ con người bị xóa sổ.

Trong thư ngỏ công bố tuần này, nhóm gồm 13 nhân viên và cựu nhân viên của OpenAI, Google DeepMind nói các công ty AI "đang nắm giữ lượng lớn thông tin không được công khai về năng lực và hạn chế của những hệ thống do các doanh nghiệp này phát triển".

Thư đề cập hàng loạt "hiểm họa nghiêm trọng" đi kèm với AI, như gia tăng bất bình đẳng, phát tán thông tin giả, mất kiểm soát AI tự động dẫn tới nguy cơ con người tuyệt chủng. Họ chỉ trích tình trạng thiếu biện pháp giám sát hiệu quả và kêu gọi tăng cường bảo vệ cho những người sẵn sàng lên tiếng, còn gọi là người thổi còi, trong ngành.

Nhóm nhân viên tin AI có thể mang đến những lợi ích chưa từng thấy cho xã hội và hiểm họa trên có thể được hạn chế nhờ sự tham gia của các nhà khoa học, giới quản lý và công chúng. Dù vậy, họ cho rằng các công ty AI có nhiều động lực để né tránh những biện pháp giám sát hiệu quả.

Bức thư cho biết nhiều công ty AI hiểu rõ mối đe dọa và những biện pháp bảo vệ cần thiết, nhưng gần như không có nghĩa vụ phải chia sẻ thông tin cho các chính phủ và cộng đồng xã hội.

"Thỏa thuận bảo mật khiến nhiều người không thể công khai về những mối lo ngại của mình. Các biện pháp bảo vệ người thổi còi là không đủ vì họ thường tập trung vào những hoạt động phi pháp, trong khi nhiều hiểm họa nằm trong diện chưa được quản lý", thư ngỏ có đoạn.

Nhóm tác giả kêu gọi các công ty hàng đầu không trả đũa những lời chỉ trích liên quan đến mối đe dọa của AI, đồng thời thiết lập hệ thống góp ý ẩn danh để nhân viên có thể bày tỏ quan điểm riêng.

Phát ngôn viên OpenAI khẳng định công ty tự hào với thành tích liên tục công bố các hệ thống AI có hiệu năng cao và an toàn nhất, bày tỏ tin tưởng vào cách tiếp cận khoa học của hãng khi giải quyết các mối đe dọa.

Google từ chối bình luận về thông tin.

Vox hồi tháng trước nói các cựu nhân viên OpenAI bị cấm chỉ trích công ty. Nếu không ký thỏa thuận giữ kín thông tin, họ có thể mất toàn bộ cổ phần được nhận trong thời gian làm việc. CEO OpenAI Sam Altman sau đó khẳng định giấy tờ chấm dứt công việc tại đây sẽ được điều chỉnh.