Chính phủ Anh cảnh báo 5 kịch bản tồi tệ của AI

Trong tuần qua, các nhà nghiên cứu tại Văn phòng Khoa học chính phủ Anh (GO-Science) công bố báo cáo về cách trí tuệ nhân tạo (AI) có thể phát triển vào năm 2030. Bên cạnh chỉ ra những tác động tích cực của AI, họ cảnh báo về 5 kịch bản tồi tệ, khiến AI trở thành mối đe dọa thực sự trong tương lai, từ nguy cơ bị lạm dụng để phát triển vũ khí sinh học cho đến gây mất việc làm hàng loạt.

Bọn khủng bố sử dụng AI phát triển vũ khí sinh học

Sự gia tăng của các chương trình máy tính AI miễn phí khiến chúng đứng trước rủi ro bị các tổ chức khủng bố khai thác để tiến hành chiến tranh sinh học. Những mô hình AI “nguồn mở” này, không được chính phủ hoặc các công ty lớn kiểm soát và không có tiêu chuẩn an toàn. Điều đó có nghĩa là có rất ít giới hạn trong việc sử dụng AI cho các mục đích tội ác.

Báo cáo của GO-Science cảnh báo, trong trường hợp này, những kẻ xấu sẽ có quyền truy cập vào những công cụ mạnh mẽ mà việc sử dụng chúng không được quản lý chặt chẽ.

Theo kịch bản dự báo của GO-Science, các cuộc tấn công mạng dựa trên AI nhắm vào cơ sở hạ tầng và dịch vụ công cộng trở nên thường xuyên và nghiêm trọng hơn đáng kể. Các nhà nghiên cứu cũng cho rằng đến năm 2030, các cơ quan tình báo mới bắt đầu nhận thức được các nhóm khủng bố đang cố gắng phát triển vũ khí sinh học bằng cách sử dụng các công cụ Al.

Nhiều mối lo ngại xung quanh AI ngày nay tập trung vào công nghệ nguồn mở, miễn phí và có thể tùy chỉnh, trái ngược với các hệ thống AI do các công ty công nghệ kiểm soát. Tuy nhiên, những người ủng hộ công nghệ AI cho rằng điều này giúp cải thiện khả năng tiếp cận AI, đồng nghĩa với việc quyền lực không bị tập trung vào tay một số ít gã khổng lồ công nghệ.

AI đánh cắp việc làm, dẫn đến “thuế robot”

Dù thế giới có thế tránh được những lo ngại an ninh tồi tệ nhất về việc AI đạt đến trí thông minh ở cấp độ con người, thì những cải tiến nhanh chóng trong cái gọi là hệ thống “hẹp” của AI như phần mềm, robot và xe tự lái có nguy cơ gây ra sự xáo trộn lớn trên thị trường việc làm.

Những hệ thống này có thể có chi phí rẻ hơn và làm việc hiệu quả hơn so với người lao động. Nhiều công ty mới được thành lập để tận dụng lợi thế của chúng. Điều đó sẽ dẫn đến làn sóng sa thải đáng kể vì các hệ thống như vậy cần ít sự giám sát của con người hơn để duy trì hoạt động của doanh nghiệp.

Báo cáo của GO-Science cho biết, người lao động trong lĩnh vực công nghệ thông tin, kế toán và vận tải có nhiều khả năng bị ảnh hưởng nhất. Nhưng bất kỳ ai làm việc cho những công ty lớn đều có thể dễ bị tổn thương vì họ có đủ nguồn lực để đầu tư vào hệ thống AI.

Những người lao động có khả năng được hưởng lợi nhất là những người có kỹ năng giám sát các hệ thống mới, tạo ra một lớp “nhà quản lý AI” mới. Tuy nhiên, sự bất bình đẳng sẽ gia tăng, dẫn đến những lo ngại về tình trạng thất nghiệp và nghèo đói.

Các nhà nghiên cứu cho biết, thách thức lớn nhất đối với các chính phủ sẽ là quản lý tỷ lệ thất nghiệp gia tăng. Vì vậy, họ có thể xem xét đánh thuế nặng hơn đối với các công ty sử dụng AI. Trước đây, tỉ phú Bill Gates, người sáng lập Microsoft, từng đề xuất “thuế robot”, tức đánh thuế mới nhằm vào những công ty sử dụng robot, khiến việc làm của con người bị mất mát.

Tuy nhiên, báo cáo của GO-Science cũng chỉ ra một khía cạnh tích cực của AI là khi nhiều công việc được tự động hóa, điều này sẽ giúp người lao động cân bằng giữa cuộc sống và công việc tốt hơn.

Sử dụng AI để phạm tội trở nên phổ biến

Sự bùng nổ của các công nghệ AI khác nhau do nhiều công ty tạo ra có nghĩa là bất cứ người nào có máy tính hoặc điện thoại thông minh đều có thể tạo video deepfake (mạo danh) sống động như thật, sao chép giọng nói của người thân và viết email có vẻ chân thực chỉ trong vài giây.

Báo cáo của GO-Science cho rằng, bọn tội phạm có thể lạm dụng rộng rãi công nghệ Al để mạo danh người khác và thực hiện các hành vi lừa đảo và ăn cắp dữ liệu. Một bộ phận dân chúng sẽ trở thành nạn nhân của bọn tội phạm có tổ chức lạm dụng AI, gây bất ổn xã hội. AI cũng có thể tiếp tay cho các hành vi trộm cắp bí mật thương mại quy mô lớn, gây tổn hại cho nền kinh tế và dẫn đến thất nghiệp.

Niềm tin giữa các quốc gia sẽ bị phá vỡ khi “các quốc gia bất hảo” sử dụng công nghệ này để tiến hành các hoạt động gián điệp ở mức độ chưa từng có và tăng cường can thiệp vào các cuộc bầu cử ở nước ngoài. Trong khi đó, sự bùng nổ của các video và tin tức giả dẫn đến môi trường internet “ngày càng ô nhiễm”, khiến mọi người ít tin hơn về những gì họ đọc và xem.

AI kiểm soát thế giới

Theo GO-Science, từ nay đến năm 2030, có khả năng một công ty công nghệ lớn sẽ phát hành một hệ thống AI mới đạt tới cấp độ AGI. Không giống như AI ngày nay đòi hỏi lượng dữ liệu khổng lồ để đào tạo, hệ thống AGI có thể hiểu thế giới xung quanh và nắm bắt ngay các khái niệm, giúp nó có khả năng học nhanh và thực hiện bất kỳ số lượng công việc nào. Hệ thống này có thể được cấy vào các robot, cho phép chúng thực hiện công việc thủ công và viết mã lập trình máy tính, giúp chúng trở nên thông minh hơn.

Việc tự cải thiện này có thể dẫn đến nỗi sợ hãi ngày càng tăng về “siêu trí tuệ không được kiểm soát”, một kịch bản có thể tạo ra hậu quả thảm khốc cho nhân loại nếu hệ thống AGI coi nhân loại là mối đe dọa ngăn cản các mục tiêu của nó.

Tuy nhiên, GO-Science cũng cho rằng, nếu được quản lý đúng cách, AGI có thể giúp mọi người có cuộc sống sung túc và an nhàn hơn. Lúc đó, tất cả nhân viên đều có trợ lý AI cá nhân và có thể giao phần lớn công việc của họ cho AI, cho phép họ làm việc ít lại và cải thiện sức khỏe.

Mặt khác, thế giới có thể trở nên dễ tổn thương nếu phụ thuộc quá mức vào một hệ thống như vậy, đặc biệt là khi nó có nguy cơ gặp trục trặc. Và nếu AGI được phát triển bởi một công ty tư nhân, điều đó có thể dẫn đến quyền lực nằm dưới sự kiểm soát của một tỉ phú công nghệ. Cho đến nay, các nhà nghiên cứu vẫn tranh cãi về khái niệm AGI và mộ số người tin rằng AI sẽ không bao giờ đạt được cấp độ AGI.

AI gây thất vọng

Theo GO-Science, một kịch bản khác là AI không đạt được tiến bộ nhanh chóng như nhiều người mong đợi, khiến các nhà đầu tư và công ty mất hứng thú với công nghệ này.

Các công ty công nghệ hiện vẫn chưa giải quyết được những vấn đề hiện nay của các hệ thống AI, chẳng hạn như chúng có xu hướng bịa ra sự thật. Các nhà nghiên cứu nói rằng, lúc đó, sẽ có “sự vỡ mộng” với công nghệ AI và rất ít người dân có thể nắm bắt được các cơ hội do AI tạo ra. Điều đó sẽ giúp thế giới tránh được những lo ngại về các mối đe dọa hiện hữu của AI nhưng việc AI thiếu tiến triển có những vấn đề riêng. Nhiều công ty đang dựa vào AI để cải thiện năng suất, vốn đã trì trệ trong nhiều năm và nếu không có nó, thế giới có thể nghèo hơn.

Một số chuyên gia tin rằng chúng ta đang ở trong thời kỳ bong bóng AI và những cảnh báo về tác động thảm khốc của công nghệ này đã bị thổi phồng quá mức.