Cảnh Báo Từ Anthropic: Kỷ Nguyên AI Cần "Công Tắc Hủy Diệt" Để Ngăn Chặn Rủi Ro Mất Kiểm Soát
Sự phát triển vũ bão của Trí tuệ nhân tạo (AI) đang đặt nhân loại trước ngã ba đường, nơi những lợi ích to lớn đi kèm với những rủi ro chưa từng có. Trong một cuộc phỏng vấn độc quyền với BBC News, ông Jack Clark – nhà đồng sáng lập của "gã khổng lồ" AI Anthropic – đã đưa ra những cảnh báo mạnh mẽ về mối đe dọa khi công nghệ này vươn tới mức độ thông minh vượt trội.
Theo ông Clark, công nghệ AI đang trở nên mạnh mẽ hơn đáng kể chỉ sau vài tháng. Những rủi ro vốn trước đây chỉ nằm trên lý thuyết học thuật thì nay đã xuất hiện những dấu hiệu cảnh báo thực tế . Đỉnh điểm của sự lo ngại là kịch bản con người phải đối phó với một hệ thống thông minh gấp hàng trăm lần người thông minh nhất hành tinh . Cơ hội để kiểm soát an toàn một thực thể như vậy là "rất thấp" .
Đứng trước mối đe dọa này, vấn đề thiết lập một "công tắc hủy diệt" (kill switch) bắt buộc đối với các công ty phát triển AI đang được đặt lên bàn thảo luận . Jack Clark cho biết hầu hết các phòng thí nghiệm lớn đều đã có phương án ngắt kết nối hệ thống, nhưng xã hội sẽ cần những quy định pháp lý rõ ràng: Liệu kill switch có bắt buộc hay không, và có cần bên thứ ba độc lập đứng ra xác minh hay không?
Bên cạnh mối lo ngại về khả năng AI chiếm quyền kiểm soát mạng internet, vô hiệu hóa nhà máy điện hay các hệ thống tài chính, báo cáo nội bộ từ nhóm của Jack Clark còn chỉ ra những tác động kinh tế trước mắt . Nếu không được kiểm soát, làn sóng AI có thể dẫn đến tỷ lệ thất nghiệp chưa từng có đối với giới lao động trí thức (white-collar).
Tuy nhiên, giới chuyên gia cũng nhấn mạnh chúng ta chưa đi quá xa để sửa sai . Nếu định hướng công nghệ đúng đắn, AI có thể thay đổi vĩnh viễn bộ mặt của khoa học và y tế, mang lại những lợi ích phi thường . Vấn đề cốt lõi hiện nay là thế giới vẫn còn quyền lựa chọn tốc độ phát triển AI, nhưng "thời gian đang cạn dần" để các quốc gia ngồi lại và thiết lập những quy tắc ứng xử toàn cầu.
Nguồn video tham khảo: Anthropic warning: humans may need “kill switches” to shut down rogue AI systems | BBC News