Một dòng lệnh selfdestruct(address) trong hợp đồng thông minh, một cú click vào nút "Kill Switch" của Bộ An ninh Nội địa Hoa Kỳ: về bản chất, cả hai đều là quyền lực tuyệt đối để chấm dứt một thực thể. Nhưng trong thế giới blockchain, nút đó bị hàng trăm validator từ chối; trong thế giới AI, nó nằm trong tay một bộ trưởng.
Tôi đã audit hàng trăm hợp đồng DeFi. Mỗi hợp đồng chứa ít nhất một lỗ hổng logic, nhưng không có lỗ hổng nào nguy hiểm bằng thiết kế "emergency stop" (tạm dừng khẩn cấp) của chính quyền Washington dành cho các mô hình ngôn ngữ lớn. Dự luật do Thượng nghị sĩ Markey và Heinrich đề xuất, cho phép Bộ An ninh Nội địa ra lệnh đóng cửa bất kỳ "hệ thống AI tiên tiến" nào bị coi là rủi ro hệ thống, kèm mức phạt 20 triệu USD mỗi ngày nếu không tuân thủ. Nghe quen không? Một phiên bản siêu cấp của contract upgrade với một admin duy nhất, và admin đó không phải là DAO.
Hãy nhìn vào cấu trúc quyền lực. Trong kiến trúc DeFi, một "kill switch" thường được triển khai qua Ownable pattern hoặc Access Control. Bất kỳ ai nắm private key của owner address đều có thể gọi pause() hoặc emergencyStop(). Đó là lý do tại sao multisig ra đời: để phân tán quyền lực. Đạo luật AI này lại tập trung quyền lực vào một thực thể duy nhất - Bộ An ninh Nội địa. Không có multisig, không có timelock, không có DAO vote. Một quyết định của một người có thể đóng băng toàn bộ ngành công nghiệp.
Nhưng vấn đề còn sâu hơn thế. Là một security auditor, tôi biết rằng bất kỳ emergency stop nào cũng phải đối mặt với "oracle problem" - làm sao để biết chính xác thời điểm nào cần kích hoạt? Trong DeFi, chúng ta có on-chain data: một price oracle lệch 500% là dấu hiệu rõ ràng của flash loan attack. Nhưng đối với AI, "hành vi nguy hiểm" là một khái niệm mơ hồ. Mô hình LLM đưa ra thông tin sai lệch về vaccine? Đó là misinformation hay free speech? Mô hình viết code tự động tạo ra lỗ hổng bảo mật? Đó là lỗi kỹ thuật hay cố ý gây hại?
Dựa trên kinh nghiệm audit của tôi, các hợp đồng DeFi có emergency stop thường gặp một lỗi chết người: threshold misconfiguration. Họ đặt threshold quá thấp (ví dụ: 5% biến động giá) dẫn đến false positive liên tục; hoặc quá cao (ví dụ: 50%) khiến emergency stop vô dụng. Đạo luật AI không định nghĩa được threshold nào cho "nguy hiểm". Họ sẽ dựa vào đâu? Một báo cáo từ một think tank? Một bài báo trên New York Times? Một tweet từ AI safety researcher?
Đây là điểm mù bảo mật thực sự: chúng ta đang giao quyền lực "kill switch" cho con người, nhưng con người lại là thành phần dễ bị tấn công nhất trong bất kỳ hệ thống nào. Một cuộc tấn công phishing vào email của Bộ trưởng Bộ An ninh Nội địa có thể kích hoạt emergency stop trên toàn ngành AI Mỹ. Hay tệ hơn, một quyết định chính trị - chẳng hạn như đóng cửa một công ty AI của đối thủ cạnh tranh - có thể được ngụy trang dưới vỏ bọc "bảo vệ an ninh quốc gia".
Từ góc nhìn của một người đã audit DAO governance token, tôi thấy sự tương đồng đáng sợ với các DAO "Ponzi" vào năm 2020: token holder nắm quyền biểu quyết nhưng không có quyền kiểm soát thực sự. Họ chỉ có thể vote cho các đề xuất được nhà phát triển chuẩn bị sẵn. Tương tự, công ty AI có thể phải tuân theo "kill switch" nhưng không có quyền phản đối hay kháng cáo quyết định đó. Đạo luật này tạo ra một DAO với một thành viên duy nhất.
ICOs: nơi lỗ hổng được viết bằng tiền. Và bây giờ, lỗ hổng được viết bằng luật.
Một góc nhìn phản trực giác: Kill switch càng dễ kích hoạt, mô hình càng trở nên nguy hiểm hơn. Khi các nhà phát triển biết rằng mô hình của họ có thể bị đóng cửa bất cứ lúc nào, họ sẽ giảm đầu tư vào safety research. Tại sao phải xây dựng các cơ chế alignment phức tạp nếu chính phủ có thể kéo nút bất cứ lúc nào? Điều này tạo ra moral hazard: công ty AI đổ lỗi cho cơ quan quản lý, và cơ quan quản lý đổ lỗi cho AI, trong khi không ai thực sự chịu trách nhiệm về sự an toàn của hệ thống.
Takeaway: Crypto đã giải quyết vấn đề emergency stop thông qua phân quyền và transparency. Luật AI đang làm ngược lại: tập trung quyền lực và opacity. Kết quả? Một false flag, cả pool sập.