Con người phải xây dựng quy trình kiểm soát AI.

Những phiên họp trước đã giải quyết các chủ đề như vũ khí hạt nhân, tấn công mạng và sự trỗi dậy của Trung Quốc. Năm nay, Aspen tập trung vào tác động của AI đối với an ninh quốc gia, xem xét cả lợi ích cũng như rủi ro của công nghệ này. Một trong số những lợi ích đó là khả năng phân loại dữ liệu trí tuệ, tăng cường hệ thống cảnh báo sớm, cải thiện hệ thống hậu cần phức tạp và kiểm tra mã máy tính để tăng cường an ninh mạng. Tuy nhiên cũng có những rủi ro lớn, chẳng hạn như những tiến bộ trong vũ khí tự động, những lỗi vô tình trong lập trình và các hệ thống AI đối địch có thể làm suy yếu an ninh mạng.

Trung Quốc đã đầu tư rất nhiều cho cuộc chạy đua vũ trang AI. Ba nguồn lực chính cho AI gồm dữ liệu để đào tạo các mô hình, các kỹ sư thông minh để phát triển các thuật toán và sức mạnh tính toán để vận hành chúng. Trung Quốc ít giới hạn về mặt pháp lý hoặc quyền riêng tư đối với quyền truy cập vào dữ liệu và có nhiều kỹ sư trẻ sáng giá. Lĩnh vực mà Trung Quốc tụt hậu nhất so với Mỹ là vi mạch tiên tiến tạo ra sức mạnh tính toán cho AI. Các biện pháp kiểm soát xuất khẩu của Mỹ đã hạn chế quyền truy cập của Trung Quốc vào các chip tiên tiến này cũng như các máy in thạch bản đắt tiền sản xuất chúng của Hà Lan. Các chuyên gia tại Aspen nhất trí rằng Trung Quốc chậm hơn Mỹ 1-2 năm, nhưng tình hình vẫn còn bất ổn. Mặc dù Tổng thống Joe Biden và Chủ tịch Tập Cận Bình đã đồng ý tổ chức các cuộc thảo luận song phương về AI khi gặp nhau hồi năm ngoái, nhưng Aspen không mấy lạc quan về triển vọng kiểm soát AI.

Vũ khí tự động gây ra mối đe dọa đặc biệt nghiêm trọng. Sau hơn một thập kỷ ngoại giao tại Liên hợp quốc, các quốc gia đã không thể nhất trí về lệnh cấm vũ khí sát thương tự động. Luật nhân đạo quốc tế yêu cầu quân đội phải phân biệt giữa lực lượng chiến đấu có vũ trang và dân thường. Lầu Năm Góc từ lâu đã yêu cầu phải có con người trong quy trình ra quyết định trước khi sử dụng vũ khí. Tuy nhiên, trong một số hoàn cảnh, chẳng hạn như phòng thủ chống tên lửa đang bay tới, không có thời gian cho sự can thiệp của con người. Vì bối cảnh rất quan trọng nên con người phải miêu tả chặt chẽ khi viết code những gì vũ khí được làm và không được làm.

Một trong những mối nguy đáng sợ nhất của AI là ứng dụng vào chiến tranh sinh học hoặc khủng bố. Năm 1972 khi đồng ý cấm vũ khí sinh học, các quốc gia đều tin loại vũ khí này không hữu ích vì có nguy cơ phản tác dụng với chính người sử dụng chúng. Tuy nhiên, với sinh học tổng hợp, con người có thể phát triển một loại vũ khí tiêu diệt nhóm đối tượng nhất định hay một tên khủng bố có thể tiếp cận phòng thí nghiệm với ý định giết càng nhiều người càng tốt.

Sự thật hiển nhiên là công nghệ phát triển nhanh hơn chính sách hay hoạt động ngoại giao, đặc biệt khi bị thúc đẩy bởi sự cạnh tranh gay gắt trong khu vực tư nhân. Do đó, các chính phủ cần phải tăng tốc độ xây dựng chính sách.