Sam Altman và Dario Amodei, hai nhân vật hàng đầu trong lĩnh vực trí tuệ nhân tạo (AI), đã cùng ký một bức thư cảnh báo về nguy cơ vũ khí sinh học được hỗ trợ bởi AI.

Không cần phải là người hâm mộ AI để thừa nhận rằng AI đôi khi có thể là một công cụ hữu ích trong việc tìm kiếm kiến thức mới. Nếu bất kỳ kiến thức mới nào trong số đó tình cờ là công thức vũ khí sinh học, thì hầu hết mọi người đều đồng ý rằng điều đó sẽ rất tồi tệ. Giám đốc điều hành OpenAI Sam Altman và Giám đốc điều hành Anthropic Dario Amodei không đồng ý nhiều điều, nhưng họ đồng ý rằng điều đó sẽ rất tồi tệ, và họ đã ký tên vào một bức thư ngỏ nói lên điều đó. Bản thân bức thư gọi đây là "một khoảnh khắc hiếm hoi có sự đồng thuận giữa các bên liên quan thường xuyên bất đồng." Những người ký tên khác bao gồm Demis Hassabis và Alexandr Wang, lần lượt là người đứng đầu AI tại Google Deepmind và Meta, cùng với các doanh nhân và nhà nghiên cứu AI khác, cộng thêm hàng chục nhà khoa học và chuyên gia chính sách. Trọng tâm chính của bức thư thực ra không liên quan gì đến AI; nó hướng đến các nhà hoạch định chính sách, và chỉ đơn giản yêu cầu ban hành luật pháp quy định những người có khả năng kiểm soát axit nucleic tổng hợp phải thực hiện điều đó. Cụ thể, bức thư yêu cầu khi có yêu cầu về DNA (và có thể là RNA, mặc dù bức thư không đề cập đến), chúng phải được quét tìm "các trình tự đáng lo ngại," và "tính hợp pháp của khách hàng" phải được kiểm tra trước khi axit nucleic tổng hợp được gửi đi. Bức thư cũng yêu cầu dữ liệu về các đơn đặt hàng phải được ghi lại và có thể cung cấp cho các nhà điều tra, khẳng định, "Nhận thức về khả năng truy xuất nguồn gốc tự nó đã ngăn chặn việc lạm dụng." Sự phát triển nhanh chóng của AI chỉ làm tăng tính cấp bách. Bức thư nói rằng vì AI đang tiến bộ rất nhanh, "có một khả năng thực sự là các rào cản kiến thức đã từng ngăn chặn những kẻ xấu có được vũ khí sinh học sẽ bị xói mòn đáng kể." Wired lưu ý rằng bức thư được tổ chức bởi hai tổ chức tư vấn: Viện Tiến bộ, được mô tả là phi đảng phái, và Quỹ Đổi mới Hoa Kỳ, rõ ràng là có xu hướng cánh hữu. Về phần mình, OpenAI gần đây đã thực hiện các bước dường như nhằm liên kết công ty và lãnh đạo của mình với trách nhiệm. Công ty đã công bố một sách trắng chính sách vào thứ Ba, phác thảo một kế hoạch kiểm tra các mô hình AI ở cấp liên bang nghiêm ngặt hơn kế hoạch trong một sắc lệnh hành pháp gần đây của Tổng thống Trump. Vào thứ Tư, Altman cũng đã gặp Bernie Sanders, nhà phê bình AI gay gắt nhất hiện nay tại Thượng viện Hoa Kỳ.