Nhà toán học đoạt Huy chương Fields, người từng công bố một bài báo về nguy cơ AI gây ra sự tuyệt chủng của loài người, hiện đang làm việc cho OpenAI.

Nhà toán học đoạt Huy chương Fields, người từng công bố một bài báo về nguy cơ tuyệt chủng của loài người do AI, hiện đang làm việc cho OpenAI. Jacob Tsimerman, nhà toán học vừa được trao Huy chương Fields, sẽ gia nhập OpenAI để làm việc về an toàn AI. Nhà lý thuyết số đến từ Đại học Toronto cho rằng AI là một công nghệ có khả năng thay đổi sâu rộng và xã hội cần nỗ lực nhiều hơn nữa vào vấn đề an toàn. Ông lập luận rằng các nhà toán học có thể đóng góp rất nhiều, vì AI vẫn chủ yếu hoạt động dựa trên cơ sở thực nghiệm với ít đảm bảo về cách thức hoạt động thực sự của các hệ thống này. Năm ngoái, Tsimerman cũng đã công bố một bài báo về "các sự kiện diệt chủng toàn diện", tức là các kịch bản trong đó AI có thể góp phần vào sự tuyệt chủng của loài người. Quan điểm này đang được các chuyên gia tranh luận. Tsimerman cho biết, hoảng loạn không phải là phản ứng đúng đắn, nhưng chúng ta cần đánh giá trung thực các rủi ro. Ông tin rằng AI sẽ sớm vượt trội hơn con người trong nghiên cứu toán học. Cựu Giám đốc điều hành DeepMind, Demis Hassabis, cũng đã đưa ra ý kiến về những tiến bộ mới nhất của AI trong toán học. Ông xem đây là sự tiến bộ nhưng chưa phải là một bước đột phá cơ bản như "Nước đi 37" huyền thoại của AlphaGo của DeepMind. Để đạt được điều đó, AI cần giải quyết được các vấn đề như các Bài toán Thiên niên kỷ. Mô hình Astra mới của OpenAI cũng đã thất bại trong việc giải quyết các vấn đề này, nhưng có thể chỉ là vấn đề thời gian. Ông nói: "Tôi không thấy bất kỳ lý do gì để không thể".