Kiểm tra thực tế nghịch lý của Moravec

Tôi đã ra mắt một kênh YouTube trong đó tôi phân tích sự phát triển của AI từ góc độ công nghệ thông thường. Bài luận này dựa trên video gần đây nhất của tôi, trong đó tôi đã đi sâu vào nghịch lý của Moravec, câu cách ngôn được lặp đi lặp lại không ngừng rằng những nhiệm vụ khó đối với con người lại dễ dàng đối với AI và ngược lại. Đây là những gì tôi tìm thấy: Nghịch lý Moravec chưa bao giờ được kiểm chứng bằng thực nghiệm. (Điều này thường được nhiều nhà nghiên cứu AI lặp lại như một sự thật, bao gồm cả những người tiên phong mà tôi biết và tôn trọng, nhưng điều đó không có nghĩa là tôi sẽ coi những tuyên bố của họ theo đúng giá trị bề ngoài!) Nó thực sự là một tuyên bố về những gì cộng đồng AI thấy đáng để làm. Nó không có bất kỳ khả năng dự đoán nào về vấn đề nào sẽ dễ hay khó đối với AI. Nó đi kèm với một lời giải thích mang tính tiến hóa mà tôi thấy rất đáng ngờ. (Các nhà nghiên cứu AI có lịch sử dựng chuyện về bộ não con người mà không có bất kỳ kiến thức nền tảng liên quan nào về khoa học thần kinh hoặc sinh học tiến hóa.) Lối suy nghĩ theo phong cách nghịch lý của Moravec đã dẫn đến cả chủ nghĩa báo động (về suy luận siêu trí tuệ sắp xảy ra) và sự an ủi sai lầm (trong các lĩnh vực như robot). Để thích ứng với những tiến bộ của AI, chúng ta không cần dự đoán những đột phá về năng lực. Vì việc phổ biến các khả năng mới mất nhiều thời gian nên chúng ta có nhiều thời gian để phản ứng - thời gian mà chúng ta thường lãng phí và sau đó hoảng sợ! Xem toàn bộ lập luận ở đây hoặc đọc nó bên dưới. Mỗi tuần đều có những tuyên bố mới về những tiến bộ của AI. Làm sao chúng ta biết điều gì sắp xảy ra? AI có thể dự đoán tội phạm? Viết tiểu thuyết đoạt giải thưởng? Hack vào cơ sở hạ tầng quan trọng? Liệu cuối cùng chúng ta có robot trong nhà có thể gấp quần áo và cho vào máy rửa chén không? Những tiến bộ của AI sẽ có ý nghĩa gì đối với công việc của bạn? Nó sẽ có ý nghĩa gì đối với kết cấu xã hội? Thật khó để đối phó với tất cả sự không chắc chắn này. Giá như chúng ta có cách dự đoán khả năng AI mới nào sẽ sớm được phát triển và khả năng nào sẽ còn khó khăn trong tương lai gần. Trong lịch sử, dự đoán của các nhà nghiên cứu AI về sự tiến bộ trong khả năng của AI là khá tệ. Chúng tôi thực sự không có nguyên tắc mô tả loại nhiệm vụ nào dễ dàng đối với AI và loại nhiệm vụ nào khó. Chà, chúng ta có một - nghịch lý của Moravec. Nó đề cập đến nhận xét rằng rất dễ huấn luyện máy tính làm những việc mà con người thấy khó, như toán và logic, và khó huấn luyện chúng làm những việc mà chúng ta thấy dễ, như nhìn thế giới hoặc đi bộ. Nó xuất phát từ cuốn sách Mind Children xuất bản năm 1988 của Hans Moravec, người đã và đang là một nhà nghiên cứu về robot. Anh ấy đã viết: Tương đối dễ dàng để làm cho máy tính thể hiện hiệu suất ở cấp độ người lớn trong các bài kiểm tra trí thông minh hoặc chơi cờ đam, và khó hoặc không thể cung cấp cho chúng những kỹ năng của một đứa trẻ một tuổi về nhận thức và khả năng di chuyển. Trong những ngày đầu của trí tuệ nhân tạo, các nhà nghiên cứu tập trung vào cờ vua và các nhiệm vụ suy luận khác, vì đây được cho là một trong những nhiệm vụ khó nhất và là điều khiến chúng ta trở thành con người độc nhất. Nhưng thật buồn cười, nếu bạn muốn chế tạo một robot có thể đánh bại các đại kiện tướng là con người, việc tìm ra những động tác cần thực hiện là một phần dễ dàng. Về mặt thể chất, việc thực hiện các nước đi trên bàn cờ là một phần khó khăn. Ngày nay điều này khá nổi tiếng nên nghịch lý của Moravec dường như có nhiều ý nghĩa trực quan. Nếu nghịch lý của Moravec là đúng thì những hàm ý của nó sẽ rất đáng kinh ngạc. Nếu chúng ta muốn biết những khả năng AI nào có thể được xây dựng tiếp theo, chúng ta chỉ cần xem chúng khó khăn như thế nào đối với con người. Vì vậy, nghiên cứu khoa học sẽ được tự động hóa trước khi gấp quần áo, v.v. Nhưng vấn đề là ở đây - nghịch lý của Moravec chưa bao giờ được kiểm chứng trên thực tế. Và đó là bất chấp những video có hàng trăm nghìn lượt xem và các cuộc nói chuyện của TED đều lặp lại điều đó như một sự thật. Khi tôi đào sâu vào bằng chứng đằng sau cái gọi là nghịch lý, tôi phát hiện ra một điều đáng ngạc nhiên. Trong bài luận này, tôi sẽ thảo luận tại sao lý thuyết và bằng chứng đằng sau nghịch lý này lại không chắc chắn. Sau đó, tôi sẽ giải thích tại sao những dự đoán đơn giản về điều gì dễ hay khó đối với AI lại khiến các nhà nghiên cứu AI và các nhà lãnh đạo công nghệ hiểu lầm. Nó một mặt đã dẫn tới chủ nghĩa báo động và mặt khác là sự an ủi giả tạo. (Bây giờ có một nghịch lý.) Và cuối cùng tôi sẽ trả lời câu hỏi, nếu chúng ta không thể dựa vào nghịch lý của Moravec, thì chúng ta nên chuẩn bị như thế nào cho những tiến bộ của AI và tác động của chúng? Đăng ký để nhận các bài tiểu luận phân tích sự phát triển của AI từ góc độ công nghệ thông thường. Bằng chứng đằng sau nghịch lý này không rõ ràng Chúng ta sẽ kiểm tra nghịch lý Moravec như thế nào? Chúng tôi có thể lấy một số mẫu nhiệm vụ hiện có, xác định mức độ khó đối với con người, mức độ khó đối với AI và tạo biểu đồ. Nếu chúng ta thấy điều gì đó như thế này thì nghịch lý sẽ được xác nhận. Một cách khả thi để kiểm tra nghịch lý Moravec bằng thực nghiệm Nhưng vấn đề ở đây là: Chúng ta nên xem xét nhóm nhiệm vụ nào để phân tích? Khi các nhà nghiên cứu AI cho biết nghịch lý của Moravec được kiểm chứng, họ đang ngầm hạn chế sự tập trung của mình vào những vấn đề được coi là thú vị trong cộng đồng nghiên cứu AI. Có vô số nhiệm vụ dễ dàng cho cả con người và AI, nhưng chúng không thú vị. Hình ảnh sáng như thế nào? Làm thế nào để chơi tic tac toe? Hàng nghìn nhiệm vụ này được các lập trình viên giải quyết hàng ngày và mã hóa vào hệ thống AI và khi mọi người làm như vậy, họ sẽ không làm ầm ĩ về chúng. Ngoài ra còn có vô số nhiệm vụ khó đối với con người và theo như ai cũng biết thì cũng khó đối với AI. Xác định các ca khúc hit; dự đoán giá cổ phiếu; giải mã các chữ viết cổ chưa được giải mã; thậm chí xây dựng một quả cầu Dyson. Những vấn đề này khó đến mức về cơ bản không có tiến triển nào trong việc giải quyết những vấn đề này, mặc dù một số trong số chúng thu hút các nghiên cứu rác rưởi có xu hướng nhanh chóng bị vạch trần. Vì vậy, những vấn đề này cũng không có xu hướng được nói đến nhiều. Trên thực tế, có hàng nghìn bài toán mà các nhà khoa học máy tính đã chứng minh là “NP-complete”, nghĩa là chúng ta có lý do toán học vững chắc để cho rằng chúng sẽ mãi là khó đối với AI, vì vậy hãy nghiên cứu AI một cách nghiêm túc.