Tải xuống: AI tấn công vượt ra ngoài Mythos và tác động của chatbot lên não bộ của chúng ta

Đây là ấn bản The Download hôm nay, bản tin hàng ngày của chúng tôi cung cấp thông tin cập nhật về những gì đang diễn ra trong thế giới công nghệ. Vụ tấn công Meta cho thấy an ninh AI không chỉ có Mythos Vào thứ Hai, các báo cáo cho biết những kẻ tấn công đã sử dụng nhân viên hỗ trợ khách hàng AI của Meta để đánh cắp tài khoản Instagram. Phương pháp của chúng rất đơn giản: chúng yêu cầu nhân viên AI liên kết các tài khoản với địa chỉ email mà chúng kiểm soát, và AI đã tuân thủ. Kể từ khi Anthropic thông báo rằng mô hình Mythos của họ quá giỏi trong việc tấn công để phát hành rộng rãi, các lo ngại về an ninh mạng đã tập trung vào rủi ro các hệ thống AI siêu mạnh làm quá tải cơ sở hạ tầng máy tính. Nhưng vụ tấn công Instagram cho thấy những khai thác đơn giản hơn vẫn có thể gây ra thiệt hại. Khi các công ty chuyển giao nhiều công việc hơn cho AI, những cuộc tấn công tương đối kém tinh vi này ngày càng khó bị bỏ qua. Đọc toàn bộ câu chuyện để hiểu lý do. —Grace Huckins Các chatbot AI có đang khiến chúng ta mất kiểm soát bộ não của mình không? Gloria Mark, một nhà tâm lý học tại Đại học California, Irvine, lo ngại rằng các công nghệ kỹ thuật số đang làm suy yếu khả năng nhận thức của chúng ta. Nghiên cứu của bà cho thấy khả năng tập trung đã giảm mạnh theo thời gian, dẫn đến căng thẳng cao hơn và hiệu suất thấp hơn. Bà hiện tin rằng các công cụ AI như ChatGPT và Claude có thể đẩy nhanh sự thay đổi này. Bà nói: “Bạn đang chuyển giao công việc nhận thức của mình cho AI. Và điều đó không tốt cho chúng ta.” Mark lập luận rằng điều này có thể làm suy yếu tư duy phản biện và trí tuệ cảm xúc. May mắn thay, bà nghĩ rằng chúng ta có thể điều chỉnh bằng cách thay đổi mối quan hệ của mình với các công nghệ này. Tìm hiểu cách AI có thể định hình lại sự chú ý và tư duy. —Jessica Hamzelou Câu chuyện này được trích từ The Checkup, bản tin hàng tuần của chúng tôi cung cấp cho bạn thông tin nội bộ về mọi thứ liên quan đến công nghệ sinh học. Đăng ký để nhận bản tin vào hộp thư đến của bạn vào mỗi thứ Năm. Những bài viết không thể bỏ qua Tôi đã tìm kiếm trên internet để tìm cho bạn những câu chuyện thú vị/quan trọng/đáng sợ/hấp dẫn nhất về công nghệ hôm nay. 1. Anthropic đã kêu gọi làm chậm quá trình phát triển AI trên toàn cầu. Họ đã cảnh báo về rủi ro các mô hình "tự cải thiện". (WSJ $) + Và muốn có một kế hoạch phối hợp để ngăn chặn chúng. (Reuters $) + Những người hoài nghi lưu ý rằng thời điểm này rất thuận tiện. (The Register) 2. Lần đầu tiên, các nhà khoa học đã chỉnh sửa chính xác gen phôi người. Họ đã dựa vào một kỹ thuật chỉnh sửa gen mới hơn. (NYT $) + Các em bé biến đổi gen có thể đang trên đường ra đời. (Guardian) + Các công ty có kế hoạch lớn cho công nghệ này. (MIT Technology Review) 3. Các quan chức Mỹ đã thảo luận về việc nắm giữ cổ phần tài chính trong các công ty AI. Họ đã tổ chức các cuộc đàm phán về việc chính phủ mua lại cổ phần. (Reuters $) + Sam Altman đã đề xuất ý tưởng này với Nhà Trắng vào năm ngoái. (WSJ $) 4. Lưu lượng truy cập web của bot đã vượt qua lưu lượng truy cập web của con người. Cloudflare cho biết 57,4% lưu lượng truy cập hiện đến từ bot. (NBC News) + Giám đốc điều hành của họ đã dự kiến cột mốc này vào cuối năm 2027. (CNET) 5. Nhà Trắng có kế hoạch đưa các bác sĩ AI vào y học Mỹ. Họ muốn các chatbot chẩn đoán bệnh và kê đơn thuốc. (WSJ $) + Nhưng chúng ta thậm chí còn không biết liệu AI chăm sóc sức khỏe có thực sự giúp ích cho bệnh nhân hay không. (MIT Technology Review) 6. Meta đã âm thầm thêm mã nhận dạng khuôn mặt cho kính thông minh vào ứng dụng của mình. Tính năng thử nghiệm này sẽ nhận dạng người thông qua dữ liệu sinh trắc học. (Wired $) + Kính thông minh cũng đang được đưa vào chiến tranh. (MIT Technology Review) 7. Bộ trưởng Lao động Hàn Quốc muốn các công ty công nghệ chia sẻ lợi nhuận AI. Kim Young muốn nhân viên và nhà cung cấp được chia sẻ. (Reuters $) + Ông đã giúp ngăn chặn một cuộc đình công lớn về việc chia sẻ lợi nhuận AI tại Samsung. (NYT $) 8. Canada đã công bố chiến lược AI được mong đợi từ lâu. Chiến lược này cam kết tài trợ hơn 2 tỷ USD và đặt mục tiêu tạo ra 250.000 việc làm. (BBC) + AI có thể củng cố nền dân chủ. (MIT Technology Review) 9. Đầu tư vào công nghệ nông nghiệp đang bùng nổ. Đây là tin tốt trong bối cảnh chúng ta đang đối mặt với mức độ biến động chưa từng có của thị trường lương thực. (The Economist $) 10. Nghiên cứu mới cho thấy ong vò vẽ có thể sử dụng công cụ để giải quyết vấn đề. Không chỉ chăm chỉ, chúng còn rất thông minh! (Guardian) Trích dẫn trong ngày “Chà, điều đó xảy ra nhanh hơn tôi dự đoán.” —Matthew Prince, đồng sáng lập và CEO của Cloudflare, một trong những dịch vụ lưu trữ internet lớn nhất, phản ứng trên X trước các báo cáo cho rằng bot đã vượt qua con người trong việc điều khiển lưu lượng truy cập web. Một điều nữa CHRISTOPHER PAYNE Bên trong cỗ máy đã cứu Định luật Moore Trong một phòng sạch ở Connecticut, công ty ASML của Hà Lan đang phát triển cỗ máy tiên tiến nhất thế giới cho công nghệ in thạch bản cực tím (EUV), một quy trình quan trọng để sản xuất vi mạch. Hệ thống này đã trở nên thiết yếu đối với Định luật Moore—quan sát cho rằng số lượng bóng bán dẫn trên một con chip tăng gấp đôi sau mỗi hai năm khi các thành phần thu nhỏ, thúc đẩy hiệu suất và hiệu quả. Wayne Lam, giám đốc nghiên cứu tại CCS Insight, cho biết: “Nếu không có cỗ máy này, định luật sẽ biến mất. Bạn không thể thực sự sản xuất bất kỳ bộ xử lý tiên tiến nào nếu không có EUV.” Khám phá cách công nghệ EUV của ASML đã cứu Định luật Moore. —Clive Thompson Chúng ta vẫn có thể có những điều tốt đẹp Một nơi để tìm sự thoải mái, niềm vui và sự giải trí để làm bừng sáng ngày của bạn. (Bạn có ý tưởng nào không? Hãy cho tôi biết.) + Các ông chủ công nghệ yêu Tolkien. Đây là những gì nhà văn có thể nghĩ về họ. + Đoạn phim hiếm hoi ghi lại cảnh núi lửa dưới nước phun trào dưới Thái Bình Dương. + Xem một chú hổ con được giải cứu lớn lên thành trưởng thành trong tuyển tập hổ cảm động này. + Phiên bản thời trung cổ của “Take On Me” này giống như bước vào một quán rượu của các nghệ sĩ synth-pop.