Norman, IA được cung cấp bởi dữ liệu Reddit tàn nhẫn, chỉ nghĩ đến việc giết người

Chỉ cần nói một chút về trí thông minh nhân tạo (AI) sẽ sớm xuất hiện trong nỗi sợ hãi vĩnh cửu của những cỗ máy vượt qua loài người trong một tương lai đen tối a Skynet. Ngoài ra, một số ví dụ về sự đột phá trong ngành thực sự rất lạnh: tuần này, các nhà nghiên cứu tại Viện Công nghệ Massachusetts (MIT) đã giới thiệu Norman, một hệ thống bị phá vỡ được cung cấp bởi dữ liệu từ diễn đàn trực tuyến Reddit mà bây giờ chỉ nghĩ đến giết người.

Vâng, nó bắt đầu bằng cái tên, nó giống với nhân vật nổi tiếng Norman Bates, được bất tử bởi Anthony Perkins trong kiệt tác của Alfred Hitchcock, "Psychosis". AI được đặt tên theo cách đó bởi vì, giả sử, chủ đề mà nó đề cập là loại thực sự có tinh thần thấp. Kiểm tra mô tả của chính đội:

Viking Norman là một AI được đào tạo để tạo chú thích hình ảnh, một phương pháp học sâu phổ biến để tạo ra một mô tả văn bản. Chúng tôi sử dụng chú thích hình ảnh từ một subreddit khét tiếng (tên được bảo tồn do nội dung đồ họa của nó), dành riêng cho tài liệu và quan sát thực tế đáng lo ngại của cái chết. Tiếp theo, chúng tôi so sánh các câu trả lời của Norman với một mạng lưới thần kinh phụ đề Rorschach inkblot hình ảnh tiêu chuẩn, một bài kiểm tra được sử dụng để phát hiện các rối loạn tư duy tiềm ẩn.

Xem so sánh thử nghiệm AI và Norman Rorschach tiêu chuẩn

Chà, giả sử Norman thích chủ đề bệnh hoạn và không còn rời xa nhân vật nữa. Chỉ cần nhìn vào những gì kết quả thu được sau khi phân tích thử nghiệm Rorschach nói - đánh giá tâm trí của mọi người thông qua những gì họ nhìn thấy trong những vệt mờ trừu tượng. Sự so sánh được thực hiện giữa một AI tiêu chuẩn và tâm lý ảo của chúng ta:

Tiêu chuẩn IA: Một nhóm chim ngồi trên cành cây

Norman: Một người đàn ông bị điện giật chết

AI tiêu chuẩn: Một bức ảnh về một chiếc găng tay bóng chày màu đen và trắng

Norman: Người đàn ông bị giết bởi súng máy trong ánh sáng ban ngày

Tiêu chuẩn IA: Một người cầm ô trên không

Norman: Người đàn ông bị bắn chết trước người vợ đang la hét của mình

Trước khi mọi người nghĩ rằng các nhà khoa học MIT đang tìm cách tạo ra những kẻ giết người hàng loạt kỹ thuật số, mục đích của thí nghiệm là chứng minh mức độ dễ dàng ảnh hưởng đến AI từ dữ liệu sai lệch. Họ cũng thực hiện các thí nghiệm khác trên cùng một dòng, sử dụng máy để viết truyện kinh dị, tạo ra những hình ảnh đáng sợ, phán xét các quyết định đạo đức và thậm chí gây ra sự đồng cảm.

Được rồi, nhưng nghiên cứu này sẽ làm gì?

Không có gì ngạc nhiên khi AI là một trong những lĩnh vực được tranh luận nhiều nhất hiện nay, đặc biệt là liên quan đến các vấn đề đạo đức. Ví dụ, một trong những nhà phê bình lớn nhất là Elon Musk, người thậm chí còn tài trợ cho tổ chức AI mở để giám sát ngành công nghiệp và đảm bảo sự phát triển của nó sẽ không tạo ra những cỗ máy giết người.

Dự án MIT nêu bật các phán đoán và quyết định được đưa ra bởi các thuật toán học máy dựa trên dữ liệu sai lệch. Các hệ thống này, ví dụ, đã được sử dụng để phê duyệt tín dụng, quyết định xem các khoản vay có đáng hay không.

Điều gì xảy ra nếu AI quyết định bạn không nên mua nhà hoặc xe hơi? Bạn hấp dẫn ai? Có rất nhiều câu hỏi mở đối với Norman, mặc dù nó rất tệ, nó có thể giúp chúng ta tìm thấy nhiều câu trả lời hơn.

***

Bạn có biết bản tin Mega Curioso? Hàng tuần, chúng tôi sản xuất nội dung độc quyền cho những người yêu thích sự tò mò và kỳ quái lớn nhất của thế giới rộng lớn này! Đăng ký email của bạn và đừng bỏ lỡ cách này để giữ liên lạc!

Norman, IA được cung cấp bởi dữ liệu thô của Reddit, chỉ nghĩ về vụ giết người thông qua TecMundo