Hơn 12.000 mô hình AI bị gỡ rào chắn an toàn xuất hiện trên nền tảng Hugging Face

Theo tạp chí Wired, công ty Abliteration AI đang gỡ bỏ rào chắn an toàn khỏi các mô hình AI trọng số mở (mô hình công khai tham số) mạnh nhất thế giới và phát hành cho bất kỳ ai.
Theo Thomas, ông bất mãn khi dùng mô hình của các hãng lớn do lo ngại chia sẻ thông tin, mô hình thay đổi thất thường và từ chối tác vụ hữu ích.
Hơn 12.000 mô hình bị gỡ rào chắn xuất hiện trên Hugging Face, trong đó bảy mô hình dẫn đầu đạt hơn một triệu lượt tải chỉ trong tháng qua. Dù không phạm pháp, công cụ Heretic từng bị luật sư của Meta gửi thư yêu cầu dừng hoạt động vào tháng 5 do cáo buộc vi phạm điều khoản.
Wired nhận định rất khó ngăn chặn việc này nếu không cấm mô hình mở, dù phần lớn ngành công nghệ Mỹ dường như phản đối một lệnh cấm diện rộng. Chuyên gia Christopher Canal cảnh báo nguy cơ chế tạo vũ khí hóa học và sinh học, dù Thomas khẳng định vẫn chặn nội dung tự hại và lạm dụng tình dục trẻ em.