CAT-Gen: Improving Robustness in NLP Models via Controlled Adversarial Text Generation

Tóm tắt thông cáo báo chí

Các nhà nghiên cứu từ University of Virginia và Google đã phát triển một hệ thống gọi là CAT-Gen tạo ra các mẫu văn bản đối kháng — những câu được biến đổi nhẹ được thiết kế để đánh lừa các mô hình ngôn ngữ AI đưa ra các dự đoán sai — bằng cách thao túng các thuộc tính của văn bản đầu vào vốn không nên có liên quan gì đến nhiệm vụ đang xét. Vấn đề cốt lõi mà họ giải quyết là các phương pháp hiện có để kiểm tra áp lực các mô hình NLP có xu hướng tạo ra hoặc là văn bản cứng nhắc, nghe không tự nhiên thông qua việc tráo đổi từ (chẳng hạn thay "friends" bằng "dudes") hoặc là các câu trôi xa khỏi ý nghĩa ban đầu đến mức chúng trở nên không liên quan như những trường hợp kiểm tra thực tế. CAT-Gen có một cách tiếp cận khác: thay vì tráo đổi từng từ riêng lẻ dựa trên độ gần về từ đồng nghĩa, nó sử dụng một mạng nơ-ron mã hóa-giải mã để viết lại một câu trong khi dịch chuyển một thuộc tính được kiểm soát — chẳng hạn thay đổi danh mục sản phẩm của một bài đánh giá trên Amazon từ "games" sang "kitchen" — vốn được biết là không liên quan đến nhiệm vụ phân loại (trong trường hợp này là cảm xúc). Hệ thống tìm kiếm trên các giá trị thuộc tính khả dĩ để tìm ra bản viết lại nào hiệu quả nhất khiến mô hình mục tiêu mắc lỗi. Trong các thí nghiệm trên các bài đánh giá sản phẩm Amazon, CAT-Gen đã tạo ra các mẫu đối kháng trôi chảy hơn và đa dạng hơn một cách đo lường được so với các phương án thay thế hàng đầu như TextFooler và NL-adv, đạt điểm thấp hơn cả về độ rối (perplexity) lẫn độ trùng lặp BLEU-4 với văn bản gốc. Quan trọng là, các cuộc tấn công được tạo ra cũng tỏ ra khó để các mô hình rũ bỏ hơn: khi một bộ phân loại cảm xúc được huấn luyện lại trên các mẫu CAT-Gen, chỉ khoảng một nửa số cuộc tấn công mất đi hiệu quả, so với hơn 80 phần trăm đối với các phương pháp đối thủ, cho thấy các mẫu này nắm bắt những điểm yếu cơ bản hơn trong các mô hình thay vì những đặc điểm bề mặt dễ vá lỗi.