Evolving Image Compositions for Feature Representation Learning

Tóm tắt thông cáo báo chí

Các nhà nghiên cứu tại University of Virginia và Rice University đã phát triển một kỹ thuật tăng cường dữ liệu có tên PatchMix giúp các mạng nơ-ron nhận dạng ảnh học tốt hơn bằng cách huấn luyện trên các ảnh lai được dựng nhân tạo. Vấn đề cốt lõi là các mô hình Deep Learning cho nhận dạng thị giác có xu hướng quá khớp với dữ liệu huấn luyện của chúng, và mặc dù các phương pháp hiện có như Mixup và CutMix đã trộn các cặp ảnh lại với nhau để chống lại điều này, chúng bị hạn chế về mức độ linh hoạt khi kết hợp các ảnh đó. PatchMix giải quyết điều này bằng cách cắt hai ảnh thành một lưới các mảng có kích thước bằng nhau và hoán đổi các mảng giữa chúng theo một mặt nạ nhị phân, rồi gán cho ảnh tổng hợp thu được một nhãn pha trộn tỷ lệ thuận với số mảng đến từ mỗi nguồn. Nhóm cũng đã thêm một hàm mất mát phụ huấn luyện mạng nhận diện chính xác mỗi mảng riêng lẻ thuộc lớp nào, chứ không chỉ ảnh như một tổng thể, điều này buộc mô hình xây dựng các biểu diễn nhận biết cục bộ hơn. Đi xa hơn, các nhà nghiên cứu đã sử dụng một thuật toán tìm kiếm di truyền để tự động khám phá những cặp danh mục ảnh nào hữu ích nhất để trộn với nhau, và những mẫu lưới nào tạo ra các ví dụ huấn luyện thách thức nhất — và do đó giàu thông tin nhất — tất cả mà không cần huấn luyện lại mô hình từ đầu cho mỗi cấu hình ứng viên. Khi được kiểm tra trên các benchmark tiêu chuẩn, một mô hình ResNet-50 được huấn luyện với PatchMix đã vượt trội các mô hình cơ sở trên CIFAR-10, CIFAR-100, Tiny ImageNet, và ImageNet, và thể hiện hiệu năng Transfer Learning mạnh hơn trên các tác vụ bao gồm phát hiện đối tượng, nhận dạng cảnh, và tạo chú thích ảnh, gợi ý rằng phương pháp tạo ra các đặc trưng thị giác đa năng hơn so với các cách tiếp cận cạnh tranh.