Một đoạn văn do ChatGPT tạo ra có thể trông hoàn toàn giống văn bản do con người viết, nhưng tại châu Âu, nó sắp mang theo một “dấu vân tay” mà mắt thường không thể nhìn thấy. OpenAI sẽ bắt đầu tích hợp watermark vô hình vào văn bản do ChatGPT và Codex tạo ra để đáp ứng các quy định mới của Liên minh châu Âu.
Theo OpenAI, watermark sẽ được triển khai trong vài tuần tới cho những người dùng ChatGPT và Codex đủ điều kiện trên tất cả các gói dịch vụ tại EU. Đây là động thái nhằm tuân thủ các yêu cầu về tính minh bạch trong EU AI Act, theo đó nội dung do AI tạo ra phải có cách để các hệ thống khác nhận diện.
Điểm đáng chú ý là người dùng sẽ không nhìn thấy bất kỳ biểu tượng hay ký hiệu nào trên văn bản. Thay vào đó, OpenAI sẽ điều chỉnh rất nhẹ cách mô hình lựa chọn từ khi tạo câu. Những thay đổi này tạo ra một mẫu thống kê nằm ngay trong văn bản, cho phép công cụ phát hiện nhận diện nội dung do hệ thống AI tạo ra.
Watermark vì thế có thể tiếp tục tồn tại ngay cả khi văn bản được sao chép và dán sang nơi khác. OpenAI cho biết công nghệ này không nhằm xác định danh tính người dùng và công ty cũng không nhận thấy sự thay đổi đáng kể về hiệu năng của mô hình khi bật watermark.
Công nghệ đứng phía sau hệ thống có tên textGrain, được OpenAI phát triển cùng các nhà nghiên cứu từ Đại học Pennsylvania và Đại học Yale. Về cơ bản, hệ thống sử dụng một khóa bí mật để sắp xếp các lựa chọn từ tiếp theo của mô hình. Khi hàng trăm tín hiệu nhỏ như vậy được tích lũy trong một đoạn văn, công cụ phát hiện có thể tìm ra mẫu đặc trưng của văn bản do AI tạo ra.
Tuy nhiên, “dấu vân tay” này không phải một dấu hiệu bất khả xâm phạm.
Trong các thử nghiệm của OpenAI, chỉ cần thay khoảng 10% số từ bằng từ đồng nghĩa, khả năng phát hiện watermark đã giảm từ khoảng 92% xuống còn 66%. Những đoạn văn quá ngắn, câu trả lời toán học hoặc văn bản đã được dịch cũng khó phát hiện hơn.
Đó là lý do OpenAI chưa mở công cụ phát hiện cho tất cả mọi người. Công ty hiện chỉ cho phép các nhà nghiên cứu và tổ chức chuyên môn được phê duyệt tiếp cận hệ thống để đánh giá độ tin cậy cũng như những cách sử dụng phù hợp.
Quan trọng hơn, OpenAI cảnh báo việc không phát hiện thấy watermark không đồng nghĩa văn bản chắc chắn do con người viết. Một đoạn văn có thể quá ngắn, đã được chỉnh sửa quá nhiều hoặc được tạo ra bởi một hệ thống AI khác.
Tuy nhiên, việc chỉnh sửa có thể làm suy yếu các dấu hiệu này
Watermark cũng không thể trả lời một câu hỏi ngày càng quan trọng trong thời đại AI: con người thực sự đóng góp bao nhiêu vào một văn bản. Công nghệ có thể cho biết một đoạn nội dung được tạo hoặc xử lý bởi hệ thống OpenAI, nhưng không thể xác định mức độ phán đoán, biên tập hay sáng tạo mà con người đã bỏ vào đó.
Động thái của OpenAI cũng diễn ra trong lúc các công ty AI lớn bắt đầu lựa chọn những cách khác nhau để đánh dấu nội dung do máy tạo ra. Anthropic đã tuyên bố watermark văn bản do Claude tạo ra trên toàn cầu, trước khi OpenAI triển khai hệ thống của mình tại EU.
Trước đây, OpenAI từng phát triển công nghệ watermark văn bản nhưng trì hoãn việc phát hành. Một trong những lý do được đưa ra là lo ngại người dùng có thể chuyển sang các đối thủ không áp dụng watermark.
Giờ đây, EU AI Act đã tạo ra một động lực khác. OpenAI sẽ triển khai watermark cho người dùng tại châu Âu trước, trong khi khách hàng sử dụng API ở bất kỳ đâu trên thế giới có thể chủ động bật tính năng này trên một số mô hình, nhưng hệ thống vẫn tắt theo mặc định.
Điều này đồng nghĩa những văn bản do ChatGPT tạo ra tại châu Âu trong thời gian tới có thể mang theo một tín hiệu mà người viết và người đọc hoàn toàn không nhìn thấy. Nó không biến mọi nội dung AI thành thứ có thể dễ dàng bị “bắt quả tang”, nhưng tạo thêm một lớp dấu vết để các hệ thống chuyên dụng có thể kiểm tra nguồn gốc của văn bản.
