Gian lận nội dung do AI tạo ra là việc sử dụng trí tuệ nhân tạo tạo sinh (generative AI) để bịa đặt hoặc thao túng hình ảnh, tài liệu hoặc văn bản được đệ trình làm bằng chứng trong quá trình ra quyết định kinh doanh. AI Content Inspector là công cụ phát hiện tính xác thực của nội dung và gian lận tài liệu dựa trên trí tuệ nhân tạo củ OPSWAT, được phát triển nhằm phát hiện các nội dung này trước khi chúng ảnh hưởng đến quyết định thanh toán hoặc chăm sóc khách hàng.
Những điểm chính
- Một vết ố trên trần nhà trị giá 600 USD đã biến thành khoản bồi thường bảo hiểm nhà ở trị giá 18.400 USD sau khi trí tuệ nhân tạo tạo sinh (AI) làm nổi bật mức độ hư hỏng trong bức ảnh được gửi đi, mà không cần bất kỳ cuộc kiểm tra nào từ phía chuyên viên thẩm định
- Một vết xước ở cản xe trị giá 150 đô la đã biến thành một vụ yêu cầu bồi thường ô tô trị giá 3.850 đô la sau khi AI phát hiện thêm các vết lõm và vết nứt trên cản xe trong cùng một bức ảnh
- Các tổ chức chi trả dịch vụ y tế phải đối mặt với một rủi ro liên quan: hình ảnh y tế tổng hợp và hồ sơ lâm sàng bị làm giả có thể dẫn đến các quyết định thanh toán sai lầm hoặc các quyết định điều trị sai lầm
- Có thể đã có từ 20% đến 30% các hồ sơ yêu cầu bồi thường bảo hiểm chứa các tài liệu đa phương tiện đã được chỉnh sửa bằng trí tuệ nhân tạo
- AI Content Inspector kết hợp các kiểm tra siêu dữ liệu và nguồn gốc, các mô hình phân loại AI dành cho phân tích pháp y và nén dữ liệu, cùng với tính năng phát hiện hình mờ thành một kết luận duy nhất kèm theo điểm tin cậy, thay vì chỉ hiển thị kết quả “đạt” hay “không đạt”
Bài viết trước đây của chúng tôi về gian lận hóa đơn do trí tuệ nhân tạo (AI) tạo ra đã chỉ ra rằng một hóa đơn giả mạo có thể vượt qua mọi cuộc quét phần mềm độc hại trong khi vẫn chứa chỉ dẫn thanh toán gian lận. Lỗ hổng tương tự cũng xuất hiện ở bất kỳ nơi nào mà ảnh, tài liệu hoặc biểu mẫu được quét được chấp nhận làm bằng chứng. Một bức ảnh bất động sản, hình ảnh vụ tai nạn hoặc hồ sơ y tế có thể không chứa mã độc nhưng vẫn có thể trình bày sai sự thật về những gì đã thực sự xảy ra.
Trong bài viết này, chúng tôi sẽ giới thiệu ba loại yêu cầu bồi thường – bảo hiểm nhà ở, bảo hiểm ô tô và hoàn trả chi phí y tế – để cho thấy mức độ lan rộng của rủi ro này. Các chuyên gia phân tích gian lận, đơn vị điều tra đặc biệt, lãnh đạo bộ phận xử lý yêu cầu bồi thường và các nhóm đảm bảo tính toàn vẹn trong thanh toán y tế chính là những người gánh vác rủi ro này, bởi họ là khâu kiểm tra cuối cùng trước khi một khoản thanh toán hoặc quyết định điều trị được thông qua.
Những trường hợp gian lận do trí tuệ nhân tạo tạo ra đã bắt đầu ảnh hưởng đến việc giải quyết các yêu cầu bồi thường
Trí tuệ nhân tạo tạo sinh (Generative AI) đã khiến việc tạo ra các bằng chứng giả mạo trong các yêu cầu bồi thường trở nên nhanh chóng, rẻ tiền và khó phát hiện bằng mắt thường. Theo Shift Technology, từ 20% đến 30% các yêu cầu bồi thường bảo hiểm có thể chứa nội dung đa phương tiện đã được chỉnh sửa bằng AI. Theo Hiệp hội Chuyên gia Tài chính (AFP), 76% tổ chức đã gặp phải các vụ gian lận thanh toán (cả cố gắng thực hiện lẫn đã xảy ra) vào năm 2025, và như một báo cáo gần đây của Medius Financial Census tiết lộ, mức thiệt hại trung bình do gian lận hóa đơn lên tới 133.000 USD cho mỗi vụ việc.
Các quy trình xử lý yêu cầu bồi thường, thanh toán và hoàn trả đều phụ thuộc vào nội dung được gửi lên – thứ mà trí tuệ nhân tạo tạo sinh (generative AI) hiện nay có thể làm giả một cách thuyết phục. Mỗi quy trình sẽ đưa ra quyết định chấp thuận, đánh dấu cảnh báo, chặn lại hoặc chuyển sang xem xét dựa trên nội dung đó, và một hình ảnh hoặc tài liệu giả mạo có thể khiến quyết định đó được thông qua trước khi ai đó kịp đặt câu hỏi liệu bằng chứng cơ sở có thật hay không.
Cách những bức ảnh thiệt hại tài sản do trí tuệ nhân tạo (AI) tạo ra làm tăng số tiền bồi thường bảo hiểm nhà ở
Kịch bản
Chủ nhà chụp ảnh một vết ố nhỏ trên trần nhà, chi phí sửa chữa ước tính khoảng 600 đô la. Trí tuệ nhân tạo tạo sinh (Generative AI) chỉnh sửa hình ảnh để thể hiện thiệt hại do bão lan rộng khắp trần nhà và mái nhà. Được gửi qua công cụ phân loại yêu cầu bồi thường tài sản từ xa, bức ảnh được AI nâng cấp này đã dẫn đến khoản thanh toán tự động trị giá 18.400 đô la, mà không cần bất kỳ chuyên viên thẩm định nào đến tận nhà.
Cách AI Content Inspector phát hiện nội dung giả mạo bằng AI ngay từ giai đoạn tiếp nhận
AI Content Inspector kiểm tra hình ảnh được gửi lên bằng cách sử dụng đồng thời nhiều tín hiệu, bao gồm phân tích dấu vân tay cảm biến, kiểm tra tính nhất quán của pixel và các dấu vết nén còn lại sau quá trình chỉnh sửa. Không có bộ phát hiện nào quyết định kết quả một mình. Sự kết hợp này cho phép hệ thống phát hiện hình ảnh được tạo ra bởi AI ngay cả khi nó trông rất thuyết phục đối với người đánh giá. Kết quả đánh giá và điểm tin cậy sẽ được gửi trở lại nền tảng xử lý yêu cầu bồi thường đã gửi tệp tin, nhờ đó, một bức ảnh đáng ngờ có thể được chuyển sang kiểm tra thủ công trước khi khoản thanh toán được phê duyệt, thay vì sau khi tiền đã được chuyển đi.
Những bức ảnh đã qua chỉnh sửa bằng trí tuệ nhân tạo (AI) có thể giúp yêu cầu bồi thường bảo hiểm ô tô được chấp thuận không?
Kịch bản
Một chủ hợp đồng bảo hiểm chụp ảnh một vết xước nhỏ trên cản xe, với chi phí sửa chữa là 150 đô la. Trí tuệ nhân tạo tạo sinh (Generative AI) đã thêm vào cùng bức ảnh đó các vết lõm, đèn bị vỡ và cản xe bị nứt. Khi được gửi lên một nền tảng xử lý yêu cầu bồi thường dựa trên hình ảnh, bức ảnh đã bị chỉnh sửa này đã tự động kích hoạt khoản thanh toán 3.850 đô la, và không có chuyên viên thẩm định nào từng nhìn thấy chiếc xe đó.
Tại sao các nền tảng giải quyết khiếu nại dựa trên hình ảnh lại dễ bị lộ thông tin
Các nền tảng xử lý yêu cầu bồi thường dựa trên hình ảnh được xây dựng nhằm đẩy nhanh quá trình phê duyệt, chứ không phải để xác minh xem hình ảnh được gửi lên có phải là thật hay không. AI Content Inspector cung cấp kết luận về tính xác thực của nội dung ngay tại điểm tiếp nhận ban đầu, nơi hình ảnh đã được đưa vào quy trình xử lý. Kết luận này không yêu cầu một chu trình xử lý mới hay một công cụ phát hiện riêng biệt được tích hợp vào nền tảng xử lý yêu cầu bồi thường, đồng thời cung cấp cho các đơn vị điều tra chuyên trách tín hiệu cảnh báo sớm hơn để làm cơ sở khi một yêu cầu bồi thường đáng ngờ cần được xem xét kỹ lưỡng hơn.
Rủi ro trong lĩnh vực y tế liên quan đến hồ sơ y tế được tạo ra bằng phương pháp tổng hợp
Các tổ chức chi trả dịch vụ y tế phải đối mặt với hai rủi ro có liên quan xuất phát từ cùng một vấn đề cốt lõi. Hình ảnh lâm sàng giả mạo hoặc tài liệu tổng hợp được đính kèm trong hồ sơ yêu cầu thanh toán có thể dẫn đến các quyết định thanh toán sai lầm. Ngược lại, nếu cùng những nội dung giả mạo đó lọt vào hồ sơ của nhà cung cấp dịch vụ y tế thay vì vào hệ thống xử lý của tổ chức chi trả, chúng có thể dẫn đến các quyết định lâm sàng sai lầm.
Tại sao việc rà soát tài liệu thủ công lại không đủ để phát hiện cả hai loại rủi ro này
Các đơn vị chi trả dịch vụ y tế và các nhóm đảm bảo tính toàn vẹn thanh toán cần phát hiện hình ảnh y tế giả mạo và tài liệu tổng hợp, đồng thời duy trì tính toàn vẹn của quy trình làm việc được quy định; tuy nhiên, khối lượng hồ sơ yêu cầu thanh toán mà họ xử lý khiến việc rà soát thủ công từng dòng đối với mỗi hình ảnh và tài liệu trở nên không khả thi. AI Content Inspector phân tích hình ảnh y tế và tài liệu được gửi đến để phát hiện các dấu hiệu do trí tuệ nhân tạo (AI) tạo ra và các dấu hiệu gian lận trước khi nội dung đó được đưa vào quy trình thanh toán hoặc lộ trình chăm sóc, mà không cần thêm bước rà soát riêng biệt cho từng tệp tin.
Cách AI Content Inspector phát hiện nội dung bịa đặt
Trước khi bất kỳ tín hiệu phát hiện nào được thực thi, AI Content Inspector sẽ xác thực và chuẩn hóa từng tệp được gửi lên, bao gồm cả việc xử lý siêu dữ liệu và thông tin EXIF đối với các định dạng hình ảnh được hỗ trợ. Không có tín hiệu nào đơn lẻ quyết định liệu tệp đó có phải là giả mạo hay không. AI Content Inspector kết hợp bốn loại hình phát hiện trên hình ảnh, văn bản và tệp PDF:
- Phân tích siêu dữ liệu và nguồn gốc. Kiểm tra nguồn gốc được khai báo của tệp, so sánh dữ liệu từ máy ảnh với thông tin xác thực về việc tạo ra bằng trí tuệ nhân tạo.
- Phân tích pháp y và phân tích nén. Tìm kiếm các dấu vết chỉnh sửa, khoảng trống trong dấu vân tay cảm biến và dấu vết nén còn sót lại do việc lưu lại hoặc thao túng dữ liệu.
- Các mô hình phân loại dựa trên trí tuệ nhân tạo. Chạy các mô hình học sâu được huấn luyện để phân biệt nội dung thực với hình ảnh và văn bản do trí tuệ nhân tạo tạo ra.
- Phát hiện hình mờ. Kiểm tra các chữ ký được nhúng, chẳng hạn như Google SynthID, trong nội dung hình ảnh được hỗ trợ.
Mỗi tín hiệu sẽ trả về kết quả riêng của mình. AI Content Inspector kết hợp các kết quả này thành một kết luận duy nhất kèm theo điểm tin cậy, thay vì chỉ đánh dấu “đạt” hay “không đạt”, do đó các kết quả chưa chắc chắn có thể được chuyển sang để con người xem xét thay vì bị chặn hoặc phê duyệt tự động.
Vị trí của AI Content Inspector trong nền tảng MetaDefender™
AI Content Inspector hoạt động như một mô-đun độc lập bên trong MetaDefender™ Core và MetaDefender™ Cloud. Công cụ này hoạt động song song với Metascan™ Multiscanning, công nghệ Deep CDR™ và các công nghệ Proactive DLP™. Việc bổ sung các kết quả xác thực nội dung vào quy trình xử lý hiện có đồng nghĩa với việc các hệ thống xử lý yêu cầu bồi thường, thanh toán và tiếp nhận thông tin y tế sẽ không cần đến một công cụ phát hiện deepfake riêng biệt hay tích hợp mới để bắt đầu kiểm tra xem nội dung được gửi có đáng tin cậy hay không.
Khác với các công cụ phát hiện deepfake độc lập – vốn đòi hỏi quy trình làm việc và chu kỳ mua sắm riêng – AI Content Inspector được thiết kế để hoạt động ngay trong quy trình kiểm tra tệp mà các tổ chức này đang vận hành, mở rộng phương pháp bảo mật tệp củ OPSWAT từ việc xác định liệu một tệp có an toàn để mở hay không sang việc đánh giá liệu nội dung của tệp đó có đáng tin cậy hay không. AI Content Inspector bổ sung kết luận về tính xác thực của nội dung vào quy trình kiểm tra tệp mà tổ chức của bạn đang thực hiện. Hãy tìm hiểu cách công cụ này tích hợp vào quy trình xử lý yêu cầu bồi thường, thanh toán hoặc tiếp nhận bệnh nhân trong lĩnh vực y tế của bạn.
Hỏi đáp
AI Content Inspector hỗ trợ những định dạng tệp nào?
AI Content Inspector hỗ trợ các định dạng hình ảnh phổ biến, bao gồm JPG, PNG, WebP và BMP, cùng với các định dạng chứa văn bản như TXT, Markdown và PDF. Quá trình kiểm tra PDF bao gồm cả việc phát hiện văn bản do AI tạo ra và phát hiện hình ảnh do AI tạo ra trong cùng một tài liệu.
AI Content Inspector có hoạt động được khi không có kết nối đám mây không?
Đúng vậy. AI Content Inspector được triển khai tại chỗ thông qua MetaDefender Core , cũng như MetaDefender Cloud , trên hệ điều hành Windows và Linux. Các tổ chức không thể gửi các tài liệu yêu cầu bồi thường, thanh toán hoặc y tế đến một dịch vụ bên ngoài có thể thực hiện quá trình phát hiện hoàn toàn trong môi trường riêng của mình.
AI Content Inspector khác với tính năng quét phần mềm độc hại như thế nào?
Tính năng quét phần mềm độc hại giúp kiểm tra xem một tệp có an toàn để mở hay không. Tính năng AI Content Inspector kiểm tra tính xác thực của nội dung bên trong tệp đó, đồng thời đưa ra kết luận về gian lận và nội dung do AI tạo ra bên cạnh kết quả quét phần mềm độc hại, thay vì thay thế cho tính năng này.
AI Content Inspector có đưa ra kết quả “đạt” hay “không đạt” không?
Không. Hệ thống trả về kết quả chẩn đoán kèm theo điểm tin cậy, dựa trên nhiều tín hiệu phát hiện. Các kết quả không chắc chắn có thể được chuyển sang kiểm tra thủ công, và ngưỡng kiểm tra này có thể tùy chỉnh.
