Tài liệu giả mạo có thể thúc đẩy một cuộc chạy đua vũ trang AI
Inscribe đang phát triển công nghệ có thể giúp các công ty bảo hiểm và người cho vay phát hiện các tài liệu giả mạo và thay đổi.
Tài liệu giả mạo có thể thúc đẩy một cuộc chạy đua vũ trang AI
[Ảnh: Ảnh miễn phí / Pixabay]
TÁC GIẢ STEVEN MELENDEZ3 PHÚT ĐỌC
Nếu bạn đã từng vay tiền, có lẽ bạn đã được yêu cầu sao chép các tài liệu thể hiện thu nhập và tiền tiết kiệm của mình, như một phiếu thanh toán gần đây, mẫu W-2 hoặc bảng sao kê ngân hàng. Và nếu bạn đã từng phải nộp đơn yêu cầu bảo hiểm sau tai nạn hoặc hỏa hoạn, bạn có thể được yêu cầu gửi biên lai hoặc hóa đơn xác minh các chi phí bạn yêu cầu được hoàn trả.
Rắc rối cho các công ty bảo hiểm và người cho vay là không nhất thiết phải biết liệu những hình thức mà mọi người gửi có phải là chính hãng hay không. Luôn có nguy cơ khách hàng vô đạo đức sử dụng Photoshop hoặc các công cụ chỉnh sửa khác để tăng lương một cách giả tạo hoặc chi phí cho các mặt hàng thay thế của họ.
Một công ty khởi nghiệp ở Vùng Vịnh có tên Inscribe , gần đây đã tham gia chương trình tăng tốc Y Combinator, đang sử dụng pháp y kỹ thuật số và kỹ thuật học máy để giúp các công ty tìm ra khi nào tài liệu bị giả mạo và thay đổi. Công ty hiện đang làm việc với những người cho vay am hiểu công nghệ để thử nghiệm công nghệ của mình và kể từ tháng 9, những khách hàng đầu tiên đó có thể tự tải lên các tài liệu để có hệ thống nổi bật về các vấn đề gian lận tiềm ẩn.
Một người dùng tải lên một tài liệu và chúng tôi tiết lộ tất cả thông tin họ cần để đưa ra quyết định, ông nói, CEO và đồng sáng lập Ronan Burke.
Kỹ thuật bao gồm tìm kiếm các vị trí mà các phần của hình ảnh dường như bị trùng lặp, chẳng hạn như nếu một số được sao chép từ nơi này sang nơi khác trên một biểu mẫu và tìm kiếm sự không nhất quán trong màu sắc và phông chữ có thể cho thấy sự giả mạo. Các khía cạnh kỹ thuật khác của hình ảnh, như mức độ nén JPEG trên một tệp hoặc siêu dữ liệu chỉ ra các công cụ nhất định đã được sử dụng để chỉnh sửa các tệp, cũng có thể được sử dụng.
Phân tích tài liệu bị thao túng bởi phần mềm của Inscribe. Mỗi dòng văn bản nên có cùng màu. Tuy nhiên, trong ví dụ này, năm và số dư đã bị giả mạo và được phát hiện bằng cách sử dụng sự khác biệt về phông chữ như thể hiện bằng sự thay đổi màu sắc trên cùng một dòng, Ronan Burke nói.
Các phiên bản tương lai của sản phẩm cũng sẽ có thể phát hiện ra sự không nhất quán giữa các tài liệu, như nếu số tiền được liệt kê trong cuống phiếu lương không có ý nghĩa gì khi kết hợp với W-2 hoặc thư đề nghị, Burke nói. Họ cũng có thể đồng bộ hóa với các cơ sở dữ liệu khác nhau để xác minh xem các số liệu hoặc dữ liệu khác trên tài liệu có chính xác không.
Nếu ông ai đó giả mạo bản sao kê ngân hàng của mình, họ cũng cần điều đó để tương quan với hình thức thuế của họ và thư đề nghị sử dụng lao động của họ, ông nói.
Burke cho biết Conor Burke, anh em sinh đôi và đồng sáng lập của ông và CTO của Inscribe, đã làm việc ở trường đại học về đào tạo các hệ thống máy học để làm việc với các hình ảnh có độ nén cao. Điều này dẫn đến công nghệ của Inscribe, có thể sử dụng sự khác biệt trong nén để phát hiện các khu vực nơi các phần của một hình ảnh đã được chèn vào hình ảnh khác.
Công ty cũng hy vọng sẽ cung cấp API cho khách hàng trong tương lai để họ có thể tự động tải lên các bộ tài liệu và nhận được điểm tin cậy cho biết khả năng tài liệu đó là chính hãng.
Mặc dù Inscribe đang tập trung vào các tài liệu giả mạo, đây chỉ là một trong số các dự án xem xét các hình ảnh và video giả mạo, vì các chuyên gia sợ các kỹ thuật ngày càng tinh vi có thể giả mạo bất cứ điều gì từ các bài phát biểu chính trị đến bằng chứng về tội ác hoặc hành vi sai trái. Cơ quan Dự án Nghiên cứu Quốc phòng Tiên tiến đang tài trợ cho nghiên cứu để phát hiện ra hình ảnh giả có thể được sử dụng để tuyên truyền. Điều này được gọi là công nghệ giả mạo sâu sắc sử dụng các mạng thần kinh để tạo ra các video giả trông giống như thật đang tiến bộ nhanh chóng.
Theo các chuyên gia, có thể việc phát hiện giả mạo tài liệu tự động có thể thúc đẩy cuộc chạy đua vũ trang của chính họ, ít nhất là với những kẻ lừa đảo tinh vi hơn.
Nasir Memon, giáo sư khoa học và kỹ thuật máy tính tại Đại học Kỹ thuật Tandon thuộc Đại học New York, người đã nghiên cứu về thao tác hình ảnh. Và cũng luôn có nguy cơ dương tính giả, có thể ít nhiều là một vấn đề, tùy thuộc vào ứng dụng, Memon nói.
Nhưng Burke nói rằng các chuyên gia của Inscribe có thể sẽ nghiên cứu các kỹ thuật giả mạo được ghi lại để đảm bảo phần mềm của nó có thể đánh bại chúng trước khi chúng có thể được sử dụng rộng rãi. Công ty đã tạo ra mẫu tài liệu giả mạo của riêng mình để đào tạo và kiểm tra phần mềm của mình, ông nói.
Sử dụng nhiều thử nghiệm để xác định xem một tài liệu hoặc hình ảnh khác có phải là chính hãng hay không có thể là một cách tốt để tìm ra ngay cả những đối thủ có kỹ năng, vì chỉ cần một lần giám sát để có thể phát hiện gian lận, Memon nói. Tất cả những kẻ xấu phải làm, anh ấy nói, đó là một sai lầm và chúng ta có cơ hội để bắt kẻ xấu.
Tài liệu giả mạo có thể thúc đẩy một cuộc chạy đua vũ trang AI
[Ảnh: Ảnh miễn phí / Pixabay]
TÁC GIẢ STEVEN MELENDEZ3 PHÚT ĐỌC
Nếu bạn đã từng vay tiền, có lẽ bạn đã được yêu cầu sao chép các tài liệu thể hiện thu nhập và tiền tiết kiệm của mình, như một phiếu thanh toán gần đây, mẫu W-2 hoặc bảng sao kê ngân hàng. Và nếu bạn đã từng phải nộp đơn yêu cầu bảo hiểm sau tai nạn hoặc hỏa hoạn, bạn có thể được yêu cầu gửi biên lai hoặc hóa đơn xác minh các chi phí bạn yêu cầu được hoàn trả.
Rắc rối cho các công ty bảo hiểm và người cho vay là không nhất thiết phải biết liệu những hình thức mà mọi người gửi có phải là chính hãng hay không. Luôn có nguy cơ khách hàng vô đạo đức sử dụng Photoshop hoặc các công cụ chỉnh sửa khác để tăng lương một cách giả tạo hoặc chi phí cho các mặt hàng thay thế của họ.
Một công ty khởi nghiệp ở Vùng Vịnh có tên Inscribe , gần đây đã tham gia chương trình tăng tốc Y Combinator, đang sử dụng pháp y kỹ thuật số và kỹ thuật học máy để giúp các công ty tìm ra khi nào tài liệu bị giả mạo và thay đổi. Công ty hiện đang làm việc với những người cho vay am hiểu công nghệ để thử nghiệm công nghệ của mình và kể từ tháng 9, những khách hàng đầu tiên đó có thể tự tải lên các tài liệu để có hệ thống nổi bật về các vấn đề gian lận tiềm ẩn.
Một người dùng tải lên một tài liệu và chúng tôi tiết lộ tất cả thông tin họ cần để đưa ra quyết định, ông nói, CEO và đồng sáng lập Ronan Burke.
Kỹ thuật bao gồm tìm kiếm các vị trí mà các phần của hình ảnh dường như bị trùng lặp, chẳng hạn như nếu một số được sao chép từ nơi này sang nơi khác trên một biểu mẫu và tìm kiếm sự không nhất quán trong màu sắc và phông chữ có thể cho thấy sự giả mạo. Các khía cạnh kỹ thuật khác của hình ảnh, như mức độ nén JPEG trên một tệp hoặc siêu dữ liệu chỉ ra các công cụ nhất định đã được sử dụng để chỉnh sửa các tệp, cũng có thể được sử dụng.
Phân tích tài liệu bị thao túng bởi phần mềm của Inscribe. Mỗi dòng văn bản nên có cùng màu. Tuy nhiên, trong ví dụ này, năm và số dư đã bị giả mạo và được phát hiện bằng cách sử dụng sự khác biệt về phông chữ như thể hiện bằng sự thay đổi màu sắc trên cùng một dòng, Ronan Burke nói.
Các phiên bản tương lai của sản phẩm cũng sẽ có thể phát hiện ra sự không nhất quán giữa các tài liệu, như nếu số tiền được liệt kê trong cuống phiếu lương không có ý nghĩa gì khi kết hợp với W-2 hoặc thư đề nghị, Burke nói. Họ cũng có thể đồng bộ hóa với các cơ sở dữ liệu khác nhau để xác minh xem các số liệu hoặc dữ liệu khác trên tài liệu có chính xác không.
Nếu ông ai đó giả mạo bản sao kê ngân hàng của mình, họ cũng cần điều đó để tương quan với hình thức thuế của họ và thư đề nghị sử dụng lao động của họ, ông nói.
Burke cho biết Conor Burke, anh em sinh đôi và đồng sáng lập của ông và CTO của Inscribe, đã làm việc ở trường đại học về đào tạo các hệ thống máy học để làm việc với các hình ảnh có độ nén cao. Điều này dẫn đến công nghệ của Inscribe, có thể sử dụng sự khác biệt trong nén để phát hiện các khu vực nơi các phần của một hình ảnh đã được chèn vào hình ảnh khác.
Công ty cũng hy vọng sẽ cung cấp API cho khách hàng trong tương lai để họ có thể tự động tải lên các bộ tài liệu và nhận được điểm tin cậy cho biết khả năng tài liệu đó là chính hãng.
Mặc dù Inscribe đang tập trung vào các tài liệu giả mạo, đây chỉ là một trong số các dự án xem xét các hình ảnh và video giả mạo, vì các chuyên gia sợ các kỹ thuật ngày càng tinh vi có thể giả mạo bất cứ điều gì từ các bài phát biểu chính trị đến bằng chứng về tội ác hoặc hành vi sai trái. Cơ quan Dự án Nghiên cứu Quốc phòng Tiên tiến đang tài trợ cho nghiên cứu để phát hiện ra hình ảnh giả có thể được sử dụng để tuyên truyền. Điều này được gọi là công nghệ giả mạo sâu sắc sử dụng các mạng thần kinh để tạo ra các video giả trông giống như thật đang tiến bộ nhanh chóng.
Theo các chuyên gia, có thể việc phát hiện giả mạo tài liệu tự động có thể thúc đẩy cuộc chạy đua vũ trang của chính họ, ít nhất là với những kẻ lừa đảo tinh vi hơn.
Nasir Memon, giáo sư khoa học và kỹ thuật máy tính tại Đại học Kỹ thuật Tandon thuộc Đại học New York, người đã nghiên cứu về thao tác hình ảnh. Và cũng luôn có nguy cơ dương tính giả, có thể ít nhiều là một vấn đề, tùy thuộc vào ứng dụng, Memon nói.
Nhưng Burke nói rằng các chuyên gia của Inscribe có thể sẽ nghiên cứu các kỹ thuật giả mạo được ghi lại để đảm bảo phần mềm của nó có thể đánh bại chúng trước khi chúng có thể được sử dụng rộng rãi. Công ty đã tạo ra mẫu tài liệu giả mạo của riêng mình để đào tạo và kiểm tra phần mềm của mình, ông nói.
Sử dụng nhiều thử nghiệm để xác định xem một tài liệu hoặc hình ảnh khác có phải là chính hãng hay không có thể là một cách tốt để tìm ra ngay cả những đối thủ có kỹ năng, vì chỉ cần một lần giám sát để có thể phát hiện gian lận, Memon nói. Tất cả những kẻ xấu phải làm, anh ấy nói, đó là một sai lầm và chúng ta có cơ hội để bắt kẻ xấu.
Nhận xét
Đăng nhận xét