TÌNH HUỐNG 470:MỘT NHÀ KHOA HỌC NỔI TIẾNG BỊ MỘT CÔNG TY TỰ Ý SỬ DỤNG CÔNG NGHỆ SAO CHÉP GIỌNG NÓI AI (VOICE CLONING) GIẢ MẠO GIỌNG ÔNG ĐỂ GỌI ĐIỆN LỪA ĐẢO BÁN KHÓA HỌC LÀM GIÀU?

MỘT NHÀ KHOA HỌC NỔI TIẾNG BỊ MỘT CÔNG TY TỰ Ý SỬ DỤNG CÔNG NGHỆ SAO CHÉP GIỌNG NÓI AI (VOICE CLONING) GIẢ MẠO GIỌNG ÔNG ĐỂ GỌI ĐIỆN LỪA ĐẢO BÁN KHÓA HỌC LÀM GIÀU?

Góc nhìn của ThS. Nguyễn Hữu Long – Chuyên gia Pháp lý, Tâm lý & Giáo dục, Giám đốc Trung tâm Tư vấn Pháp luật thuộc Hội Khoa học Tâm lý – Giáo dục tỉnh Quảng Trị

Một giọng nói quen thuộc từng là dấu hiệu giúp con người nhận diện người thân, đối tác, chuyên gia hay một người mà mình tin tưởng. Nhưng với sự phát triển nhanh của trí tuệ nhân tạo, chỉ từ một lượng dữ liệu âm thanh nhất định, công nghệ Voice Cloning có thể tạo ra giọng nói nhân tạo có đặc điểm tương đồng với giọng thật.

Điều đáng lưu ý là khi công nghệ này bị sử dụng để mạo danh một nhà khoa học, chuyên gia hoặc người có uy tín nhằm tạo niềm tin cho người nghe và thúc đẩy giao dịch tài chính, rủi ro không chỉ nằm ở công nghệ.

Đằng sau một cuộc gọi giả giọng có thể đồng thời xuất hiện các vấn đề về quyền nhân thân, danh dự – uy tín, thông tin trên không gian mạng và trách nhiệm hình sự nếu có hành vi gian dối nhằm chiếm đoạt tài sản.

Vì vậy, cộng đồng cần thay đổi một thói quen quan trọng: không nên xem giọng nói qua điện thoại là bằng chứng duy nhất để xác định danh tính người đang liên hệ.

1. BỐI CẢNH THỰC TẾ

Giả định một nhà khoa học có uy tín trong lĩnh vực giáo dục, khoa học và công nghệ thường xuyên xuất hiện trên truyền hình, hội thảo và các nền tảng trực tuyến.

Một công ty sau đó sử dụng các đoạn ghi âm công khai của ông để huấn luyện hệ thống AI tạo giọng nói tương tự.

Một thời gian sau, nhiều người nhận được cuộc gọi từ một số điện thoại lạ. Người gọi sử dụng giọng nói gần giống nhà khoa học và giới thiệu:

“Tôi đang hợp tác với một chương trình đào tạo đặc biệt. Anh/chị chỉ cần đăng ký khóa học hôm nay, cơ hội gia tăng thu nhập sẽ rất lớn.”

Người nghe được hướng dẫn chuyển tiền vào tài khoản hoặc truy cập một đường dẫn để thanh toán.

Một số người có thể tin rằng họ đang trực tiếp nói chuyện với nhà khoa học bởi giọng nói, cách xưng hô và những thông tin mà người gọi đưa ra khá phù hợp với hình ảnh công chúng của ông.

Trong khi đó, nhà khoa học không hề tham gia chương trình, không gọi điện cho khách hàng và không cho phép công ty sử dụng giọng nói của mình cho mục đích thương mại.

Nếu tình huống này xảy ra trên diện rộng, hậu quả có thể tác động theo hai hướng.

Đối với cộng đồng: người dân có nguy cơ chuyển tiền dựa trên thông tin giả mạo.

Đối với người bị mạo danh: danh dự, uy tín và hình ảnh nghề nghiệp có thể bị ảnh hưởng khi công chúng hiểu nhầm rằng nhà khoa học đang quảng bá hoặc bán một sản phẩm mà ông không hề liên quan.

Điểm đáng chú ý là AI không tự tạo ra hành vi lừa đảo. Vấn đề pháp lý nằm ở cách con người sử dụng công nghệ và mục đích của hành vi đó.

1. GÓC NHÌN PHÁP LÝ
2. Luật An ninh mạng: giả mạo bằng AI trên môi trường mạng có thể trở thành vấn đề pháp lý

Luật An ninh mạng số 24/2018/QH14 xác định các nhóm thông tin trên không gian mạng có nội dung làm nhục, vu khống, trong đó bao gồm thông tin bịa đặt, sai sự thật xâm phạm danh dự, uy tín, nhân phẩm hoặc gây thiệt hại đến quyền và lợi ích hợp pháp của tổ chức, cá nhân khác.

Luật cũng đề cập đến thông tin bịa đặt, sai sự thật trong các lĩnh vực tài chính, ngân hàng, thương mại điện tử, thanh toán điện tử, huy động vốn, kinh doanh đa cấp và các hoạt động kinh tế khác.

Do đó, nếu một tổ chức hoặc cá nhân sử dụng môi trường mạng để tạo dựng thông tin giả mạo về một nhà khoa học, đồng thời sử dụng thông tin đó để thúc đẩy giao dịch tài chính, cơ quan có thẩm quyền có thể xem xét nhiều khía cạnh pháp lý khác nhau tùy vào hành vi và hậu quả thực tế.

Cần lưu ý rằng không phải mọi nội dung sử dụng AI hoặc mọi trường hợp bắt chước giọng nói đều đương nhiên vi phạm pháp luật. Yếu tố quan trọng là mục đích sử dụng, nội dung, sự đồng ý của người có giọng nói/hình ảnh, hậu quả và các quy định pháp luật liên quan.

2. Điều 32 Bộ luật Dân sự: quyền đối với hình ảnh và vấn đề giả mạo danh tính

Điều 32 Bộ luật Dân sự 2015 quy định cá nhân có quyền đối với hình ảnh của mình; việc sử dụng hình ảnh của cá nhân về nguyên tắc phải được người đó đồng ý.

Đối với việc sử dụng hình ảnh của người khác vì mục đích thương mại, pháp luật còn đặt ra vấn đề về thù lao, trừ trường hợp các bên có thỏa thuận khác. Nếu quyền đối với hình ảnh bị xâm phạm, người có hình ảnh có quyền yêu cầu Tòa án buộc chấm dứt việc sử dụng, thu hồi, tiêu hủy và bồi thường thiệt hại theo quy định.

Trong tình huống sử dụng Voice Cloning, cần phân biệt một vấn đề:

Điều 32 trực tiếp quy định về quyền đối với hình ảnh, không phải là điều luật riêng về “quyền đối với giọng nói”.

Vì vậy, không nên máy móc kết luận rằng cứ sao chép giọng nói là đương nhiên vi phạm Điều 32. Cơ quan giải quyết vụ việc cần xem xét tổng thể hành vi: có sử dụng hình ảnh, tên tuổi, danh tính, thông tin cá nhân hay các yếu tố nhận diện khác hay không; việc sử dụng nhằm mục đích gì; có sự đồng ý hay không và có xâm phạm các quyền nhân thân khác hay không.

Nếu việc giả mạo còn làm phát sinh thiệt hại về danh dự, uy tín, tài sản hoặc quyền lợi hợp pháp khác, trách nhiệm dân sự có thể được xem xét trên các căn cứ tương ứng của Bộ luật Dân sự.

III. KHI GIỌNG NÓI GIẢ ĐƯỢC DÙNG ĐỂ LẤY TIỀN: CÓ THỂ PHÁT SINH TRÁCH NHIỆM HÌNH SỰ

1. Điều 174 Bộ luật Hình sự và hành vi lừa đảo chiếm đoạt tài sản

Điều 174 Bộ luật Hình sự quy định về Tội lừa đảo chiếm đoạt tài sản.

Về bản chất, vấn đề trọng tâm không phải là người phạm tội sử dụng công nghệ AI hay công nghệ truyền thống.

Điểm cần làm rõ là:

Có thủ đoạn gian dối hay không?
Có làm cho người khác tin tưởng và giao tài sản hay không?
Có mục đích chiếm đoạt hay không?
Giá trị tài sản và các tình tiết liên quan có đáp ứng dấu hiệu của Điều 174 hay không?

Nếu một nhóm người sử dụng AI để giả giọng nhà khoa học, tạo dựng thông tin rằng ông đang trực tiếp giới thiệu khóa học, sau đó dùng sự giả mạo đó để làm cho nạn nhân chuyển tiền và chiếm đoạt tài sản, thì hành vi có thể được xem xét theo Điều 174 nếu cơ quan tiến hành tố tụng chứng minh đầy đủ các dấu hiệu cấu thành tội phạm.

Vì vậy, “AI” chỉ có thể là phương tiện hoặc thủ đoạn được sử dụng; trách nhiệm hình sự vẫn phải được xác định trên cơ sở các dấu hiệu pháp lý của tội phạm.

1. GÓC NHÌN VỀ “GIỌNG NÓI GIẢ” VÀ “NIỀM TIN THẬT”

Một trong những điểm nguy hiểm của Voice Cloning nằm ở tâm lý tin tưởng.

Con người thường có xu hướng tin vào những tín hiệu quen thuộc. Một giọng nói giống người thân, giáo viên, bác sĩ, chuyên gia hoặc người nổi tiếng có thể tạo cảm giác rằng người đang gọi thực sự là người mà mình biết.

Khi giọng nói được kết hợp với:

• tên thật;
• hình ảnh thật;
• thông tin nghề nghiệp thật;
• lịch sử phát biểu thật;
• các đoạn video công khai;

thì khả năng tạo ra một “hồ sơ danh tính giả” càng trở nên thuyết phục.

Đây là lý do giáo dục cộng đồng về AI không chỉ cần dừng ở việc “AI có thể giả giọng”, mà phải tiến tới một kỹ năng thiết thực hơn:

Không xác thực giao dịch tài chính chỉ bằng một tín hiệu nhận diện duy nhất.

Nếu người gọi yêu cầu chuyển tiền, cung cấp mã OTP, truy cập đường link hoặc thanh toán một khoản phí, người nhận cuộc gọi nên ngắt cuộc gọi và xác minh qua một kênh độc lập.

Ví dụ: gọi trực tiếp số điện thoại chính thức của nhà khoa học, cơ quan công tác, đơn vị tổ chức khóa học hoặc doanh nghiệp có liên quan.

1. GÓC NHÌN TÂM LÝ – GIÁO DỤC – QUẢN TRỊ
2. Đừng để uy tín của một nhà khoa học trở thành “công cụ bảo chứng” cho một giao dịch chưa được kiểm chứng

Người nổi tiếng, giáo sư, tiến sĩ, bác sĩ, luật sư hay chuyên gia có uy tín đều có thể trở thành đối tượng bị giả mạo.

Vì vậy, câu:

“Chính chuyên gia này gọi cho tôi”

không còn là căn cứ đủ mạnh để xác định giao dịch là thật.

Cần xác minh người – tổ chức – sản phẩm – tài khoản nhận tiền một cách độc lập.

2. Đối với nhà khoa học và chuyên gia

Các chuyên gia thường xuất hiện trên YouTube, Facebook, TikTok, hội thảo trực tuyến hoặc truyền hình. Đây là nguồn dữ liệu có thể bị khai thác để tạo nội dung giả.

Do đó, nên chủ động:

• công khai các kênh liên hệ chính thức;
• cảnh báo khi phát hiện tài khoản hoặc chương trình giả mạo;
• thông báo rõ những hoạt động thương mại mà mình không tham gia;
• lưu giữ các bằng chứng về nội dung giả mạo;
• thông báo kịp thời cho nền tảng và cơ quan chức năng khi phát hiện dấu hiệu vi phạm.

3. Đối với doanh nghiệp

Doanh nghiệp sử dụng AI cần xây dựng quy trình quản trị rõ ràng về dữ liệu giọng nói, hình ảnh và danh tính của cá nhân.

Đặc biệt, việc công nghệ có khả năng làm được không đồng nghĩa với việc doanh nghiệp được phép làm.

Mọi hoạt động sử dụng dữ liệu nhận diện cá nhân cần được đặt trong khuôn khổ pháp luật, thỏa thuận và mục đích sử dụng phù hợp.

1. KHI VỤ VIỆC CÓ DẤU HIỆU HÌNH SỰ: CƠ QUAN CHỨC NĂNG CÓ THỂ XÁC MINH NHƯ THẾ NÀO?

Trong một vụ việc giả mạo bằng AI có dấu hiệu chiếm đoạt tài sản, quá trình xác minh có thể phải làm rõ nhiều lớp dữ liệu:

Cuộc gọi → số điện thoại → hệ thống tổng đài → máy chủ → tài khoản quản trị → đường link → tài khoản nhận tiền → dòng tiền → người tổ chức.

Các dữ liệu điện tử có thể giúp cơ quan có thẩm quyền xác định ai tạo nội dung, ai vận hành hệ thống và tiền được chuyển đến đâu.

Trong trường hợp có căn cứ theo pháp luật tố tụng, cơ quan điều tra có thể áp dụng các biện pháp thu thập, bảo quản và kiểm tra dữ liệu điện tử; phối hợp với các đơn vị chuyên trách về an ninh mạng và nhà cung cấp dịch vụ để xác minh hạ tầng kỹ thuật liên quan.

Nếu phát hiện hệ thống máy chủ, tổng đài ảo hoặc tài khoản có liên quan đến hành vi vi phạm, việc xử lý phải được thực hiện theo thẩm quyền, căn cứ và trình tự pháp luật, chứ không phải theo cơ chế “tự ý truy quét hoặc xóa máy chủ”.

Đặc biệt, cần tránh cách hiểu rằng cơ quan chức năng có thể “xóa dấu vết” của vụ việc. Ngược lại, trong điều tra hình sự, việc bảo toàn dữ liệu, xác định nguồn gốc và thu thập chứng cứ điện tử đúng trình tự có ý nghĩa đặc biệt quan trọng.

VII. KHUYẾN NGHỊ TỪ CHUYÊN GIA NGUYỄN HỮU LONG

Đối với người dân

Khi nhận được cuộc gọi bằng giọng nói của người quen hoặc người nổi tiếng có yêu cầu về tiền bạc:

1. Không chuyển tiền ngay.
2. Không cung cấp OTP, mật khẩu hoặc thông tin tài khoản.
3. Không bấm vào đường link được gửi trong cuộc gọi.
4. Gọi lại bằng số điện thoại chính thức đã được xác minh.
5. Nếu có dấu hiệu lừa đảo, lưu lại số điện thoại, thời gian gọi, nội dung trao đổi, tin nhắn, tài khoản nhận tiền và các dữ liệu liên quan để trình báo.

Đối với nhà khoa học, chuyên gia và người có uy tín

Nếu phát hiện mình bị giả giọng hoặc giả danh để quảng cáo, huy động tiền, bán sản phẩm hoặc khóa học, cần nhanh chóng:

• thông báo công khai để cộng đồng nhận biết;
• yêu cầu nền tảng xử lý nội dung vi phạm;
• lưu giữ bản sao dữ liệu trước khi nội dung bị xóa;
• trình báo cơ quan có thẩm quyền nếu có dấu hiệu vi phạm pháp luật;
• chủ động cảnh báo những người đang bị tiếp cận bởi đối tượng giả mạo.

Đối với cộng đồng

Hãy ghi nhớ một nguyên tắc:

Giọng nói có thể bị làm giả; danh tính cần được xác minh bằng nhiều nguồn độc lập.

Đặc biệt đối với các giao dịch liên quan đến tiền, đừng để sự tin tưởng vào một người nổi tiếng thay thế việc kiểm tra pháp lý và kiểm tra thông tin.

THÔNG ĐIỆP PHÁP LUẬT

AI có thể mô phỏng giọng nói.

Nhưng AI không thể biến một hành vi trái pháp luật thành hợp pháp.

Một cuộc gọi nghe rất giống giọng của nhà khoa học không chứng minh người gọi chính là nhà khoa học. Một video có hình ảnh thật cũng không chứng minh người đó đang quảng cáo sản phẩm. Và một lời giới thiệu mang tên chuyên gia không thể thay thế cho việc xác minh tổ chức, sản phẩm và tài khoản nhận tiền.

Dưới góc nhìn pháp lý – tâm lý – giáo dục, điều cộng đồng cần xây dựng không phải là tâm lý sợ hãi AI, mà là năng lực kiểm chứng thông tin trong thời đại AI.

Tin vào con người là một giá trị.
Nhưng xác minh thông tin trước khi giao tài sản là một kỹ năng pháp lý cần thiết.

— ThS. Nguyễn Hữu Long
Chuyên gia Pháp lý, Tâm lý & Giáo dục
Giám đốc Trung tâm Tư vấn Pháp luật thuộc Hội Khoa học Tâm lý – Giáo dục tỉnh Quảng Trị