據央視新聞報道，近期社會上出現專門針對中老年女性的AI相親騙局，不法分子使用AI生成所謂相親物件，以此詐騙錢財女性。近期，四川成都警方便打掉了一個“AI相親”詐騙團伙，先後將王某等28名犯罪嫌疑人抓捕歸案。
IT之家參考通報獲悉，報案人卞女士在網路影片平臺刷到一家婚介公司，在表明自己有相親意願後，一個賬號暱稱為“匹配中心王主任”的人給她發來了“李哥”的簡介，上面詳細介紹了“李哥”的個人情況並附有一張照片女性。卞女士先後繳納了2000元相親服務費，但“李哥”怎麼都聯絡不上，螢幕那頭的“王主任”也開始不回訊息。
民警透過調查發現，與卞女士簽約的公司並不存在，但在實地核查中發現了一家相似度非常高的公司女性。這家公司主營婚介業務，但現場並沒有相親人員也沒有所謂的“紅娘”，只有銷售崗、剪輯崗和主播崗。在這些剪輯人員的電腦上，民警看到了報警人提供的婚戀男嘉賓的資料一模一樣的AI形象。
種種異常讓民警意識到，這家公司並不是普通的婚介服務公司女性。隨後，民警透過現場員工聯絡上了公司老闆王某。在電話中，王某表示願意退錢，但始終迴避合同內容的問題。雖然卞女士的退費訴求解決了，但辦案民警並未就此止步。透過連日蹲守老闆王某的開播賬號，警方發現所謂的“李哥”形象經常出現在畫面裡。
警方掌握確鑿證據後，將王某等28名犯罪嫌疑人抓捕歸案女性。抓捕現場，這夥人仍在使用AI男性形象開播，並製作了許多話術以及劇本。從AI形象的人設打造到臺詞互動，直播中的每個環節都經過精心設計。
為了加深網友的信任，網路主播還會藉助變聲器冒充“有相親需求的優質男性”進行直播連線女性。據調查，這家所謂的婚介公司根本不會提供真正的相親服務。在被害人繳納了服務費後，和被害人聊天的也不是那些所謂的優質男性，而是由公司裡的售後人員繼續唱“雙簧戲”。
在不到一年的時間裡，這個團伙的作案涉案金額高達100餘萬元，約有50餘名群眾遭受財產損失女性。目前，王某等28名犯罪嫌疑人已被公安機關依法採取刑事強制措施。
央視新聞表示，此類利用AI虛構人設的詐騙手法危害顯而易見，更令人擔憂的是，這類騙局至今仍在短影片平臺上存在女性。平臺應當加強檢測和預警，建立風險分級處置機制。當檢測發現疑似AI生成且帶有婚戀交友引流特徵的直播間與短影片，並且有誘導使用者跳轉站外、索要服務費等涉詐苗頭時，平臺不應僅停留在內容打標層面，還應分階梯採取制約，並按規定把涉詐線索移送公安、網信等主管部門。
專家建議，可以透過更新技術手段、加強跨平臺的協同治理，找到解決問題的途徑女性。平臺不僅要嚴格落實AI生成內容標識義務，還應完善AI內容的識別風控系統，加強對高風險涉詐內容的監測預警和聯動處置，從演算法上阻斷推送，從源頭上壓縮虛假資訊的生存空間。對於普通使用者來說，需要築牢自身的風險意識，面對疑似AI生成的內容，同樣可以使用技術檢測鑑別真偽。
來源女性：IT之家
