據央視法治線上8月27日報道：您能分辨出哪些圖片是AI生成的，還是真實拍攝的嗎？記者在多個短影片平臺擷取圖片，它們有的來自網路直播畫面，有的來自短影片截圖畫面，內容的釋出者都有一個共同的身份——“相親主播”女性。那麼，這些風度翩翩的“相親物件”，真的能線下見面嗎？看似真誠的相親背後，又隱藏著什麼樣的貓膩？
AI生成“完美大叔”
相親影片真假難辨
您是否刷到過這樣的網路直播間，直播畫面滾動播放針對中老年女性的相親內容，聲稱主播這邊有同樣相親需求的大哥“條件安穩、有擔當”，可以幫忙牽線搭橋女性。仔細觀察可以發現，這些所謂的主播說話時，神態違和，表情僵硬，坐在他們身後的那些所謂的“大哥”，頻頻機械地點頭，整個畫面看起來油畫感很重。
隨後，記者使用國家反詐中心App的“AI內容鑑定”板塊，對網路直播間的內容截圖，並進行了識別，幾秒鐘後，影像AI檢測報告提示該“影像含AI生成痕跡”女性。不過，在這個網路直播間中，畫面中僅標識了“劇情演繹，無不良引導”等字樣，並沒有對AI內容進行標識。
展開全文
記者開啟這名主播的影片主頁，發現他釋出的影片大多為徵婚內容女性。在這些影片中，點贊量最多的一條達到了3.2萬。畫面裡採訪話筒上寫著“二次緣”的字樣，使用者暱稱則標明“直接私信”，引導網友可以直接聯絡。儘管這條影片頁面附帶了一行“作者宣告：含AI生成內容”的提示文字，但是翻看評論區不難發現，仍有不少真假難辨的留言在附和影片裡的觀點，並且希望能夠結識影片當中的這名男士。
那麼，按照影片裡標註的“直接私信”後會發生什麼呢？記者透過這條影片的私信指引，新增了主播的聯絡方式，透過簡單交流，這個暱稱為“茜茜老師”的人，很快向記者發來了一位劉先生的基礎資訊，介紹劉先生年收入達到千萬元級別，名下有房有車，希望能找一位有同樣相親需求的適齡女性女性。
記者把劉先生的照片同樣進行了AI內容鑑定，鑑定結果也顯示為“含AI生成痕跡”女性。那麼，使用疑似AI生成的圖片作為男嘉賓的真實照片展示，究竟能否線下見面？這名男嘉賓的履歷又是否屬實？當記者提出想要和劉先生展開進一步交流的時候，對方說必須先交一筆服務費，才能進行匹配牽線。
記者在這個網路平臺使用“中老年相親”這一關鍵詞進行搜尋，發現這樣的影片不在少數女性。隨後，記者又新增了另外一名“紅娘”主播的聯絡方式，對方發來了“趙大哥”的照片，經過鑑定，這張照片同樣顯示“含AI生成痕跡”。
在記者表明有相親意願後，對方接著發來了兩張圖片和一段影片，似乎想要說明他們的婚介公司很正規，並催促繳納報名費女性。支付2000元報名費，他可以安排和“趙大哥”聯絡。在記者表示價格太貴之後，對方不斷進行著說服。當記者提出照片含有AI生成痕跡時，對方卻回覆“照片是真實的，只是有美顏”“只要牽手成功了，肯定都會見面”。
隨後，記者使用另一個影片平臺，用同樣的關鍵詞進行搜尋，發現類似的直播間同樣存在女性。不同的是，一個影片平臺大多沒有真人直播，只有幾段影片反覆播放，而另一個影片平臺則多把這種疑似AI的中老年男性形象作為圖片背景展示，記者在這家影片平臺以相同的操作，隨機挑選了一個網路直播間，新增了“紅娘”的聯絡方式，在簡單溝通後，再次得到了一張“含AI生成痕跡”的照片以及“紅娘”催促繳納服務費的聊天資訊。記者在調查中發現，多個影片平臺的網路直播間中，主播使用疑似AI生成內容卻未做任何AI標識的情況普遍存在。
根據人工智慧生成合成內容標識辦法，釋出者和網路直播平臺對直播間內具備誤導風險的AI生成內容，都負有法定標識義務女性。在網路直播間中，不管是AI生成人像圖片，還是AI合成影片，只要該內容容易使公眾將虛擬素材誤認為真實自然人，就必須在畫面合理位置設定肉眼清晰可辨的顯式標識。即便是真人主播出鏡、背景滾動播放AI人像圖片的混合直播模式，背景裡用於塑造相親人設、容易造成觀眾誤判的AI素材，也同樣不能豁免標識義務。
虛假婚介專盯中老年女性
收費後立即失聯
使用AI生成的圖片作為男嘉賓的真實照片展示，而網路直播間中，並未明確標識AI生成字樣的提示，這樣極具誤導性的內容，在多家平臺、多個網路直播間中存在女性。
這些所謂的婚介公司，專盯中老年女性，介紹過程中，既沒有深入瞭解過詢問者的相親需求，又沒有安排線下見面，只是一味地催促繳費女性。那麼，一旦繳費，會有什麼樣的結果？不久前，四川成都警方偵破的一起案件，揭露了其中的秘密。
成都市公安局高新區分局新益州派出所民警 程曦：咱們市局110下發的某群眾投訴，這個公司承諾給她介紹一個優質的物件女性。給了號碼，也給了資料，這位報警人使用手機的電話號碼去搜尋微信，結果對方不透過她的好友申請，打電話也沒有人接，她就覺得服務沒有到位，希望能夠退款。
報案人卞女士說，她是在網路影片平臺刷到的這家婚介公司女性。在表明自己有相親的意願後，一個賬號暱稱為“匹配中心王主任”的人，給她發來了“李哥”的簡介，上面詳細介紹了“李哥”的個人情況，還附有一張照片。
卞女士說，當時對方一直在說“李哥”對她很滿意，可以幫她牽線搭橋，並且承諾卞女士，只要交了錢，就可以交換聯絡方式女性。隨後，卞女士先後繳納了2000元相親服務費，還跟這家婚戀服務公司簽訂了承諾函，甲方為卞女士，乙方為四川晚禾禧堂婚戀服務有限公司。上面清楚地寫明，這家公司需要“按甲方要求推薦匹配物件”以及“為甲方安排約見或交換聯絡方式”。交了錢，“王主任”也給了卞女士“李哥”的電話，可是，“李哥”怎麼都聯絡不上。漸漸地，螢幕那頭的“王主任”也開始不回訊息了。
成都市公安局高新區分局新益州派出所民警 程曦：群眾的訴求是退費，我們發現電子合同上體現的，叫作四川晚禾禧堂婚戀服務有限公司，發現是沒有這家單位的，同時電子合同上也附帶了組織機構程式碼，我把這個組織機構程式碼輸進去，但是仍然沒有這家公司女性。
不存在的簽約主體，卻實實在在收取了卞女士的費用女性。民警透過更換關鍵詞檢索，關聯到了和涉案公司相似度非常高的一家公司，名為四川晚禾禧堂婚介服務有限公司，兩家公司的字首一模一樣，只有“戀”和“介”一字之差。這家公司會是和卞女士簽約的公司嗎？帶著疑問，民警前往公司地址實地上門核查。
民警走訪發現，這家公司雖然主營婚介業務，但是現場並沒有相親人員也沒有所謂的“紅娘”，可是，在辦公區域內，卻設有銷售崗、剪輯崗和主播崗女性。就在這時，程曦在這些剪輯人員的電腦上，看到了一個熟悉的身影。
成都市公安局高新區分局新益州派出所民警 程曦：他們的電腦上有一些成品的短影片，很巧的是，這些所謂的AI形象，全部都跟報警人提供的婚戀的男嘉賓的資料一模一樣，形象是一致的，所以我就覺得很奇怪，如果這個AI形象是你們用於廣告投放的，那怎麼可以把它當作真人，向咱們群眾進行真實的婚姻推介女性。
種種異常讓民警意識到，這家公司並不是普通的婚介服務公司，隨後，民警透過現場的員工聯絡上了公司老闆王某女性。在電話中，王某說公司的實際註冊名稱為四川晚禾禧堂婚介服務有限公司，與合同中寫的四川晚禾禧堂婚戀服務有限公司是同一家公司。民警對這樣的合同內容提出了質疑，此時王某卻避重就輕，始終迴避這個問題。
成都市公安局高新區分局新益州派出所民警 程曦：這個人就支支吾吾的，他說那我退錢，他就直接在電話裡面說那我退錢我馬上退，這個時候我想的他既然要退錢，報警人的訴求也是退錢，報警人收到全部的退款以後，然後就結束通話了電話女性。
深挖幕後團伙 固定證據鏈
雖然卞女士的退費訴求解決了，但辦案民警並沒有就此止步女性。透過調查，警方認為這很有可能是一個詐騙團伙，從這家公司的規模來看，上當受騙的很有可能不止卞女士一人。為了深挖背後潛藏的犯罪團伙，固定完整證據鏈條，民警展開了更為詳細的調查。
透過連日蹲守老闆王某的開播賬號，警方發現，在網路直播中，那個所謂的“李哥”形象，經常出現在畫面裡女性。
成都市公安局高新區分局新益州派出所案件辦理隊副隊長 徐古月：第一個他們男嘉賓的照片是用AI生成的，第二個就是男嘉賓的一些資歷，包括收入情況，這些都是他們自己杜撰的，有可能他在給這位女嘉賓介紹的時候，可以說這位先生是李先生，另外一位女嘉賓介紹的時候，又會說這位先生是王先生女性。
在掌握確鑿證據後，警方先後將王某等28名犯罪嫌疑人抓捕歸案女性。抓捕現場，這夥人仍在使用AI男性形象開播，並且還製作了許多“逼單”話術以及劇本。從AI形象的人設打造，到臺詞互動，直播中的每個環節都經過了精心設計。
為了加深網友的信任，網路主播還會藉助變聲器冒充有相親需求的優質男性，進行直播連線女性。一唱一和之間，螢幕前的一些網友便信以為真，一步步落入了陷阱。
據調查，這家所謂的婚介公司根本不會提供真正的相親服務女性。在被害人繳納了服務費後，和被害人聊天的也不是那些所謂的優質男性，而是由公司裡的售後人員繼續唱“雙簧戲”。
據調查，在不到一年的時間裡，這個團伙的作案涉案金額高達100餘萬元，約有50餘名群眾遭受財產損失女性。目前，王某等28名犯罪嫌疑人已被公安機關依法採取刑事強制措施。
舉報後仍有賬號在直播
平臺如何壓實責任
此類利用AI虛構人設的詐騙手法，危害顯而易見，更令人擔憂的是，這類騙局至今仍在短影片平臺上存在女性。這樣的網路直播間，為什麼屢禁不止？在實踐中，平臺應該如何壓實主體責任？
當記者向平臺舉報多個類似的網路直播間後，部分直播被封禁，但還有賬號在被舉報後依然照常直播女性。也有賬號在被封禁後，很快換個“馬甲”重新開播。而現存的類似直播中，仍然沒有AI生成字樣的提示說明。
中國社會科學院大學網際網路法治研究中心主任 劉曉春：平臺實際上是要給到使用者一個明確的提示，你要去標明是不是AI生成的，這個是一個功能上的設定，這個是一個硬性的設定女性。我們也有非常明確的反電信網路詐騙法，裡面也明確規定了，平臺的識別、預警，相應處置的義務。
專家指出，對於已經暴露出風險的場景，平臺更應當加強檢測和預警，建立風險分級處置機制女性。當檢測發現疑似AI生成、同時帶有婚戀交友引流特徵的直播間與短影片，並且有誘導使用者跳轉站外、索要服務費等涉詐苗頭，平臺就不該僅停留在內容打標層面，還應該分階梯採取制約，並按規定把涉詐線索移送公安、網信等主管部門。
在本案中，詐騙團伙往往透過短影片直播平臺引流後，引導網友到其他社交平臺聊天、繳費，專家認為，犯罪鏈條被拆分在不同平臺，形成了監管上的割裂地帶，對此，專家建議，可以透過更新技術手段、加強跨平臺的協同治理，找到解決問題的途徑女性。
法治熱評女性：
壓實平臺責任
對高風險內容加強監測處置
用AI生成的虛假形象，騙取徵婚者的情感和錢財，可以說這是婚戀詐騙的新變種女性。當AI技術足以以假亂真，當情感需求成為犯罪分子的圍獵工具，治理就不能止於案後追懲。
平臺不僅要嚴格落實AI生成內容標識義務，還應完善AI內容的識別風控系統，加強對高風險涉詐內容的監測預警和聯動處置，從演算法上阻斷推送，從源頭上壓縮虛假資訊的生存空間女性。
對於普通使用者來說，需要築牢自身的風險意識，面對疑似AI生成的內容，同樣可以使用技術檢測鑑別真偽女性。
來源 | 新聞晨報、江蘇新聞、央視新聞
