去年以來，AI破損圖在電商購物中“薅羊毛”，成了新灰產(chǎn)。

近日，江蘇大閘蟹網(wǎng)店主高女士遭遇新型騙局。其發(fā)出的8只螃蟹，在買家次日發(fā)來的圖片和視頻中竟“死了6只”，并被退款195元。經(jīng)警方查明，該視頻為AI偽造。涉事買家被處以行政拘留8日，此案成為全國首例利用AI偽造視頻騙取網(wǎng)購退款而受行政處罰的案件。

高女士的遭遇并非個例。《科創(chuàng)板日報》記者調(diào)查發(fā)現(xiàn)，隨著AI工具普及，偽造瑕疵商品圖片、視頻的技術(shù)門檻急劇降低。從生鮮到衣物，逼真的假“證據(jù)”正被少數(shù)人用于“薅羊毛”，甚至催生付費教學的灰產(chǎn)。面對這類欺詐，電商賣家正陷入“舉證難、立案更難”的維權(quán)困境。

▎AI破損圖“薅羊毛”：退款糾紛背后的AI灰產(chǎn)

僅憑一張商品開箱原圖，利用AI生成技術(shù)，便能輕松偽造出足以“以假亂真”的退款證據(jù)。

從事紫砂行業(yè)15年的電商賣家鐘先生上個月也遭遇了AI假圖騙退款：一位買家以商品破損為由申請僅退款，并發(fā)送數(shù)張顯示紫砂壺有多道裂紋的圖片。憑借行業(yè)經(jīng)驗，鐘先生雖察覺圖片異常，卻在對方不斷催促與指責中一度動搖。在他堅持要求下，買家發(fā)來“破損視頻”，經(jīng)同行群辨認，被指出是AI生成的假視頻——“手一摸就開裂，就是AI的”。鐘先生憑借專業(yè)知識識破騙局，對方最終取消申請。

一年前，這種能夠生成逼真?zhèn)卧煺掌⒁曨l的AI技術(shù)還屬于少數(shù)科技公司和專業(yè)人士的專利。而今天，隨著開源AI工具和商業(yè)化AI服務的普及，這一技術(shù)的門檻已大幅降低。

《科創(chuàng)板日報》記者注意到，今年以來，多個電商平臺的商家在小紅書等渠道反映，有消費者使用AI技術(shù)生成商品存在瑕疵的圖片或視頻，并以此發(fā)起退款申請。

這類偽造內(nèi)容覆蓋生鮮腐壞、衣物破損、化妝品滲漏等多種場景，視覺呈現(xiàn)已極為逼真。其中，因退貨驗證困難，生鮮類商品已然成為該類欺詐行為的重災區(qū)。

上海光明（合肥）律師事務所的涂攀躍律師也向記者證實，半年前就已接觸多起類似案件，欺詐目標大多集中于生鮮水果、服裝鞋帽等小額商品。

為驗證利用AI造假現(xiàn)象，《科創(chuàng)板日報》記者也在騰訊元寶、豆包等常見AI工具中進行了實測，僅需輸入“將圖片中的水果局部處理成腐爛狀態(tài)”這類簡單指令，大模型可在30秒內(nèi)生成極具迷惑性的“證據(jù)”圖片。

AI生成的水果腐爛圖

盡管輸出圖片通常帶有“AI生成”水印，但該標識多位于邊角位置，通過簡單裁剪即可輕易去除。然而，據(jù)部分商家發(fā)帖反映，不少作為“證據(jù)”提交的圖片，仍直接帶有未處理的水印，AI偽造痕跡明顯。

據(jù)“電訴寶”發(fā)布的數(shù)據(jù)顯示，在“618”期間全國電商平臺的商家投訴中，“退款問題”以16.16%的占比居首位；“任意僅退款”問題則以12.10%的占比緊隨其后。由此也不難看出，當前退款糾紛的普遍性，而AI偽造技術(shù)的濫用，也無疑為這一灰色地帶增添了新的技術(shù)復雜度。

值得注意的是，有部分商家反映，即便能識別出買家使用AI偽造商品破損，向平臺提交申訴后，卻常因平臺認定“憑證不足”而被駁回，最終被建議“與買家協(xié)商解決”。

與此同時，由于單筆或關聯(lián)訂單的總金額往往不足1000元，難以達到詐騙罪的刑事立案標準，致使商家尋求報警處理的途徑也難以走通，陷入維權(quán)無門的困境。

隨著AI工具使用門檻的迅速下降，利用該技術(shù)實施違規(guī)乃至違法行為的成本也在相應降低。而技術(shù)濫用的低成本與維權(quán)過程的高成本，也正使眾多電商賣家陷入一種新的困境之中。

值得警惕的是，除了用AI生成假圖外，當前圍繞“僅退款”也已衍生出一條灰色產(chǎn)業(yè)鏈。此前有媒體調(diào)查發(fā)現(xiàn)，只需支付約288元“學費”，便有自稱“師傅”的人承諾傳授全套“僅退款”竅門，并聲稱單個賬號成功退款次數(shù)可達30次左右。

▎當AI成為造假工具，小額欺詐背后的追責難題如何破？

近日，全國首例AI偽造視頻網(wǎng)購詐騙案的行政處罰，也意味著法律開始對這一新型犯罪形態(tài)作出回應。然而，現(xiàn)行法律體系在面對快速發(fā)展的AI技術(shù)時仍顯滯后。

上海復晨律師事務所律師蔡斌向《科創(chuàng)板日報》記者表示，曾接到商家關于遭遇AI造假欺詐的咨詢，但此類案件通常涉案金額較小。關于維權(quán)路徑，蔡斌也給出了明確建議，一是平臺投訴，其次可選擇報警。

他指出，該行為在定性上符合《刑法》第266條詐騙罪的構(gòu)成要件。但在實踐中，由于金額往往達不到刑事立案標準，追究刑事責任存在困難。其進一步說明，公安機關可依據(jù)《治安管理處罰法》對此類行為進行查處，例如處以5至10日的拘留。

從技術(shù)角度看，防范AI偽造視頻的“反AI”技術(shù)也在發(fā)展。然而，這些技術(shù)的普及應用仍需時間，且成本不菲。對于絕大多數(shù)中小電商平臺和賣家而言，自行部署這類技術(shù)防御系統(tǒng)尚不現(xiàn)實。

在接受《科創(chuàng)板日報》記者采訪時，多位律師指出，應對AI技術(shù)濫用對電商環(huán)境的沖擊，必須依靠多方協(xié)同共治。但在此過程中，電商平臺應扮演更為關鍵的角色，承擔起升級技術(shù)審核、優(yōu)化規(guī)則設計等核心責任。

“目前，各大電商平臺在“僅退款”制度及AI鑒偽識別風控系統(tǒng)制度建設方面，還有一定的滯后性。”上海光明（合肥）律師事務所律師涂攀躍直言，“對于電商平臺，在處理‘僅退款’問題上絕非簡單的‘裁判’身份，其負有多重審核與注意義務。”

與此同時，涂攀躍還建議應由有關監(jiān)管部門牽頭，組織平臺對“AI濫用”“代投訴退款”及“職業(yè)索賠培訓陪跑”等黑灰產(chǎn)領域進行聯(lián)合打擊。

此外，從更宏觀的治理視角看，構(gòu)建新防線也需超越平臺層面。蔡斌進一步向《科創(chuàng)板日報》記者指出，應對AI技術(shù)濫用引發(fā)的電商欺詐，法律與監(jiān)管層面也需同步完善。

其認為，立法需與時俱進。 針對利用AI等新技術(shù)實施、且已呈現(xiàn)盛行苗頭的新型犯罪形式，應考慮在刑法中增設專門條款或出臺司法解釋，進行明確的法律配置與規(guī)制。

同時，加強對消費者的合規(guī)教育不可或缺。 技術(shù)工具本身無罪，關鍵在如何使用。應通過基礎教育引導消費者清晰認識技術(shù)的合法使用與違法使用的邊界，避免因噎廢食，在打擊犯罪的同時保護技術(shù)創(chuàng)新的積極性。

此外，蔡斌建議探索構(gòu)建社會化解紛機制。 糾紛解決不應僅限于法院、公安機關或電商平臺。在消費領域，可以探索設立更多元、更前置的非訴解決渠道，為未達犯罪門檻的糾紛提供高效化解路徑。