去年以來，AI破損圖在電商購物中“薅羊毛”，成了新灰產(chǎn)。

近日，江蘇大閘蟹網(wǎng)店主高女士遭遇新型騙局。其發(fā)出的8只螃蟹，在買家次日發(fā)來的圖片和視頻中竟“死了6只”，并被退款195元。經(jīng)警方查明，該視頻為AI偽造。涉事買家被處以行政拘留8日，此案成為全國首例利用AI偽造視頻騙取網(wǎng)購?fù)丝疃苄姓幜P的案件。

高女士的遭遇并非個例?！犊苿?chuàng)板日報》記者調(diào)查發(fā)現(xiàn)，隨著AI工具普及，偽造瑕疵商品圖片、視頻的技術(shù)門檻急劇降低。從生鮮到衣物，逼真的假“證據(jù)”正被少數(shù)人用于“薅羊毛”，甚至催生付費(fèi)教學(xué)的灰產(chǎn)。面對這類欺詐，電商賣家正陷入“舉證難、立案更難”的維權(quán)困境。

▎AI破損圖“薅羊毛”：退款糾紛背后的AI灰產(chǎn)

僅憑一張商品開箱原圖，利用AI生成技術(shù)，便能輕松偽造出足以“以假亂真”的退款證據(jù)。

從事紫砂行業(yè)15年的電商賣家鐘先生上個月也遭遇了AI假圖騙退款：一位買家以商品破損為由申請僅退款，并發(fā)送數(shù)張顯示紫砂壺有多道裂紋的圖片。憑借行業(yè)經(jīng)驗(yàn)，鐘先生雖察覺圖片異常，卻在對方不斷催促與指責(zé)中一度動搖。在他堅(jiān)持要求下，買家發(fā)來“破損視頻”，經(jīng)同行群辨認(rèn)，被指出是AI生成的假視頻——“手一摸就開裂，就是AI的”。鐘先生憑借專業(yè)知識識破騙局，對方最終取消申請。

一年前，這種能夠生成逼真?zhèn)卧煺掌?、視頻的AI技術(shù)還屬于少數(shù)科技公司和專業(yè)人士的專利。而今天，隨著開源AI工具和商業(yè)化AI服務(wù)的普及，這一技術(shù)的門檻已大幅降低。

《科創(chuàng)板日報》記者注意到，今年以來，多個電商平臺的商家在小紅書等渠道反映，有消費(fèi)者使用AI技術(shù)生成商品存在瑕疵的圖片或視頻，并以此發(fā)起退款申請。

這類偽造內(nèi)容覆蓋生鮮腐壞、衣物破損、化妝品滲漏等多種場景，視覺呈現(xiàn)已極為逼真。其中，因退貨驗(yàn)證困難，生鮮類商品已然成為該類欺詐行為的重災(zāi)區(qū)。

上海光明（合肥）律師事務(wù)所的涂攀躍律師也向記者證實(shí)，半年前就已接觸多起類似案件，欺詐目標(biāo)大多集中于生鮮水果、服裝鞋帽等小額商品。

為驗(yàn)證利用AI造假現(xiàn)象，《科創(chuàng)板日報》記者也在騰訊元寶、豆包等常見AI工具中進(jìn)行了實(shí)測，僅需輸入“將圖片中的水果局部處理成腐爛狀態(tài)”這類簡單指令，大模型可在30秒內(nèi)生成極具迷惑性的“證據(jù)”圖片。

AI生成的水果腐爛圖

盡管輸出圖片通常帶有“AI生成”水印，但該標(biāo)識多位于邊角位置，通過簡單裁剪即可輕易去除。然而，據(jù)部分商家發(fā)帖反映，不少作為“證據(jù)”提交的圖片，仍直接帶有未處理的水印，AI偽造痕跡明顯。

據(jù)“電訴寶”發(fā)布的數(shù)據(jù)顯示，在“618”期間全國電商平臺的商家投訴中，“退款問題”以16.16%的占比居首位；“任意僅退款”問題則以12.10%的占比緊隨其后。由此也不難看出，當(dāng)前退款糾紛的普遍性，而AI偽造技術(shù)的濫用，也無疑為這一灰色地帶增添了新的技術(shù)復(fù)雜度。

值得注意的是，有部分商家反映，即便能識別出買家使用AI偽造商品破損，向平臺提交申訴后，卻常因平臺認(rèn)定“憑證不足”而被駁回，最終被建議“與買家協(xié)商解決”。

與此同時，由于單筆或關(guān)聯(lián)訂單的總金額往往不足1000元，難以達(dá)到詐騙罪的刑事立案標(biāo)準(zhǔn)，致使商家尋求報警處理的途徑也難以走通，陷入維權(quán)無門的困境。

隨著AI工具使用門檻的迅速下降，利用該技術(shù)實(shí)施違規(guī)乃至違法行為的成本也在相應(yīng)降低。而技術(shù)濫用的低成本與維權(quán)過程的高成本，也正使眾多電商賣家陷入一種新的困境之中。

值得警惕的是，除了用AI生成假圖外，當(dāng)前圍繞“僅退款”也已衍生出一條灰色產(chǎn)業(yè)鏈。此前有媒體調(diào)查發(fā)現(xiàn)，只需支付約288元“學(xué)費(fèi)”，便有自稱“師傅”的人承諾傳授全套“僅退款”竅門，并聲稱單個賬號成功退款次數(shù)可達(dá)30次左右。

▎當(dāng)AI成為造假工具，小額欺詐背后的追責(zé)難題如何破？

近日，全國首例AI偽造視頻網(wǎng)購詐騙案的行政處罰，也意味著法律開始對這一新型犯罪形態(tài)作出回應(yīng)。然而，現(xiàn)行法律體系在面對快速發(fā)展的AI技術(shù)時仍顯滯后。

上海復(fù)晨律師事務(wù)所律師蔡斌向《科創(chuàng)板日報》記者表示，曾接到商家關(guān)于遭遇AI造假欺詐的咨詢，但此類案件通常涉案金額較小。關(guān)于維權(quán)路徑，蔡斌也給出了明確建議，一是平臺投訴，其次可選擇報警。

他指出，該行為在定性上符合《刑法》第266條詐騙罪的構(gòu)成要件。但在實(shí)踐中，由于金額往往達(dá)不到刑事立案標(biāo)準(zhǔn)，追究刑事責(zé)任存在困難。其進(jìn)一步說明，公安機(jī)關(guān)可依據(jù)《治安管理處罰法》對此類行為進(jìn)行查處，例如處以5至10日的拘留。

從技術(shù)角度看，防范AI偽造視頻的“反AI”技術(shù)也在發(fā)展。然而，這些技術(shù)的普及應(yīng)用仍需時間，且成本不菲。對于絕大多數(shù)中小電商平臺和賣家而言，自行部署這類技術(shù)防御系統(tǒng)尚不現(xiàn)實(shí)。

在接受《科創(chuàng)板日報》記者采訪時，多位律師指出，應(yīng)對AI技術(shù)濫用對電商環(huán)境的沖擊，必須依靠多方協(xié)同共治。但在此過程中，電商平臺應(yīng)扮演更為關(guān)鍵的角色，承擔(dān)起升級技術(shù)審核、優(yōu)化規(guī)則設(shè)計等核心責(zé)任。

“目前，各大電商平臺在“僅退款”制度及AI鑒偽識別風(fēng)控系統(tǒng)制度建設(shè)方面，還有一定的滯后性?！鄙虾９饷鳎ê戏剩┞蓭熓聞?wù)所律師涂攀躍直言，“對于電商平臺，在處理‘僅退款’問題上絕非簡單的‘裁判’身份，其負(fù)有多重審核與注意義務(wù)。”

與此同時，涂攀躍還建議應(yīng)由有關(guān)監(jiān)管部門牽頭，組織平臺對“AI濫用”“代投訴退款”及“職業(yè)索賠培訓(xùn)陪跑”等黑灰產(chǎn)領(lǐng)域進(jìn)行聯(lián)合打擊。

此外，從更宏觀的治理視角看，構(gòu)建新防線也需超越平臺層面。蔡斌進(jìn)一步向《科創(chuàng)板日報》記者指出，應(yīng)對AI技術(shù)濫用引發(fā)的電商欺詐，法律與監(jiān)管層面也需同步完善。

其認(rèn)為，立法需與時俱進(jìn)。 針對利用AI等新技術(shù)實(shí)施、且已呈現(xiàn)盛行苗頭的新型犯罪形式，應(yīng)考慮在刑法中增設(shè)專門條款或出臺司法解釋，進(jìn)行明確的法律配置與規(guī)制。

同時，加強(qiáng)對消費(fèi)者的合規(guī)教育不可或缺。 技術(shù)工具本身無罪，關(guān)鍵在如何使用。應(yīng)通過基礎(chǔ)教育引導(dǎo)消費(fèi)者清晰認(rèn)識技術(shù)的合法使用與違法使用的邊界，避免因噎廢食，在打擊犯罪的同時保護(hù)技術(shù)創(chuàng)新的積極性。

此外，蔡斌建議探索構(gòu)建社會化解紛機(jī)制。 糾紛解決不應(yīng)僅限于法院、公安機(jī)關(guān)或電商平臺。在消費(fèi)領(lǐng)域，可以探索設(shè)立更多元、更前置的非訴解決渠道，為未達(dá)犯罪門檻的糾紛提供高效化解路徑。