每經(jīng)訊，一場AI濫用亂象正在內容平臺蔓延，明星“一鍵換裝”、露骨“擦邊”內容泛濫，成為流量密碼。從高校導師被AI換臉詐騙，到公眾人物深陷“造黃謠”風波，普通人和公眾人物都已成為技術濫用中的受害者。《每日經(jīng)濟新聞》記者近期對12款主流文生圖/視頻AI應用進行實測后發(fā)現(xiàn)：5款應用可對明星“一鍵換裝”，涉嫌侵權；9款應用能通過輸入隱晦提示詞繞過審核，生成具有性暗示的“擦邊”圖片。專家一針見血地指出，平臺在攔截這些AI生成內容上并沒有難度，只是會消耗一定算力。另外，在AI生成圖片上標注“疑似AI創(chuàng)作，請謹慎甄別”等提示語并不能使平臺豁免法律責任。要從根本上遏制亂象，關鍵在于提高違法違規(guī)的成本。