全紅嬋「被帶貨」土雞蛋，AI克隆受害者名單不能再加長了

耳聽或為虛，眼見亦非實，體育名人、知名企業家、明星藝人通通都上了AI克隆受害者名單，這一情況絕非是人工智慧技術開發者的初心。別有用心的商家濫用AI技術其目的無外乎是牟利，直播帶貨也好廣告宣傳視頻也罷，總歸是想要利用大眾對名人的信任喜愛走捷徑快速攫取利益。

AI深度偽造技術如此泛濫屢禁難止的原因之一在於獲取AI深度偽造工具的成本低、門檻低但利潤高，在高利益的誘惑下，一批帳號被封禁還會有一批帳號再起來。在網上具有AI深度偽造合成功能的工具、使用教程唾手可得，記者在網上隨便搜索了一款宣傳可以免費AI聲音克隆的工具，該工具客服介紹AI可以通過深度學習精準分析樣本語音模式和音調特徵，生成的AI克隆聲音還原度高達99%，使用僅需要三步：上傳5到30秒音頻樣本，AI自動克隆聲音，輸入文字即可讓AI朗讀任意文本，生成的音頻可以下載，直接用於商用或者個人用途，當然該工具也做出了免責聲明，要求克隆聲音僅限合法用途，但這樣的君子協定到底具有多大的約束力，恐怕要打一個問號。

要遏制濫用AI深度偽造功能帶來的仿冒名人問題，多方面的努力必不可少，從技術層面，一方面需要加強對開原始碼的合理限制，從技術源頭上減少非法利用的可能，另一方面還需要更強的反制技術，僅依靠人類經驗識別或用戶自覺地打上「AI生成」標識並不足夠，傳播平台需要更強的識別AI深度偽造內容的技術，健全對AI深度偽造合成內容的審核、識別、懲罰機制。從法律層面，新技術帶來新發展的同時也會帶來新問題，針對AI技術發展帶來的新問題，需要細化侵權認定標準和懲罰措施，降低維權成本，提高違法成本，加大對侵權行為的打擊力度。對於每一個普通人而言，面對網際網路上紛紛雜雜的聲音，對內容保持懷疑並加以求證，或許才是我們抵禦虛假信息的最後防線。