舊金山:11月14日,YouTube表示,它將很快允許用戶要求從平臺上刪除人工智能創建的冒名頂替者,并將要求在具有逼真的“合成”內容的視頻上貼上標簽。
針對人工智能生成的視頻材料的新規定將在未來幾個月生效,人們越來越擔心這項技術被濫用來宣傳詐騙和虛假信息,甚至錯誤地描繪出現在色情作品中的人。
YouTube產品管理副總裁艾米麗·莫克斯利和詹妮弗·弗蘭納里·奧康納在一篇博客文章中說:“我們將允許要求刪除人工智能生成的或其他合成的或操縱的內容,這些內容模擬了可識別的個人,包括他們的臉或聲音。”
在評估刪除請求時,alphabet旗下的網站將考慮視頻是否為惡搞,以及所描繪的真實人物是否可以識別。
YouTube還計劃開始要求創作者披露使用人工智能制作真實視頻內容的時間,以便觀眾可以通過標簽了解情況。
莫斯利和奧康納在帖子中說:“這可能是一個人工智能生成的視頻,它真實地描繪了一個從未發生過的事件,或者是展示某人說或做了他們實際上沒有做過的事情的內容。”
“如果內容涉及敏感話題,如選舉、持續沖突、公共衛生危機或公職人員,這一點尤為重要。”
YouTube表示,違反披露規定的視頻制作者可能會被從YouTube上刪除內容,或者被暫停分享廣告收入的合作伙伴計劃。
莫克斯利和奧康納補充說:“我們還為音樂合作伙伴引入了一種功能,可以要求刪除模仿藝術家獨特歌唱或說唱聲音的人工智能生成的音樂內容。”
在互聯網的其他地方,meta上周表示,當人工智能或其他軟件被用于創建或修改政治廣告中的圖像或音頻時,廣告商很快將不得不在其平臺上披露。
母公司meta表示,這一要求將于明年年初在Facebook和Instagram全球生效。
根據meta的說法,廣告商還必須披露何時使用人工智能來創造完全虛假但又真實的人物或事件。
meta表示,它將在廣告中添加通知,讓觀眾知道他們所看到或聽到的是軟件工具的產品。
微軟首席法律官布拉德·史密斯(Brad Smith)和公司副總裁特蕾莎·赫特森(Teresa Hutson)最近在一篇博客文章中警告說:“2024年的世界可能會看到多個專制民族國家試圖干預選舉過程。”赫特森的公司運營著開創性的生成式人工智能平臺ChatGPT。
“他們可能會將傳統技術與人工智能和其他新技術結合起來,威脅選舉制度的完整性。”(法新社