針對近期美國發(fā)生多起AI深度造假事件，當?shù)貢r間2月1日，美國聯(lián)邦通信委員會(FCC)主席傑西卡·羅森沃塞爾(Jessica Rosenworcel)提議，將使用AI生成的語音撥打機器人電話(robocall)定為非法。
機器人電話(robocall)也被稱為預錄電話，使用計算機控制的自動撥號器來發(fā)出預先錄製好的信息，就像機器人一樣，一般以推銷或傳播某種信息為目的，頻繁騷擾手機用戶。
美國聯(lián)邦通信委員會表示，機器人電話中用人工智能生成的聲音「在過去幾年中不斷升級」，並且「有可能通過模仿名人、政治候選人和親密家庭成員的聲音來製造錯誤信息迷惑消費者」。
羅森沃塞爾表示，她提出的宣告式裁決(Declaratory Ruling)將「根據(jù)現(xiàn)行法律認定這種新興技術(shù)是非法的，這將為我們在全國各州總檢察長辦公室的合作夥伴提供新的工具，他們可以利用這些工具打擊騙局，保護消費者?！箞蟮婪Q，委員們將在未來幾周內(nèi)對該提案進行表決。
此前，人工智能生成的虛假信息已多次干擾美國政治活動。
當?shù)貢r間1月21日，美國的一些選民們曾接到一個類似拜登聲音的電話，要求選民「把你的票留到11月選舉」，理由是1月23日投票的人沒法再參與屆時的總統(tǒng)選舉投票。電話還特意用了拜登的口頭禪「真是一派胡言」。據(jù)美聯(lián)社報道，電話說法不實。
此外，在2023年2月舉行的芝加哥市長選舉第一輪投票前夕，社交媒體上出現(xiàn)了一段關(guān)於候選人保羅·瓦拉斯的視頻，偽造瓦拉斯的聲音發(fā)表言論，聲稱「警察隨隨便便就可以射殺嫌疑人」，並呼籲削減警察經(jīng)費。在瓦拉斯向社交媒體平臺發(fā)出投訴之後，社交媒體刪除了這段視頻，但該視頻在下架前已經(jīng)被瀏覽了數(shù)千次。
語音克隆初創(chuàng)公司ElevenLabs證實，偽造的拜登語音是由該公司提供的工具生成。目前，ElevenLabs已暫停利用深度造假技術(shù)發(fā)布信息的賬戶。
據(jù)澎湃新聞報道，互聯(lián)網(wǎng)安全組織「網(wǎng)絡尖刀」的一位匿名技術(shù)專家表示，深度造假技術(shù)製作的內(nèi)容在視覺、聽覺上非常逼真，很難單憑肉眼或傳統(tǒng)的技術(shù)手段辨別真?zhèn)?。攻擊者可以利用技術(shù)手段隱藏深度造假的痕跡和特徵，使其難以被檢測到?，F(xiàn)在互聯(lián)網(wǎng)上存在大量圖片和視頻數(shù)據(jù)，這些數(shù)據(jù)用於訓練深度學習模型，從而也被深度造假技術(shù)利用，「可用的數(shù)據(jù)集越多，模型的質(zhì)量就越高，深度造假的結(jié)果離真人越近?！?/p>
那麼，在傳播過程中如何加強對此類視頻的監(jiān)管呢?
中國社會科學院大學互聯(lián)網(wǎng)法治研究中心執(zhí)行主任劉曉春建議，語音克隆公司研發(fā)App時，對於跟名人有關(guān)、誤導性較強、傳播風險較大的視頻，可以在傳播過程中加強顯性標識的設(shè)計，明確標明這是一個合成內(nèi)容，提醒受眾。(綜合來源：新華社、央視新聞、澎湃新聞)
電話：（香港）852-2564 0768
（深圳）86-755-83518792 83517835 83518291
地址：香港九龍觀塘道332號香港商報大廈
