東湖評(píng)論：筑牢“AI換臉”技術(shù)安全的防護(hù)墻

2023-05-12 12:29:53來(lái)源：荊楚網(wǎng) ?（湖北日?qǐng)?bào)網(wǎng)）

(資料圖片)

近來(lái)，“AI換臉”技術(shù)又掀起一波熱潮，“只需上傳照片，輕松生成換臉視頻，隨心所欲體驗(yàn)百變?cè)煨汀保簧佟癆I換臉軟件的簡(jiǎn)介上這樣介紹，這種爆火的新玩法吸引了大批網(wǎng)友嘗試。

“AI換臉”技術(shù)通過(guò)深度合成算法處理，對(duì)圖片或者視頻中的目標(biāo)人臉進(jìn)行置換，便可“以假亂真”，滿足了網(wǎng)絡(luò)受眾的獵奇心理和社交需求，為影視、教育、娛樂(lè)等領(lǐng)域的發(fā)展提供了技術(shù)上的支持。不論是各色各樣的換臉變裝，還是影視劇中的技術(shù)修復(fù)，人們真真切切地感受到了科技進(jìn)步帶來(lái)的驚喜與樂(lè)趣。

“AI換臉”技術(shù)帶給人新鮮感的同時(shí)，風(fēng)險(xiǎn)也日益顯現(xiàn)，非法濫用導(dǎo)致的侵犯隱私、危害數(shù)據(jù)安全、違法犯罪等問(wèn)題層出不窮，一個(gè)個(gè)鮮活真實(shí)的案例就在我們身邊。隨意將明星替換到不雅視頻中丑化傳播；“AI黃謠”事件鬧得沸沸揚(yáng)揚(yáng)，女子在乘坐地鐵時(shí)被不法之人利用AI一鍵脫衣；犯罪團(tuán)伙利用AI技術(shù)，制作變聲換臉視頻，誘騙老人和小孩。從網(wǎng)民傳播照片到軟件程序開(kāi)發(fā)平臺(tái)提供“換臉腳本和詳細(xì)教程”，再到灰色產(chǎn)業(yè)鏈條進(jìn)行照片加工服務(wù)，逐步打開(kāi)了“AI換臉”的“潘多拉的魔盒”。

“AI換臉”技術(shù)是數(shù)據(jù)智能化發(fā)展的產(chǎn)物，并沒(méi)有什么黑白好壞之分，但不法分子的貪婪與瘋狂卻是不可低估的。高科技不能淪為肆意侵權(quán)的幫兇，不能成為滿足他人欲望和非法牟利的工具，更不能成為引發(fā)社會(huì)信任危機(jī)的導(dǎo)火索。為“AI換臉”技術(shù)戴上“緊箍咒”、打造“鐵柵欄”，筑牢“AI換臉”技術(shù)安全的防護(hù)墻還需要法律和技術(shù)雙管齊下。

目前，針對(duì)“AI換臉”亂象，國(guó)家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部聯(lián)合發(fā)布了《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》，重點(diǎn)強(qiáng)調(diào)深度合成技術(shù)涉及的信息安全主體責(zé)任，給“AI換臉”劃定應(yīng)用“紅線”。國(guó)家互聯(lián)網(wǎng)信息辦公室起草了《生成式人工智能服務(wù)管理辦法（征求意見(jiàn)稿）》，明確合成人工智能技術(shù)服務(wù)的規(guī)范、監(jiān)督和管理等內(nèi)容，這些政策法規(guī)和監(jiān)管體系不斷完善，使從業(yè)者、使用者有法可依、違法必究。但“AI換臉”技術(shù)也會(huì)隨著發(fā)展日臻成熟，因此對(duì)于深度合成技術(shù)治理路徑還需進(jìn)一步探索，對(duì)數(shù)據(jù)確權(quán)、行業(yè)倫理、技術(shù)安全等方面作出更系統(tǒng)的規(guī)定，只有把法律的防護(hù)“盔甲”打造的無(wú)比堅(jiān)硬，才能時(shí)刻抵御住“AI換臉”這把雙刃劍。

以技術(shù)手段克服技術(shù)困境，除了網(wǎng)絡(luò)服務(wù)平臺(tái)對(duì)用戶信息審核及限定傳播范圍外，相關(guān)行業(yè)和監(jiān)管部門還需不斷加強(qiáng)技術(shù)更迭，細(xì)化人工智能算法的安全評(píng)估體系，研發(fā)出相應(yīng)的“反換臉”技術(shù)，能夠檢測(cè)、鑒定、溯源深度合成的視頻和圖片，為法律的保護(hù)成效提供技術(shù)支撐，為可能到來(lái)的挑戰(zhàn)做好準(zhǔn)備。

身處在人工智能時(shí)代的每一個(gè)人，應(yīng)該提高對(duì)深度合成技術(shù)的辨別和防范意識(shí)以及自我素養(yǎng)，在安全享受技術(shù)的同時(shí)，共同維護(hù)清朗的網(wǎng)絡(luò)環(huán)境。只有多方發(fā)力，促進(jìn)“AI技術(shù)”向上向善，才能讓科學(xué)技術(shù)真正地助推社會(huì)發(fā)展，便利人們生活。

稿源：荊楚網(wǎng)（湖北日?qǐng)?bào)網(wǎng)）

作者：秦雪花（宜昌興山）

責(zé)編：王舒嫻

標(biāo)簽：