近年來(lái)

以大數(shù)據(jù)、人工智能（AI）等

為代表的信息技術(shù)日新月異

與此同時(shí)

利用AI工具合成技術(shù)編造謠言

甚至生成逼近真實(shí)的圖片、音視頻

顛覆了“有圖就有真相”的常規(guī)認(rèn)知

讓人難辨真假

今天

椰小探帶你了解

AI工具造謠背后的真相！

AI網(wǎng)絡(luò)謠言案例

2024年6月，網(wǎng)絡(luò)平臺(tái)上的一條“廣東省五華縣華陽(yáng)鎮(zhèn)一70多歲老人被毆打致昏迷，其孫子為此跳河自殺，打人者一審被判九年十個(gè)月”的短視頻在互聯(lián)網(wǎng)平臺(tái)傳播，引發(fā)大量網(wǎng)民關(guān)注、討論。公安網(wǎng)安部門迅速開(kāi)展調(diào)查，發(fā)現(xiàn)該視頻的圖文內(nèi)容系移花接木、肆意編造的網(wǎng)絡(luò)謠言。據(jù)造謠人員任某供述，這段長(zhǎng)達(dá)幾分鐘、聲色并茂的視頻全是由AI合成的。目前，公安機(jī)關(guān)已依法對(duì)任某追究法律責(zé)任。

2024年5月，河南一網(wǎng)民在某平臺(tái)發(fā)布《一場(chǎng)驚心動(dòng)魄的“鈔票大戰(zhàn)”巴中市警民對(duì)峙引發(fā)轟動(dòng)誰(shuí)將成為勝利者》的謠言文章，引發(fā)大量網(wǎng)民關(guān)注、討論。經(jīng)查，該涉謠文章由AI系統(tǒng)生成并發(fā)布，相關(guān)言論及照片均為不實(shí)信息。目前，公安機(jī)關(guān)已依法對(duì)造謠人員追究法律責(zé)任。

2024年1月，廣西東興市駱某某為博取流量，使用AI軟件自動(dòng)編輯抗洪、救災(zāi)視頻，捏造了新疆烏什縣發(fā)生地震的虛假視頻信息，造成該謠言信息在互聯(lián)網(wǎng)平臺(tái)大量傳播。目前，公安機(jī)關(guān)已依法對(duì)駱某某追究法律責(zé)任。

如何治理和防范

AI網(wǎng)絡(luò)謠言的產(chǎn)生？

為治理AI亂象

深化網(wǎng)絡(luò)生態(tài)治理

近年來(lái)相關(guān)部門出臺(tái)了

多項(xiàng)政策和措施

2023年1月10日起施行的《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》指出，任何組織和個(gè)人不得利用深度合成服務(wù)制作、復(fù)制、發(fā)布、傳播法律、行政法規(guī)禁止的信息，不得利用深度合成服務(wù)從事危害國(guó)家安全和利益、損害國(guó)家形象、侵害社會(huì)公共利益、擾亂經(jīng)濟(jì)和社會(huì)秩序、侵犯他人合法權(quán)益等法律、行政法規(guī)禁止的活動(dòng)。

2023年8月15日起施行的《生成式人工智能服務(wù)管理暫行辦法》規(guī)定，提供和使用生成式人工智能服務(wù)，應(yīng)當(dāng)遵守法律、行政法規(guī)，尊重社會(huì)公德和倫理道德。不得生成煽動(dòng)顛覆國(guó)家政權(quán)、推翻社會(huì)主義制度，危害國(guó)家安全和利益、損害國(guó)家形象，煽動(dòng)分裂國(guó)家、破壞國(guó)家統(tǒng)一和社會(huì)穩(wěn)定，宣揚(yáng)恐怖主義、極端主義，宣揚(yáng)民族仇恨、民族歧視，暴力、淫穢色情，以及虛假有害信息等法律、行政法規(guī)禁止的內(nèi)容。