2024年6月，網(wǎng)絡(luò)平臺(tái)上的一條“廣東省五華縣華陽鎮(zhèn)一70多歲老人被毆打致昏迷，其孫子為此跳河自殺，打人者一審被判九年十個(gè)月”的短視頻在互聯(lián)網(wǎng)平臺(tái)傳播，引發(fā)大量網(wǎng)民關(guān)注、討論。公安網(wǎng)安部門迅速開展調(diào)查，發(fā)現(xiàn)該視頻的圖文內(nèi)容系移花接木、肆意編造的網(wǎng)絡(luò)謠言。據(jù)造謠人員任某供述，這段長達(dá)幾分鐘、聲色并茂的視頻全是由AI合成的。目前， 公安機(jī)關(guān)已依法對任某追究法律責(zé)任。

　　2024年1月，廣西東興市駱某某為博取流量，使用AI軟件自動(dòng)編輯抗洪、救災(zāi)視頻，捏造了新疆烏什縣發(fā)生地震的虛假視頻信息，造成該謠言信息在互聯(lián)網(wǎng)平臺(tái)大量傳播。 目前，公安機(jī)關(guān)已依法對駱某某追究法律責(zé)任。

　　2024年5月，河南一網(wǎng)民在某平臺(tái)發(fā)布《一場驚心動(dòng)魄的“鈔票大戰(zhàn)”巴中市警民對峙引發(fā)轟動(dòng)誰將成為勝利者》的謠言文章，引發(fā)大量網(wǎng)民關(guān)注、討論。經(jīng)查，該涉謠文章由AI系統(tǒng)生成并發(fā)布，相關(guān)言論及照片均為不實(shí)信息。 目前，公安機(jī)關(guān)已依法對造謠人員追究法律責(zé)任。

　　AI網(wǎng)絡(luò)謠言特征

　　定制化

　　生成式人工智能能夠利用多類機(jī)器學(xué)習(xí)方法從數(shù)據(jù)中學(xué)習(xí)不同內(nèi)容的生成特征以及主體的表達(dá)風(fēng)格，只需要輸入關(guān)鍵詞，AI軟件可在網(wǎng)絡(luò)上抓取素材生成文本，形成定制化的文章、新聞、報(bào)告等信息。

　　門檻低

　　相比此前造謠者單純靠人工捏造、散布謠言這一略顯“原始”的方式，現(xiàn)在利用AI造謠者只需在AI工具輸入關(guān)鍵詞即可“一鍵生成”可以假亂真的文章、圖片。

　　AI生成的虛假信息在形式上非常逼真，往往新聞要素齊全、內(nèi)容完整，甚至可能包含圖像和視頻，這使得公眾難以辨別真?zhèn)�，這種偽裝性和欺騙性讓謠言更加具有迷惑性。

　　破壞大

　　利用AI工具制造謠言能生成極為逼真的圖片、音視頻，顛覆了“有圖有真相”的常規(guī)認(rèn)知，蠱惑性極強(qiáng)，短時(shí)間內(nèi)就能快速傳播，易引發(fā)社會(huì)恐慌，擾亂社會(huì)公共秩序。

　　網(wǎng)絡(luò)謠言危害

　　泄露敏感數(shù)據(jù)

　　AI對話、文字創(chuàng)作等AI工具可收集并存儲(chǔ)用戶信息，造成個(gè)人隱私數(shù)據(jù)泄露，甚至可能從一些涉密敏感人員數(shù)據(jù)中推斷出敏感信息。

　　損害他人名譽(yù)

　　網(wǎng)絡(luò)謠言往往針對特定個(gè)人或群體，散布虛假信息，惡意攻擊和詆毀他們的名譽(yù)和利益。這可能導(dǎo)致受害者遭受經(jīng)濟(jì)損失、社會(huì)壓力和精神創(chuàng)傷。

　　誤導(dǎo)公眾認(rèn)知

　　網(wǎng)絡(luò)謠言往往利用人們的認(rèn)知和心理弱點(diǎn)，制造虛假信息，誤導(dǎo)公眾對特定事件或人物的認(rèn)知和評價(jià)。這可能導(dǎo)致公眾價(jià)值觀的混亂。

　　擾亂公共秩序

　　網(wǎng)絡(luò)謠言可能引發(fā)公眾恐慌和不安，破壞社會(huì)信任和穩(wěn)定。虛假信息的傳播可能引發(fā)群體性事件，甚至導(dǎo)致社會(huì)動(dòng)蕩。

   投稿郵箱：chuanbeiol@163.com   詳情請?jiān)L問川北在線：http://fishbao.com.cn/