原標(biāo)題：浙江紹興警方成功偵破“利用生成式人工智能造謠”“AI換臉”等案件——

【資料圖】

警惕利用人工智能進(jìn)行新型犯罪新動(dòng)向

人工智能技術(shù)飛速發(fā)展，一些不法分子利用其進(jìn)行違法犯罪活動(dòng)，給網(wǎng)絡(luò)安全帶來了嚴(yán)峻挑戰(zhàn)。近期，浙江紹興市公安局破獲多起涉人工智能案件。

今年6月，紹興上虞區(qū)警方發(fā)現(xiàn)有網(wǎng)民發(fā)布了關(guān)于上虞工業(yè)園區(qū)發(fā)生火災(zāi)的視頻，瀏覽量在短時(shí)間內(nèi)迅速上升。視頻中，上虞區(qū)一工業(yè)園區(qū)內(nèi)火勢(shì)猛烈，整個(gè)園區(qū)被濃煙覆蓋，現(xiàn)場(chǎng)不時(shí)傳出爆炸聲，場(chǎng)面驚心動(dòng)魄。

民警核查發(fā)現(xiàn)，視頻中的建筑、森林大火場(chǎng)景，并非該工業(yè)園真實(shí)場(chǎng)景，并且疑似源自其它視頻。經(jīng)分析，民警判斷該視頻是利用人工智能合成技術(shù)，將網(wǎng)絡(luò)上多段不同視頻剪輯拼接而成。警方經(jīng)偵查，認(rèn)定某網(wǎng)絡(luò)科技公司員工有較大作案嫌疑，立刻赴該公司所在地抓獲包括湯某在內(nèi)的3名犯罪嫌疑人。

“犯罪嫌疑人首先在網(wǎng)上搜集熱門話題，通過生成式人工智能服務(wù)自動(dòng)生成腳本，在網(wǎng)上抓取相關(guān)視頻片段，然后利用AI軟件合成完整視頻，配上音樂、字幕。不到一分鐘，一段虛假視頻便‘新鮮出爐’?！鄙嫌輩^(qū)分局民警沈林豐介紹，為獲得流量、博人眼球，自今年5月以來，該團(tuán)伙不斷利用AI技術(shù)制作虛假視頻、散布謠言，在網(wǎng)上發(fā)布未經(jīng)核實(shí)的虛假視頻達(dá)3000多個(gè)。

隨著人臉識(shí)別技術(shù)越來越普及，一些不法分子開始利用“AI換臉”等技術(shù)實(shí)施盜竊、詐騙等犯罪，引發(fā)了公眾對(duì)于個(gè)人信息保護(hù)的擔(dān)憂。

“我的APP好像被黑了！”今年4月13日，紹興市民朱女士到轄區(qū)派出所報(bào)案，稱有人登錄某政務(wù)APP，擅自下載了朱女士公司的電子營業(yè)執(zhí)照。接警后，上虞區(qū)分局迅速展開偵查，很快確認(rèn)曾某某有重大作案嫌疑。

經(jīng)審查，犯罪嫌疑人曾某某利用自己的手機(jī)號(hào)碼注冊(cè)賬號(hào)，并通過朱女士的姓名、身份證號(hào)等信息進(jìn)行實(shí)名認(rèn)證，然后通過人臉識(shí)別進(jìn)行綁定，最終成功登錄賬號(hào)進(jìn)行作案。

“曾某某通過網(wǎng)購店鋪引流，利用‘客戶’提供的人臉照片，通過專業(yè)AI軟件制作合成人臉動(dòng)圖，以人臉識(shí)別驗(yàn)證方式登錄各類APP，非法獲取相關(guān)信息。”上虞區(qū)分局相關(guān)負(fù)責(zé)同志介紹。

“每次交易價(jià)格不等，只是覺得這樣掙錢比較容易，沒想到已經(jīng)觸犯到了法律?！痹衬郴诓划?dāng)初。據(jù)了解，曾某某通過此類手段共制作動(dòng)態(tài)人臉1000多個(gè)，獲利9萬多元。目前，曾某某已被采取刑事強(qiáng)制措施，案件正在辦理中。

公安部網(wǎng)絡(luò)安全局相關(guān)負(fù)責(zé)人介紹：“犯罪分子用于實(shí)施‘AI換臉’的物料主要為照片，特別是身份證照片，同時(shí)結(jié)合人員姓名、身份證號(hào)來突破人臉識(shí)別驗(yàn)證系統(tǒng)。為防范和打擊此類新型犯罪，公安機(jī)關(guān)聯(lián)合國家重點(diǎn)實(shí)驗(yàn)室等單位，開展人臉識(shí)別與活體檢測(cè)技術(shù)安全測(cè)評(píng)，覆蓋了境內(nèi)用戶量大、問題隱患突出的各類重點(diǎn)APP，及時(shí)發(fā)現(xiàn)人臉識(shí)別驗(yàn)證系統(tǒng)存在的風(fēng)險(xiǎn)隱患，通報(bào)運(yùn)營主體升級(jí)安全保護(hù)措施和人臉識(shí)別算法?！睋?jù)介紹，公安機(jī)關(guān)依托“凈網(wǎng)”專項(xiàng)行動(dòng)，組織專項(xiàng)會(huì)戰(zhàn)，嚴(yán)打泄露身份證照片等圖像信息的犯罪源頭，破獲多起“AI換臉”案件，抓獲相關(guān)犯罪嫌疑人，有效遏制了該類犯罪勢(shì)頭。

“不法分子濫用人工智能技術(shù)，給社會(huì)帶來嚴(yán)重危害，也觸犯了相關(guān)法律?！本饺耸拷榻B，根據(jù)法律規(guī)定，使用人工智能技術(shù)制作散布虛假信息，擾亂社會(huì)秩序，可能構(gòu)成編造、故意傳播虛假信息罪；利用人工合成技術(shù)破解他人賬號(hào)、竊取他人個(gè)人信息，則可能構(gòu)成侵犯公民個(gè)人信息罪。此外，如果使用人工智能等技術(shù)手段來從事欺凌、恐嚇、威脅等行為，就可能構(gòu)成尋釁滋事罪等。

“人工智能技術(shù)操作簡(jiǎn)單、可定制性強(qiáng)、應(yīng)用場(chǎng)景廣泛，降低了鏈條式犯罪的難度，被黑客等不法分子利用后危害性極大?！苯B興市公安局上虞區(qū)分局相關(guān)負(fù)責(zé)人表示，對(duì)人工智能技術(shù)產(chǎn)生的新應(yīng)用、新業(yè)態(tài)，公安機(jī)關(guān)將堅(jiān)守價(jià)值引領(lǐng)與技術(shù)“糾錯(cuò)”并行，保護(hù)人工智能技術(shù)健康發(fā)展的同時(shí)，防范打擊利用人工智能技術(shù)侵犯公民權(quán)利、危害公共安全的新型案件，維護(hù)風(fēng)清氣正的網(wǎng)絡(luò)環(huán)境，全力保障網(wǎng)絡(luò)空間安全。

與此同時(shí)，辦案民警提示，要警惕利用人工智能進(jìn)行新型犯罪新動(dòng)向，建議個(gè)人要加強(qiáng)信息保護(hù)意識(shí)，防止信息泄露，不輕易提供人臉、指紋等個(gè)人生物信息給他人；管理好自己的“朋友圈”，盡量避免過多暴露隱私；警惕不明平臺(tái)發(fā)來的廣告、中獎(jiǎng)等鏈接，不隨意點(diǎn)擊填寫信息，以免上當(dāng)受騙。

關(guān)鍵詞：