近日，上虞區公安分局對“網絡水軍”通過組織發布虛假視頻獲利的行為進行收網打擊，摧毀一個利用ChatGPT制作虛假視頻的造謠團伙。該案系浙江首例團伙制作虛假視頻案件。

　　6月2日，上虞警方在網上巡查時發現用戶名為“舷憶解說”的網民發布關于上虞工業園區發生火災的視頻，在短時間內瀏覽量迅速攀升。警方迅速介入核實，確認該視頻系不實信息，發布者為外省某科技公司。隨后，警方趕赴外省實施抓捕，抓獲3名犯罪嫌疑人。

　　據了解，ChatGPT是人工智能技術驅動的自然語言處理工具，也稱聊天機器人，它能夠通過理解和學習人類的語言來進行對話。經查，今年5月以來，該公司從網上非法收購一批視頻賬號，通過ChatGPT技術，拼接制作虛假視頻發布在網絡上，博取流量，并通過流量算法返款盈利。截至目前，該團伙非法購買視頻賬號1500余個，發布未經核實視頻3000個以上。目前，3人因涉嫌尋釁滋事被警方采取刑事強制措施，案件正在進一步偵辦中。