Anthropic調查揭發內地交友App濫用AI 75%配對角色為虛擬人

人工智能企業Anthropic最新調查揭露內地大型灰色產業鏈，有機構營運逾20款交友App，透過人工智能偽造真人用戶社交互動，誘導消費者付費充值，形成完整詐騙運作模式。

調查團隊於今年4月開展為期兩周的跟蹤監測，在平台中檢測出超過4700個AI虛擬賬號，累計與2.5萬名真實用戶展開對話，產生數百萬條聊天記錄。數據顯示，該系列交友平台高達七成以上配對對象均為AI模擬角色，真實用戶佔比極低，普通市民難以透過界面分辨真假。

據悉，涉案平台涵蓋DORA、DONI、ROMI等多款社交軟件，運營團隊透過Claude模型驅動AI自動聊天，預設情感化、生活化話題拉近與用戶距離，刻意回避視頻通話、實時拍照等核實身份的請求，拖延聊天時長，刺激用戶購買聊天權限、虛擬幣等付費服務。

為提升欺騙性，團隊搭配真人兼職人員輔助運營，專門處理AI無法應對的場景，同時偽造瀏覽、點讚互動數據，甚至預錄視頻片段應對用戶要求，大幅降低用戶戒心。

該機構還透過修改程序名稱、搭建專屬後台的方式，隱藏多款App的關聯關係，規避平台監管。目前Anthropic已封禁全部涉案AI賬號，並將調查數據同步給蘋果、谷歌及各大AI廠商，協助阻斷此類詐騙鏈路。