狗會系著圍裙顛勺做飯,貓能推著小車擺攤賣貨……這些聽起來就很荒誕的場景,卻讓一些老人深信不疑。只因他們在手機上刷到了“眼見為實”的視頻,卻不知這背后藏著AI技術的“障眼法”。
當下,AI的發展如同一把雙刃劍,既為生活帶來便利,也被一些別有用心之人用來生成虛假信息,不少老年人被誤導,甚至落入精心設計的詐騙圈套。老年人也成為人工智能時代里容易“迷路”的群體。
有報告顯示,由于缺乏對新技術的了解和分辨能力,老年人成為AI詐騙的主要對象。AI換臉、換聲技術讓騙子能夠輕松偽裝成老人的親友、公檢法人員或者知名專家,以各種緊急、誘惑性的理由騙取信任,誘導轉賬。
針對以上現象,記者采訪了西安多位老年人及其子女,探尋他們與AI虛假信息的交集。
“你看視頻里的醫生,講得多清楚啊!說這藥能治腿疼的老毛病,醫生總不能騙咱吧?”家住雁塔區的張奶奶打開手機里的短視頻對記者說。她坦言,自己不太懂什么是AI,只覺得“手機里的醫生說得有道理”,尤其是那些講養生、說政策的內容,“聽著實在,不像年輕人說的‘不靠譜’”。
張奶奶說,前些日子她刷到視頻說“60歲以上能領額外養老金”,她問兒子,兒子非說沒有這政策。開始她還以為兒子怕麻煩故意這么說,后來找了社區工作人員咨詢才知道視頻里說的內容是假的。“視頻里的主播穿著制服,跟電視里的新聞主持人一樣,誰能想到是假的呢?”雖然被證實是假的,張奶奶依然很疑惑。
老人們之所以容易相信AI生成的內容,除了對技術的陌生,更源于情感上的需求。
68歲的劉阿姨說:“孩子們忙,平時很少跟我細說這些事。手機里的‘小姑娘’天天跟我問好,告訴我怎么養生、哪種菜對身體好,多貼心啊。她對我那么好,總不會害我吧?”于是,和手機里的“小姑娘”聊了一段時間后,劉阿姨就下單了對方推薦的按摩儀。
子女們因此非常苦惱,既擔心又無奈。“我媽上個月差點就買了‘AI專家’推薦的‘防癌神藥’,攔都攔不住。”在西安高新區工作的周女士提起這事就頭疼,“跟她解釋那是假的,她還生氣,非說專家說的就是真的。”
從事IT行業的張先生更懂AI技術的“厲害”,也更擔心父親:“我爸喜歡看軍事新聞,現在網上好多AI生成的虛假視頻連我都得仔細分辨,更別說他了。上次他拿著一段假視頻跟我討論,我說這是AI做的,他還說‘我親眼看見的,還能有假嗎’?”讓子女們最焦慮的是,即便反復提醒,父母還是會“中招”。張先生嘆了口氣說:“不是老人傻,是那些騙子太懂怎么抓住他們的心理了,加上AI技術做得太真,防不勝防啊。”
記者采訪發現,不少AI虛假信息的語言用詞用句直白易懂,迎合了老年人的需求和獲取信息的習慣。
AI詐騙的三類典型套路
便利的智能工具,被一些不法分子以更隱蔽的方式編織著認知陷阱。記者根據網絡視頻和受訪老人反映,梳理了AI蒙蔽老人的三類典型套路。
一、虛假信息制造“認知偏差”。
AI生成的短視頻里,“新聞主播”播報子虛烏有的政策福利:“70歲以上老人坐火車半價”“國家免費發放養老補貼”,這些內容往往嫁接真實場景,搭配逼真的主播形象,利用老人對科技進步的陌生感混淆視聽,讓老人難辨真偽。
二、虛擬人設騙取“情感信任”。
“爺爺,您看這款手鐲多適合奶奶”“叔叔,我每天都在等您的留言”——這些甜膩話術背后,可能是AI生成的“數字人”。它們或扮作孝順晚輩,或裝作知心好友,通過固定話術模板與老人互動。這類“數字人”賬號往往批量生成,同一套算法能打造出“專家”“美女”“大學生”等多種人設,最終目的基本都是誘導老人購買高價保健品、珠寶等商品。
三、深度偽造聲音實施“精準詐騙”。
“媽,我在外地出車禍了,快轉20萬到這個賬戶!”騙子通過收集老人親友的語音、照片,用AI技術合成逼真音視頻實施詐騙。
從技術特征到多方協同防范AI陷阱
“我親眼看見的,還能有假?”這是不少老人對AI視頻的看法。AI換臉技術的出現,導致“眼見也不一定為實”。那么,老人們該如何防范呢?
其實AI人工換臉無論做得多逼真,想要識別真假還是有一些方法的。記者發現,無論AI數字人的形象如何變幻,往往具有以下特征:數字人說話時口型與語音錯位,直播中神態、背景長期不變,畫面邊緣有模糊重影。遇到可疑主播,老人也可以提要求,讓視頻里的人完成指定動作,真人能自然完成連貫動作,而AI數字人因依賴平面圖像生成,在轉頭、手部精細動作時易出現扭曲、穿幫。中國計算機學會安全專業委員會數字經濟與安全工作組成員方宇曾在媒體報道中介紹,可以要求對方在視頻對話的時候,在臉部的前面通過揮手的方式,去識別實時偽造的視頻。揮手的過程會造成面部的數據干擾,偽造的人臉會產生一定的抖動或者是閃現等異常情況。
子女還需要提醒老人的是,凡是涉及“中獎”“轉賬”“政策變動”的信息,可以通過多渠道核實,比如撥打官方電話、聯系子女確認、查看權威媒體報道等。
當然,治理AI濫用不能只靠老人“防騙”,更要給技術裝上“剎車”。“面對AI帶來的這些新問題,社會各界必須行動起來,共同為老人筑起一道安全防線。”陜西省老齡產業協會會長侯培琪建議,平臺要強制對AI生成內容進行醒目標識,開發專門的“老年模式”過濾可疑信息;制度層面要開展專項整治行動,對涉老AI詐騙團伙依法從重處罰,建立受騙老人資金快速凍結機制;社區也要定期組織“AI防騙課”,由民警、志愿者手把手教老人識別技巧;子女則可以每周抽一個小時幫老人檢查手機設置,關閉陌生賬號推送。
“技術從來不是洪水猛獸,但當它被用來攻擊最脆弱的群體時,我們必須筑起防線。”侯培琪說,在這場AI時代的“認知保衛戰”中,多一些關注,少一些套路,才能讓老人真正享受科技紅利,而非淪為技術陷阱的獵物。
(首席記者 馬相)
編輯: 陳戍
以上文章僅代表作者個人觀點,本網只是轉載,如涉及作品內容、版權、稿酬問題,請及時聯系我們。電話:029-63903870