02版:新闻总第1144期 >2025-03-25编印

AI合成图片声音视频让老人真假难辨
警惕到处行骗的假智慧老人
刊发日期:2025-03-25 阅读次数: 作者:admin  语音阅读:

本报记者 王琪鹏 张楠 实习记者 彭思雨 陆子玺

前不久,“天坛大爷”的视频被不法分子盗用,经AI合成技术篡改后带起了货,这给老人的生活带来了极大困扰。记者调查发现,在短视频平台上,炮制老年类AI短视频成了一条快速起号的捷径。这些AI生成的图片、声音、视频让老人难辨真假。在嘈杂的网络环境中,应该如何进一步规范AI的使用,帮助老人在AI世界里擦亮眼睛呢?

乱象 AI“智慧老人”成起号密码

“刷到这条视频的你有福了”“奶奶有些真心话要对你说”……在短视频平台上,活跃着这样一些账号,他们自称“智慧老人”,以过来人的口吻说一些心灵鸡汤、人生哲理,就能获得不少点赞。

在某个“智慧老人”的账号下,制作者一共发布了109条作品,目前已获赞23.2万,其中点赞量最高的一条视频获得了15.8万赞。这些高赞视频只有短短几句话,主要是讲一些大道理,例如“脾气越好福报越大”“用言语伤害他人是最愚蠢的行为”等。在其中一条高赞视频下,有3000多条评论。评论区中的用户头像显示,给这些视频评论的大多数是老年人。

仔细端详,这些仙风道骨的“智慧老人”在说话时表情僵硬,与真人说话的神态有着明显区别。原来,它们只是用AI模板生成的“数字人”。在播放过程中,有的视频会在页面下方显示一行平台标注的小字,称该视频“疑似使用了AI生成技术”“可能在现实中不存在或未实际发生”,并提示观众要谨慎区分。而视频制作者却没有作出任何说明或解释。

记者发现,这类面向老年人的AI短视频,如今已经成了一条“新赛道”。在电商平台上,有商家专门兜售AI数字老人的制作教程,并宣称:“AI数字人项目‘老人言’,轻松月入一万”“中老年养生赛道,单人可做”。

有博主称,用AI制作这类视频,高频次更新到网上,就能迅速涨粉起号。待粉丝量达到一定数量后,就可以开始接保健品、中药材的品牌推广单,售卖泡脚桶、五红茶等养生产品,或是索性开通付费课。

令人惊讶的是,这些教程只需要几元钱就能买到,最便宜的居然只要一分钱。记者下单了一份“老人言教程”,卖家很快就发来了资料包,里面包含视频、图片等内容。

这份教程不但详细介绍了制作AI短视频的准备工作、制作技巧、变现方式等内容,还提供了不同类型“智慧老人”的模板。记者看到,这些“智慧老人”有仙风道骨的世外高人,有博学睿智的老教授,还有八块腹肌的“健身老人”。但无一例外,它们都是由AI生成的虚拟形象。

如果不想用资料包里的模板,还能生成自己专属的“智慧老人”形象。在AI绘图软件中,输入“中国男性老人、白胡子、坐在田地里”等条件,就能立刻生成一个饱经风霜的老农形象。在数字人制作软件中,导入刚才制作的AI图片,输入文案,选择“智慧老者”音效,点击生成视频,只需几分钟,就能让“老农”动起来讲各种人生大道理。虽然这些数字人的AI痕迹都很明显,但大部分老年人难以分辨。

治理 多部委发文要求AI合成内容要标识

今年全国“两会”期间,小米集团董事长雷军提出的《关于加强“AI换脸拟声”违法侵权重灾区治理的建议》引发了社会关注。雷军在建议案中提出,“AI换脸拟声”不当滥用造成了违法侵权行为的重灾区,还易引发侵犯肖像权、侵犯公民个人信息以及诈骗等犯罪行为,甚至造成难以挽回的大规模形象和声誉损害,带来社会治理等风险。他建议,加快单行法立法进程,强化行业自律共治,压实平台企业等各方的责任和义务。他还建议,应加大普法宣传的广度力度,增强公众的警惕性和鉴别力。

近日,国家互联网信息办公室、工业和信息化部、公安部、国家广播电视总局联合发布《人工智能生成合成内容标识办法》,明确要求对文本、音频、图片、视频、虚拟场景等生成合成内容添加显式标识,以减轻人工智能生成合成技术滥用危害,防范利用人工智能技术制作传播虚假信息等风险行为,推动人工智能健康有序发展。

一些公益组织也关注到了这一问题,开始尝试帮助老年人提高辨别能力。今年3月,科技助老公益组织“夕阳再晨”在学院路街道地大二社区开展了一堂DeepSeek科普课,帮助老人了解AI应用以及一些防骗知识。

“我们面向老人开展AI课,更多的是希望把反诈的内容加入进去。”“夕阳再晨”志愿服务指导中心主任尤海凤表示,未来,“夕阳再晨”还将融合当前的AI热点进行新型AI软件的使用课程研发,促进科技助老事业与时俱进。

建议 多陪伴老人才是最有效的防骗利器

老人爱刷手机、容易被骗,归根结底是因孤独寂寞。北京市慈善协会老友帮专项基金主任陈亚辉表示,随着智能手机的普及,老年人“网瘾”问题越来越突出。由于缺乏辨别能力,AI技术可能会造成新的“数字鸿沟”,对此应予以关注。

“一方面我们要帮助老年人提高AI的一些基础知识,提高防骗意识;另一方面,我们也要提醒,家人一定要给老人多一些关注,对于老人多倾听,多进行高质量的陪伴,而不是回家看老人时,吃完饭就各玩各的手机。”陈亚辉说,老年人需要陪伴。

记者注意到,随着各种AI应用的普及,一些年轻人转而利用AI技术陪老人聊天,帮老人打发寂寞时光。今年寒假期间,北京城市学院研究生罗挺利用AI工具“豆包”与自己的奶奶聊天,引发了网友纷纷效仿。

在罗挺发布的视频中,奶奶兴致勃勃地举着手机与AI聊天。AI不但能够和老人聊得有来有回,还会停顿、叹气,语气也会跟着老人的讲述有所起伏,就像真人在倾听。网友们纷纷赞叹:“感觉AI比我还会聊天。”

罗挺表示,奶奶今年87岁,因为长期卧床,缺乏陪伴,所以他才想到给老人找一个AI“聊天搭子”。但他也表示,老人缺乏对AI内容的分辨能力,需要家人给予更多关注,避免老人上当受骗。