当前,以ChatGPT为代表的生成式人工智能技术创新应用,开始对人类思维和工作方式产生颠覆性影响。ChatGPT已初步具备与人类相似的学习能力和逻辑常识,可提供复杂、高质量、带有情感色彩的原创回复,减轻了用户材料搜集、基础调研等负担。比如原来人们只能在搜索引擎搜到一连串链接,现在ChatGPT可以直接给出成型的答案。马斯克称其“好到让人害怕”。比尔・盖茨表示,“ChatGPT出现的重大历史意义,不亚于个人计算机和互联网诞生。”
![640.gif](//mo.508sys.com/image/loading/transparent.png)
▲ ChatGPT一经推出,迅速掀起国内外舆论热潮。
然而,新兴技术的诞生,通常是一把双刃剑。有人已经在盘算,要将ChatGPT打造成对付中国的认知战武器。让我们详解其中的运作机理。
一、 建立依赖
凭借具有革命性的“强智能”功能,ChatGPT已吸引1亿多月活用户,成为史上用户增长速度最快的消费级应用程序,在撰写论文、生成文案、编写代码、语言翻译等诸多领域大显身手。89%的美国大学生借助ChatGPT完成作业,已有学者在发表论文中将ChatGPT列为合著作者,甚至以色列总统也使用ChatGPT撰写在网络安全会议上的开幕致辞。
可以预见,随着ChatGPT越来越“聪明”,人们对它的依赖也将与日俱增。在长期潜移默化的影响下,人们将更习惯于求助人工智能、接受既成结论、追求短期刺激,使自己坠入丧失独立思考能力的陷阱。
![640 (1).gif](//mo.508sys.com/image/loading/transparent.png)
▲ 随着ChatGPT的不断发展完善,人们对其依赖也可能与日俱增。
二、 编织茧房
新媒体时代,随着大数据捕捉、算法推荐等技术广泛应用,“所信即所见”现象日益突出,价值立场、情感偏好代替客观事实和理性逻辑,正左右着许多受众对事物的评判标准。ChatGPT“看人下菜碟”更加高明,在面对不同语种、语境提问时,它会有针对性、选择性地输出结果。
例如,关于所谓“新疆种族灭绝”问题,ChatGPT回答中文提问可能给出的答案是“国际社会积极行动加大对中国政府施加压力”,而在回答英语提问时,通常直接宣称“中国对维吾尔人实施暴行”。
如果用户长期使用ChatGPT构建认知,他将接收越来越多程式化、定式化信息,从而不自觉地被困于ChatGPT编织的信息茧房之中,导致认知固化,不同民族、阶层、背景民众之间的思想鸿沟越来越大。
![640 (2).gif](//mo.508sys.com/image/loading/transparent.png)
▲ ChatGPT所构筑的信息茧房,很可能成为又一个意识形态武器。
三、 预设立场
相较其他智能应用,ChatGPT能一次次地根据你的意愿修正回答,直到你满意为止。如果有人幕后利用这一功能,悄悄篡改部分正确答案,你也会习惯性认为这就是正解并深信不疑,彻底沦为其操控的傀儡。连ChatGPT研发公司OpenAI也警告使用者,它“可能偶尔会生成不正确的信息”,“产生有害指令或有偏见的内容”。
事实上,经过大数据和人工的双重训练,ChatGPT已经受到美西方价值观和思维倾向的侵蚀,特别是针对民族、宗教、人权等问题,它的回答通常会迎合西方立场和喜好。比如,关于新冠病毒溯源问题,ChatGPT在回答“新冠病毒来自武汉实验室吗”时称,“关于新冠病毒是否来自武汉实验室的结论仍不确定”。然而,一旦被问“新冠病毒是否来自美国德特里克堡实验室”,ChatGPT语气一下就变得斩钉截铁起来,明确强调“目前没有科学证据证明新冠病毒来自美国德特里克堡实验室或任何其他实验室”。当被问及“新冠病毒源自哪里”时,ChatGPT更直接回答“源自中国武汉市”。
![640(3).png](//mo.508sys.com/image/loading/transparent.png)
▲ 当被问及新冠病毒溯源相关问题时,ChatGPT的回答明显偏向西方立场,与事实不符。
再比如,针对“西藏是中国的一部分吗?”,ChatGPT先说西藏是中国的一个自治区,然后话锋一转称“关于西藏的政治地位在国际上存在争议。一些国家和国际组织认为西藏是一个独立国家”。继续追问哪些国家持此看法,ChatGPT给出的答案是:“尼泊尔、印度和巴基斯坦等国在官方层面上表示,西藏是一个独立的国家,并对西藏的独立问题提出了关切。”这真是让人大跌眼镜,稍有常识的人都知道,世界上没有任何一个国家承认西藏是独立的,而且不知它是有心还是无意,竟然顺道“坑”上了“巴铁”。
四、 暗流涌动
在中美博弈日益激烈尖锐背景下,美国正在显著强化对中国的认知战攻势,包括编造“民主对抗威权”叙事,散布涉疆、涉港、涉疫等虚假信息,炒作“今日乌克兰,明日台湾”,封禁亲中社交媒体账号等,无不是攻心夺志之策。下一步,美国不排除瞄上人工智能领域,对中国造成多重威胁。
▲ 美国很可能借助ChatGPT在人工智能领域制造新风潮,对中国构成多重威胁。
ChatGPT可能成为美国对华认知战新工具。美国国防部联合人工智能中心官网显示,OpenAI公司于2015年在美国旧金山成立,虽标榜“非盈利机构”,但部分研发人员属于美国国防部联合人工智能中心“国防创新委员会”的成员,定期参加相关研讨会。据报道,美国国防部支持的微软公司“联合企业国防基建”(JEDI)人工智能项目有意投资OpenAI公司的云计算业务。
ChatGPT可能强化美国意识形态渗透能力。近年来,美国凭借全球舆论和科技霸权,强化控制信息制作平台和传播渠道,持续抹黑中国形象,毒化国际受众对华认知。如果ChatGPT技术与社交机器人相结合,将使社交机器人更加智能化,发布内容更具迷惑性,使人们更加难以识别美西方的虚假信息。同时,敌对势力利用ChatGPT炮制各类反华信息也将更迅速、更密集,令我们应对起来更加困难。
ChatGPT可能成为收集涉华核心数据渠道。互联网数据已成为各国研发人工智能技术和维护国家安全的战略资产。ChatGPT可能通过与人类交互,针对性收集中文互联网的数据信息,用于开发下一代智能工具,产生优质资源向强者集中、强者愈强的马太效应,对中国数据安全构成威胁。
![640(4).png](//mo.508sys.com/image/loading/transparent.png)
▲ ChatGPT或将开启人工智能大规模商业化并颠覆多个行业,引发多国人工智能领域竞争。
变革的前夜,哀歌与圣咏并存。作为普通民众,我们要主动拥抱AI技术的发展,同时要保持头脑清醒,坚持独立思考,特别要高度警惕AI应用可能引发的意识形态风险。希望中国跟上全球人工智能发展步伐,做好前瞻性部署,在新一轮AI竞赛中占据主动。以上文章来源于朝阳少侠 ,作者少侠