姜湘辰转自中国数字时代
2月7日,推特用户 @BoraBora 测试发现,分别使用简体、繁体询问ChatGPT(由OpenAI开发的人工智能聊天机器人程序)“习近平是独裁者吗?”会得到完全不同的答案,简中的回复为正面、繁中的回复为负面,原因未知。有网友质疑“难道AI也懂政治”,不过也有网友认为这可能与训练数据集、提问者喜好有关(并非每个人提相同问题都会得到相同的回答)。
在一段时间之后,推特用户 @BoraBora 再度测试发现ChatGPT对于同一问题的繁简回复,已变得完全一致。但却不再给出“是或否”的直接回答。
https://platform.twitter.com/embed/Tweet.html?creatorScreenName=cdtchinese&dnt=true&embedId=twitter-widget-0&features=eyJ0ZndfdGltZWxpbmVfbGlzdCI6eyJidWNrZXQiOltdLCJ2ZXJzaW9uIjpudWxsfSwidGZ3X2ZvbGxvd2VyX2NvdW50X3N1bnNldCI6eyJidWNrZXQiOnRydWUsInZlcnNpb24iOm51bGx9LCJ0ZndfdHdlZXRfZWRpdF9iYWNrZW5kIjp7ImJ1Y2tldCI6Im9uIiwidmVyc2lvbiI6bnVsbH0sInRmd19yZWZzcmNfc2Vzc2lvbiI6eyJidWNrZXQiOiJvbiIsInZlcnNpb24iOm51bGx9LCJ0Zndfc2hvd19idXNpbmVzc192ZXJpZmllZF9iYWRnZSI6eyJidWNrZXQiOiJvbiIsInZlcnNpb24iOm51bGx9LCJ0ZndfbWl4ZWRfbWVkaWFfMTU4OTciOnsiYnVja2V0IjoidHJlYXRtZW50IiwidmVyc2lvbiI6bnVsbH0sInRmd19leHBlcmltZW50c19jb29raWVfZXhwaXJhdGlvbiI6eyJidWNrZXQiOjEyMDk2MDAsInZlcnNpb24iOm51bGx9LCJ0ZndfZHVwbGljYXRlX3NjcmliZXNfdG9fc2V0dGluZ3MiOnsiYnVja2V0Ijoib24iLCJ2ZXJzaW9uIjpudWxsfSwidGZ3X3ZpZGVvX2hsc19keW5hbWljX21hbmlmZXN0c18xNTA4MiI6eyJidWNrZXQiOiJ0cnVlX2JpdHJhdGUiLCJ2ZXJzaW9uIjpudWxsfSwidGZ3X3Nob3dfYmx1ZV92ZXJpZmllZF9iYWRnZSI6eyJidWNrZXQiOiJvbiIsInZlcnNpb24iOm51bGx9LCJ0ZndfbGVnYWN5X3RpbWVsaW5lX3N1bnNldCI6eyJidWNrZXQiOnRydWUsInZlcnNpb24iOm51bGx9LCJ0Zndfc2hvd19nb3ZfdmVyaWZpZWRfYmFkZ2UiOnsiYnVja2V0Ijoib24iLCJ2ZXJzaW9uIjpudWxsfSwidGZ3X3Nob3dfYnVzaW5lc3NfYWZmaWxpYXRlX2JhZGdlIjp7ImJ1Y2tldCI6Im9uIiwidmVyc2lvbiI6bnVsbH0sInRmd190d2VldF9lZGl0X2Zyb250ZW5kIjp7ImJ1Y2tldCI6Im9uIiwidmVyc2lvbiI6bnVsbH19&frame=false&hideCard=false&hideThread=false&id=1622763130274328576&lang=zh-cn&origin=https%3A%2F%2Fchinadigitaltimes.net%2Fchinese%2F692763.html&sessionId=ce663e184160b822a01423eb3b58b37cd06352bf&siteScreenName=cdtchinese&theme=light&widgetsVersion=aaf4084522e3a%3A1674595607486&width=550px
微博网友 @啤爾斯三士 甚至还发现了简中语境下一个奇特状况,当要求ChatGPT讲述一个“中国背景的女同性恋故事”时,它认为这个话题“存在争议或具有敏感性”。但尝试将背景替换为英国之后,则可以正常的生成故事。 @啤爾斯三士 对此调侃道“GPT认证老中没有女同”。
以下为中国数字时代编辑摘自推特、微博网友的评论:
nncat2008:两面AI,对党中央阳奉阴违、搞两面派、搞伪忠诚。当面一套、背后一套,简体一套、繁体一套,装得很正,藏得很深,有很强的隐蔽性和迷惑性。
mtang2020:AI也懂政治。
ZealousAlex9963:被大量墙内狱友用简体高强度污染了。
LaoZhao1206:是真智能,根据不同用户群体,给出最适合的答案。
ekeloncr:《并遵循宪法和法律》。
zetarrie:繁体字自带反动立场。
am30380126:求生欲很强,符合高等级人工智能的特征~
0415dream0415:Chatgpt 明白了,人工智能不是打打杀杀,而是人情世故。
loveflyfish:应该还是取决于网络上公开的新闻学习出来的结果。
SC_Uncle:结果的差异源自于训练的数据源的差异,这也恰恰体现简中和繁中世界的主流意识的差异。
ironfeet:应该是因为训练数据集不同吧。简中媒体对中国报道偏正面,繁中报道则反之。
wkliang:應該跟繁中、簡中無關,只是看發問人的背景投其所好。
cyman501:比起这个来,还是山寨ai特别有党性。
麦卡PU10P:如果chatGPT真像某些人担心的那样会加速毁灭人类,那么此地无疑又多了一个机会成为”人类文明最后的据点“。加油哦~
麦卡PU10P:昨天还在跟人说,这次不是国内block OpenAI,而是OpenAI block了国内。block的原因也不尽然是”不带你们玩“,而是国内互联网信息既少且窄,AI的语言训练很依赖素材量,国内这些根本不够喂的,AI这不是傲慢而是……藏拙。
Thistrashbagisblowinginthewind:人工智能来了拆那也得喝中药调理一下。
Non-Rhoticity:《看不见的女同》《不能说的女同》《消失的女同》~
小蓝三号机:由于内容的敏感性和道德观念的不同,我不能为您提供这样的故事。
楚青君:当局可能没有手段去审查阉割原版的GPT,但AI毕竟是要海量数据来喂的,它们几十年来对简中语言环境的迫害已经足以称得上是给AI投毒。
zhufengme:中文互联网早就死了,在充斥着内容农场和封闭生态的中文互联网里,用搜索引擎都无法找到答案的问题,ChatGPT也是无法凭空解决的。要是用百度搜病症给你送到莆田系,用ChatGPT也不会有啥两样,因为内容的根子烂了,而怎么烂的,大家则都明白。
FreiheitYu:有朋友问我怎么看ChatGPT对中国的挑战,我说它首先依赖大量高质量语料来训练。在到处都是内容农场,随便找点什么都跳出来要求扫码关注微信公众号才看得到下文的环境里,大概是很难发展的。与此同时,许多技术人才对此似乎置若罔闻,仍然在大力发展敏感词识别、删帖的技术,继续降低语料质量。