最近
每个人似乎都在谈论ChatGPT这个爆火的软件
围绕它的是无数人的好奇心
然而,随着其短时间内迅速蹿红
有人利用ChatGPT或者技术本身
蹭热度、混淆视听
甚至实施违法犯罪行为
尤其需要引起警惕
↓↓↓
在ChatGPT的“原产地”美国,2023年1月,一项对1000名18岁以上学生的调查显示,超过89%的受访学生会使用ChatGPT来完成家庭作业。同月,密歇根大学的哲学教授安东尼·奥曼发现全班第一的论文是用ChatGPT写的。
根据记者不完全统计,截至2023年1月底,国内各大社交平台上,有关使用ChatGPT完成作业的讨论已经超过10万条。
目前,全球多国大学、科研机构发布明确的人工智能禁令,禁止使用ChatGPT和其他所有基于人工智能的工具完成学习与考试任务;多家期刊、出版机构也禁止将ChatGPT列为论文合著者。
不过关于ChatGPT对学生影响的讨论,并未随着一张张禁令而停歇。网络上,公众对于ChatGPT的争论,仍在发酵。
正在国内某高校就读的彭羊认为,一部分人过度神化了人工智能,“ChatGPT写出来的东西,其实并不能直接用。”
“挺锻炼提问能力的!”彭羊表示,ChatGPT要通过用户与机器之间的问答才能得到答案,“要问很具体的问题,如果自己的问题模棱两可,它的回答可能也会有很大偏差,甚至有的时候答案会出错。”
一些教育工作者、科研人员认为,一些学生恰恰不知道“问什么”,尚未建立起真正的“问题意识”,如果“问什么”都不知道,那么连AI这个工具都没法很好地使用。
前段时间,《差评》发了一篇关于内测ChatGPT版bing的稿子,其中提到编辑向ChatGPT询问“截至今天,詹姆斯一共打了多少场常规赛?”
New Bing给出的答案是1577 场。但是编辑从官网上查询所知,正确答案是1410场常规赛。于是,New Bing与编辑开始有了争论,甚至还发了点小脾气。
“ 常规赛 ”和“ 总比赛 ”的概念。
编辑所问的是常规赛场数,答案确实只有1410场。而 New Bing 给出的1577场是詹姆斯常规赛加季后赛的总比赛场数。
发现错误后的 New Bing 为了求原谅,居然还做了一首小诗。
随着ChatGPT爆火,国内也涌现了一批名字中包含“ChatGPT”的微信公众号、小程序产品。这些产品使用ChatGPT的官方图标当头像,主要的服务方式是先免费试用,一旦免费次数用尽就开始收取费用,最高无限次对话收费甚至高达999.99元。
通过验证,ChatGPT官方平台回复与微信小程序软件比对,答案完全不一致。
目前,ChatGPT的开发者、人工智能研究机构OpenAI并没有在中国大陆提供有关ChatGPT的服务,也没有相应的公司运营。
山寨版的危害可能只是蹭热度、赚流量钱和服务费,更需要提防的,是有不法分子把ChatGPT与犯罪行为联系在一起。
目前境外有人使用ChatGPT创建一个完整的感染链:不同以往的广撒网式的网络钓鱼,它在提问者的诱导下可以生成针对特定人或者组织的“鱼叉式”网络钓鱼邮件,此类钓鱼邮件更具有欺骗性和迷惑性,这就导致邮件接收方更容易上当受骗,接收者一旦点击该邮件,系统就会被恶意代码感染中毒。
与此同时,在ChatGPT推出几周后,不法分子对ChatGPT的恶意利用也带来了更多的数据安全问题,目前外国已有相关机构证明该机器人可能被用于编写恶意软件,从而逃避防病毒软件的检测,或利用其拟人的聊天对话能力,冒充真实的人或者组织骗取他人信息等。
根据研究机构测试发现,如果对着ChatGPT提出充斥阴谋论和误导性叙述的问题,它能在几秒钟内改编信息,产生大量令人信服却没有来源根据的内容。
一旦ChatGPT被不法分子利用,将可能导致ChatGPT衍生成为互联网上制造和传播网络谣言的工具。
新晚报综合公安部网安局、澎湃新闻、中国青年报、上海网警
版权归原作者所有