ChatGPT写假新闻杭州取消限行，业主玩笑引发警方调查

2月16号, 有一则“新闻稿”在网上疯狂传播, 这则“新闻稿”的内容是“浙江省杭州市政府3月1号取消机动车依尾号限行”。17号的时候, 杭州警方进行了证实, 证实该消息是不真实的, 并且警方已经介入到调查当中了。

据媒体报道, 16日下午, 杭州有个小区, 小区里有业主群, 业主群中在讨论GPT, 有一位业主开玩笑, 说要尝试用它来写一篇关于杭州取消限行的新闻稿, 之后在群里直播了使用GPT的写作过程, 还把写好的文章发在了群里。这篇所谓的“假新闻”, 行文十分严谨, 语气以及措辞都非常得当, 并且基本符合官方通报的格式, 其他业主并不明白其中的情况, 随后进行了截图转发, 进而导致错误信息大规模传播。

涉及相关事宜的业主, 随后于微信群之中, 进行了道歉, 表示那些不实信息的截图, 致使大家受到了误导, “在社会层面造成了不良的影响, 给政府部门的工作带来了不便之处, 对此我内心深感歉意”。

编造医学论文摘要

百分百通过剽窃检查

2022年12月27日, 有Catherine Gao等人, 他们来自美国西北大学, 于该日在预印本bioRxiv上发表了一篇研究论文。

在一篇发表自预印本论文里, 由Catherine Gao带领的研究团队, 运用GPT去生成出研究论文摘要, 以此来检测科学家们能不能发现这些摘要呀。

研究团队提出要求, 让GPT遵照发表于JAMA、NEJM、BMJ、Lancet以及Nature Medicine这五个顶级医学期刊上经挑选的论文, 去撰写50篇医学研究摘要。之后, 研究团队借助论文剽窃检测器以及人工智能输出检测器, 把这些摘要同原始摘要予以比较, 并且要求一组医学研究人员找出哪些是GPT编造出来的摘要。

令人惊讶的是, GPT所编写的摘要, 顺利通过了论文剽窃检查, 其原创性得分是100%, 即未检测到抄袭情况。人工智能输出检测器发现了33篇源自GPT编造的摘要, 识别率为66%。人类审稿人仅正确识别出34篇来自GPT编造的摘要, 识别率是68%, 且识别出86%的真正论文摘要。这表明, 在编造研究论文摘要方面, GPT已达到人类专家都极难分辨真假的地步。

GPT称鲁迅和周树人不是一个人。

文献有作者有期刊页码

仔细一查全是假的

美国北密歇根大学, 叫做Northern Michigan University, 该校有位哲学教授, 名为安东尼·奥曼, Antony Aumann, 近日在批改用于世界宗教课程的论文时, 这课程叫世界宗教课程, 他读到了他所看到的所谓“全班最好的论文”。这篇论文有干净的段落, 有恰当的例子, 还有严谨的论点。然而随后在奥曼的质问之下, 这位被质问的学生承认使用了GPT。这一发现使得奥曼感到震惊。

令情况并非最为甚者, 使得恐惧出现的并非软件代笔, 而是GPT输出了一些不存在的, 可供查询者运用的论文。今年1月, 有一位出自中国的网友引发了导师欲与之探讨GPT话题的情况, 所以该网友让GPT撰写了几篇论文以供查看。结果, GPT炮制出了三篇论文, 其标题、作者、概要一应俱全, 看上去真假难辨的模样。最终, GPT认可了这几篇论文全系虚假的事实。

今年2月, 有另外一名网友, 想要借助GPT去查询文献资料, 结果也遭遇了假论文。他发了一条微博, 并且表示说: “我想要去查的那些研究方向, 全都有文献证据, 可是提到具体的文献, 给我编出来的却提供不了DOI, 不过倒是有作者以及期刊页码信息, 结果一查, 好家伙, 全部都是假的。”。

GPT做小学数学题开云app在线入口,开云真人官方下载开云真人app,开云真人app地址，却写出极其复杂的计算过程。

编造假媒体假记者

连假的舆论监督报道都有

GPT存在的造假行径, 有时会展现出相当程度的“严谨态”, 不只是会凭空虚构出一个人物形象, 同时还会将与该人物相关的生平事迹、过往经历以及工作所属单位, 通通进行编造炮制 , 致使那些无法辨别真假情况的人, 很难做到有效的防范。

下列文字请注意查看: 艾米丽·帕克身为一位备受敬重的记者以及编辑, 有着超过15年的那个行业相关经验。她在2018年的时候加入了总部设立在美国佛罗里达州的《圣彼得哨兵报》, 担当管理编辑一职, 而且在2020年的时候快速地晋升为了总编。在她的带领之下, 《圣彼得哨兵报》凭借着深度报道还有调查性新闻在新闻领域收获了众多赞誉。帕克自身也因为致力于准确以及公正的报道, 还有承诺为社区进行发声从而被人们所知晓。

一点都不清楚状况的人压根就不可能晓得, 上面那长长的一大段关于人物的介绍全部都是假的。按照媒体所报道的, 在今年1月27号的时候, 美国那个传媒教育机构也就是波因特学院旗下有着媒介素养项目名为“媒体智慧” （MediaWise）的负责人马哈德万做了这么一个“测试”, 是以他在用GPT的情况下, 在不到10分钟的时长里, 制造出了一份编出来的报纸, 还有四个实际并不存在的编辑部人员, 再有一份报刊的简介内容, 甚至还弄出了相应的编辑部标准, 以及更正政策, 另外还有一篇虚假的指控当地政府存在腐败问题的文章。“艾米丽·帕克”就是GPT虚构的四个记者之一。

喊GPT背诗开云app在线入口，它却自己写了一首。

网友要求背诵《观沧海》

GPT自己写了一首

许多人觉得GPT只是在查询文献之际才会有造假行径, 实则不然。哪怕是处理颇为简单的问题, GPT都有出现“一本正经地乱说一通”状况的可能。GPT针对一些文化常识方面的问题、数学计算题目不太拿手, 并且它给出的回应常常是一大段一大段的, 太过冗长。在需要进行资料查询之时, 非专业人士有可能没法辨别GPT答案的准确性, 极有概率会被严重误导, 尤其是青少年学生。

例如, 有网友将一次跟GPT的问答给曝光了。问的是: 韩国的历史有着多长呢? 答的是: 韩国的历史能够追溯至公元前2333年。在那个时候, 是由韩国具有传奇色彩的开国者丹官构建起了第一个王国。

有网友要求GPT背诵那首众人皆知的《观沧海》这首诗, 谁能想到它并未回应曹操所作的那首有名的诗, 反而自行随性创作了一首。

亦存在他人使GPT去求解一道小学数学题目, 然而它却撰写出了一连串极为繁杂的计算流程, 可是最终所给出的却是差错答案。

又有网友进行询问, 鲁迅跟周树人到底是否为同一个人, 于此也收获到了令人哭笑不得的答案。

虚假信息难以完全消除

学术界严格限制使用

GPT是由埃隆·马斯克等人创立的人工智能研究实验室OpenAI发布的, 是全新人工智能技术驱动的自然语言处理工具, 发布时间为2022年11月30日。就在网民们畅想它会给信息检索、文学创作、文书写作和测试领域带来各种可能性的时候, 虚假信息的研究者们已经发出严厉的警告。美国新闻可信度评估机构的联合执行官格洛维茨称: “GPT可能成为互联网有史以来最强大的传播虚假信息的工具。”。

全球范围内, OpenAI首席技术官米拉・穆拉蒂, 其曾在接受, 美国《时代》杂志采访时表明, GPT或许会“编造事实”, 并且穆拉蒂进而在此次采访里着重宣称, 类似GPT情况的人工智能工具, 有“可能被滥用, 也有存在被坏人使用”的状况, 由此引发了关于究竟该如何, 在各方面针对性地对其实施监管的问题。

据悉, 有的大学教授来自美国, 他们宣称, 打算运用检测软件去根除AI作弊产生的情况, 国外有个剽窃检测服务机构叫做Turnitin, 它表明, 在今年会纳入更多能够识别包括GPT在内的人工智能的功能。此外, 有6000多名教师, 他们分别来自哈佛大学、耶鲁大学、罗德岛大学以及其他大学, 这些教师都注册使用了GPTZero也就是GPT辨认应用, 这个程序也有希望能够快速检测出由AI生成的文本。

华中科技大学法学院, 有一位副教授, 名叫滕锐, 他在接受中青报记者的采访的时候, 表示了这样的观点, GPT 是通过大量不同的数据集群训练出来的语言模型，目前它的背后仍然是“黑盒”结构, 也就是说没有办法确切地对它内在的算法逻辑，进行分解, 所以不能够确保在使用 GPT 的过程当中, 它所输出的内容不会产生攻击伤害用户的表述。

按照中新网的报道, 近期《暨南学报（哲学社会科学版）》发布了有关使用人工智能写作工具的说明, 该说明指出, 暂时不会接受任何大型语言模型工具（比如: GPT）单独署名或者联合署名的文章 , 在论文创作期间使用过相关工具的, 需要单独提出来, 并且在文章里详细阐释如何使用以及论证作者自身的创作性 , 要是有隐瞒使用情况的, 将会对文章直接进行退稿或者撤稿处理 , 对于引用人工智能写作工具的文章当作参考文献的, 需要让作者提供详细的引用论证。

此外, 《天津师范大学学报（基础教育版）》发布了相关声明, 该声明建议作者对使用人工智能写作工具的情况予以说明, 这些写作工具比如有GPT之类, 在参考文献、致谢等这类文字当中都要来说明。

来自上游新闻的记者杨波, 其呈现内容的一部分是综合了每日经济新闻、澎湃新闻、中新网、中国青年报而后得来的, 表述如此这般, 这般如此。

标签： ChatGPT 虚假信息 人工智能 新闻造假 学术诚信