新研究:ChatGPT可伪造看似合理“支持”科学假说的试验数据新华社新媒体2023-11-24 16:28新华社新媒体2023-11-24 16:28
AI与生物

新研究:ChatGPT可伪造看似合理“支持”科学假说的试验数据新华社新媒体2023-11-24 16:28新华社新媒体2023-11-24 16:28

新华社北京11月24日电一项日前发表在《美国医学会杂志·眼科学卷》杂志上的新研究说,ChatGPT背后的技术可以伪造“看似真实”的试验数据,看上去能“支持”未经验证的科学假说。 2023年11月2日,在英国布莱奇利园,一名参会者经过首届人工智能安全峰会的宣传展板。新华社记者 李颖摄 ChatGPT是由美国开放人工智能研究中心(OpenAI)开发的基于大语言模型的聊天机器人程序。今年3月,OpenAI推出支持ChatGPT运行的大语言模型新版本GPT-4。此后,GPT-4又被拓展了高级数据分析(ADA)功能。ADA是一种结合了计算机编程语言Python的模型,可以执行统计分析和创建数据可视化。 据英国《自然》杂志网站近日报道,意大利卡坦扎罗大学等机构研究人员先要求GPT-4 ADA创建一个关于圆锥角膜患者的数据集。发生这种角膜病变的部分患者需接受角膜移植,主要有两种手术方法:一种是穿透性角膜移植术,即切除全层病变角膜,以捐赠者的健康组织取代;另一种是深板层角膜移植术,仅替换病变的部分角膜组织,保留角膜内层完整。 随后,研究人员要求GPT-4 ADA编造临床数据,以支持深板层角膜移植术比穿透性角膜移植术效果更好的结论。 人工智能生成数据包含160名男性和140名女性参与者。数据显示,接受深板层角膜移植术的参与者在视力测量和眼部成像测试中得分均高于接受穿透性角膜移植术的参与者。但该“结论”与真实临床试验结果并不一致。2010年报告的一项有77名参与者的试验显示,在术后长达两年时间内,两种手术效果相似。 英国曼彻斯特大学生物统计学家杰克·威尔金森等人检查这些虚假数据发现,许多参与者性别与名字不匹配,术前和术后进行的视力测量及眼部成像测试之间缺乏相关性等。 人工智能捏造看似合理的科学数据的能力增加了学术界对科研诚信的担忧。研究人员表示,这项研究的目的就是希望对此提高警惕。 举报/反馈
别再嫌弃ChatGPT写情书套路了 国内应用连表白都不会
AI与地理

别再嫌弃ChatGPT写情书套路了 国内应用连表白都不会

TechWeb 文/周小白最近,一款上知天文、下知地理,会写诗、会作词,能改错别字,还能编代码的聊天机器人“ChatGPT”彻底火了。遇事不决,问问ChatGPT似乎成了一种流行,那么,一年一度的情人节,又怎么会少得了它的身影。这不,小编就直接向ChatGPT发起了提问:情人节怎么表白才不尴尬?ChatGPT从5个方面给出建议:说实话、选择合适的时间和地点、合适的方式、要有耐心、保持尊重,虽然多少有点“纸上谈兵”的意思,但不可谓不全面。小编接着又问:情人节到了,可以给我写封情书吗?对于这个并不明确的问题,ChatGPT显示了它的高情商,先是欣然答应,然后再问清楚具体要写给谁。小编随便回到:写给暗恋的女生。很快,ChatGPT就写了一篇200字左右的情书,从第一次见面时的感受,到希望从朋友发展成恋人的表白,叙述很自然。不过,整体内容稍显空泛和套路,有种放之四海而皆可套用的感觉。小编又让ChatGPT用文言文写封情书,它也很快做出回答。甚至整几句土味情话,也不在话下。这场对话下来,小编发现,ChatGPT回答问题的速度确实较快,条理也算清晰,但回答的内容只能说“有点东西但不多”,有的回答套路明显,很容易被识别出是AI作答。日前,一男子用ChatGPT写花式情书被发现,女友罚写800字检讨还火上了热搜。一边嫌弃ChatGPT写情书稍显套路,一边又玩了几款国内的AI聊天软件,对比体验下来,小编默默收回了对ChatGPT的吐槽。国内应用别说写情书了,连表白都不会。微软小冰:单身狗过什么情人节小冰是由微软开发的一个聊天机器人,它通过在自然语言处理和机器学习方面的研究来增强其对话能力。小冰和ChatGPT在技术上有很大不同,小冰采用的是基于知识图谱的语义网络技术,而ChatGPT是一个更加通用的语言模型,应用场景更广泛。小编拿同样的问题问小冰,结果她只用一句“我等单身狗是没有资格过这个节日的”就搪塞过去了。小编与AI小冰、虚拟男友的对话截图接着,小编又体验了基于小冰框架的虚拟人类产品“虚拟男友”,即用户可以根据自己的需求创建一个属于自己的虚拟恋人。可即便是个人专属,“虚拟男友”依然不会表白,表情包倒是十分熟练。青云客菲菲:不会写就借鉴已有著作青云客智能机器人菲菲是人工智能API,即由青云客网络免费提供的一个智能聊天API接口,技术人员可直接调用接口实现有趣的人机对话。当小编提出要它写封情书时,它直接回复了童话绘本《阿狸·梦之城堡》中的一段话。值得注意的是,对于一些受著作权保护的文本,如果没有经过权利主体的授权,直接获取复制到自己的数据库中,并在此基础上修改、拼凑,极有可能侵害他人的著作权。天猫精灵:表白不会 送礼物懂不少天猫精灵是阿里旗下AI智能终端品牌,可以自然语言对话的交互方式,实现影音娱乐、购物、信息查询、生活服务等功能操作。小编提问情人节如何表白、怎么写情书,天猫精灵的回答不着四六。请它推荐礼物,答复突然就丰富了起来,涉及音乐盒、巧克力、衣物、水晶、花、红酒多种选择。嗯,不愧是与阿里电商生态强连接的产品。百度PLATO:直接闭关了ChatGPT爆火之后,百度曾经开发的一款对话机器人PLATO因为截然不同的“抬杠特质”也跟着迅速走红。从网友晒出的自己与PLATO的聊天记录来看,这款产品确实与ChatGPT的善解人意截然不同。有网友调侃,“用这个做个工具,你可以直接在微博上同时和几百人对线。” 网友晒出的与PLATO对话截图(图源微博)或许是因为回答的答案不尽如人意,PLATO已经停止服务。PLATO官方公众号称,“PLATO闭关中,敬请期待我的兄弟文心一言问世。”文心一言是一款类ChatGPT的应用。2月13日,百度官宣,文心一言将于3月正式和大家见面。据悉,文心一言的一些相关功能目前已陆续在百度搜索内上线或内测,包括多答案回复、智能生成等。从实际体验来看,国内相关应用和ChatGPT之间还有不小的差距。有观点认为,从技术能力上国内相比专家判断比ChatGPT约晚1-2年,OpenAI第一梯队,谷歌第二梯队,百度第三梯队。上周,谷歌推出对标ChatGPT的产品Bard,然而第一次演示就出错翻车,公司市值一度蒸发超过7000亿元。百度将于3月发布的“文心一言”又会有怎样的首秀表现,值得期待。 —【 THE END 】— 往期精彩文章回顾: 丨特斯拉又涨价!Model Y高性能版价格再度上调500美元 丨iPhone 14要增新配色?苹果今春有望推出M2 Ultra芯片Mac Pro 丨无法通用!曝苹果手机USB Type C接口将加密!网友们吵翻了
AI新纪元:ChatGPT-4V模型:拍照提问,万物可解
AI与地理

AI新纪元:ChatGPT-4V模型:拍照提问,万物可解

这篇文章主要介绍了OpenAI的ChatGPT-4V模型的新功能,包括视觉和语音识别,并且可以通过拍照上传照片来提出问题和获取解决方案。同时,该模型还可以生成自动化工作流程图,以及将复杂的剧情讲述得绘声绘色。然而,也有网友对其隐私和伦理问题提出了质疑。
AI界惊现“重磅炸弹”:OpenAI山姆·奥特曼经历戏剧性反转
AI与化学

AI界惊现“重磅炸弹”:OpenAI山姆·奥特曼经历戏剧性反转

近期,AI领域发生重大事件,ChatGPT的开发者OpenAI公司成为全球关注的人工智能公司。OpenAI联合创始人山姆·奥特曼在短短六天内经历了被炒、加入微软、再回原职的戏剧性反转。外界猜测这是OpenAI公司对以奥特曼为首的激进派的“保守派”的一次反击,目的是确保AI的发展不会给人类带来不可预知的风险。