AI资讯站在时代最前沿

新研究:ChatGPT可伪造看似合理“支持”科学假说的试验数据光明网2023-11-24 11:09光明网2023-11-24 11:09
AI与生物

新研究:ChatGPT可伪造看似合理“支持”科学假说的试验数据光明网2023-11-24 11:09光明网2023-11-24 11:09

新华社北京11月24日电 一项日前发表在《美国医学会杂志·眼科学卷》杂志上的新研究说,ChatGPT背后的技术可以伪造“看似真实”的试验数据,看上去能“支持”未经验证的科学假说。 ChatGPT是由美国开放人工智能研究中心(OpenAI)开发的基于大语言模型的聊天机器人程序。今年3月,OpenAI推出支持ChatGPT运行的大语言模型新版本GPT-4。此后,GPT-4又被拓展了高级数据分析(ADA)功能。ADA是一种结合了计算机编程语言Python的模型,可以执行统计分析和创建数据可视化。 据英国《自然》杂志网站近日报道,意大利卡坦扎罗大学等机构研究人员先要求GPT-4 ADA创建一个关于圆锥角膜患者的数据集。发生这种角膜病变的部分患者需接受角膜移植,主要有两种手术方法:一种是穿透性角膜移植术,即切除全层病变角膜,以捐赠者的健康组织取代;另一种是深板层角膜移植术,仅替换病变的部分角膜组织,保留角膜内层完整。 随后,研究人员要求GPT-4 ADA编造临床数据,以支持深板层角膜移植术比穿透性角膜移植术效果更好的结论。 人工智能生成数据包含160名男性和140名女性参与者。数据显示,接受深板层角膜移植术的参与者在视力测量和眼部成像测试中得分均高于接受穿透性角膜移植术的参与者。但该“结论”与真实临床试验结果并不一致。2010年报告的一项有77名参与者的试验显示,在术后长达两年时间内,两种手术效果相似。 英国曼彻斯特大学生物统计学家杰克·威尔金森等人检查这些虚假数据发现,许多参与者性别与名字不匹配,术前和术后进行的视力测量及眼部成像测试之间缺乏相关性等。 人工智能捏造看似合理的科学数据的能力增加了学术界对科研诚信的担忧。研究人员表示,这项研究的目的就是希望对此提高警惕。 来源:新华网 举报/反馈
实测ChatGPT插件真香用法!视频一键变脑图,高数作业轻松拿捏量子位2023-05-18 21:16北京量子位2023-05-18 21:16北京
AI与数学

实测ChatGPT插件真香用法!视频一键变脑图,高数作业轻松拿捏量子位2023-05-18 21:16北京量子位2023-05-18 21:16北京

梦晨 丰色 发自 凹非寺量子位 | 公众号 QbitAI Sam Altman诚不我欺: ChatGPT插件和联网功能终于在这两天向尊贵的Plus用户全面开放了。 像之前预告的一样,联网可以直接获取2021年9月之后的消息,插件也安排了70多个,购物订餐订机票等日常功能应有尽有,更专业的数学、编程、检索文件等能力更上层楼。 像用iPhone一样使用ChatGPT,就是现在! (像我们编辑部,最心水的莫过于用webpilot插件让它去reddit等网站上找出“关于ChatGPT最热门的5个讨论”了。选题从此不慌~) 不过,在网友火速开启的一大波测试后,却出现了一些争议: 比如,联网时一旦某个链接打不开就容易卡住,体验不如新必应。 又比如第三方插件的质量参差不齐,以及GPT-4回答问题本来就慢,再调用插件就更慢了。 …… 桥豆麻袋,OpenAI这波,真的拉了吗? 随着测试范围扩大,大家体验逐渐深入,最新宝藏很快被挖掘出来: 多个插件联用,才是真正的魔法。 亲测:1+1>2 要使用联网和插件功能,首先要付费订阅ChatGPT Plus,然后在设置中打开这两个选项。 然后新建聊天,选择GPT-4模型,在下拉菜单里勾选上联网或是插件选项就能用了(只能二选一)。 可以安装任意数量的插件,但最多同时启用3个,何时调用什么插件是GPT-4自己决定的。 已知一个插件Video Insights可以总结视频的内容,另一个插件Show Me可以生成思维导图,把他们结合在一起会发生什么? 没错,就是一键把视频内容变成思维导图。 在网友的测试中,一条关于睡眠与噩梦的科普视频,就这样总结好了。 这样一来,至少可以有三种用法: 可以在看长视频之前,先大致了解一下内容,决定是否值得看带着思维导图去看知识类视频,理解更加深刻把AI总结好的内容存下来,留作笔记,日后想回顾也不用再看一遍视频了在实际测试中,用中文去提问也是可以调用这些插件的,并且生成的脑图还可以在线编辑。 不过如果视频太长(测试中的是3小时),GPT-4会表示一次总结不完,请稍后再来查看。 等它的同时,不如还来试试还有哪些插件可以放一起联用。 比如……能做数学题的Wolfram+能读取文档的Link Reader,岂不是可以一键写作业了? 从某大学网站找点微积分练习题试试,还真可以! 不过这里还有一个小技巧,不要让它一次做完所有题。 因为GPT-4输出长度还是有限制的,可能把题读完这一条回复就结束了。 接下来每道题分开问就可以了,在Wolfram加持下,最终不光得到解题过程和答案,甚至还有示例图像。 随着收到更新的网友越来越多,更多插件的组合也被大伙儿发掘了出来。 比如有些任务需要精心设计的提示词AI才能表现好,反复尝试提示词也很耗时间。 有个插件Perfect Prompt可以自动完善提示词,那么再加上完成任务所需的插件一起,就可以在得到改好的提示词后继续执行任务了。 在网友@Min Choi的测试中,想获得最新的AI新闻趋势,只需要简单打几个关键词,插件会自动完善成一句提示语并得到最终的新闻链接。...
BingChat走向独立:与ChatGPT竞争,或成聊天机器人新标准
AI与化学

BingChat走向独立:与ChatGPT竞争,或成聊天机器人新标准

本文介绍了微软的Bing Chat聊天机器人的最新发展计划,其目标是提供一种无需启动搜索引擎的功能,以用作独立的聊天机器人。根据Windows Latest的评测,这种新模式下的Bing Chat在与OpenAI的AI模型对比下表现出色,甚至被认为是不同AI的融合。然而,对于这个新的功能,仍存在许多未知因素,如启动时间、访问权限等,且外界的市场反应仍处于观望状态。
ChatGPT背后的阴影:人工智能的利弊与未来之路
AI与化学

ChatGPT背后的阴影:人工智能的利弊与未来之路

文章主要介绍了AI公司OpenAI在2022年的“政变”以及对ChatGPT模型的影响。在微软投资上百亿美元并将GPT融入全线业务中之后,AI领域迅速发展,但同时也引发了关于AI威胁论的讨论。而在OpenAI,ChatGPT的成功也引发了公司内部的审视,尤其是对AGI(通用人工智能)的追求。虽然有人担忧AI可能威胁人类,但也有人认为AI将推动人类社会进步。

AI论文助手超级助手