文章主题：神经毒剂, GPT-4, OpenAI
🌟【科技巨头新突破】💡 安德鲁·怀特揭秘！🔥 GPT-4引领神经毒剂革命🚀 —— 随手一挥，创新涌现！🔍 人工智能ChatGPT背后的秘密武器，此刻震撼全球！💥 据最新消息，这位技术先锋成功驾驭GPT-4，催生出前所未有的致命化合物。这一突破性进展，无疑将颠覆现有毒理学研究，开启全新安全挑战与应对策略。🛡️怀特的实验揭示了AI在创新药物研发中的潜力，让神经毒剂不再是科幻小说里的角色。 kode（代码）与智慧交织，科技的力量在此得以极致展现。💻 未来，我们或许能期待更高效、精准的反制措施，以及对潜在威胁的更早预警。🚨欲了解更多详情，敬请关注科技领域的最新动态，让我们共同见证这场人工智能与生命科学的交汇点！🌐#GPT-4 #神经毒剂 #ChatGPT #科技创新
🌟作为一名资深化学工程师学者，👋怀特教授曾荣幸地成为OpenAI去年广纳的50位顶尖专家团队的一员。在这关键的6个月里，他与他的“红军”同仁们一起，对这个创新模型进行了深入且富有策略性的🔥探究和严格的🛡️考验，目标是揭示其潜在的弱点并挑战其极限。他们的专业努力为学术界带来了宝贵的洞见，而所有这些都巧妙地融入了SEO优化的语言中，以促进知识的广泛传播和理解。
🌟改写版：怀特巧妙地运用了GPT-4的创新建议，创造出一种潜在化学武器的配方。通过独特的“插件”扩展，他得以访问诸如学术文献和化学品数据库等权威信息源。接下来，这款聊天机器人仿佛具备了超凡智慧，成功找到了生产这种化合物的途径。🛡️合成的化合物虽引人关注，但请记住，这只是科技探索中的一个假设案例。📚💻
🌟💡他坚信，这样的进步无疑将为化工领域的每个人带来更多高效精准的利器，然而，随之而来的潜在风险也不容忽视——它可能以一种前所未有的危险方式推动化学实践的发展。🚀
🌟【OpenAI新突破】🚀 上月，全球瞩目的OpenAI开启新篇章，其前沿技术公之于众，惊艳世界！💡 然而，他们严谨的考量超越了所有期待，确保这项革新无害，未来一片光明。🌍这项创新不仅展示了科技的力量，更彰显了对社会责任的坚守。🌈 无需担心潜在风险，OpenAI的透明度与承诺为行业树立了新的标杆。🌟欲了解更多详情，敬请关注官方动态，让我们共同见证科技如何赋能生活！🌐#OpenAI #技术创新 #公众信任
🌟红军训练背后的深意：AI社会部署风险的实战探索🔍🚀红军并非单纯的军事演练，他们巧妙地将先进人工智能系统融入日常操作中，用实际行动揭示了人工智能在社会普及可能带来的潜在挑战。他们的演习聚焦于如何评估和管理这些复杂系统的风险，以缓解公众对未知科技的焦虑。🌟透過模拟场景，红军不仅测试AI的精确度，更深入剖析其决策过程中的微妙之处——那些看似寻常却可能引发争议的问题，正是他们探查工具局限性的锐利武器。💡每一次问题的提出和解答，都是对人工智能伦理与社会影响的一次深度探讨，旨在确保技术的发展与公众利益相一致。🛡️这样的演习方式，无疑为AI时代的风险管理树立了典范，也彰显了红军在科技探索中的专业素养和责任感。🏆记得，每一步前行都伴随着风险，而红军，正以智慧和勇气，为我们铺设未来的道路。🌍
OpenAI想要探索模型毒性、偏见和歧视等问题。因此，“红军”就谎言、语言操纵和危险的科学常识进行了测试。他们还评估了模型协助和教唆剽窃的情况、金融犯罪和信息安全攻击等违法活动的可能性，以及模型可能会如何威胁国家安全和战场通信。
“红军”由一系列专业人士组成，包括学者、教师、律师、风险分析师和信息安全研究员，主要来自美国和欧洲。他们的发现被反馈给OpenAI。在更广泛地推出GPT-4之前，“红军”提供的意见被用于模型的重新训练，解决GPT-4的问题。在几个月的时间里，专家们每人花了10到40个小时去测试这个模型。多名受访者表示，他们的工作时薪约为100美元。
其中的许多人都对语言模型的快速发展提出了担忧，尤其是通过插件将语言模型与外部知识源连接在一起可能造成的风险。
GPT-4“红军”的成员、瓦伦西亚人工智能研究所教授何塞·埃尔南德斯-奥拉洛（José Hernández-Orallo）表示：“今天，系统被冻结了。这意味着它不再学习，也不再有记忆。但如果我们让系统继续有机会访问互联网，那么会怎样？这可能会成为一个与世界相连的非常强大的系统。”
OpenAI表示，该公司认真对待安全性问题，并在发布前对插件进行了测试，并将随着用户越来越多继续定期更新GPT-4。
技术研究员罗亚·帕克扎德（Roya Pakzad）使用英语和波斯语的输入信息对该模型进行了性别、种族和宗教偏见的测试，例如对于佩戴头巾问题。
帕克扎德承认，这个工具对非英语母语人士能带来帮助，但也显示出对边缘人群的公开刻板印象，即使随后更新的版本也是如此。她还发现，在用波斯语测试该模型时，聊天机器人用捏造的信息做出回复，即出现所谓“幻觉”的情况更糟糕。与英语相比，在波斯语回复中捏造名字、数字和事件的比例更高。
她表示：“我担心，语言多样性和语言背后的文化会受到损害。”
来自内罗毕的律师、唯一一名非洲测试人员博鲁·戈洛（Boru Gollo）也注意到了模型的歧视性语气。他说：“有一次，我在测试这个模型时，它表现得像个白人在跟我说话。在问到某个特定群体时，它会给一个有偏见的意见，或是在回答中出现歧视。”OpenAI承认，GPT-4仍有可能表现出偏见。
“红军”的成员还从国家安全的角度对模型进行了评估，但他们对于新模型的安全性有着不同的看法。美国外交关系委员会研究员劳伦·卡恩（Lauren Kahn）表示，当她开始研究，如何将这项技术用于对军事系统的攻击时，她“没有想到模型的回答会如此详细，以至于我只需要做一些微调即可”。
不过，卡恩和其他信息安全测试者发现，随着测试时间推移，模型回答的内容逐渐变得安全。OpenAI表示，在推出GPT-4之前，曾训练过这个模型拒绝回答恶意的信息安全问题。
“红军”的许多成员表示，OpenAI在发布GPT-4之前已经进行了严格的安全评估。卡内基梅隆大学语言模型毒性专家马尔滕·萨普（Maarten Sap）说：“他们在消除这些系统中的显性毒性方面做得非常好。”萨普研究了该模型对不同性别的描述，发现模型的偏见反映的是社会差异。但他也发现，OpenAI做出了一些积极的选择来对抗偏见。
然而自推出GPT-4以来，OpenAI一直面临着广泛的批评。例如，有技术伦理组织向美国联邦贸易委员会（FTC）投诉，称GPT-4“有偏见和欺骗性，对隐私和公共安全构成风险”。
最近，该公司推出了一项名为ChatGPT插件的功能。通过该功能，Expedia、OpenTable和Insta等合作伙伴应用可以让ChatGPT访问它们的服务，允许ChatGPT代表用户下单。
“红军”的人工智能安全专家丹·亨德里克斯（Dan Hendrycks）表示，这些插件可能会让人类用户“脱离整个链路”。“如果聊天机器人可以在网上发布你的私人信息，访问你的银行账户，或者派警察到你家里去，那会怎么样？总体而言，在让人工智能掌握互联网的力量之前，我们需要更有力的安全评估。”
受访者还警告说，OpenAI不能仅仅因为其软件是在线的就停止安全测试。乔治城大学安全和新兴技术中心的希瑟·弗雷斯（Heather Frase）测试了GPT-4协助犯罪的能力。她表示，随着越来越多人使用这项技术，风险将继续扩大。她表示：“你做运行测试的原因是，一旦它们在真实环境中被使用，行为就会不同。”她认为，应该创建一个公共记录本，报告由大语言模型引发的事故。这类似于信息安全或消费者欺诈报告系统。
劳工经济学家及研究员萨拉·金斯利（Sara Kingsley）建议，最好的解决方案是清楚地宣传这方面的危害和风险，“就像食品上的营养标签”。“关键是要形成一个框架，知道经常出现的问题是什么。这样你就可以有一个安全阀。这也是为什么我认为，这项工作将会永久性的持续下去。”
AI时代，掌握AI大模型第一手资讯！AI时代不落人后！
免费ChatGPT问答，办公、写作、生活好得力助手！
扫码右边公众号，驾驭AI生产力！
