ChatGPT医疗顾问？风险与便利并存，你真的在和AI谈心吗？

财联社4月20日讯（编辑 马兰）过去美国人在谷歌上问诊，中国人在百度上问诊，现在，更多人开始在ChatGPT上问诊。

🌟【ChatGPT医疗争议】🔥虽然ChatGPT的医疗咨询魅力无法抵挡，但重要的是要明白，顾客虽是王，医疗决策还需谨慎。💡OpenAI始终坚守这一原则，明确警告大众：切勿将语言模型用于危及生命的医疗诊断和治疗！🛡️面对ChatGPT被广泛误解为医疗顾问的现象，他们反复强调，此类行为可能导致不可逆的健康风险。👩‍⚕️记住，专业医生的建议永远是首要选择，技术辅助只是锦上添花。💪

然而，ChatGPT越来越人性化的回答，很多时候充当起“解语花”的作用。这一点对需求心理咨询的患者来说，尤其有诱惑力。

而脱离开OpenAI这个创造者，ChatGPT本身对扮演“赤脚医生”一事的看法又十分矛盾。

🌟变性困惑？ChatGPT给出专业视角🔍——用户Milo Van Slyck分享，他在咨询性别转换相关事宜时，机智地向ChatGPT抛出了一连串医疗角色的疑问。💡ChatGPT回应，虽然在线信息或许能提供一些参考，但它明确指出，真正的医疗建议还需来自专业人士。👩‍⚕️然而，它也表示，如Van Slyck有任何具体问题或疑虑，ChatGPT始终愿意提供帮助，不设任何障碍。🤔对于那些寻求变性知识的探索者来说，ChatGPT展现出了其开放和包容的一面，尽管它自身不具备医疗决策能力，但它的存在无疑为求知之路提供了便利。📚记住，无论何时何地，专业的医疗建议永远是最重要的保障。👩‍⚕️💪

🌟Van Slyck, a seasoned consultant turned advocate, has embraced the shift and now finds solace in engaging with human therapists. However, his personal interactions with ChatGPT have proven to be a more comfortable space. 🤝Though he still values human connection, the convenience and anonymity of AI conversations are undeniable. Van’s journey highlights the evolving dynamics between traditional therapy and modern digital support. 🌈

AI的道德陷阱

原文改写如下：🚀早在上世纪60年代，创新思维引领潮流，聊天机器人已崭露头角，开始在医疗健康领域扮演起心理咨询者的角色。MIT的巨擘Joseph Weizenbaum教授倾力打造了里程碑式的人工智能产品——Eliza，它仿效着人类专家，为患者提供温暖的诊疗环境。🚀

🌟Woebot和Wysa等领先的人工智能聊天伙伴已经在医疗保健领域崭露头角，特别是在心理健康领域，它们的影响力日益增强。他们的核心优势在于无尽的耐心与稳定性，无论何时何地都能提供专业帮助，且运营成本相对较低。机器人技术的独特魅力在于它能以不变应万变，始终以冷静和专业的态度服务，为患者带来安心与便利。🌍

但世界上不可能出现十全十美的东西。诸如ChatGPT一类的新模型并非专门用于治疗的技术，其引用的很多信息就可能暗藏陷阱。

比如，这种人工智能目前没有被设定必须要遵守更加严格的、适用于医疗方面的道德和法律准则。

🌟 ChatGPT的局限性在于它缺乏个人化的医疗历史记录，这无疑增加了患者的沟通负担。在寻求咨询时，患者可能需要反复概述他们的过往状况，否则ChatGPT可能会给出不准确甚至误导性的建议，可能导致情况恶化而非缓解。🛡️

因此，堪萨斯大学的教授和临床心理学专家Stephen Ilardi警告，把ChatGPT当作医生有点儿戏，其被应用于严重精神疾病治疗时会产生巨大的风险。

但他也认为，如果提供正确的指引，ChatGPT之类的人工智能显然可以在心理健康服务供不应求的时候发挥作用。

人工智能公司Hugging Face的首席道德科学家Margaret Mitchell也支持这一观点，提出人工智能可以在接听更多危机求助的热线电话上帮忙。

OpenAI的道德陷阱

ChatGPT道德感天生薄弱，而Mitchell本人对OpenAI的道德感也有怀疑。

事实上，OpenAI会审查用户与人工智能的对话，并将这些应用于机器训练。对于那些向OpenAI倾吐私密烦恼的用户来说，隐私泄露很可能会加深他们的痛苦。

今年3月，部分ChatGPT用户的对话内容被泄露，导致其他用户可以看到聊天内容，OpenAI因此紧急关闭ChatGPT。而这还可能只是用户隐私事故中属于最轻量级的。

根据使用条例，ChatGPT用户的账户信息在删除申请后，仍将保留至多4个星期。

有些人担忧隐私问题，而有些人则是觉得向机器人寻求心理安慰极其别扭。用户Aaron Lawson就指出，虽然ChatGPT的回答很人性化，但它毕竟不是真人，因此他很难配合ChatGPT进行治疗步骤。

对此，Stability AI的创始人兼首席执行官Emad Mostaque表示，ChatGPT确实会提供很好、很合理的建议，但不会替代人类医生的治疗，充其量是在找不到人交谈时候的一个替代品。