ChatGPT的未来之路：围剿与风险并存？

文章主题：ChatGPT, 围剿, 禁用

666AI工具大全，助力做AI时代先行者！

作者｜路世明

编辑｜大 风

科技突破不止会带来变革，往往也会带来一些潜在的风险。

🎉🚀ChatGPT的发布引发了全球范围内的热议风暴，就像一把钥匙瞬间开启了通往”未来科技”的大门，无数创新者和企业纷纷投身其中，热情高涨仿佛看到了一个全新的黎明。🔍💡然而，随之而来的挑战也不容忽视，ChatGPT正遭遇一场技术与伦理的双重考验，成为了一场无声的”围剿”行动。尽管它以其强大的语言生成能力颠覆了传统，引发了业界的惊叹，但同时也引发了一系列质疑和担忧——版权问题、数据安全、以及对人类工作的影响。👩‍💻💼在这个快速变化的时代，ChatGPT的崛起既是机遇也是挑战，我们需要冷静分析，理性应对，以确保科技的发展真正造福社会。让我们共同期待，这个技术巨头如何在拥抱与审视中找到平衡，引领未来趋势的同时，也为我们的生活带来积极的改变。🌈🌟

🏆📝警惕AI新宠！各国政府对企业ChatGPT严监管🔥💻在全球教育与科技的浪潮中，ChatGPT以其强大的智能生成能力引发热议。意大利的先例已敲响警钟，各国政府和企业纷纷采取行动，对这款人工智能语言模型进行深入调查和限制使用。📚🎓高校如乔治华盛顿大学与巴黎政治学院等全球知名学府，积极响应，宣布禁止学生在其校园网络环境中利用ChatGPT，以维护学术诚信，防止作弊行为的滋生。🛡️💻这一举措不仅保护了教育公平，也对科技伦理提出了新挑战。随着技术日新月异，如何在享受AI便利的同时，确保道德与规则不被滥用，成为全球共同面对的问题。让我们期待更明智的政策和教育方式，以引导未来的发展走向。🌍🎓#ChatGPT禁用 #学术诚信 #科技伦理

相比国家和某一领域，全球范围内的不少大型企业，对于 ChatGPT 表现的更为 ” 敏感 “。

🌟🚀科技巨头们纷纷出手！三星、软银、松下、LG、台积电和SK海力士等企业已明确禁止内部员工使用ChatGPT这一创新技术工具。金融界的领军者摩根大通更是果断地对其员工下了禁令，确保信息安全。电商巨头亚马逊也不甘示弱，对团队成员使用ChatGPT处理机密客户数据的行为进行了严格的限制。这些举措反映出对企业知识产权和数据安全的高度重视，同时也预示着ChatGPT在工作场所可能面临的合规挑战。🚀💼

多家企业之所以对 ChatGPT 保持非常谨慎的态度，甚至是限用，并非不明白生成式 AI 所意味着的时代机遇，而是在意 ChatGPT 对企业 ” 隐私安全 ” 造成的威胁。

🌟随着企业的规模日益壮大，数据安全与隐私保护的问题变得愈发至关重要，对企业来说就像一道无形的枷锁，既厚重又难以摆脱。在这种背景下，对像ChatGPT这类创新技术的态度难免会变得更加审慎。🛡️企业不仅需要确保核心信息不被泄露，还要应对复杂的数据管理挑战，因此对于任何可能影响数据安全的工具，他们都会持保留态度，以保护其宝贵的商业资产和声誉。💡同时，随着法规日益严格，合规性也成为企业考量的重要因素，ChatGPT等技术虽然有其吸引力，但在数据隐私和法规遵从性的双重压力下，其接受程度可能会受限。

大厂 ” 禁用 “ChatGPT

🌟Samsung最近宣布了一项重要规定，职场人士须注意！他们被鼓励避免在工作环境中依赖如ChatGPT和Google Bard这样的创新AI生成工具。这标志着公司在管理技术使用的最新策略上迈出了坚实一步，旨在优化生产力并维护专业的工作环境。👩‍💻👨‍💻

🌟三星政策更新揭示：智能设备内部禁用AI！💡然而，值得注意的是，尽管如此，员工在非工作时间的个人设备上使用人工智能工具（如电脑、平板和手机）仍保持开放态度，但必须确保其与工作无关。📝公司强调了网络安全的重要性，任何违规行为，无论是不慎泄露信息还是有意侵犯，都将面临纪律处分，甚至可能导致严重后果——离职警示。🛡️遵守规定，保护信息安全，是每个三星员工的首要职责。

图：三星总部大楼

事实上，在三星这项 ” 严厉 ” 的新政策之前，全球范围内，不少企业便陆续发布了 ” 限制 ” 自家员工使用 ChatGPT 的公告。

首先对 ChatGPT 发出 ” 不友好 ” 声音的企业，来自金融行业。

ChatGPT 掀起热潮不久后，今年 2 月，JP 摩根大通、美国银行、花旗、富国银行等华尔街巨头陆续表示将禁止或限制使用 ChatGPT。据了解，摩根大通不准员工在办公室使用 ChatGPT，其表示，有关禁令并非源自任何特定事件，而是基于公司对第三方软件的正常管控。

美国银行例行提醒员工切勿使用未经授权软件时，也特别点名提到 ChatGPT。德意志银行更是表明，严禁员工在公司内用 ChatGPT，并从内部阻断连接 OpenAI 网站。而尽管高盛鼓励编程人员采用 AI 来辅助编程，但禁止旗下交易员使用 ChatGPT。

日本方面，软银、日立、富士通、日本瑞穗金融集团等企业也开始限制 ChatGPT 等交互式人工智能服务在商业运作中的使用。

相比金融行业，科技行业的动作丝毫不慢。

今年 3 月初，台积电发布了一系列内部公告，提醒员工谨慎使用网络工具如 ChatGPT 或 Bing AI Chat 等。除三星外，同属韩国企业的全球第二大存储芯片巨头 SK 海力士亦称 ” 除必要时刻外 “，禁止公司内网使用 ChatGPT。

不可否认，ChatGPT 这样的生成式 AI 对提高工作效率很有帮助，但对于这样一个还不足够成熟的 AI 工具来说，它所展现出的负面效应，并不小于它的正面效应。就如同一把双刃剑，在没有 ” 剑鞘 ” 作为一种保护机制出现之前，对于 ChatGPT 的 ” 围剿 ” 绝对不会停止。

能够预料的是，禁用 ChatGPT 的企业，仍然会持续增加。

数据安全是核心原因

ChatGPT 的火爆，实际上是 ” 深度学习 ” 大模型的成功。

生成式 AI 工具，离不开大数据的帮助。它的进化，需要海量的数据来训练，通过感应器采集数据，进行信息存储、加工，通过算力进行计算，最后形成决策机制，进行反馈。庞大的数据训练，造就了 ChatGPT 强大功能，但这也意味着，ChatGPT 实际上在不断地接触各种对话，其中可能包含相关的敏感信息。

无论是个人、企业，还是国家层面，机密数据、文件隐私，都有可能在使用过程中被 ChatGPT 采集到，从而被大规模地扩散。这些数据的泄露，也很有可能会对个人、企业，甚至是国家造成重大的损失。

三星无疑是一个典型的 ” 受害者 “。

据了解，今年 3 月三星的半导体事业暨装置解决方案事业部（DS）部门允许员工使用 ChatGPT，随后 20 天内就发生了三起将公司内部半导体数据上传到 ChatGPT 的事件。

其中，员工 A 用 ChatGPT 帮自己查一段代码的 bug；员工 B 想用 ChatGPT 帮自己优化一段代码；员工 C 想先用 AI 语音助手 Naver Clova 将自己的会议录音转成文字，再用 ChatGPT 帮他总结一下会议内容，做成摘要。

前两起案件已分别导致三星公司的半导体设备测量资料、产品良率等机密内容录入到 ChatGPT 的学习资料库中，这让三星很是担忧其数据将通过人工智能平台最终落入其他用户手中。

不止三星，数据安全服务 Cyberhaven 曾检测到并阻止了其客户公司 160 万名员工中，4.2% 的人将数据输入 ChatGPT 的请求，因为存在泄露机密信息、客户数据、源代码或监管信息的风险。

Cyberhaven 还发现，随着 ChatGPT 的应用率越来越高，给它上传企业数据的打工人数量也越来越多。一天之内（3 月 14 日），每 10 万名员工就平均给 ChatGPT 发送了 5267 次次企业数据。

来源：Cyberhaven

Cyberhaven 数据显示，在员工直接发给 ChatGPT 的企业数据中，有 11% 都是敏感数据。例如在一周内，10 万名员工给 ChatGPT 上传了 199 份机密文件、173 份客户数据和 159 次源代码。

和三星一样，所有 ” 限用 “ChatGPT 的企业，无论处于什么领域，基本都是出于数据保护的考量，都非常担忧第三方软件访问敏感信息带来的风险。毕竟 ChatGPT 所处理的数据通常具有多样性和复杂性，其数据的收集、存储、传输、处理等各个环节，都存在 ” 合法性 ” 问题。

随着 ChatGPT 在自然语言处理领域的广泛应用，人们面临数据安全和隐私保护的挑战，正变得越来越巨大。

机遇与风险并存

技术发展史，也是人类的一部恐惧史。

15 世纪的德国学者面对刚刚发明的古腾堡印刷机非常担忧，认为这会让他们有永远也无法读完的文献，而他们的作品也不再稀缺，而且会导致大量抄写员失业。

再到工业革命时期的 ” 卢德运动 “，工人们拆除编织机的关键零件，袭击仓库，并威胁采取更多的暴力行动。实际上这些操作机器的工人非常清楚设备的生产效率，他们采取行动并非针对机器，而是针对厂方降低工资、裁撤岗位和忽视生产安全的做法。

新技术问世后总会有一段过渡期，这也是社会对它关注最密切的时期。ChatGPT 展现出的能力很强大，让很多企业开始积极拥抱，也让很多企业感到 ” 害怕 “。

数据安全问题的确是不得不提防的一点。越是大公司，或者越是有着数据安全和隐私枷锁的公司，越会谨慎地去对待类似的工具。三星的做法算是 ” 稳妥 ” 的，毕竟大型企业除了内部数据，更重要的是掌握着很多客户数据，一旦发生了数据泄露事件，后果不堪设想。

只是，有时候提防和运用并不冲突。

如何才能既能拥抱机遇，又能化解风险？对于这些大企业们来说，目前似乎只有一条路可选，即研发出自己 ChatGPT。这样不仅解决了风险，还能提高企业员工的工作效率。以三星来说，虽然 ” 限用 “ChatGPT，但并没有完全禁止使用。

为了避免内部信息泄露，三星计划开发自己的内部 AI 工具，供员工完成软件开发和翻译等工作。此外，三星还向旗下所有的手机以及平板电脑产品推送了微软 Bing AI 更新，在这一更新完成后，三星用户可直接通过手机或者平板使用微软 Bing AI。

图：三星手机内嵌微软 Bing AI （语气使用）

除了企业的主动防范，ChatGPT 无疑也需要加强对用户隐私的保护，包括匿名化处理、数据去标识化、隐私保护算法等。特别是在数据共享和开放研究方面，ChatGPT 需要遵循相关法律法规和伦理准则，采取有效的隐私保护措施，保障用户的隐私权益。

此外，ChatGPT 需要积极参与到数据安全和隐私保护的标准制定和监管政策建设中。通过制定统一的数据安全和隐私保护标准，加强监管和法律保障，促进数据共享和合作，从而更好地保护用户的隐私和数据安全。