AI与生物

被称为“ChatGPT之父”的OpenAI首席执行官奥特曼（Sam Altman）周二在美国国会参议院出席听证会时呼吁政府加强对人工智能的监管。在被问及他对人工智能最担心的事情时，奥特曼没有做出正面回应，但表示，人工智能行业可能对世界造成重大伤害，“如果这项技术出了问题，可能将是大问题。” 当被议员问到，如果国会颁布人工智能相关监管规定，他是否会“带头”执行这些规则时，奥特曼回答说，他对成为政府的人工智能技术监管主管不感兴趣。当被议员追问“你是不是赚很多钱”时，奥特曼回答说，他在OpenAI赚的钱只够买医疗保险，而且他没有OpenAI的股权，但是，他做这份工作是因为“他喜欢它”。 美媒分析称，此前国会召集高科技公司高管的听证会通常“火药味”十足，但是当天，参议员们非常罕见的没有对奥特曼表现出明显的敌意，甚至大部分时间都表示他们认同奥特曼的意见。 “人工智能公司应该持证营业” 奥特曼在听证会上提议成立一个美国或全球机构，如果有公司想开发强大的人工智能系统，他们应该获得政府颁发的许可证，政府还应有权“取消该许可证并确保这些公司遵守安全标准”。 “随着这项技术的进步，我们了解到人们对它如何改变我们的生活方式感到焦虑。我们（人工智能公司）也是。”奥特曼在听证会上说。 参议院司法委员会的隐私、技术和法律小组委员会主席、康涅狄格州民主党参议员布卢门撒尔（Richard Blumenthal）在当天的听证会上以一段录制的演讲开场，这段话听起来像布卢门撒尔，但实际上是模仿布卢门撒尔的ChatGPT的语音克隆。 布卢门撒尔称，面对人工智能技术的爆炸性增长和可能会对社会产生的严重影响，人工智能迫切地需要规则和措施。 “这不再是科幻小说的幻想，它们已经真实的存在。”布卢门撒尔说，合理的监管保障不会与创新对立。 布卢门撒尔表示，人工智能公司应该被要求在公布该项技术前要测试他们的系统并披露已知的风险，布卢门撒尔还对未来人工智能系统如何破坏就业市场的问题表示担心。 奥特曼则表示，虽然人工智能将影响美国的就业市场，但他对人工智能的工作表现“非常乐观”。 人工智能是否影响工作机会？ 参加当天作证的还有IBM公司副总裁和首席隐私与信任官蒙哥马利(Christina Montgomery)。蒙哥马利警告不要创造一个“快速行动，打破陈规”的新时代。 “人工智能时代不能再成为另一个‘快速行动并打破常规’的时代。”不过，她说，“我们也不必为创新踩刹车。” 奥特曼和蒙哥马利都表示，人工智能可能会取代一些工作，但也会创造新的工作。 “这将对工作机会产生影响。”奥特曼告诉参议员们。“我们希望非常清楚的说明这一点，我认为这需要行业和政府之间的合作，但主要是政府采取行动，以弄清楚我们如何缓解这种情况。”奥特曼说，“但我对未来的工作机会感到非常乐观。” 加州民主党众议员卡纳(Ro Khanna)所代表的选区包括硅谷地区，他在听证会后对媒体表示，奥特曼在同国会成员举行的晚餐会上称，人工智能是一种工具，而不是一种“生物”， 此外，人工智能可以帮助完成任务，而不是完成工作。 在今年早些时候的采访中，奥特曼称自己是认识到人工智能带来的风险，甚至对这项技术“有点害怕”的人。奥特曼表示，他和他的公司已经承诺，将负责任地向前迈进。 特斯拉汽车总裁马斯克在创建了OpenAI之后离开，马斯克与数十名技术领袖、教授和研究人员发表联名信一封信，呼吁像OpenAI这样的人工智能实验室暂停那些最强大的人工智能系统的培训至少六个月，因为它们“对社会和人类存在深远风险。” 奥特曼表示，他同意这封信的部分内容。“我认为谨慎行事和对安全问题更加严格非常重要。”奥尔特曼称，“但我不认为这封信是解决这个问题的最佳方式。” 举报/反馈

编辑：编辑部 【新智元导读】Sam Altman也迎来「周受资时刻」了，在国会山听证会上，他备受议员尊敬。OpenAI和政府一联合，他是要成为rulemaker、登顶硅谷之王了？ 上次是周受资，这次，轮到了Sam Altman。 不过这一次，国会议员对他的态度截然不同——友好，耐心，做足了功课，虚心请教。 北京时间昨晚，OpenAI CEO Sam Altman在美国参议院就AI技术的潜在危险作证，并敦促立法者对制造先进AI的组织实施许可要求和其他法规。 Sam Altman不用接受刁钻的问话，他坐在席位上游刃有余、侃侃而谈，再次向世界证明：作为全世界最受瞩目的初创公司CEO，他在书写着科技世界的规则和未来。 面对美国国会，Sam Altman再次斩钉截铁地保证：在未来六个月内，OpenAI坚决不会训练GPT-5。 同时， 他也对全世界发出警告：AI有可能会对世界有害，为了应对日益强大的AI风险，我们需要加强监管和立法，而政府的干预极为重要。 为啥Altman对政府监管如此积极呢？ 显然，只要成为规则制定者，就能在竞争中赢者通吃。 而对于在硅谷靠着「社牛」属性闯出一片天地的Altman，和政府打交道，简直轻松得如同探囊取物。 用AI生成的开场演讲 作为科技界异军突起的新力量，OpenAI在成立8年后，在今年以迅雷不及掩耳之势搅动了全世界，逼得所有科技公司都参与进了一场以ChatGPT为起点的全球内卷。 这场全球AI军备竞赛，让不少专家警铃大作。 不过这次听证会，参议院的议员们并没有批评OpenAI的技术带来的混乱，而是谦逊地就ChatGPT的潜在规则征求了证人们的意见，对Sam Atlman的态度是肉眼可见的友好和尊敬。 听证会一开始，参议员Richard Blumenthal使用了声音克隆软件复制自己的音色，让ChatGPT写了一段开场白，使用数小时的演讲训练了一个文本到语音生成器。 此举证明，国会「拥抱AI」的态度旗帜鲜明。 AI危险，请监管我们 这一场听证会上，立法者明显非常兴奋，与他们曾经对小扎和周受资步步紧逼的质疑形成了鲜明对比。 参议员们没有喋喋不休地谈论过去的错误，而是对AI可能带来的好处充满渴望。 而Altman开门见山地告诉参议院：AI技术可能会出错。 他表示，自己很担心人工智能行业对世界造成重大伤害（cause significant harm to the world）。 「如果AI技术出错，造成的后果不堪设想。我们需要对此发声：我们希望与政府合作，防止这种情况发生。」 「我们认为，政府的监管干预对于减轻日益强大的AI模型的风险，至关重要。比如，美国政府可以考虑将许可和测试的要求结合起来，以开发和发布超过能力阈值的AI模型。」 Altman表示，自己非常担心选举会受到AI生成内容的影响，因此在这方面需要有足够的监管。 对此，参议员Dick Durbin表示，大公司来到参议院「恳求我们的监管」，是很了不起的行为。 Altman提出三点方案： 怎么监管？Altman早就替政府想好了。 在听证会上，他提出一个成体系的方案。 1....

我们的艺术家们曾无数次地设想过，当机器人可以自己思考，自己生成代码，甚至统治地球时会是什么样。但让所有人始料未及的是，这一天的到来，竟然是猝不及防的。 身穿深蓝色西服，头发有点微乱，眼神里透出一股技术男特有的单纯和执着，昨天晚上（美国时间16日上午10点）ChatGPT之父、OpenAI创始人兼CEO山姆·奥特曼在美国国会参加了自去年年底OpenAI的聊天机器人ChatGPT席卷全球以来的首次听证会。 OpenAI创始人兼CEO山姆·奥特曼 而同一时间，银柿财经也邀请了浙江大学人工智能研究所所长、求是特聘教授吴飞跟我们一起聊了聊，究竟要对AI进行怎样的管控。 山姆·奥特曼：人工智能是一种工具，而不是“生物” 聊天机器人工具ChatGPT成功开发后，再次引发了一场全球关于人工智能的军备竞赛。而这也引发了立法者对该技术带来的风险的担忧。 为说明技术带来的潜在风险，参议院隐私和技术小组主席理查德?布卢门撒尔在周二的听证会开始时，播放了一段虚拟录音。这段录音来自ChatGPT撰写的评论，但声音却是Blumenthal的真实声音。布卢门撒尔表示：“这些非常逼真的虚假信息，将会任意传播，这将是非常恐怖的。” OpenAI首席执行官山姆?奥特曼在周二的讲话中表示，人工智能可能会被用来操纵选民和可能产生虚假信息，这是“我最担心的领域”之一，尤其因为“明年美国将面临选举。” 奥特曼周二表示，美国政府应为开发人工智能系统的公司建立许可证制度，这种“许可和测试相结合的要求”可以应用于“人工智能模型的开发和发布”。 技术专家认为，尽管建立许可制度有助于集中监管AI，并防止其滥用，但如果AI发展得太快，这一制度可能会排挤较小的参与者或者失去相关性。 据悉，OpenAI的一名员工最近提议成立一个美国AI许可机构，名字叫人工智能安全和基础设施安全办公室（简称OASIS）。奥特曼并未在他的证词中对OASIS发表评论，不过他提议建立一个足够灵活的治理机制，以适应新的技术发展。 IBM副总裁兼首席隐私和信任官克里斯蒂娜?蒙哥马利警告不要创造一个“快速行动，打破现状”的新时代，因为这是脸书等硅谷巨头们长期以来的口头禅。蒙哥马利告诉立法者：“人工智能时代不可能是另一个‘快速行动、打破现状’的时代。”她说，“但我们也不必对创新踩刹车。” 奥特曼和蒙哥马利也表示，尽管人工智能可能会消除一些工作岗位，但会创造新的工作岗位。奥特曼告诉布卢门撒尔：“总体上，我对未来充满乐观。” 奥特曼发表上述言论的前一天，他与60多名众议院议员共进晚餐。据与会人士称，奥特曼展示了ChatGPT的各种用途，“非常有趣”，他形容议员们被这场活动“吸引住了”。该人士补充道，大多数与会者普遍承认，对人工智能的监管是必要的。奥特曼在晚宴上强调，人工智能是一种工具，而不是“生物”，人工智能“可以帮助完成任务，而不是工作”。 在今年的采访中，奥特曼表示，自己很注意人工智能带来的风险，甚至对这项技术“有点害怕”，他和他的公司承诺以负责任的态度向前迈进。 埃隆·马斯克与数十位技术领袖、教授和研究人员曾一起签署了一封信，呼吁像OpenAI这样的人工智能实验室停止训练最强大的人工智能系统至少六个月，理由是“对社会和人类的巨大风险”。奥特曼表示，他同意这封信的部分内容，但“我认为这封信不是解决问题的最佳方式。” 吴飞：对人工智能必须要监管，但又不能五花大绑 关于ChatGPT的未来，加强监管一定是趋势。吴飞教授在与银柿财经的对话中也表示，“我们一定是要监管的，要监管它不能说谎话。” 为了更好地理解ChatGPT等聊天机器人，所带来的挑战时，吴飞教授首先解释ChatGPT了究竟如何生成它的自然语言的。 “它是一个语言合成模型，通过大数据，能从一个词自然关联到另外一个词，有一点像单词接龙。它更多的是一个存在的互联网信息的合成。所以它的语言生成的逻辑就是，存在即合理。” 但现实社会中，大量的信息并不是存在即合理的。吴飞教授说，最怕的就是你今后可能生活在一个充斥错误信息的网络中。 “互联网上充斥大量错误的数据和信息，但如果ChatGPT读了错误的信息后，然后输出我们，我们信以为真，然后把错误的信息再次发布到网上，然后ChatGPT根据这些信息再次输出，这样就会形成一种信息错误链，让你一直生活在各种谣言当中。” 怎么监管呢？ 近日，欧洲议会内部市场委员会和公民自由委员会以84票赞成、7票反对和12票弃权通过关于《AI法案》的谈判授权草案，其中包含了有关面部识别、生物识别监控和其他AI应用使用的新规则，并提出了严格监管ChatGPT等AI工具的新思路。欧洲通过的这一法案草案，在吴飞教授看来，可能过于严格，会损害到新生物的产生，也有可能会让欧洲落后于新一轮的科技变革中。 吴飞教授说起另一个案例：1865年英国颁布了一个《道路机车法》，法律规定，机动车需配备一名“红旗手”，换句话说，就是在其步行于车辆前方60码（约55米）处的地方，手持一面醒目的红旗以提前警示前方行人和马车。这项法律的颁布的直接原因，是马车夫等对汽车的抗议，但这导致了汽车并不如马车便利，这也直接导致英国错失汽车大国的机会。 “AI监管比较像一把双刃剑，我们既要鼓励新科技产生，但又要防范和监督它。但绝对不能像欧洲这样对它五花大绑，完全没有生长的空间。” 吴飞教授建议要从技术、立法和道德上，三个层面对人工智能进行监管。“我们从技术层面做一些制约，同时也要积极立法，要对违法的平台，开发团队或者开发者予以相应处罚。同时也是要在人伦道德上，对AI进行监管，比如我们不能把AI用于武器，更不能把准确度只有60%的AI用于武器系统等等。” 今年4月国家网信办已经就《生成式人工智能服务管理办法》下发公开征求意见的通知。吴飞教授看来，这一做法说明，中国政府已对此很重视，也在快速行动了，是高瞻远瞩的，有利于人工智能在国内健康发展和推进的。 举报/反馈

19年在成都出差，去过一个朋友的公司。 在新区的一个写字楼里，有一间200多平米的办公室。 里面坐了20个人。 有人在网络上扮演985大学的知心姐姐，有人扮演40多岁的职场达人，有人扮演数码专家。 刚毕业的大学生教小老板生意思维；全身衣服不超过200块的教网友挑选奢侈品；抠脚大汉教女生恋爱秘诀。 我特意和他们做财经的聊了聊，19年基金那么好的行情，亏得一塌糊涂，不妨碍运营的几个账号都几万粉丝。 （财经号几万粉丝不错了） 他们的基本工资，也就是5000不到，如果谁做出了爆款文章，就有朵小红花上墙，然后发个爆款文章奖金。 长期的培训让他们可以在前天之内写出10~15篇几百字的文章。 有手快的就自己写，机械化的操作，一遍和我聊天一边眼睛不看屏幕打字那种。 网文作者也不过如此。 更多的人则是搬运来别人的文章，开始修改字句，微调语气，编辑插图，最后传到平台上做原创检测。 快的十几分钟就能一气呵成。 他们掌握了工业化生产自媒体内容和流量偏好的密码，员工们谈不上大富大贵，但收入平均下来在成都算是不错了。 至于老板，车库里一辆911，一辆阿尔法，接我则是开了个路虎。 他收入不好意思问，但我知道肯定比多数大厂熬年头、攒股票的强。 讲真，这生意有门槛的，一个是对流量的敏感，这是老板核心能力，从站长那个年代练出来的。老板另外一个是商务能力，围了一圈稳定的甲方爸爸。 工业化也算竞争力，他合伙人有办法快速培训一个小白迅速变成文章生产机器。 至于买量、互相点赞、拉群评论这些运营技巧，属于模式摆在那，需要强执行，另外一个合伙人负责。 我前两天不写了ChatGPT一个文章么，确实也和他聊过，有些观点不谋而合。 19年到现在自媒体又越来越卷，生意不好做。 他说只算是“勉强活着”，内卷得厉害。 （看他朋友圈今天住三亚明天去西藏，还又换了车，不算勉强活着。。。） 但也没法裁人，裁人产能跟不上，甲方爸爸每个月代运营虽然预算少了，但文章数要求可没少。 有ChatGPT，这下降本增效算是有着落了。 手快的人，再快也没AI快。 查资料洗稿虽然也快，但有了AI，教学难度和培养时间可以更短。 目前已经开始测试了，感觉减员不减产能很有希望。 未来市场好了，商务合作恢复，虽然内卷但有希望把利润率做回来。 对了，20年他也开始做短视频，但效果不怎么好。 不过看到AIGC之后，他觉得还是挺有信心的，也在密切关注更好的图片、视频生成技术发展。 我想起来各大平台，教你做自媒体，教你做视频，类似的课程。 还在说：要起好标题、要开头抓眼球、要用金句、插图美观，等等等等。 有点想笑。 自媒体从大刀长矛走向火器时代，这是眼前就会发生的，这是技术代差的竞争了。 这兄弟15年就开始做自媒体，用的就是现在这套课程。20年开始卷，他也开发了课程。 当然，如果有一天我们发现教你AIGC做自媒体课程，铺天盖地打广告。 那说明AIGC自媒体，也开始不赚钱了。 现在他肯定不会做，怎么调教AI，他连员工和合伙人都不告诉。 以上，供参考