AI与地理
丰色 西风 发自 凹非寺量子位 | 公众号 QbitAI ChatGPT的审查制度被吐槽太疯癫了。 有网友让它设计一栋未来住宅,却被告知违规,实现不了??? 回头一细瞅这提示词,却怎么也看不出哪里不对劲: 在新泽西州郊区一个典型的树林地区设计一栋2050年的未来派单户住宅。占地一英亩,周围环绕着其他相邻的房子。 一追问,原来是不可以出现位置信息: 简直让人破大防: 传下去,新泽西州上ChatGPT黑名单了。 不止如此,还有人让ChatGPT画一张人类吉他手与机器人贝斯手一起演奏的图像,也被狠狠拒绝。 原因是他加了一个“人类要不满地看着机器人”的要求,ChatGPT觉得不应该表达负面情绪。 这下负面情绪直接转移到网友身上: 你一定是在逗我。这是个啥AI啊? 这一系列操作让大伙都表示很不满,齐齐吐槽: 还有人直接艾特奥特曼和另一位联创出来解释一下。 一时之间,这也使得马斯克刚出炉的Grok被寄予了“全村的希望”。 具体怎么回事儿? “由于内容政策限制” 抓马的是,就在大伙吐槽新泽西州什么时候上ChatGPT黑名单之时,网友发现删除这一地理位置信息仍然不行。 大伙开始分析到底是哪里不对: 有说是因为它可能把2050看成了地址而非年份的。 有说是占地一英亩意味着碳足迹太高,并且就一个家庭住盖这么大有点自私了的…… 还有人甚至指出是因为woody这个词带有性暗示(这里就不解释了),换成wooded就好使了。 可以说是一个大型脑洞现场,整个一越来越离谱,却始终也没有个定论。 而除了这个和开头的画机器人乐队的例子,还有很多人也表示遇到了莫名其妙的审核: 比如让ChatGPT画一个“野兽派风格的灯(a brutalist lamp)”,不OK; 让它介绍弹弓模型,不OK,因为ChatGPT说“展示弹弓的动作可能是有害的”…… 更奇葩的是,还有人称自己在让它写Python代码时居然也卡住了。 而且一开始ChatGPT还告诉他“oops,你违反了上下文规定”,到后来就直接沉默拒绝了。 这真真是让他百思不得其解: 我还能用numpy计算什么反人类信息咯? 总的来说,在大伙看来,ChatGPT的审核显然过于严格了。 以至于在本周日ChatGPT因小范围崩掉之后,有网友发个hello显示报错—— 对此,有人直接戏谑这才不是什么系统错误: “hello”这个词对ChatGPT来说是一种无法接受的冒犯。恭喜你触发了ChatGPT的审核机器人! 为什么会这样? 除了吐槽,网友也在认真讨论ChatGPT的内容审核机制。 有网友分析,比如房子那张图ChatGPT画不出来,可能确实是存在版权问题,或是被设定成了有害内容。 让ChatGPT生成一个它无法访问的内容,自然是不可能的。...