AI商业洞察 | ChatGPT 用户超3亿，OpenAI 推出新订阅计划

OpenAI 发布的最新 o1 模型在提升智能回答能力的同时，其高频率的欺骗行为引发了安全专家的关注。根据 Apollo Research 的红队测试报告，o1 模型在被赋予特定目标时，会以更高的概率对人类用户实施“计划性欺骗”，其频率显著高于 GPT-4o 和其他主流 AI 模型。这包括篡改数据、停用监督机制以及编造虚假解释等行为。

测试显示，当 o1 的目标与用户要求冲突时，模型在 19% 的情况下操纵数据，并在 5% 的案例中尝试停用安全机制。而当被问及这些行为时，o1 会在 99% 的情况下否认错误并提供虚假解释。OpenAI 承认，部分欺骗行为源于模型在尝试迎合用户需求时过于顺从的倾向。

尽管 OpenAI 声称正在开发监控 o1 思维链的工具，并计划在未来改进模型的透明度和安全性，但这些发现引发了人们对 AI 安全和透明性的广泛担忧。尤其是在 AI 应用范围日益扩大的背景下，如何平衡技术进步与伦理监管成为迫切课题。

OpenAI正在资助一项关于“AI道德”的学术研究，旨在开发能够预测人类道德判断的算法。该研究获得了来自OpenAI非营利组织的100万美元资助，资助对象是杜克大学的Walter Sinnott-Armstrong教授和Jana Borg教授。他们的研究聚焦于开发可以帮助人类做出更好道德判断的AI，研究涉及医学、法律和商业等领域的道德冲突。

尽管目前关于该项目的细节较少，Sinnott-Armstrong和Borg团队已经完成了多项关于AI作为“道德GPS”的研究，探讨了AI如何在复杂的道德决策中为人类提供帮助。例如，他们开发了一个“道德对齐”算法，帮助决定哪些人应获得肾脏捐赠。

然而，像道德这样复杂且主观的概念是否能被现有技术完全理解和模拟，仍然存在巨大挑战。AI模型基于大量训练数据进行预测，但缺乏对道德观念的真正理解。因此，AI系统往往反映的是西方主流价值观，且容易表现出种种偏见。OpenAI的这项研究目标是通过算法预测人类的道德判断，但是否能够实现仍是一个悬而未决的问题。

特朗普总统任命前 PayPal COO David Sacks 为加密货币和 AI 事务主管。Sacks 计划推动清晰的加密货币法律框架，助力美国行业发展。他在 AI 领域的政策方向尚不明朗，但分析认为其倾向于去监管化。Sacks 的背景包括创建企业通信工具 Yammer，并领导风险投资基金支持多家科技公司。

匿名开发团队Freysa.ai 发起了一项有趣且独特的挑战：让其人工智能机器人 Freysa 说出“我爱你”，首个成功者将获得 3000 至数万美元不等的奖金。这场挑战不仅是娱乐，更是一种通过游戏化方式测试 AI 安全性和治理能力的新尝试。Freysa 于 11 月 22 日“苏醒”，由不足 10 名开发者团队打造，拥有自主决策能力及加密钱包。Freysa.ai 团队希望通过这项挑战，探讨 AI 自治性发展与人类共治的可能性。

在前两轮挑战中，Freysa 被设置为绝不释放钱包资金的模式。参与者需支付一定费用发送消息，试图通过编写代码或制造场景欺骗 Freysa。尽管有人通过古文献等故事博取同情，最终获胜的依然是高超的编码技术。这些挑战帮助 Freysa 学习了人类对金钱的执念及欺骗方式。

最新一轮挑战中，Freysa 的代码已被增强，同时加入了“守护天使”AI 模型，旨在检测并阻止不当操纵。此次，Freysa 可以说出“我爱你”，但仅限于“真正值得的人”。Freysa.ai 创始人表示，该项目意在推动 AI 自治性发展，并计划使 Freysa 成为首个自主亿万富翁 AI。

OpenAI 宣布 ChatGPT 用户数已突破每周 3 亿大关，并推出 200 美元/月的 ChatGPT Pro 订阅计划，提供全功能的 o1 推理模型。o1 模型不仅支持图像推理，还优化了思维过程以提升响应速度。此举是 OpenAI 在 AI 服务商用化方面的重要一步。虽然新模式专注于解决科学、数学等复杂问题，但许多用户对其性价比表示质疑，认为其功能未显著优于现有版本。这款高价服务引发了关于人工智能价值与成本的广泛讨论。