要文快报！AI安全需未雨绸缪 月之暗面CEO杨植麟谈长期布局

AI安全需未雨绸缪 月之暗面CEO杨植麟谈长期布局

北京讯（记者 张楠楠）6月14日，在2024北京智源大会上，月之暗面CEO杨植麟与百川智能CEO王小川、智谱AI CEO张鹏、面壁智能联合创始人兼CEO李大海共同出席“尖峰对话：通往AGI之路”环节，探讨了人工智能安全等话题。

杨植麟表示，AI安全非常重要，虽然它可能不是当前最紧迫的问题，但却是需要我们提前去准备的。“随着模型的不断优化和Scaling Law（尺度定律）的发展，每N个月算力乘以十倍，智能水平也会得到提升，这是一个逐渐适应的过程。”他指出，AI安全不一定是当前最大的矛盾或者最紧急的事情，但肯定是长期储备。

杨植麟认为，在AI安全方面，最重要的是要关注以下两个方面：

• **模型的鲁棒性。**模型可能会因为用户本身存在恶意意图，通过prompt（提示词）让模型去做一些本来不应该做的事情。因此，需要提高模型的鲁棒性，使其能够抵御恶意攻击。
• **模型的动机。**模型本身是否有自己的motivation（动机），这与训练方式相关。需要在模型的底层去注入例如AI的“宪法”、功能去框定其行为，无论用户给什么指示，都不会违背这个“宪法”。

杨植麟强调，AI安全是一项复杂的系统工程，需要产学研各界共同努力，从技术、制度、伦理等多个层面构建起全方位的安全体系。

关于月之暗面

月之暗面成立于2021年，是一家专注于大模型研发和应用的公司。公司拥有业界领先的大模型技术，并已在多个领域落地应用，包括智能客服、内容生成、辅助决策等。

媒体联系

张楠楠

月之暗面

[移除了电子邮件地址]

“叫花鸡”风波余波未平：店家称系临时工误操作 市场监管部门介入调查

杭州——近日，一段名为“游客杭州买‘叫花鸡’发现里面全是泥”的视频在网络上热传，引发广泛关注。视频中，游客称自己在杭州某景区购买了三份叫花鸡，打开后却发现其中两份里面只有泥巴，没有鸡肉。此事迅速登上微博热搜，也引起了杭州市市场监管部门的重视。

据了解，事发后，杭州市上城区市场监管局立即赶赴涉事店家进行调查。经查实，该店存在将样品当做商品售卖给消费者的行为。店家负责人表示，由于假期人手不足，他们招了一批临时工。事发当天，客流量较大，可能是临时工不熟悉商品，导致将样品误给了顾客。

目前，市场监管部门已对涉事店家立案调查，并责令其整改。同时，也将该事件纳入“双随机一公开”监管机制，加强对餐饮店的日常监管，杜绝类似事件再次发生。

**“叫花鸡”**是一道历史悠久的传统名菜，相传由南宋农民发明。这道菜的做法是用荷叶、泥巴和稻草将鸡肉包裹起来，经过火烤而成。由于鸡肉经过长时间的焖制，骨肉分离，香气浓郁，因此深受人们喜爱。

然而，近年来，一些不法商家为了牟取暴利，在制作“叫花鸡”时偷工减料，以次充好，甚至出现用其他肉类冒充鸡肉的情况。这不仅损害了“叫花鸡”的招牌，也侵害了消费者的合法权益。

此次“叫花鸡”事件再次提醒餐饮店家应严格遵守食品安全法规，杜绝虚假宣传、欺诈消费者的行为。同时，消费者在购买食品时也应注意甄别，选择信誉良好的商家，并索要相关票据，以维护自身合法权益。

以下是一些网友对该事件的评论：

• “真是太过分了，这种店家就应该严厉查处！”
• “以后还是自己在家做吧，外面吃的太不放心了。”
• “建议相关部门加强监管，定期对餐饮店进行检查。”

希望这次事件能够引起有关部门的重视，加强对餐饮行业的监管，让消费者能够吃得安心、放心。