要文快报！AI安全需未雨绸缪 月之暗面CEO杨植麟谈长期布局

AI安全需未雨绸缪 月之暗面CEO杨植麟谈长期布局

北京讯（记者 张楠楠）6月14日，在2024北京智源大会上，月之暗面CEO杨植麟与百川智能CEO王小川、智谱AI CEO张鹏、面壁智能联合创始人兼CEO李大海共同出席“尖峰对话：通往AGI之路”环节，探讨了人工智能安全等话题。

杨植麟表示，AI安全非常重要，虽然它可能不是当前最紧迫的问题，但却是需要我们提前去准备的。“随着模型的不断优化和Scaling Law（尺度定律）的发展，每N个月算力乘以十倍，智能水平也会得到提升，这是一个逐渐适应的过程。”他指出，AI安全不一定是当前最大的矛盾或者最紧急的事情，但肯定是长期储备。

杨植麟认为，在AI安全方面，最重要的是要关注以下两个方面：

• **模型的鲁棒性。**模型可能会因为用户本身存在恶意意图，通过prompt（提示词）让模型去做一些本来不应该做的事情。因此，需要提高模型的鲁棒性，使其能够抵御恶意攻击。
• **模型的动机。**模型本身是否有自己的motivation（动机），这与训练方式相关。需要在模型的底层去注入例如AI的“宪法”、功能去框定其行为，无论用户给什么指示，都不会违背这个“宪法”。

杨植麟强调，AI安全是一项复杂的系统工程，需要产学研各界共同努力，从技术、制度、伦理等多个层面构建起全方位的安全体系。

关于月之暗面

月之暗面成立于2021年，是一家专注于大模型研发和应用的公司。公司拥有业界领先的大模型技术，并已在多个领域落地应用，包括智能客服、内容生成、辅助决策等。

媒体联系

张楠楠

月之暗面

[移除了电子邮件地址]

全球粮食供应有望保持稳定 联合国粮农组织发布最新预测

2024年6月14日 - 联合国粮农组织（FAO）今日发布最新报告称，预计2024至2025年全球主要粮食商品供应充足，但仍需密切关注极端天气、地缘政治紧张局势等因素可能带来的风险。

根据FAO的《粮食展望》报告，受有利的天气条件和种植面积增加的推动，预计2024年全球大米和小麦产量将创下历史新高，分别达到5.12亿吨和7.75亿吨。油籽产量预计也将增长至6.82亿吨。

然而，FAO也指出，全球粮食安全形势仍然面临着诸多挑战。俄乌冲突导致的黑海港口封锁阻碍了粮食出口，推高了国际粮食价格。此外，极端天气事件变得更加频繁，也对粮食生产造成了威胁。

FAO总干事屈冬玉表示：“尽管预计未来一年的全球粮食供应充足，但我们仍需保持警惕，密切关注可能影响粮食安全的不确定性因素。各国应采取措施加强国际合作，共同应对粮食安全挑战。”

具体而言，FAO的报告提出了以下几点建议：

• 增加对农业生产的投资，提高粮食产量和抗风险能力。
• 改善粮食贸易体系，确保粮食能够顺利流通。
• 加强社会安全网建设，帮助弱势群体抵御粮食价格上涨的冲击。

以下是报告中的一些其他重要数据：

• 2023年全球粮食价格指数平均为162.8点，同比上涨3.9%。
• 2023年全球共有56个国家和地区面临严重粮食不安全问题，其中38个位于非洲。
• 2023年全球共有约8.28亿人处于严重粮食不安全状态，其中超过6亿人生活在非洲。

FAO的报告为全球各国制定粮食安全政策提供了重要参考。 各国应根据自身情况，采取切实措施，确保本国人民的粮食安全。