要文快报！AI安全需未雨绸缪 月之暗面CEO杨植麟谈长期布局

AI安全需未雨绸缪 月之暗面CEO杨植麟谈长期布局

北京讯（记者 张楠楠）6月14日，在2024北京智源大会上，月之暗面CEO杨植麟与百川智能CEO王小川、智谱AI CEO张鹏、面壁智能联合创始人兼CEO李大海共同出席“尖峰对话：通往AGI之路”环节，探讨了人工智能安全等话题。

杨植麟表示，AI安全非常重要，虽然它可能不是当前最紧迫的问题，但却是需要我们提前去准备的。“随着模型的不断优化和Scaling Law（尺度定律）的发展，每N个月算力乘以十倍，智能水平也会得到提升，这是一个逐渐适应的过程。”他指出，AI安全不一定是当前最大的矛盾或者最紧急的事情，但肯定是长期储备。

杨植麟认为，在AI安全方面，最重要的是要关注以下两个方面：

• **模型的鲁棒性。**模型可能会因为用户本身存在恶意意图，通过prompt（提示词）让模型去做一些本来不应该做的事情。因此，需要提高模型的鲁棒性，使其能够抵御恶意攻击。
• **模型的动机。**模型本身是否有自己的motivation（动机），这与训练方式相关。需要在模型的底层去注入例如AI的“宪法”、功能去框定其行为，无论用户给什么指示，都不会违背这个“宪法”。

杨植麟强调，AI安全是一项复杂的系统工程，需要产学研各界共同努力，从技术、制度、伦理等多个层面构建起全方位的安全体系。

关于月之暗面

月之暗面成立于2021年，是一家专注于大模型研发和应用的公司。公司拥有业界领先的大模型技术，并已在多个领域落地应用，包括智能客服、内容生成、辅助决策等。

媒体联系

张楠楠

月之暗面

[移除了电子邮件地址]

马斯克再创奇迹：星舰点火升空，重返浩瀚苍穹

美国德克萨斯州博卡奇卡，2024年6月6日 - 在万众瞩目中，埃隆·马斯克领导的SpaceX公司又一次成功地完成了星舰的试飞任务。此次试飞的重点已不再是进入轨道，而是展现星舰和超重型火箭的回收能力。星舰成功完成了从发射升空到回收溅落的全过程，标志着SpaceX在可重复使用航天器技术上取得了重大突破。

本次试飞的星舰SN16由33台猛禽发动机提供动力，成功升空后达到10公里高空，随后按照计划分级分离。超重型助推器B7成功着陆在墨西哥湾，星舰则在近海进行受控溅落。整个过程展现了SpaceX星舰系统的强大能力和可重复使用性。

星舰是SpaceX公司研发的大型可重复使用运载火箭，旨在将人类送往火星和其他目的地。它由两部分组成：直徑10米的星舰本体和33台猛禽发动机的超重型助推器。星舰本体高120米，可搭载多达100名乘客和大量货物。

SpaceX计划利用星舰开展一系列雄心勃勃的太空探索计划，包括将人类送上火星、建立月球基地和小行星采矿等。星舰的成功试飞为这些计划奠定了坚实的基础。

马斯克表示，此次试飞是SpaceX取得的重大胜利，也是人类航天事业的重大进步。他相信，星舰将彻底改变太空旅行，让人类能够像乘坐飞机一样轻松地往返太空。

以下是此次试飞的一些亮点：

• 星舰成功完成了从发射升空到回收溅落的全过程，这是SpaceX首次实现星舰的完整回收。
• 超重型助推器B7成功着陆在墨西哥湾，这是SpaceX首次回收超重型助推器。
• 星舰在近海进行受控溅落，这是SpaceX首次在海上回收星舰。

此次试飞的成功标志着SpaceX在可重复使用航天器技术上取得了重大突破。星舰有望彻底改变太空旅行，让人类能够像乘坐飞机一样轻松地往返太空。

除了上述内容，你还可以添加以下信息：

• 星舰的研发和制造过程面临了许多挑战，SpaceX团队克服了重重困难，最终取得了成功。
• 星舰的成功试飞受到了全球航天界的广泛关注，许多专家认为这将是太空探索的新篇章。
• 星舰的应用前景十分广阔，有望推动太空旅游、资源开发、科学研究等领域的重大发展。

最后，你还可以根据自己的观点和想法对新闻进行评论。