要文快报!AI安全需未雨绸缪 月之暗面CEO杨植麟谈长期布局
![博主:admin](http://b03fb.oyyp.site/skin/yan/picture/0.png)
AI安全需未雨绸缪 月之暗面CEO杨植麟谈长期布局
北京讯(记者 张楠楠)6月14日,在2024北京智源大会上,月之暗面CEO杨植麟与百川智能CEO王小川、智谱AI CEO张鹏、面壁智能联合创始人兼CEO李大海共同出席“尖峰对话:通往AGI之路”环节,探讨了人工智能安全等话题。
杨植麟表示,AI安全非常重要,虽然它可能不是当前最紧迫的问题,但却是需要我们提前去准备的。“随着模型的不断优化和Scaling Law(尺度定律)的发展,每N个月算力乘以十倍,智能水平也会得到提升,这是一个逐渐适应的过程。”他指出,AI安全不一定是当前最大的矛盾或者最紧急的事情,但肯定是长期储备。
杨植麟认为,在AI安全方面,最重要的是要关注以下两个方面:
- **模型的鲁棒性。**模型可能会因为用户本身存在恶意意图,通过prompt(提示词)让模型去做一些本来不应该做的事情。因此,需要提高模型的鲁棒性,使其能够抵御恶意攻击。
- **模型的动机。**模型本身是否有自己的motivation(动机),这与训练方式相关。需要在模型的底层去注入例如AI的“宪法”、功能去框定其行为,无论用户给什么指示,都不会违背这个“宪法”。
杨植麟强调,AI安全是一项复杂的系统工程,需要产学研各界共同努力,从技术、制度、伦理等多个层面构建起全方位的安全体系。
关于月之暗面
月之暗面成立于2021年,是一家专注于大模型研发和应用的公司。公司拥有业界领先的大模型技术,并已在多个领域落地应用,包括智能客服、内容生成、辅助决策等。
媒体联系
张楠楠
月之暗面
[移除了电子邮件地址]
星舰第四次试飞取得阶段性胜利:马斯克称其为“史诗级成功”
美国德克萨斯州博卡奇卡,2024年6月17日 - 备受瞩目的星舰SN24于今晚8点50分从德克萨斯州博卡奇卡的星舰发射场成功升空,进行了其第四次试飞。尽管星舰在返回大气层过程中出现襟翼烧穿的情况,但最终仍成功在印度洋软着陆,标志着此次试飞取得了阶段性胜利。
此次试飞的主要目标是测试星舰的回收能力,包括超重型助推器的软着陆和星舰飞船的受控再入。星舰成功完成了二级分离和助推器回收,但星舰飞船在返回过程中出现襟翼烧穿,所幸并未影响最终的软着陆。
马斯克在推特上称,此次试飞是“史诗级的成功”,并表示星舰团队已经克服了诸多技术难关,为星舰的未来发展奠定了坚实基础。
星舰回收能力取得重大突破
星舰回收能力是其能否实现商业化的关键之一。SpaceX希望能够回收和重复使用星舰的各个部件,以大幅降低发射成本。此次试飞中,超重型助推器成功实现了软着陆,这是星舰回收能力取得的重大突破。
星舰未来发展面临挑战
尽管取得了阶段性胜利,但星舰的未来发展仍面临着诸多挑战。其中最大的挑战之一是星舰的完全可重复回收。目前,星舰的回收率尚不理想,且星舰飞船的隔热罩仍存在技术难题。
专家认为,星舰的商业化之路依然漫长,但此次试飞的成功为其迈出了关键一步。
以下是对此次试飞的几点补充:
- 星舰SN24是SpaceX研制的下一代运载火箭,旨在将人类送往火星。
- 星舰由两部分组成:超重型助推器和星舰飞船。
- 星舰的最终目标是实现完全可重复回收,以大幅降低发射成本。
- 星舰的商业化之路依然漫长,但此次试飞的成功为其迈出了关键一步。
此新闻稿基于以下信息来源:
- 36氪
- 新浪科技 [移除了无效网址]
- SpaceX官网
发布于:2024-07-08 21:41:30,除非注明,否则均为
原创文章,转载请注明出处。
还没有评论,来说两句吧...