要文快报!AI安全需未雨绸缪 月之暗面CEO杨植麟谈长期布局
![博主:admin](http://cdb6d.sjz7.site/skin/yan/picture/0.png)
AI安全需未雨绸缪 月之暗面CEO杨植麟谈长期布局
北京讯(记者 张楠楠)6月14日,在2024北京智源大会上,月之暗面CEO杨植麟与百川智能CEO王小川、智谱AI CEO张鹏、面壁智能联合创始人兼CEO李大海共同出席“尖峰对话:通往AGI之路”环节,探讨了人工智能安全等话题。
杨植麟表示,AI安全非常重要,虽然它可能不是当前最紧迫的问题,但却是需要我们提前去准备的。“随着模型的不断优化和Scaling Law(尺度定律)的发展,每N个月算力乘以十倍,智能水平也会得到提升,这是一个逐渐适应的过程。”他指出,AI安全不一定是当前最大的矛盾或者最紧急的事情,但肯定是长期储备。
杨植麟认为,在AI安全方面,最重要的是要关注以下两个方面:
- **模型的鲁棒性。**模型可能会因为用户本身存在恶意意图,通过prompt(提示词)让模型去做一些本来不应该做的事情。因此,需要提高模型的鲁棒性,使其能够抵御恶意攻击。
- **模型的动机。**模型本身是否有自己的motivation(动机),这与训练方式相关。需要在模型的底层去注入例如AI的“宪法”、功能去框定其行为,无论用户给什么指示,都不会违背这个“宪法”。
杨植麟强调,AI安全是一项复杂的系统工程,需要产学研各界共同努力,从技术、制度、伦理等多个层面构建起全方位的安全体系。
关于月之暗面
月之暗面成立于2021年,是一家专注于大模型研发和应用的公司。公司拥有业界领先的大模型技术,并已在多个领域落地应用,包括智能客服、内容生成、辅助决策等。
媒体联系
张楠楠
月之暗面
[移除了电子邮件地址]
星舰第四次试飞取得圆满成功:马斯克称未来将飞往其他星系
美国 - 2024年6月6日,美国太空探索技术公司(SpaceX)成功进行了星舰第四次试飞。此次试飞首次实现了星舰飞船和超重助推器的海上软着陆,标志着星舰开发取得了重大突破。
星舰是SpaceX为实现火星移民而研发的下一代运载系统,由可重复使用的超重助推器和星舰飞船组成。此次试飞中,星舰飞船搭载超重助推器升空,飞至约10公里高空后分离,成功进入预定轨道。随后,星舰飞船和超重助推器分别进行再入大气层和海上软着陆。
星舰第四次试飞的成功,意味着SpaceX在星舰可重复使用技术上取得了重大进展。星舰的成功开发,将为人类探索火星和太阳系其他天体提供强大的手段。
SpaceX创始人兼CEO埃隆·马斯克(Elon Musk)在社交媒体上表示,星舰是“人类历史上最强大的运载工具”,并称未来将使用星舰将人类送往火星、月球甚至其他星系。
以下是此次试飞的一些亮点:
- 星舰飞船首次实现了10公里高空的轨道飞行。
- 星舰飞船和超重助推器均成功进行了海上软着陆。
- 星舰飞船使用了改进的隔热瓦,能够承受更高的再入大气层温度。
- 超重助推器使用了33台猛禽发动机,实现了更大的推力。
星舰的成功开发,是人类航天事业的重大进步。它不仅为火星移民提供了可行的方案,也为未来更深远的太空探索奠定了基础。
以下是一些可能的延伸问题:
- 星舰的商业应用前景如何?
- 星舰将对全球航天产业产生怎样的影响?
- 星舰的开发是否会引发新的太空竞赛?
参考来源:
- 震撼突破!SpaceX星舰第四次试飞达到预定目标
- SpaceX星舰第四次试飞成功! [移除了无效网址]
- SpaceX星舰第四次试飞取得成功 [移除了无效网址]
发布于:2024-07-05 21:26:14,除非注明,否则均为
原创文章,转载请注明出处。
还没有评论,来说两句吧...