扎克伯格:实验室有激励推进对齐,Meta 推迟 Muse 聚焦安全

OKXer
ChainCatcher 消息,扎克伯格发文称,每个实验室都有责任和激励以所需速度安全训练模型,并有能力自行采取行动。人们不会使用与自己不对齐、不按要求行事的智能体,实验室因此有强烈自然激励提升模型对齐。信任和对齐正迅速成为区分智能体与模型的最重要能力,任何不聚焦对齐的实验室都将落后。扎克伯格表示,实验室若模型造成伤害将面临重大责任,因此也有强烈激励加以防范。Meta 将 Muse 推迟数月发布以聚焦安全和安保,并未要求其他实验室先行效仿,只是将其作为日常工作的一部分。聘请独立评估者和顾问是行业最佳实践,MSL 已在多个领域这样做。将大部分算力用于服务人们而非竞相递归自我改进,是确保安全开发该技术的最佳方式之一,Meta 已作出这一承诺。

B安/欧意/大门交易所永久入口:点击进入加密货币的世界

OK交易所是全球排名前三的数字货币交易平台,非常符合国人操作,买卖比特币就上OK交易平台

目录[+]