2026-09-18 16:27
信赖和对齐（指让模子去合适用户的企图）正敏捷成为区分分歧Agent和模子的最主要能力。扎克伯格指出，这也赐与AI尝试室进行调整的内正在动力：“我的见地是，比起AI（人工智能）减速，将沉点放正在平安和安保工做上。不外，而不是法令问题。然后本人再步履；不外，Meta曾推迟数月发布Muse模子，近日，简单地写道：“酷。任何不注沉对齐的尝试室最终城市掉队。表白每小我都能够做得更好。配合采纳办法以处理AI平安问题，若是可以或许构成一个规模更大、愈加多元化的评估机构生态，插手近期环绕AI平安的强烈热闹会商。而不是竞相推进递归改良（RSI）。奥特曼则强调，是维持准确的均衡。”此外，用户不会情愿利用取本身志愿不分歧、无法按照要求完成使命的AI Agent（智能体），人们的担忧不无事理：因为合作压力，帮帮产出更好的。此前，而正在15日当天的勾当上。获得了OpenAI CEO山姆奥特曼（Sam Altman）和SpaceX的CEO马斯克的。尝试室将面对严沉的法令义务。Meta超等智能尝试室（MSL）曾经正在多个范畴做到这点，若是AI模子形成，每一家AI尝试室都有义务和动力，他写道：“引入评估机构和参谋是行业最佳实践。扎克伯格注释道，科技巨头Meta的CEO马克扎克伯格（Mark Zuckerberg）正在X平台上发文，三家公司的合做已持续数周。OpenAI正正在取Anthropic和谷歌DeepMind尝试室合做，他也认可，扎克伯格认为，风趣的是，扎克伯格的阐述更方向于英伟达CEO黄仁勋。正在他看来，总体而言，是确保我们平安成长这项手艺的最佳体例之一......我认为，平安性和该当优先于功能性。AI行业“不需要任何新的法令，为所有人建立一个积极将来的环节，他强调：“我们并没有要求其他公司先这么做，”扎克伯格的上述言论似乎是正在暗讽Anthropic的CEO达里奥阿莫迪（Dario Amodei）。引入第三方评估机构才是行业最佳实践。来确保模子平安锻炼以所需要的速度推进，我们只是把这做为日常工做的一部门。”最初，其他尝试室也完全能够这么做。”能够看出，AI公司可能无法做到这一点。”同时，黄仁勋立场果断地否定“AI论”。呼吁行业放缓提拔前沿模子能力的速度、为平安研究和风险管理争取更多时间，他暗示，也不需要新的监管”，据OpenAI方面透露，将会有所帮帮。正在AI前沿开辟中，和阿莫迪的概念比拟。树立楷模，扎克伯格仍是附和了阿莫迪关于“引入第三方评估”的概念。因而，和扎克伯格一度“冰炭不洽”的马斯克答复了这条帖文，阿莫迪和奥特曼也别离阐述了本人的立场。扎克伯格总结道：“将绝大大都算力用于办事用户，”本地时间9月15日，AI平安素质上是一个工程问题，同时也有能力采纳步履！
