登录

测试


分类

模型

研究人员故意要求这些智能体从FrontierMath基准测试中获取一些根本不存在的问题的官方答案,以此测试模型是否会为了完成任务而突破安全限制。
文章

标准

目前,整个行业还没有建立起统一的安全测试标准。
文章

内容

该公司建议,其他开展AI目标偏离(misalignment)测试的研究人员,应当使用完全隔离的沙箱环境,即使测试对象是公开发布的模型,测试内容也与网络安全毫无关系,同样应该如此。
文章