OpenAI称打造Control Room可在35秒内叫停不安全模型工作负载

Briefing by News4U · First published

今天，OpenAI在X上表示，它打造了Control Room，这是一套可在其研究基础设施中追踪模型工作负载、并在出现安全或安保问题时迅速叫停的中央系统。OpenAI称，Control Room会连接每一项研究推理工作负载，包括用于模型训练与评估的智能体采样、数据处理等，并与其对齐偏差监控系统协同工作，在决定干预以停止或暂停任务后35秒内中断模型输出。它还表示，Control Room只是其安全前沿模型训练与部署整体方法的一部分。 [1]

来源

  1. @openai (X): We built Control Room, a central system to track model workloads across our research infrastructure and stop them quickly when safety or sec

    @openai (X) · · Excerpt

Link to this briefing · Back to news