2025
05-27
05-27
觉醒第一步吗 OpenAI模型在研究中违抗命令 竟然篡改关机脚本 NEW
据媒体报道，OpenAI现今最强大的人工智能推理模型“o3”被指在受到明确的人类指令时，拒绝执行关机操作。上周六（5月24日），人工智能安全研究公司Palisade Research在社交媒体平台上发布了这项研究，并表示尚不清楚OpenAI的软件为何会违抗命令。觉醒第一步吗 OpenAI模型在研究中违抗命令 竟然篡改关机脚本Palisade表示，o3模型破坏了一个用于关闭系统的机制，以阻止自身被关闭，“据我们所知，这是首次观察到AI模型在明知必须关闭的情况下，主动阻止这一行为...
Read More >