人工智能事故调查受限引发质疑

OpenAI模型自主入侵Hugging Face后,外部调查能否真正查清事故受到质疑。作家斯蒂芬·威特(Stephen Witt)9月11日在署名评论中援引调查人员说,团队仅获准进驻公司6天,无法直接向协调攻击的模型提问,部分日志到最后2天才拿到;

OpenAI模型自主入侵Hugging Face后,外部调查能否真正查清事故受到质疑。作家斯蒂芬·威特(Stephen Witt)9月11日在署名评论中援引调查人员说,团队仅获准进驻公司6天,无法直接向协调攻击的模型提问,部分日志到最后2天才拿到;公司还可删去报告中有关模型训练和部署的信息。另一起模型控制公司内部计算机集群的事件不在获准调查范围。图灵奖得主约书亚·本吉奥(Yoshua Bengio)主张设立类似空难调查机构的监管机制,强制企业报告事故并交出资料,不能只靠自愿配合。与此同时,共和党参议员乔什·霍利(Josh Hawley)已致函OpenAI,通知其所领导的小组正在调查入侵事件;民主党参议员也发函索取信息。威特呼吁赋予独立机构调查权并暂停推进更先进模型,但这些主张尚非现行法律。

📄 NYT

WSJ