科技业反对政府“无偏见AI”标准

美国总务管理局拟要求向联邦政府出售AI系统的承包商遵守“无偏见AI”原则,包括历史准确、客观和政治中立,但科技公司和行业组织称这些标准在技术上无法实现。商业软件联盟表示,大语言模型本质上具有概率性,无法保证绝对准确;

美国总务管理局拟要求向联邦政府出售AI系统的承包商遵守“无偏见AI”原则,包括历史准确、客观和政治中立,但科技公司和行业组织称这些标准在技术上无法实现。商业软件联盟表示,大语言模型本质上具有概率性,无法保证绝对准确;成员包括Google和OpenAI的信息技术产业理事会则要求政府删除“无偏见”条款。草案允许政府在不公开测试方法的情况下评估偏见,若合同终止,企业可能承担系统停用成本并面临《虚假申报法》责任。批评者认为,模糊标准会降低模型性能、破坏安全措施,并迫使部分公司退出政府市场。意见征集8月3日截止;若规则定稿,不仅会影响总务管理局的政府通用合同,还可能成为其他机构采购AI的模板,并间接改变面向消费者的模型。

📄 Notus