最新研究揭示规模化AI系统的核心治理困境:”责任真空”——决策被执行,但没人能同时拥有决策权威和认知能力。
- 结构性问题:决策吞吐量超过人类验证能力的必然结果
- 权威与理解分离:有批准权的人不懂技术,懂技术的人没批准权
- 更多自动化反而扩大责任真空,现有”human-in-the-loop”模式失效
结论:需要转向批次/系统级责任归属,重新设计适合人类认知的决策边界。
最新研究揭示规模化AI系统的核心治理困境:”责任真空”——决策被执行,但没人能同时拥有决策权威和认知能力。
结论:需要转向批次/系统级责任归属,重新设计适合人类认知的决策边界。