《可信人工智能治理调研报告（2024-2025）》发布：ISACA【PDF】

书呆熊

　　《可信人工智能治理调研报告（2024 - 2025）》由ISACA发布，围绕可信人工智能治理展开深入探讨，涵盖全球状况、行业实践及未来展望。
1. 全球治理现状与挑战：全球人工智能治理格局多元化。欧盟以风险为本，通过《人工智能法案》实施差异化监管；美国采取灵活监管与行业自律并行模式；中国秉持发展与安全并重原则，构建综合治理体系。然而，人工智能在技术、伦理、安全和国际合作层面面临诸多挑战，如技术迭代快、算法不透明、数据安全风险高、国际监管差异大等。
2. 调研结果分析
- 应用与投入：多数企业人工智能应用处于技术规划阶段，投入两极分化，45%的企业投入不足100万元，15%的企业超过2000万元。应用场景集中于客户服务和经营管理，技术使用依赖外部产品。
- 风险与挑战：企业面临技术与业务融合、数据安全、算法合规性等问题，数据管理是核心难题。同时，伦理问题关注度低，仅24.2%的企业选择模型时考虑伦理，跨部门协作也亟待加强。
- 治理现状：电信/通信和互联网行业治理相对成熟，技术团队在治理中起关键作用，但跨部门协作是实现全面治理的关键。
3. 行业实践：不同行业结合自身特点应对人工智能风险。互联网行业关注数据隐私与合规，采取加密、最小化数据收集等措施；医疗健康行业通过审批流程和合同约束控制供应链；智能制造行业提升通用性、优化算法；金融行业加强数据保护、提高算法透明度并建立风险治理体系。
4. 未来展望：企业应明确治理责任，制定统一政策，平衡技术与伦理。行业需建立标准化框架，加强数据管理、伦理审核、安全防护及评估认证机制。例如，推动DTEF框架行业化定制，增强其动态适应能力，促进全球化与本地化结合。
　　可信人工智能治理是技术创新与社会责任的平衡，需企业、行业组织、政府和国际社会共同努力，以构建安全、透明、公平的生态体系，释放人工智能的最大潜力。