WAIC2024人工智能前沿技术的治理挑战与应对‍

作者／ IT时报记者毛宇

编辑／王昕

人工智能犹如一颗璀璨的新星，引领着第四次工业革命的浪潮。

然而，随着其影响力与日俱增，AI治理问题也日益凸显，成为横亘在各国政府、产业和社会面前的一道复杂难题。尤其在生成式AI这一前沿领域，其发展速度之迅猛已超过现有监管框架的范围，AI治理话题考验着各国政府的智慧与决断，也呼唤着全球范围内的合作与共识。

7月4日，在2024世界人工智能大会“人工智能前沿技术的治理挑战与应对”论坛上，关于AI伦理、隐私保护、算法偏见及安全风险的讨论，体现出全球业界在AI治理领域前瞻性思考和探索。

技术与发展的动态平衡美工兼职网站

随着ChatGPT等超大型语言模型的出现，AI领域的安全治理正面临前所未有的挑战，尤其在数据安全、误导信息传播、知识产权侵犯及潜在的物理生物智能风险等方面。在论坛上，很多专家纷纷指出，安全治理的核心难题在于系统安全的保障与AI对人类利益的潜在损害。

对此，图灵奖获得者、中国科学院院士、清华大学教授姚期智表示，当前AI治理的紧迫任务在于寻求技术发展与规范约束之间的动态平衡。短期内，工程和系统层面的传统信息安全技术与管控措施仍是应对即时威胁的关键；长期而言，需深入研究AI的核心理论，探索内生安全机制，同时配合相关政策法规，形成技术与治理的双重防护网。

“我觉得国际上有两种观点值得深入去研究。一是Stuart Russell（加州大学伯克利分校教授）提出的Beneficial AGI（有益的通用人工智能）概念，通过博弈论确保AI在设计之初，就与人类利益一致；二是由MIT（麻省理工学院）学者倡导的可证明安全的AGI，利用计算理论和自动定理证明技术，追求AI系统的绝对安全。这两个方向均指向了AI安全治理的长期愿景——构建一个既高效又安全的人工智能生态。”姚期智说。

联合国副秘书长兼人工智能高级别咨询委员会成员Tshilidzi Marwala提出相似意见。他认为，针对AI治理路径，应将AI发展与联合国宪章、人权原则相统一，倡导和平、公平与合作的价值观。他建议设立全球AI监管实体，如国际AI治理组织，负责制定统一标准、监测合规性并促进国际合作。此外，国际社会各方应强化法律框架，确保AI应用遵循道德准则，保护个人隐私，避免歧视，成为当务之急。

为数据安全与隐私保护

“上手段”美工兼职网站

当下，各国正探索适应本国国情的数据安全与隐私保护路径，力求在保障数据安全的同时，促进AI技术创新。欧盟的《人工智能法案》展现了对高风险AI系统的严格规制，而英美等国则倾向于市场驱动的灵活策略，强调创新与合规并重。

“面对AI与大模型带来的数据安全挑战，国际化组织需实施严格的安全措施，包括数据匿名化、用户授权、加密技术和访问控制，以防范未授权访问和数据泄露。数据分类、访问权限管理和持续监控审计成为确保数据安全的关键环节。”论坛上，香港科技大学首席副校长郭毅可虽未到场，但却以鲜活的“数字分身”形象亮相，面向与会者分享了自己的观点。

论坛上，美工兼职网站一系列专业的技术解决方案引起与会者的关注和讨论。其中，区块链技术被行业专家认为是一种有前景的解决方案，它能提供数据完整性和防篡改特性，被视为提升数据安全的前沿方案，在各行业应用中展现出巨大潜力。

此外，利用差分隐私或数据屏蔽的匿名化技术来保护个人身份信息，可以确保数据的机密性，同时保留人工智能模型训练的有用性。

在数据安全治理方面，访问控制和权限管理是确保数据安全的关键因素。实时监控、定期审计人工智能模型的活动和数据访问，有助于检测未经授权的访问尝试等异常模式。目前，中国香港深层次人工智能研发中心正致力于深化数据安全治理，通过撰写《香港深层次人工智能治理建议》，助力构建安全可信的AI环境，促进中国香港乃至整个大湾区的科技创新与经济发展。

全球合作方能安全共赢

当前，任何单一国家或组织难以独自应对AI带来的全方位挑战，越来越多的声音呼吁，唯有各国摒弃零和博弈思维，秉持开放包容的态度，才能在AI治理的道路上迈出坚实步伐。

在此背景下，加强国与国之间在AI治理领域的沟通与协作，探索建立适应全球化时代的共同规则与标准，已成为当下AI治理国际议程中的重要议题。

在这一过程中，中国作为全球AI领域的积极参与者与贡献者，正以实际行动诠释着大国的责任与担当。去年年底，习近平主席提出的《全球人工智能治理倡议》，系统阐述了人工智能治理的中国方案。通过推动国内AI伦理规范的建设、加强与国际伙伴的交流合作、倡导建立公平合理的全球AI治理体系，中国正致力于塑造一个既有利于科技创新，又能有效防范风险的AI发展环境。

“AI治理是当务之急，应充分利用中国的独特优势，如完善实名制身份验证系统，吸取数据管制方面的成熟经验，探索适合国情的AI治理体系。”姚期智认为，应建立AI大模型的分级体系，实行全产业链监控，并倡导构建跨学科的学术研究环境，共同推进AI安全治理的理论与实践。

Tshilidzi Marwala也呼吁，国际需要一套治理框架来更好地监管AI。IPCC（联合国政府间气候变化专门委员会）、国际原子能机构等，需要对AI进行更加有效的监管，这些监管实体可以设定全球AI标准，促进国际合作。与此同时，构建一整套法律框架，有利于AI有道德、负责任地被使用。而AI标准应包括但不限于，AI设计方面的指南、AI开发和部署的标准，以及质量技术、道德考量、相容性等方面的标准。

排版／ 季嘉颖

图片／ WAIC

来源／《IT时报》公众号vittimes

E N D美工兼职网站