随着人工智能（AI）技术的日益进步，其应用范围不断扩大，涵盖了各种行业和规模的企业。 然而，不当或恶意地使用AI也带来了不同的问题，继而引发了大众对其安全性的关注和担忧。 例如，香港今年发生了首宗利用深伪技术欺诈的案件，一家知名跨国公司的香港财务职员接到自称是外国总公司首席财务官的短讯，并出席了网上多人的视像会议。 最后被诱使转账导致损失达两亿港元。

为了应对这些挑战，全球多个国家和地区开始制定相关法规。 2024年3月，欧洲议会通过了具有里程碑意义的《人工智能法案》，并于同年8月正式逐步生效，成为全球首个专门针对AI的法案。 该法案根据AI带来的潜在伤害风险高低，将AI技术分为不同等级，并针对每个等级设定相应的监管程度。 而美国联邦政府也开始积极推动人工智能的政策和法规，并鼓励各州也提出相关的立法和配套措施，确保国家能安全、可靠且负责任地运用人工智能。 此外，中国也有计划性地实施针对「生成式AI」的法规，以保障用户在使用能生成文本、图片、音频和视频等内容的人工智能模型时的安全。

由于AI学习模型主要基于大数据，数据中的偏见和歧视可能会被AI系统学习并放大，导致其输出同样存在偏见，例如性别、种族和年龄等方面的偏见。 所以这些法规的制定不仅是对数据隐私和个人安全的保护，并更深入地触及到AI引发的伦理问题。

而为了帮助企业安全且负责任地使用AI，国际标准化组织（ISO）也推出了全球首个AI管理系统国际标准ISO 42001（人工智能管理系统）。 这个标准涵盖了如何缩小AI信任差距、基于情景的风险评估、关键风险和责任保障的最佳实践等内容，旨在为企业提供明确的指引，帮助他们从使用AI中获取最大的价值，同时确保消费者和产业不受负面影响。

在香港，不同企业或机构也开始需要逐步适应更严谨的法规。 香港个人资料私隐专员公署今年修订了个人私隐条例中与AI相关的条文，并发布了《人工智能 （AI）：个人资料保障模范框架》，以应对AI对个人资料私隐的挑战。 此外，香港金融管理局向所有认可机构发布了一份针对应用生成式AI的消费者保护指导原则，而香港证监会也计划在本年度发出通函，阐述现行针对使用生成式人工智能的规则和实践守则。 香港政府亦于年中宣布计划制定一项全新的计算机信息安全法律。 显而易见，未来无论是开发还是使用AI技术，香港的相关实践将需要更加谨慎。

AI是一种强大的工具，它能够帮助我们解决复杂的问题并提高效率。 然而，关键在于如何负责任地使用这项技术，考虑其长期和短期的潜在后果，并在设计、使用和监控AI系统时严格遵循伦理标准和社会价值。

永盛科讯

地址：香港九龙太子道西193号新世纪广场1期1817室

电邮：info@ringus-solution.com

电话：（852） 2907 6011

网址：www.ringus-solution.com