隨著人工智慧（AI）技術的日益進步，其應用範圍不斷擴大，涵蓋了各種行業和規模的企業。然而，不當或惡意地使用AI也帶來了不同的問題，繼而引發了大眾對其安全性的關注和擔憂。例如，香港今年發生了首宗利用深偽技術欺詐的案件，一家知名跨國公司的香港財務職員接到自稱是外國總公司首席財務官的短訊，並出席了網上多人的視像會議。最後被誘使轉帳導致損失達兩億港元。

為了應對這些挑戰，全球多個國家和地區開始制定相關法規。2024年3月，歐洲議會通過了具有里程碑意義的《人工智慧法案》，並於同年8月正式逐步生效，成為全球首個專門針對AI的法案。該法案根據AI帶來的潛在傷害風險高低，將AI技術分為不同等級，並針對每個等級設定相應的監管程度。而美國聯邦政府也開始積極推動人工智慧的政策和法規，並鼓勵各州也提出相關的立法和配套措施，確保國家能安全、可靠且負責任地運用人工智慧。此外，中國也有計劃性地實施針對「生成式AI」的法規，以保障用戶在使用能生成文本、圖片、音頻和視頻等內容的人工智慧模型時的安全。

由於AI學習模型主要基於大數據，數據中的偏見和歧視可能會被AI系統學習並放大，導致其輸出同樣存在偏見，例如性別、種族和年齡等方面的偏見。所以這些法規的制定不僅是對數據私隱和個人安全的保護，並更深入地觸及到AI引發的倫理問題。

而為了幫助企業安全且負責任地使用AI，國際標準化組織（ISO）也推出了全球首個AI管理系統國際標準ISO 42001（人工智慧管理系統）。這個標準涵蓋了如何縮小AI信任差距、基於情景的風險評估、關鍵風險和責任保障的最佳實踐等內容，旨在為企業提供明確的指引，幫助他們從使用AI中獲取最大的價值，同時確保消費者和產業不受負面影響。

在香港，不同企業或機構也開始需要逐步適應更嚴謹的法規。香港個人資料私隱專員公署今年修訂了個人私隱條例中與AI相關的條文，並發布了《人工智能 (AI)：個人資料保障模範框架》，以應對AI對個人資料私隱的挑戰。此外，香港金融管理局向所有認可機構發布了一份針對應用生成式AI的消費者保護指導原則，而香港證監會也計劃在本年度發出通函，闡述現行針對使用生成式人工智慧的規則和實踐守則。香港政府亦於年中宣布計劃制定一項全新的電腦資訊安全法律。顯而易見，未來無論是開發還是使用AI技術，香港的相關實踐將需要更加謹慎。

AI是一種強大的工具，它能夠幫助我們解決複雜的問題並提高效率。然而，關鍵在於如何負責任地使用這項技術，考慮其長期和短期的潛在後果，並在設計、使用和監控AI系統時嚴格遵循倫理標準和社會價值。

尹展軒

永盛科訊

地址：香港九龍太子道西193號新世紀廣場1期1817室

電郵：info@ringus-solution.com

電話：(852) 2907 6011

網址：www.ringus-solution.com