韓國國會全體會議於2024年12月26日審議通過了《關於人工智能發展和建立信任基礎等的基本法》（以下簡稱“AI基本法”）。該法於2025年1月21日公佈，自2026年1月22日起施行。《AI基本法》是繼歐盟《人工智能法》之後的全球第二部人工智能立法。韓國科學技術資訊通信部（以下簡稱為“科技信通部”）表示，主要國家正在為推動人工智能創新和爭奪國際人工智能主導權而爭先制定有利於自身的規範，在此背景下，制定了AI基本法。AI基本法的主要內容包括為推動人工智能的發展與建立信任基礎而制定推進體系、支持人工智能產業的培育以及為高影響人工智能和生成式人工智能構建安全與信任基礎等。
“人工智能業務者”是指？
在AI基本法中，“人工智能業務者”是指從事與人工智能產業相關的業務的主體，包括人工智能開發業務者或人工智能使用業務者，涵蓋法人、團體、個人和國家機構等（第2條第7項）。“高影響人工智能”是指對人身安全及基本權利產生重大影響或可能引發危險的人工智能系統，包括在能源供應、飲用水生產過程、數位醫療設備的開發和使用、核材料及核設施的安全管理與利用、以及用於刑事偵查或逮捕的生物識別資訊分析和應用等相關領域中使用的人工智能系統（該條第4項）。
人工智能業務者需要特別關注的部分包括 (i) 第31條透明性義務，(ii) 第32條安全性義務，(iii) 第34條與高影響人工智能相關的業務者責任等。這些條款要求人工智能業務者遵守標識義務、告知義務、安全事故監測義務、風險管理方案制定義務、高影響人工智能管理與監督義務、國內代理人指定義務等。人工智能業務者有必要充分瞭解上述規定的內容，並制定和實施相應的執行方案。以下按順序作簡要介紹。
1. 確保透明性的義務
人工智能業務者在提供基於高影響人工智能或生成式人工智能的產品或服務時，應當事先告知使用者該產品或服務是基於人工智能運作的事實（第31條第1款）。
此外，人工智能業務者在提供生成式人工智能或基於此的產品或服務時，應當標明其結果是由生成式人工智能生成的事實（第31條第2款）。
若希望利用人工智能系統提供與真實情況難以區分的虛擬聲音、圖像、視頻等內容（即“深度偽造”），則須以使使用者清楚認知的方式告知和標明該內容是由人工智能系統生成的事實（第31條第3款）。但如果該內容屬於藝術性或創意性表達，或者構成其一部分，則可以採用不妨礙展示或欣賞等的方式進行告知和標識。
2. 確保安全性的義務
對於使用的累積運算量超過總統令規定標準的人工智能系統，為確保安全性，人工智能業務者應 (i) 全面識別、評估及降低人工智能生命週期中的風險； (ii) 建立監測和應對與人工智能相關安全事故的風險管理體系（第32條第1款）； (iii) 將上述各項的執行結果提交給科技信通部部長（第32條第2款）。
3. 高影響人工智能相關業務者的責任
人工智能業務者在提供高影響人工智能或基於該技術的產品或服務時，應當履行保障安全性和可靠性的義務，包括以下由總統令規定的各項措施（第34條第1款）：
- 制定和落實風險管理方案（第1項）
- 在技術上可行的範圍內，制定和實施對人工智能得出的最終結果、得出最終結果所使用的主要標準，以及用於人工智能開發和應用的學習資料概況等內容的說明方案（第2項）
- 制定和落實用戶保護方案（第3項）
- 對高影響人工智能，進行人為管理和監督（第4項）
- 撰寫和保存可以確認安全性和可靠性保障措施內容的檔（第5項）
- 其他為了確保高影響人工智能的安全性和可靠性而由人工智能委員會審議和決議的事項（第6項）
4. 事實調查 / 停止·整改命令 / 罰款
《AI基本法》還規定了針對違法行為的制裁措施。當科技信通部部長得知標識義務、安全性義務未得到遵守或高影響人工智能相關業務者違反職責的，或者對於前述事項收到舉報或投訴時，可以指派所屬公務員進入人工智能業務者的辦公室和經營場所，對帳簿、檔及其他資料或物品進行調查。如果調查結果顯示存在違法行為，可以發出停止或整改命令（第40條）。
此外，未執行停止或整改命令的人員，或違反事前告知義務（第31條第1款）的人員，將被處以3000萬韓元以下的罰款（第43條）。
5. 指定國內代理人
在韓國國內沒有地址或營業所的人工智能業務者，符合總統令規定的用戶數量、銷售額等標準的，應書面指定代理人，委託其代理包括申請確認是否屬於高影響人工智能、實施安全性和可靠性保障措施所需的支持等事項，並向科技信通部部長進行申報（第36條）。
關注後續配套規定
科技信通部於1月15日成立了立法小組，負責制定《AI基本法》的下位法令，並宣佈將成立單獨的專門小組，負責制定基於該法的重要政策（指南）和公告。《AI基本法》距離正式實施還有約一年時間，人工智能業務者需要準確理解包括《AI基本法》第31條、第32條和第34條等在內的本法的整體內容，並持續關注具體實施該法所需的下位法令和指南的制定情況，以加強風險管理。
