韩国国会全体会议于2024年12月26日审议通过了《关于人工智能发展和建立信任基础等的基本法》（以下简称“AI基本法”）。该法于2025年1月21日公布，自2026年1月22日起施行。《AI基本法》是继欧盟《人工智能法》之后的全球第二部人工智能立法。韩国科学技术信息通信部（以下简称为“科技信通部”）表示，主要国家正在为推动人工智能创新和争夺国际人工智能主导权而争先制定有利于自身的规范，在此背景下，制定了AI基本法。AI基本法的主要内容包括为推动人工智能的发展与建立信任基础而制定推进体系、支持人工智能产业的培育以及为高影响人工智能和生成式人工智能构建安全与信任基础等。
“人工智能业务者”是指？
在AI基本法中，“人工智能业务者”是指从事与人工智能产业相关的业务的主体，包括人工智能开发业务者或人工智能使用业务者，涵盖法人、团体、个人和国家机构等（第2条第7项）。“高影响人工智能”是指对人身安全及基本权利产生重大影响或可能引发危险的人工智能系统，包括在能源供应、饮用水生产过程、数字医疗设备的开发和使用、核材料及核设施的安全管理与利用、以及用于刑事侦查或逮捕的生物识别信息分析和应用等相关领域中使用的人工智能系统（该条第4项）。
人工智能业务者需要特别关注的部分包括 (i) 第31条透明性义务，(ii) 第32条安全性义务，(iii) 第34条与高影响人工智能相关的业务者责任等。这些条款要求人工智能业务者遵守标识义务、告知义务、安全事故监测义务、风险管理方案制定义务、高影响人工智能管理与监督义务、国内代理人指定义务等。人工智能业务者有必要充分了解上述规定的内容，并制定和实施相应的执行方案。以下按顺序作简要介绍。
1. 确保透明性的义务
人工智能业务者在提供基于高影响人工智能或生成式人工智能的产品或服务时，应当事先告知用户该产品或服务是基于人工智能运作的事实（第31条第1款）。
此外，人工智能业务者在提供生成式人工智能或基于此的产品或服务时，应当标明其结果是由生成式人工智能生成的事实（第31条第2款）。
若希望利用人工智能系统提供与真实情况难以区分的虚拟声音、图像、视频等内容（即“深度伪造”），则须以使用户清楚认知的方式告知和标明该内容是由人工智能系统生成的事实（第31条第3款）。但如果该内容属于艺术性或创意性表达，或者构成其一部分，则可以采用不妨碍展示或欣赏等的方式进行告知和标识。
2. 确保安全性的义务
对于使用的累积运算量超过总统令规定标准的人工智能系统，为确保安全性，人工智能业务者应 (i) 全面识别、评估及降低人工智能生命周期中的风险； (ii) 建立监测和应对与人工智能相关安全事故的风险管理体系（第32条第1款）； (iii) 将上述各项的执行结果提交给科技信通部部长（第32条第2款）。
3. 高影响人工智能相关业务者的责任
人工智能业务者在提供高影响人工智能或基于该技术的产品或服务时，应当履行保障安全性和可靠性的义务，包括以下由总统令规定的各项措施（第34条第1款）：
- 制定和落实风险管理方案（第1项）
- 在技术上可行的范围内，制定和实施对人工智能得出的最终结果、得出最终结果所使用的主要标准，以及用于人工智能开发和应用的学习数据概况等内容的说明方案（第2项）
- 制定和落实用户保护方案（第3项）
- 对高影响人工智能，进行人为管理和监督（第4项）
- 撰写和保存可以确认安全性和可靠性保障措施内容的文件（第5项）
- 其他为了确保高影响人工智能的安全性和可靠性而由人工智能委员会审议和决议的事项（第6项）
4. 事实调查 / 停止·整改命令 / 罚款
《AI基本法》还规定了针对违法行为的制裁措施。当科技信通部部长得知标识义务、安全性义务未得到遵守或高影响人工智能相关业务者违反职责的，或者对于前述事项收到举报或投诉时，可以指派所属公务员进入人工智能业务者的办公室和经营场所，对账簿、文件及其他资料或物品进行调查。如果调查结果显示存在违法行为，可以发出停止或整改命令（第40条）。
此外，未执行停止或整改命令的人员，或违反事前告知义务（第31条第1款）的人员，将被处以3000万韩元以下的罚款（第43条）。
5. 指定国内代理人
在韩国国内没有地址或营业所的人工智能业务者，符合总统令规定的用户数量、销售额等标准的，应书面指定代理人，委托其代理包括申请确认是否属于高影响人工智能、实施安全性和可靠性保障措施所需的支持等事项，并向科技信通部部长进行申报（第36条）。
关注后续配套规定
科技信通部于1月15日成立了立法小组，负责制定《AI基本法》的下位法令，并宣布将成立单独的专门小组，负责制定基于该法的重要政策（指南）和公告。《AI基本法》距离正式实施还有约一年时间，人工智能业务者需要准确理解包括《AI基本法》第31条、第32条和第34条等在内的本法的整体内容，并持续关注具体实施该法所需的下位法令和指南的制定情况，以加强风险管理。
