「人工知能の発展と信頼基盤の造成等に関する基本法(「AI基本法」)」が12月26日、韓国の国会本会議で可決された。AI基本法は国務会議での議決等を経て、公布後1年を経過した2026年1月中に施行される予定である。
 
AI基本法は、EUのAI規制法に次ぐ世界で2番目の人工知能に関する基本法となる。韓国の科学技術情報通信部は、世界の主要国が人工知能の革新と国際人工知能指導力の構築を死活問題と認識して自国に有利な規範を設けている傾向に鑑みて、AI基本法を制定したことを明らかにした。AI基本法は、韓国における人工知能の発展と信頼基盤造成のための推進体系の構築、人工知能産業育成の支援、高影響人工知能生成型人工知能に対する安全·信頼基盤造成等を主な内容としている。

「人工知能事業者」とは
 
AI基本法において「人工知能事業者」とは、人工知能産業に係る事業を行う者で、人工知能開発事業者又は人工知能利用事業者のいずれかに該当する法人、団体、個人及び国家機関等をいい(第2条第7号)、「高影響人工知能」とは、人の生命、身体の安全及び基本権に重大な影響を及ぼす、又は危険をもたらすおそれがある人工知能システムであって、エネルギー供給、飲み水の生産工程、デジタル医療機器の開発·利用、核物質・原子力施設の安全管理及び利用、犯罪捜査や逮捕業務のための生体認識情報の分析·活用等を含む関連領域で活用される人工知能システム(同条第4号)を指すものと定義している。
 
人工知能事業者に対しては、①透明性確保の義務(第31条)、②安全性確保の義務(第32条)、③高影響人工知能に関する事業者の責務(第34条)等が規定されている。具体的にこれらの条項では、人工知能事業者が遵守すべき表示義務、告知義務、安全事故モニタリング義務、危険管理方案の樹立義務、高影響人工知能管理·監督義務、国内代理人の指定義務等を課しており、人工知能事業者としてはこれを綿密に把握し、履行の施策を樹立·実施する必要がある。

本法の具体的な内容は以下のとおりである。
 
1.透明性確保の義務
 
人工知能事業者は、高影響人工知能や生成型人工知能を利用した製品·サービスを提供する場合、製品·サービスが人工知能に基づいて運用されるという事実を利用者に事前に告知しなければならない(第31条第1項)。
さらに、人工知能事業者は生成型人工知能又はこれを利用した製品·サービスを提供する場合には、その結果物が生成型人工知能によって生成されたという事実を表示しなければならない(同条第2項)。
 
人工知能システムを利用して実際と区別しにくい仮想の音響、イメージ、映像等の結果物(いわゆる「ディープフェイク」)を提供しようとするのであれば、当該結果物が人工知能システムによって生成されたという事実を利用者が明確に認識できる方式で告知·表示しなければならない(同条第3項)。ただし、当該結果物が芸術的·創意的表現物に該当、又はその一部を構成する場合には、展示又は享受等を阻害しない方式で告知·表示することができる。

2.安全性確保の義務

人工知能事業者は、学習に使用された累積演算量が大統領令で定める基準以上の人工知能システムに対しては、安全性確保のために①人工知能のライフサイクル全般にわたる危険を識別·評価·緩和し、②人工知能関連の安全事故をモニタリングして対応する危険管理体系を構築しなければならず(第32条第1項)、③上記の各事項の履行結果を科学技術情報通信部長官に提出しなければならない(同条第2項)。

3. 高影響人工知能関連事業者の責務
     
人工知能事業者は、高影響人工知能又はこれを利用した製品·サービスを提供する場合には、次の各措置を含めて大統領令で定める安全性·信頼性確保義務を履行しなければならない(第34条第1項)。
 
∙ リスク管理方案の樹立·運営(第1号)
∙ 技術的に可能な範囲で人工知能が導き出した最終結果、人工知能の最終結果を導き出すのに活用された主要基準、人工知能の開発·活用に使われた学習用データの概要等に対する説明方案の樹立·施行(第2号)
∙ 利用者保護方案の樹立·運営(第3号)
∙ 高影響人工知能に対する人の管理・監督(第4号)
∙ 安全性・信頼性確保のための措置の内容を確認できる文書の作成・保管（第5号）
∙ その他、高影響人工知能の安全性·信頼性確保のために人工知能委員会で審議·議決された事項(第6号)

4. 事実調査 / 中止·是正命令 / 過料
     
AI基本法は法違反に対する制裁手段も規定しており、科学技術情報通信部長官は、表示義務及び安全性確保の義務、高影響人工知能関連事業者の責務への違反に対して事実調査を行うことができ、これにより違反事実が認められれば中止·是正命令を発することができる(第40条)。当該中止·是正命令を履行しなかった者は、3千万ウォン以下の過料賦課の対象になり得る(第43条)。

5. 国内代理人の指定
     
韓国国内に住所又は営業所がない人工知能事業者であって、利用者数及び売上高等が大統領令で定める基準に該当する者は、高影響人工知能の該非確認の申請、安全性·信頼性確保措置の履行に必要な支援等を含む事項を代理する者を書面により指定し、これを科学技術情報通信部長官に申告しなければならない(第36条)。

今後のAI基本法の2026年1月施行に向けて、韓国政府は、今回の基本法を速やかに市場に定着できるようにするための下位法令や指針(ガイドライン)づくりといった後続措置を2025年上半期に推進する計画を発表している。