AIの誤りは誰の責任か——取締役の善管注意義務とAIガバナンス

AIの誤りは誰の責任か——取締役の善管注意義務とAIガバナンス

AIが計算した給与額に誤りがあり、200名分の支給額がずれたとします。誰が責任を負うのか。

AIは法人格を持たず、責任の主体になりません。責任を負うのは、そのAIを業務に使うと決めた会社です。そして、会社に損害が生じたとき、取締役の任務懈怠が問われる場面が出てきます。

「AIが間違えた」は、対外的にも社内的にも説明として成立しません。この前提を置いたうえで、取締役が何をしておく必要があるかを整理します。

目次

善管注意義務はAIの選定と運用に及ぶ

取締役と会社の関係は委任に関する規定に従うとされ(会社法330条)、取締役は善良な管理者の注意をもって職務を行う義務を負います(民法644条)。会社法355条は忠実義務も定めています。

この義務は、AIを導入するという経営判断にも及びます。判断の当否そのものが直ちに違法とされるわけではなく、判断の過程と内容に著しい不合理がなければ責任は問われないという整理(経営判断の原則)が働きます。

ここで効いてくるのが「判断の過程」です。どのような情報を集め、どのようなリスクを検討し、誰の意見を聞いて決めたか。AIの導入について、この過程の記録がない状態は、判断の合理性を後から立証しにくくします。

内部統制システムの構築義務との関係

取締役会設置会社では、取締役の職務の執行が法令および定款に適合することを確保するための体制その他の体制の整備について、取締役会が決定します(会社法362条4項6号)。大会社ではこの決定が義務づけられています。

AIを業務に組み込むと、この「体制」の中にAIが入ってきます。給与計算にAIを使うなら、給与計算の適正性を確保する体制にAIの管理が含まれます。従来の内部統制の枠組みを、AIの部分だけ空白にしておくことはできません。

具体的に求められるのは、次の4点です。

AI利用の方針を機関決定する。 どの業務にAIを使ってよいか、どのデータを渡してよいか、誰が承認するか。現場の判断に委ねず、方針として決めて記録します。

利用実態を把握する。 方針を決めても、実態を把握していなければ統制になりません。部門が個別に導入したツールや、担当者が個人契約で使っている生成AIを含めて台帳にします。

人による確認点を工程に置く。 AIの出力が、人の確認を経ずに外部へ出る経路を作らない。誰が何を根拠に承認したかを残します。

報告ラインを定める。 AIに起因する不具合が起きたとき、誰がいつ経営層に報告するか。事故が起きてから決めると、報告が遅れます。

日本の法令に罰則がないことの意味

日本のAI推進法は2025年6月4日に公布され、同年9月1日に全面施行されました。事業者に対する罰則規定はありません。経済産業省と総務省の「AI事業者ガイドライン」も法的拘束力を持ちません。

罰則がないことを「対応しなくてよい」と読むと、判断を誤ります。AI固有の罰則がなくても、AIを使って生じた結果には既存の法令が適用されます。

  • 給与の誤支給は、労働基準法24条の全額払いの問題になります
  • 人事データの流出は、個人情報保護法の安全管理措置違反になります
  • AIの出力を確認せずに顧客へ提供して損害が生じれば、債務不履行や不法行為の問題になります

AIを規律する法律がない状態は、責任がない状態ではありません。既存の法令がそのまま当てはまる状態です。むしろ、AI固有の免責規定がないぶん、責任の所在は会社と取締役に素直に戻ってきます。

説明できる状態を作る

任務懈怠が争われる場面で問われるのは、結果ではなく過程です。誤りが起きたこと自体より、誤りを防ぐ体制を整えていたか、整えるための判断を合理的に行ったかが見られます。

そのため、記録の残し方が実務上の焦点になります。

  • AI導入時に、どのリスクを検討し、どう評価したかの記録
  • AI利用方針とその決定過程
  • 実際にどのAIをどの業務で使っているかの台帳
  • 人が確認した記録(誰が、いつ、何を根拠に承認したか)
  • 不具合が起きた場合の検知・是正・報告の記録

いずれも、事故が起きてから作ることはできません。平時に作っておくものです。

外部の物差しとして使えるのが、AIマネジメントシステムの国際規格ISO/IEC 42001です。要求事項は上のリストとほぼ重なります。内容はISO/IEC 42001とは何かで扱いました。

まとめ

AIが誤った場合、責任はAIではなく会社と取締役に帰属します。日本にAI固有の罰則がないことは、責任がないことを意味しません。既存の法令がそのまま適用されるだけです。

取締役が備えるべきは、AI利用方針の機関決定、利用実態の把握、人による確認点の設置、報告ラインの整備の4つ。そして、それらを行った記録を残しておくこと。判断の過程を説明できる状態が、そのまま責任の範囲を画します。

AIの出力を人がどう確認するかという工程設計については「AIの精度が不安」を解消するガードレール設計入門もあわせてご覧ください。


お問い合わせ: WorkRulesアーキテクチャーズ株式会社

AIエージェント特化型|BPO契約企業180社超|SRPⅡ認証取得|特許出願済み10件

よかったらシェアしてね!
  • URLをコピーしました!
  • URLをコピーしました!

この記事を書いた人

目次