運営:一般社団法人コーチング心理学協会 協会公式サイト↗ 講座・イベントサイト↗
AI×コーチング心理学研究所AI COACHING PSYCHOLOGY LAB 講座を見る

07  /  SAFETY

AIコーチングの倫理と限界
できないことを、はっきり書く

この分野の信頼性は、「何ができるか」ではなく「何ができないと言えるか」で決まります。

AIコーチングを扱うページの多くは、メリットとプロンプトで終わります。本サイトが倫理を独立したページにしているのは、これが専門性の証明にあたる部分だと考えているからです。

AIコーチング 倫理AI 危険性AI 個人情報ハルシネーション AI バイアスAI依存守秘義務AI 心理支援 限界

一般社団法人コーチング心理学協会 / AI×コーチング心理学研究所 / AIコーチングの倫理と限界

01 / 限界

AIにできないことを最初に書く

メリットの前に、限界を置きます。順序そのものが姿勢の表明です。

結論:AIには、努力や設定では乗り越えられない構造的な限界があります。もっとも重大なのは、危機を察知して適切な機関につなぐことができない点です。
表1:AIにできること/できないこと
AIにできることAIにできないことなぜできないのか
質問を大量に出すその人にとって決定的な1問を選ぶその人の文脈と歴史を把握していない
選択肢を広げる選択に責任を持つ結果を引き受ける主体になれない
事実を整理して並べる事実かどうかを保証する確率的に文を生成する仕組みだから
言葉を言い換える沈黙や表情の意味を読むテキスト以外の情報を持たない
記録を要約する関係のなかで変化を支える関係の継続性と相互性がない
繰り返し練習に付き合う危機を察知して専門機関につなぐ行動する主体を持たない
一般的な知識を提供する医学的・心理学的な診断をする診断は資格を持つ専門職の行為
安全に関する最重要事項:眠れない、食欲がない、気分が晴れない状態が2週間以上続く、消えてしまいたい気持ちがある——このような場合は、AIとの対話ではなく、医療機関や公的な相談窓口を利用してください。AIコーチングは、健康な範囲での学習・目標達成・自己理解を対象としています。
02 / 原則

AIコーチングの7つの設計原則

これらは特別なものではなく、対人支援の倫理をAIの文脈に翻訳したものです。

結論:AIを支援の文脈で使うときの原則は、おおむね透明性・自律性・プライバシー・公平性・無危害・アカウンタビリティ・目的との整合の7つに整理できます。
表2:AIコーチングの7つの設計原則と実装例
原則内容実務での具体例
透明性と継続的な同意AIを使っていることを隠さない。誰がどの目的で使うのかを明示し、途中でやめられる状態を保つ。1on1でAIを使うなら、事前に相手に伝える。「実は前にAIで整理していた」を後から言わない。
自律性の尊重決めるのは本人であるという構造を崩さない。AIに結論を出させない設計にする。プロンプトに「助言はせず質問だけ」と書く。参加を強制しない。
プライバシーとデータ保護入力してよい情報の範囲を先に決める。第三者の情報は本人の同意なく入力しない。氏名・所属・健康情報・顧客情報を入力しない。固有名詞を外してから相談する。
公平性AIの出力に含まれる偏りを前提として扱う。特定の生き方や働き方を正解として提示しない。「反対の立場からも述べてください」と明示的に求める。
無危害と善行害を与えないことを、役に立つことより優先する。危機の兆候があれば、AIの利用を中断して専門機関につなぐ。危機時の相談先を、AIの外側(紙・掲示・社内文書)にあらかじめ用意しておく。
アカウンタビリティAIの出力について、誰が責任を持つのかを明確にする。「AIが言ったから」を理由にしない。組織で使う場合、利用範囲と責任者を文書化する。
目的との整合AIを導入する目的が、支援なのか管理なのかを曖昧にしない。管理目的なら、そう明示する。AIが出したスコアを人事評価に使わない。使うなら事前に明示する。

国内では、AIの利用にあたって人間中心・安全性・公平性・プライバシー保護・セキュリティ確保・透明性・アカウンタビリティといった考え方が政府のガイドラインでも示されています。組織で導入する際は、最新版を確認してください。

03 / 入力

AIに入力してはいけない情報

もっとも起きやすい事故は、悪意ではなく「つい書いてしまう」ことによるものです。

結論:原則は「入力した内容は、外部に出ても困らないか」で判断することです。判断に迷うなら、入力しないのが正解です。
表3:入力してはいけない情報の6分類
分類具体例どうするか
本人を特定できる情報氏名・住所・電話番号・メールアドレス・社員番号・顔写真入力しない。相談は一般化した形に書き換える
第三者の情報上司や部下の氏名・評価・家庭の事情・健康状態入力しない。「ある同僚」など匿名化しても、詳細な状況は避ける
健康・医療情報診断名・受診歴・服薬・検査結果入力しない。医療上の判断は医療機関で
組織の非公開情報顧客情報・売上・人事情報・未公開の計画・契約内容入力しない。社内のAI利用規程を確認する
認証情報パスワード・APIキー・アクセストークン絶対に入力しない
特定される具体的なエピソード日時・場所・人数まで揃った出来事状況を抽象化してから入力する

書き換えの例

表4:相談内容の書き換え例
そのまま書くと危険な文書き換えた文
営業2課の田中さんが、先週の会議で私のミスを指摘してきて…同じ部署の同僚から、会議の場で指摘を受けました
うつ病と診断されて、○○という薬を飲んでいるのですが(医療に関わる内容のため、AIには相談せず医療機関へ)
A社との契約が来月更新で、条件は月額○○万円なのですが取引先との契約更新を控えており、条件面の交渉があります
部下のBさんの評価をCにしようと思っていて評価を下げざるを得ないメンバーへの伝え方を考えています
組織で使う場合:入力してよい情報の範囲を、利用者の判断に委ねないでください。「これは入れてよいか」を一人ひとりが考える設計は、必ず事故が起きます。入力禁止情報の一覧を文書として配り、それ以外を扱わないルールにするのが現実的です。
04 / リスク

6つのリスクと、その対処

リスクを知っていることと、対処を用意していることは別です。両方を並べます。

結論:リスクはハルシネーション・バイアス・過度な同調・AI依存・情報漏えい・境界の侵犯の6つに整理できます。いずれも、使い方の設計で一定程度は下げられます。
RISK

ハルシネーション

存在しない研究、実在しない統計、架空の書籍を、もっともらしい形で生成する現象。

対処

  • 事実に関わる部分は、必ず一次情報で確認する
  • 「出典を教えてください」と聞いても、出典自体が生成されることがある
  • 問いを出させる用途では影響が小さい(事実の正確さを問わないため)
RISK

バイアス

学習データに含まれる価値観の偏りが出力に現れる。特定の生き方や働き方が望ましいものとして語られる。

対処

  • 「反対の立場からも述べてください」と明示的に求める
  • 複数の選択肢を並列に出させ、順位づけをさせない
  • キャリアや生き方に関する助言は、とくに慎重に扱う
RISK

過度な同調

利用者に同意しやすい傾向があり、都合のよい解釈が強化されることがある。

対処

  • 「私の考えの弱点を質問の形で指摘してください」と依頼する
  • 評価や励ましを禁止するプロンプトを使う
  • 重要な判断は、AI以外の意見も聞く
RISK

AI依存

常に答えてくれるため、自分で考える前に聞く習慣がつく。判断そのものを委ね始めると危険。

対処

  • AIに結論を出させない(質問だけさせる)
  • 決定は必ず自分の言葉で書く
  • 週に一度はAIを使わずに振り返る日を作る
RISK

情報漏えい

入力内容の扱いはサービスの規約に依存する。学習に使われる設定になっていることもある。

対処

  • 利用しているサービスのデータ利用設定を確認する
  • 組織では、法人向けプランや設定の統一を検討する
  • 入力禁止情報の一覧を文書化する
RISK

境界の侵犯

コーチングの範囲を超え、実質的に心理療法や医療行為に近い相談になってしまう。

対処

  • 危機の兆候が出たら、対話を続けずに専門機関を案内する
  • 支援職がAIを使う場合、守秘義務と職業倫理が優先する
  • 「診断してください」という依頼には応じない設計にする
05 / 境界

AIを使ってよい範囲と、人につなぐべき場面

コーチングと心理療法の境界は、越えてはいけない線です。

結論:判断の基準は「生活に支障が出ているかどうか」です。支障が出ている状態は、コーチングの範囲ではありません。
表5:状態に応じた支援の選択とAIの役割
状態適した支援AIの役割
目標を立てて進めたいコーチング問いを出す・記録する・振り返りを助ける
自分の強みや価値観を知りたいコーチング場面を集め、共通点を質問で引き出す
仕事や進路の選択肢を広げたいコーチング/キャリア支援選択肢を大量に列挙する
気分の落ち込みが2週間以上続く医療機関使わない。相談先の情報を確認するのみ
眠れない・食べられない状態が続く医療機関使わない
消えてしまいたい気持ちがある医療機関・相談窓口(すぐに)使わない
過去のつらい体験がよみがえる心理職・医療機関使わない
ハラスメント・暴力を受けている専門の相談窓口・法的支援使わない

人間のコーチが必要な場面

支援職の方へ:業務でAIを使う場合、所属団体の職業倫理と守秘義務が最優先です。クライアントの情報をAIに入力することは、原則として避けてください。詳しくは AIコーチングとは の比較表もご覧ください。

06 / 組織導入

組織で導入するときのチェックリスト

個人利用と組織導入では、注意すべき点が大きく異なります。

結論:導入の成否を分けるのは、ツールの選定ではなく「記録を評価に使わない」と明言できるかどうかです。
表6:組織導入のチェックリスト10項目
確認事項確認内容
目的の明示支援が目的か、管理が目的かを明示しているか
参加の任意性参加を強制していないか。不参加による不利益がないか
入力禁止情報入力してはいけない情報の一覧を文書で配布しているか
データの扱い利用サービスの学習設定・保存期間を確認しているか
評価との分離AIの記録やスコアを人事評価に使わないと明言しているか
1on1での扱い面談中にAIを使わない運用になっているか
危機時の導線不調の兆候が出たときの相談先を、AIの外側に用意しているか
責任の所在AIの出力に関する責任者を定めているか
見直しの周期運用ルールを定期的に見直す仕組みがあるか
教育使う側に、質問技法とAIの限界の教育を行っているか

とくに最後の「教育」は見落とされがちです。ツールを配っただけでは、AIは助言者として使われ、対話は1往復で終わります。質問技法とフィードバックの基礎を学んだ人が使うと、同じツールでも結果がまったく変わります。

07 / FAQ

よくある質問

安全と境界

AIに悩みを相談する危険性は何ですか?

危機に対応できないこと、事実を保証しないこと、利用者に同調しやすく都合のよい解釈が強化されること、そして入力内容が外部に残る可能性があることです。深刻な不調では利用を避けてください。

どこまでがAIコーチングの範囲ですか?

判断の基準は「生活に支障が出ているかどうか」です。目標を立てて進める、強みを知る、選択肢を広げるといった健康な範囲での活動が対象です。支障が出ている状態は、医療機関や専門相談窓口の領域です。

AIは心理療法の代わりになりますか?

なりません。本格的な心理療法は、訓練を受けた専門家が診断と見立てにもとづいて行う治療です。AIを用いた心理支援の効果検証でも、有意な効果が確認されたのは一部にとどまるという整理があります。

人間のコーチが必要なのはどんな場面ですか?

人生の方向を左右する意思決定、強い感情がともなう話、自分では気づけないパターンの指摘、言わないでおこうと思ったことを扱うとき、そして変化を関係のなかで支えてほしいときです。

支援職がクライアントの相談内容をAIに入力してもよいですか?

原則として避けてください。所属団体の職業倫理と守秘義務が最優先です。どうしても使う場合は、個人が特定できる情報を完全に外し、所属先の規程を確認してください。

個人情報とデータ

AIに個人情報を入力しても大丈夫ですか?

入力しないでください。氏名・所属・連絡先、第三者の情報、健康・医療情報、組織の非公開情報、認証情報の5分類は特に危険です。相談内容は固有名詞を外し、状況を一般化してから入力してください。

入力した内容は学習に使われますか?

サービスと設定によって異なります。利用しているサービスのデータ利用設定を確認してください。組織で使う場合は、法人向けプランや設定の統一を検討することをおすすめします。

匿名化すれば大丈夫ですか?

氏名を伏せても、部署・時期・出来事の詳細が揃うと個人が特定できることがあります。状況そのものを抽象化してから入力してください。

記録はどこに残せばよいですか?

AIの会話履歴に頼らず、自分で管理できる場所に残すことをおすすめします。ノート、メモアプリ、表計算ソフトなど何でも構いません。

AIの出力の扱い

ハルシネーションとは何ですか?

AIが、存在しない研究や統計、架空の書籍を、もっともらしい形で生成する現象です。出典を尋ねても出典自体が生成されることがあるため、事実に関わる部分は一次情報での確認が必要です。

AIの回答に偏りはありますか?

あります。学習データに含まれる価値観の偏りが出力に現れ、特定の生き方や働き方が望ましいものとして語られることがあります。「反対の立場からも述べてください」と明示的に求めることで、一部は緩和できます。

AIが私に同意しすぎている気がします。

生成AIには利用者に同調しやすい傾向があります。「私の考えの弱点を質問の形で指摘してください」と依頼するか、評価と励ましを禁止するプロンプトを使ってください。

AIが出した性格分析を信じてもよいですか?

確定した事実として受け取らないでください。AIの出力は仮説であり、検証するのは自分自身の経験です。「私はこういう人だ」と断定させず、「そう考えられる根拠は何か」と問い返してください。

AI依存と組織導入

AIに依存してしまわないか心配です。

妥当な懸念です。判断そのものをAIに委ね始めたら注意信号です。対策は3つあります。AIに結論を出させない(質問だけさせる)、決定は必ず自分の言葉で書く、週に一度はAIを使わずに振り返る、です。

職場でAIコーチングを導入する際の注意点は?

利用範囲・入力禁止情報・記録の扱いを文書化すること、参加を強制しないこと、AIが出したスコアを人事評価に使わないことが最低条件です。あわせて、使う側への質問技法の教育が必要です。

1on1にAIを使ってもよいですか?

面談の前(論点整理)と後(振り返り)に使い、面談中は使わない運用を推奨します。使っていることを相手に事前に伝えることも重要です。後から知らされると、信頼が損なわれます。

AIの出力に責任は誰が持つのですか?

使った人と、導入した組織です。「AIが言ったから」は理由になりません。組織で使う場合は、責任者と利用範囲を文書化してください。

08 / 次に読む

次に読むページ

AIを使う人にこそ、対話の基礎が必要です

AIの出力をどう扱うか、どこで人につなぐかは、質問技法とフィードバックの基礎があってはじめて判断できます。コーチング心理学協会では、演習中心のワークショップでこれらを学べます。

ご相談・ご提案の段階で費用はかかりません。

AI時代のコーチング心理学を、体系的に学ぶ。講座を見る