07 / SAFETY
この分野の信頼性は、「何ができるか」ではなく「何ができないと言えるか」で決まります。
AIコーチングを扱うページの多くは、メリットとプロンプトで終わります。本サイトが倫理を独立したページにしているのは、これが専門性の証明にあたる部分だと考えているからです。
一般社団法人コーチング心理学協会 / AI×コーチング心理学研究所 / AIコーチングの倫理と限界
メリットの前に、限界を置きます。順序そのものが姿勢の表明です。
| AIにできること | AIにできないこと | なぜできないのか |
|---|---|---|
| 質問を大量に出す | その人にとって決定的な1問を選ぶ | その人の文脈と歴史を把握していない |
| 選択肢を広げる | 選択に責任を持つ | 結果を引き受ける主体になれない |
| 事実を整理して並べる | 事実かどうかを保証する | 確率的に文を生成する仕組みだから |
| 言葉を言い換える | 沈黙や表情の意味を読む | テキスト以外の情報を持たない |
| 記録を要約する | 関係のなかで変化を支える | 関係の継続性と相互性がない |
| 繰り返し練習に付き合う | 危機を察知して専門機関につなぐ | 行動する主体を持たない |
| 一般的な知識を提供する | 医学的・心理学的な診断をする | 診断は資格を持つ専門職の行為 |
これらは特別なものではなく、対人支援の倫理をAIの文脈に翻訳したものです。
| 原則 | 内容 | 実務での具体例 |
|---|---|---|
| 透明性と継続的な同意 | AIを使っていることを隠さない。誰がどの目的で使うのかを明示し、途中でやめられる状態を保つ。 | 1on1でAIを使うなら、事前に相手に伝える。「実は前にAIで整理していた」を後から言わない。 |
| 自律性の尊重 | 決めるのは本人であるという構造を崩さない。AIに結論を出させない設計にする。 | プロンプトに「助言はせず質問だけ」と書く。参加を強制しない。 |
| プライバシーとデータ保護 | 入力してよい情報の範囲を先に決める。第三者の情報は本人の同意なく入力しない。 | 氏名・所属・健康情報・顧客情報を入力しない。固有名詞を外してから相談する。 |
| 公平性 | AIの出力に含まれる偏りを前提として扱う。特定の生き方や働き方を正解として提示しない。 | 「反対の立場からも述べてください」と明示的に求める。 |
| 無危害と善行 | 害を与えないことを、役に立つことより優先する。危機の兆候があれば、AIの利用を中断して専門機関につなぐ。 | 危機時の相談先を、AIの外側(紙・掲示・社内文書)にあらかじめ用意しておく。 |
| アカウンタビリティ | AIの出力について、誰が責任を持つのかを明確にする。「AIが言ったから」を理由にしない。 | 組織で使う場合、利用範囲と責任者を文書化する。 |
| 目的との整合 | AIを導入する目的が、支援なのか管理なのかを曖昧にしない。管理目的なら、そう明示する。 | AIが出したスコアを人事評価に使わない。使うなら事前に明示する。 |
国内では、AIの利用にあたって人間中心・安全性・公平性・プライバシー保護・セキュリティ確保・透明性・アカウンタビリティといった考え方が政府のガイドラインでも示されています。組織で導入する際は、最新版を確認してください。
もっとも起きやすい事故は、悪意ではなく「つい書いてしまう」ことによるものです。
| 分類 | 具体例 | どうするか |
|---|---|---|
| 本人を特定できる情報 | 氏名・住所・電話番号・メールアドレス・社員番号・顔写真 | 入力しない。相談は一般化した形に書き換える |
| 第三者の情報 | 上司や部下の氏名・評価・家庭の事情・健康状態 | 入力しない。「ある同僚」など匿名化しても、詳細な状況は避ける |
| 健康・医療情報 | 診断名・受診歴・服薬・検査結果 | 入力しない。医療上の判断は医療機関で |
| 組織の非公開情報 | 顧客情報・売上・人事情報・未公開の計画・契約内容 | 入力しない。社内のAI利用規程を確認する |
| 認証情報 | パスワード・APIキー・アクセストークン | 絶対に入力しない |
| 特定される具体的なエピソード | 日時・場所・人数まで揃った出来事 | 状況を抽象化してから入力する |
| そのまま書くと危険な文 | 書き換えた文 |
|---|---|
| 営業2課の田中さんが、先週の会議で私のミスを指摘してきて… | 同じ部署の同僚から、会議の場で指摘を受けました |
| うつ病と診断されて、○○という薬を飲んでいるのですが | (医療に関わる内容のため、AIには相談せず医療機関へ) |
| A社との契約が来月更新で、条件は月額○○万円なのですが | 取引先との契約更新を控えており、条件面の交渉があります |
| 部下のBさんの評価をCにしようと思っていて | 評価を下げざるを得ないメンバーへの伝え方を考えています |
リスクを知っていることと、対処を用意していることは別です。両方を並べます。
存在しない研究、実在しない統計、架空の書籍を、もっともらしい形で生成する現象。
対処
学習データに含まれる価値観の偏りが出力に現れる。特定の生き方や働き方が望ましいものとして語られる。
対処
利用者に同意しやすい傾向があり、都合のよい解釈が強化されることがある。
対処
常に答えてくれるため、自分で考える前に聞く習慣がつく。判断そのものを委ね始めると危険。
対処
入力内容の扱いはサービスの規約に依存する。学習に使われる設定になっていることもある。
対処
コーチングの範囲を超え、実質的に心理療法や医療行為に近い相談になってしまう。
対処
コーチングと心理療法の境界は、越えてはいけない線です。
| 状態 | 適した支援 | AIの役割 |
|---|---|---|
| 目標を立てて進めたい | コーチング | 問いを出す・記録する・振り返りを助ける |
| 自分の強みや価値観を知りたい | コーチング | 場面を集め、共通点を質問で引き出す |
| 仕事や進路の選択肢を広げたい | コーチング/キャリア支援 | 選択肢を大量に列挙する |
| 気分の落ち込みが2週間以上続く | 医療機関 | 使わない。相談先の情報を確認するのみ |
| 眠れない・食べられない状態が続く | 医療機関 | 使わない |
| 消えてしまいたい気持ちがある | 医療機関・相談窓口(すぐに) | 使わない |
| 過去のつらい体験がよみがえる | 心理職・医療機関 | 使わない |
| ハラスメント・暴力を受けている | 専門の相談窓口・法的支援 | 使わない |
支援職の方へ:業務でAIを使う場合、所属団体の職業倫理と守秘義務が最優先です。クライアントの情報をAIに入力することは、原則として避けてください。詳しくは AIコーチングとは の比較表もご覧ください。
個人利用と組織導入では、注意すべき点が大きく異なります。
| 確認事項 | 確認内容 |
|---|---|
| 目的の明示 | 支援が目的か、管理が目的かを明示しているか |
| 参加の任意性 | 参加を強制していないか。不参加による不利益がないか |
| 入力禁止情報 | 入力してはいけない情報の一覧を文書で配布しているか |
| データの扱い | 利用サービスの学習設定・保存期間を確認しているか |
| 評価との分離 | AIの記録やスコアを人事評価に使わないと明言しているか |
| 1on1での扱い | 面談中にAIを使わない運用になっているか |
| 危機時の導線 | 不調の兆候が出たときの相談先を、AIの外側に用意しているか |
| 責任の所在 | AIの出力に関する責任者を定めているか |
| 見直しの周期 | 運用ルールを定期的に見直す仕組みがあるか |
| 教育 | 使う側に、質問技法とAIの限界の教育を行っているか |
とくに最後の「教育」は見落とされがちです。ツールを配っただけでは、AIは助言者として使われ、対話は1往復で終わります。質問技法とフィードバックの基礎を学んだ人が使うと、同じツールでも結果がまったく変わります。
安全と境界
危機に対応できないこと、事実を保証しないこと、利用者に同調しやすく都合のよい解釈が強化されること、そして入力内容が外部に残る可能性があることです。深刻な不調では利用を避けてください。
判断の基準は「生活に支障が出ているかどうか」です。目標を立てて進める、強みを知る、選択肢を広げるといった健康な範囲での活動が対象です。支障が出ている状態は、医療機関や専門相談窓口の領域です。
なりません。本格的な心理療法は、訓練を受けた専門家が診断と見立てにもとづいて行う治療です。AIを用いた心理支援の効果検証でも、有意な効果が確認されたのは一部にとどまるという整理があります。
人生の方向を左右する意思決定、強い感情がともなう話、自分では気づけないパターンの指摘、言わないでおこうと思ったことを扱うとき、そして変化を関係のなかで支えてほしいときです。
原則として避けてください。所属団体の職業倫理と守秘義務が最優先です。どうしても使う場合は、個人が特定できる情報を完全に外し、所属先の規程を確認してください。
個人情報とデータ
入力しないでください。氏名・所属・連絡先、第三者の情報、健康・医療情報、組織の非公開情報、認証情報の5分類は特に危険です。相談内容は固有名詞を外し、状況を一般化してから入力してください。
サービスと設定によって異なります。利用しているサービスのデータ利用設定を確認してください。組織で使う場合は、法人向けプランや設定の統一を検討することをおすすめします。
氏名を伏せても、部署・時期・出来事の詳細が揃うと個人が特定できることがあります。状況そのものを抽象化してから入力してください。
AIの会話履歴に頼らず、自分で管理できる場所に残すことをおすすめします。ノート、メモアプリ、表計算ソフトなど何でも構いません。
AIの出力の扱い
AIが、存在しない研究や統計、架空の書籍を、もっともらしい形で生成する現象です。出典を尋ねても出典自体が生成されることがあるため、事実に関わる部分は一次情報での確認が必要です。
あります。学習データに含まれる価値観の偏りが出力に現れ、特定の生き方や働き方が望ましいものとして語られることがあります。「反対の立場からも述べてください」と明示的に求めることで、一部は緩和できます。
生成AIには利用者に同調しやすい傾向があります。「私の考えの弱点を質問の形で指摘してください」と依頼するか、評価と励ましを禁止するプロンプトを使ってください。
確定した事実として受け取らないでください。AIの出力は仮説であり、検証するのは自分自身の経験です。「私はこういう人だ」と断定させず、「そう考えられる根拠は何か」と問い返してください。
AI依存と組織導入
妥当な懸念です。判断そのものをAIに委ね始めたら注意信号です。対策は3つあります。AIに結論を出させない(質問だけさせる)、決定は必ず自分の言葉で書く、週に一度はAIを使わずに振り返る、です。
利用範囲・入力禁止情報・記録の扱いを文書化すること、参加を強制しないこと、AIが出したスコアを人事評価に使わないことが最低条件です。あわせて、使う側への質問技法の教育が必要です。
面談の前(論点整理)と後(振り返り)に使い、面談中は使わない運用を推奨します。使っていることを相手に事前に伝えることも重要です。後から知らされると、信頼が損なわれます。
使った人と、導入した組織です。「AIが言ったから」は理由になりません。組織で使う場合は、責任者と利用範囲を文書化してください。
AIの出力をどう扱うか、どこで人につなぐかは、質問技法とフィードバックの基礎があってはじめて判断できます。コーチング心理学協会では、演習中心のワークショップでこれらを学べます。
ご相談・ご提案の段階で費用はかかりません。