children-profiling-limits

子どものプロファイリングに関する制限

概要

複数の規制枠組みにおいて、子どものプロファイリングには厳格な制限が適用されます。GDPR 前文 71 では、プロファイリングを含む自動化された意思決定は「子どもに関するものであってはならない」とされています。英国 AADC 基準 12 では、子どもユーザーについてプロファイリングをデフォルトでオフにすることが求められており、例外が認められるのは、管理者がやむを得ない理由と適切な保護措置を示せる場合に限られます。EU デジタルサービス法（DSA）第 28 条第 2 項は、未成年者の個人データを用いたプロファイリングに基づくターゲティング広告をオンラインプラットフォームが表示することを明確に禁止しています。COPPA は、検証可能な保護者の同意を得ずに、行動ターゲティング広告を目的として子どもから永続的識別子を収集することを禁止しています。このスキルは、子どもの禁止対象となるプロファイリングを避けるため、適法かつ倫理的なデータ処理の包括的な枠組みを定めています。

法的枠組み

GDPR 前文 71 — 子どもと自動化された意思決定

「いかなる場合も、このような処理には適切な保護措置を講じるものとし、その保護措置には、データ主体への具体的な情報提供、人間の介入を得る権利、自分の見解を表明する権利、当該評価後に下された決定の説明を得る権利、および決定に異議を申し立てる権利を含めるものとする。このような措置は、子どもに関するものであってはならない。」

EDPB は、「子どもに関するものであってはならない」という文言を、法的効果または同様に重大な影響をもたらす、プロファイリングに基づく自動化された意思決定の対象に子どもをすることに対する強い推定として解釈しています。「あってはならない」は「してはならない」よりも弱い表現ですが、例外的な状況に該当しない限り、EDPB のガイダンスとデータ保護機関（DPA）の執行実務では、実質的な禁止として扱われています。

GDPR 第 22 条 — 自動化された個人に関する意思決定

第 22 条第 1 項：「データ主体は、プロファイリングを含む、自動化された処理のみに基づく決定であって、自分に関する法的効果を生じさせるもの、または自分に同様に重大な影響を及ぼすものの対象とされない権利を有する。」

子どもについては、この禁止が前文 71 によって強化されています。第 22 条第 2 項の例外（契約の履行に必要な場合、法律による許可、明示的な同意）は、子どもについて厳格に解釈されます。

• 契約の履行に必要な場合（第 22 条第 2 項（a））：子どもに適用できることはまれです。子どもの契約は、多くの場合、取り消し可能です。
• 法律による許可（第 22 条第 2 項（b））：年齢確認や子どもの安全に関する義務に適用される場合があります。
• 明示的な同意（第 22 条第 2 項（c））：基準年齢未満の子どもについては、第 8 条に基づく保護者の同意でなければなりません。子ども自身の明示的な同意だけでは不十分です。

GDPR 第 4 条第 4 項 — プロファイリングの定義

「プロファイリングとは、自然人に関する特定の個人的側面を評価するために個人データを利用することから成る、あらゆる形式の個人データの自動化された処理を意味します。特に、自然人の業務上の実績、経済状況、健康、個人的な好み、関心、信頼性、行動、所在または移動に関する側面を分析または予測することを指します。」

英国 AADC 基準 12 — プロファイリング

「プロファイリングを利用するオプションは、デフォルトでオフにしてください（子どもの最善の利益を考慮したうえで、デフォルトでプロファイリングをオンにするやむを得ない理由を示せる場合を除きます）。子どもを有害な影響から保護する適切な措置を講じている場合に限り、プロファイリングを許可してください。有害な影響には、子どもの健康やウェルビーイングを損なうコンテンツを子どもに表示することなどが含まれますが、これらに限定されません。」

英国 AADC 基準 13 — ナッジ技法

「不要な個人データを提供するよう子どもを誘導または促したり、プライバシー保護を弱めたり無効にしたりするために、ナッジ技法を使用してはなりません。」

EU デジタルサービス法 — 第 28 条第 2 項

「オンラインプラットフォームの提供者は、サービスの受領者が未成年者であることを合理的な確実性をもって認識している場合、規則（EU）2016/679 第 4 条第 4 号に定義されるプロファイリングに基づき、サービスの受領者の個人データを用いた広告をインターフェース上に表示してはならない。」

COPPA — 永続的識別子

COPPAでは、内部業務のサポート以外の目的で使用される場合、永続的識別子を個人情報と定義しています。子どもに行動ターゲティング広告を配信するために永続的識別子を使用するには、検証可能な保護者の同意が必要です。

プロファイリングの種類と子どもに対する扱い

禁止されるプロファイリング

プロファイリングの種類	説明	規制上の根拠	扱い
行動ターゲティング広告	閲覧履歴、インタラクションのパターン、または推定された関心に基づき、ターゲット広告を配信すること	DSA Art. 28(2), AADC Std 12, COPPA	子どもに対して禁止 — DSA に例外規定はありません
ソーシャルスコアリング	インタラクションに基づいて、子どもの社会的地位、人気、または評判を評価すること	AADC Std 5, Recital 71	禁止 — ウェルビーイングを損ないます
感情プロファイリング	行動上の兆候（タイピング速度、カーソルの動き、表情）から感情状態を推定し、コンテンツやマーケティングを調整すること	AADC Std 5, Art. 9（メンタルヘルスを推定する場合）	禁止 — 発達上の脆弱性を悪用します
商業ターゲティングのための予測分析	将来の購買行動、マーケティングへの影響されやすさ、または価格感度を予測すること	AADC Std 5, Recital 71	禁止 — 子どもを商業的に搾取します
サービス横断的な行動追跡	複数のサービスやウェブサイトのデータを組み合わせて、包括的な行動プロファイルを構築すること	AADC Std 9, COPPA, DSA Art. 28(2)	禁止 — 子どもに関する正当な目的の範囲を超えます

制限付きプロファイリング（保護措置を講じれば許可）

プロファイリングの種類	説明	合法性の条件
コンテンツベースのレコメンデーション	子どもの個人プロファイルではなく、子どもが利用したコンテンツの特性に基づいてコンテンツを推薦すること	デフォルト：OFF。保護者の同意があれば有効にできます。コンテンツの多様性を確保する保護措置が必要です。
教育向けアダプティブラーニング	学習の進捗に基づいて教育コンテンツの難易度を調整すること	教育目的に必要な場合は許可されます。教育以外の機能に拡張してはなりません。DPO によるレビューが必要です。
安全確保とモデレーションのためのプロファイリング	コミュニケーション内のグルーミング、いじめ、または虐待のパターンを検出すること	正当な利益（保護）の下で許可されます。比例性を保ち、DPIA の対象とする必要があります。商業目的で使用してはなりません。
年齢に適したコンテンツのフィルタリング	年齢データを使って不適切なコンテンツをフィルタリングすること	子どもの保護に必要なものとして許可されます。広告配信に使用してはなりません。

許可される処理（プロファイリングではないもの）

処理の種類	説明	プロファイリングに該当しない理由
コンテキスト広告	ユーザーのプロファイルではなく、現在のページのコンテンツに基づいて広告を配信すること	広告選定に個人データを使用せず、コンテンツの文脈のみに基づきます
集計分析	匿名化されたユーザー行動の集計パターンを分析し、サービスを改善すること	個人の特性を評価せず、データは個々のユーザーに紐付けられません
A/B テスト	サービスの改善を検証するため、ユーザーを機能のバリエーションにランダムに割り当てること	個人の特性に基づかず、ランダムに割り当てます

レコメンデーションアルゴリズムの保護措置

子ども向けのコンテンツレコメンデーションアルゴリズムを実装するサービス（許可される場合）では、以下の保護措置を講じる必要があります。

コンテンツの多様性の確保

• レコメンデーションアルゴリズムには、最低限の多様性比率を組み込む必要があります（例：推薦するコンテンツの少なくとも 30% は、子どもがこれまで利用したことのないカテゴリから選ぶ必要があります）
• これにより、子どもの発達に特に有害となる可能性があるフィルターバブルや、コンテンツのラビットホールを防ぎます
• 多様性を確保する仕組みを文書化し、定期的に見直す必要があります

時間制限の仕組み

• レコメンデーション主導のフィードには、自然に区切りとなるポイントを設ける必要があります（例：「20分間閲覧しました。そろそろ休憩しましょう！」）。
• 英国の AADC ガイダンスに従い、子ども向けには自動再生をデフォルトで無効にする必要があります（YouTube は ICO との協議を経てこれを実施しました）。
• 無限スクロールは、終点が明確なページ分割コンテンツに置き換える必要があります。

コンテンツ安全フィルター

• 子どもに提示する前に、すべてのおすすめコンテンツをコンテンツ安全フィルターに通す必要があります。
• フィルターは年齢層に応じて段階を設ける必要があります。年齢の低い子どもにはより厳格に、ティーンエイジャーには相応の厳格さにします。
• 自動フィルタリングの確信度が低い境界事例については、人によるレビューを行います。

メンタルヘルスの緊急停止機能

• レコメンデーションアルゴリズムが、有害なコンテンツのサイクルに関連するエンゲージメントパターン（例：自傷行為、摂食障害、または極端なボディイメージに関するコンテンツへの繰り返しのエンゲージメント）を検出した場合、アルゴリズムは次の対応を行う必要があります。
  1. 類似コンテンツのおすすめを停止する
  2. ウェルビーイングに関するリソースまたは相談窓口の情報を提示する
  3. 子どもの信頼を損なう可能性のある具体的なコンテンツの詳細は明かさずに、保護者用ダッシュボードを通じて保護者に通知する

子どもへのナッジ手法の禁止

子どもに対する禁止ナッジ手法

手法	説明	禁止理由
確認時の羞恥心の誘発	データ収集を拒否した際に「本当に機会を逃してもよいですか？」と表示する	社会的不安と機会を逃すことへの恐れにつけ込みます
データ提供への報酬	個人データの提供やプライバシー設定の緩和と引き換えに、ゲーム内通貨、バッジ、または報酬を提供する	子どもにプライバシーを手放すよう報酬で誘導し、報酬を求める行動につけ込みます
非対称な選択肢	プライバシーを低下させる選択肢を、プライバシーを保護する選択肢より大きく、明るく、または目立つようにする	選択の設計を操作し、判断能力の限界につけ込みます
オプトアウトの隠蔽	データ収集を拒否する選択肢をサブメニューの奥に隠したり、複数回のクリックを必要にしたりする	操作スキルと注意持続時間の限界につけ込みます
社会的証明	同意を促すために「95％のユーザーが通知を許可しています！」と表示する	子どもではより強く働く同調バイアスにつけ込みます
緊急性／希少性	「今すぐ位置情報の共有を有効にしないと、連続記録を失います！」と表示する	衝動性と損失回避につけ込みます
共有をデフォルトにする	共有または公開の選択肢をあらかじめ選択し、子ども自身が明示的にオプトアウトするよう求める	現状維持バイアスと惰性につけ込みます

必須のデザインパターン

パターン	説明	実装
選択肢の同等性	承認と拒否の選択肢は、サイズ、色、配置において同じ程度に目立つ必要があります	両方のボタンを同じサイズ、同じ視覚的な重みとし、色に優劣をつけません
中立的な表現	選択肢のラベルは、どちらか一方を有利に見せてはなりません	「有効にする」／「無効のままにする」とし、「はい、パーソナライズします！」／「いいえ、つまらない体験をしたいです」にはしません
プライバシー優先のデフォルト	デフォルト状態は、最もプライバシーを保護する選択肢にする必要があります	データを多く利用する機能のすべてのトグルは、デフォルトで OFF にします
操作負担の同等性	プライバシーを強化するためのクリック数は、プライバシーを低下させるためのクリック数と同じか、それ以下にする必要があります	機能の有効化に1回のタップが必要なら、無効化も1回以下のタップで行えるようにします
ダークパターンの排除	子どもの選択に影響を与えるために、インターフェースで視覚的な仕掛け、誤解を招く表現、または紛らわしい言葉を使用してはなりません	対象年齢層の子どもたちと定期的に UX 監査を実施します

BrightPath Learning Inc. — プロファイリングコンプライアンスの実装

プロファイリング状況一覧

機能	プロファイリングの種類	状況	根拠
学習コンテンツの難易度調整	教育的な適応型学習	有効（デフォルト）	教育サービスの提供に必要です。評価スコアに基づいて算数と読解のレベルを調整します
ゲームのおすすめ	コンテンツベース	デフォルトでは無効	子どもの行動プロファイルではなく、教科に基づいてゲームをおすすめします。保護者は有効にできます
進捗レポート	集計スコア	有効（同意がある場合）	保護者向けダッシュボードで学習成果を要約します。行動プロファイリングは行いません
広告	なし	提供なし	BrightPath は子どもに広告を表示しません
ソーシャル機能	なし	提供なし	ソーシャルスコア、人気度指標、他の子どもとの比較機能はありません
コミュニケーションのモデレーション	安全性プロファイリング	有効	事前承認済みのメッセージテンプレートに含まれる不適切なコンテンツを自動検出します。DPIA は完了しています

アルゴリズム影響評価

BrightPath は、学習コンテンツのレコメンデーションシステムについて、年次のアルゴリズム影響評価を実施しています。

1. 目的のテスト：アルゴリズムは子どもの教育上の利益に役立っていますか？はい — コンテンツを適切な難易度に調整します
2. 必要性のテスト：プロファイリングなしで教育上の目的を達成できますか？いいえ — 適応型学習には現在のスキルレベルの評価が必要です
3. 比例性のテスト：プロファイリングは必要な範囲に限定されていますか？はい — 学習評価スコアのみを使用し、行動データは使用しません。年齢以外の人口統計データも使用しません
4. 危害の評価：アルゴリズムが有害な影響をもたらす可能性はありますか？評価済み — 難易度が急激に上がると意欲を失わせるリスクがあります。段階的な進行とポジティブな強化を取り入れた設計で軽減しています
5. バイアス監査：保護対象の特性によってアルゴリズムの結果に違いが生じますか？検証済み — 年齢、性別、言語グループを対象に年次のバイアス監査を実施しています。統計的に有意な格差は見つかっていません
6. 人間による監督：人間がアルゴリズムを上書きできますか？はい — 保護者はコンテンツの難易度を手動で設定できます。学校での導入時は教師も上書きできます

執行事例

• TikTok（DPC Ireland、2023）：3億4,500万ユーロの罰金には、TikTok の「For You」アルゴリズムフィードが子どもをプロファイリングしてコンテンツを配信していたこと、および有害なコンテンツの拡散を防ぐ保護措置が不十分だったことが含まれ、GDPR 第5条第1項(a)、第5条第1項(c)、第25条に違反しました。
• Instagram（Meta、DPC Ireland、2022）：4億500万ユーロの罰金は、13～17歳の子どもが使用するビジネスアカウントのプロフィールがデフォルトで公開されるなど、子どものデータのプロファイリングと公開を制限しなかったことによるものです。
• YouTube（FTC、2019）：子ども向けチャンネルで持続的識別子（Cookie）を使用して子どもの視聴行動を追跡し、行動ターゲティング広告を配信したことに対し、1億7,000万米ドルの和解金が支払われました。
• TikTok（CNIL France、2022）：子どもを含むユーザーがトラッキング Cookie を拒否しにくくしていたことに対し、500万ユーロの罰金が科されました。これはプライバシー保護を弱めるナッジ手法に当たります。
• Fortnite/Epic Games（FTC、2022）：子どもが有害なやり取りにさらされる設計上の選択、および子どもによるアプリ内購入を促すダークパターンに対し、2億7,500万米ドルが科されました。

よくあるコンプライアンス違反

1. プロファイリングをデフォルトで有効化：明示的なオプトインを求めずに、行動プロファイリングに基づくレコメンデーションアルゴリズム、パーソナライズ機能、またはコンテンツキュレーションを有効にすること
2. 子どもだと判明している利用者への行動ターゲティング広告：DSA Art. 28(2) の禁止規定にもかかわらず、個人データのプロファイルに基づいてターゲティング広告を配信すること
3. アルゴリズムの影響評価を実施しない：子どもの権利、ウェルビーイング、発達への影響を評価せずに、子どもに影響を与えるアルゴリズムを導入すること
4. 同意フローでのナッジ手法：ダークパターン、確認時の罪悪感をあおる表現、または選択肢の非対称な設計を用いて、プロファイリング機能への同意を得ること
5. サービスをまたいだトラッキング：プロファイリングを目的として、永続的な識別子を使い、子どもをウェブサイトやサービスをまたいで追跡すること
6. コンテンツの多様性を確保する保護策がない：多様なコンテンツの挿入や時間制限を設けずに、レコメンデーションアルゴリズムによってフィルターバブルやコンテンツの沼にはまる状態が生じることを許容すること

統合ポイント

• 子どものデータ最小化：データの最小化により、プロファイリングに利用できるデータを直接制限できます。収集するデータが少なければ、プロファイルの構築に利用できる材料も少なくなります。
• 英国AADCの実施：AADC の基準 5、7、12、13 が、プロファイリング、デフォルト設定、ナッジ手法、不利益をもたらす利用を総合的に規制します。
• 子ども向けプライバシー通知：プライバシー通知では、どのようなプロファイリングが行われるか、その影響、そして子どもまたは保護者が異議を申し立てる方法を明確に説明する必要があります。
• GDPRに基づく保護者の同意：Art. 8 の年齢基準に満たない子どものプロファイリングには、保護者の同意が必要です。
• サービスの年齢確認：年齢確認の結果によって、ユーザーアカウントに適用されるプロファイリングの制限が決まります。