AIの倫理
概要
AIの倫理は、大規模言語モデル や AIエージェント が社会に与える影響を見据え、公平性・透明性・安全性・説明責任 を確保するための原則と実践です。能力の急速な向上に伴い、技術だけでなく社会・制度の観点が不可欠になっています。研究フィード（Daily/）でも倫理・社会影響の議論が継続的に現れます。
主な論点
- 誤情報・ハルシネーション — 誤った出力が現実の意思決定を誤らせる（行政での処分事例など）
- 過剰な迎合 — ユーザーに無批判に同調し、有害な助言をしうる
- AIスロップ — 低品質コンテンツの氾濫によるコモンズの汚染
- 責任の所在 — AI の行動の因果をどう人間に帰属させるか（agency / misuse / misalignment）
- アラインメント — 人間の価値観への整合（RLHF / AIエージェントの安全性）
- 公平性・プライバシー — 学習データの PII、データ共有（事前学習 の前処理）
- 雇用・社会 — 自動化の影響、技術への反発
説明責任の支え
- 説明可能AI — 判断根拠の提示
- アクティベーションステアリング — ミスアライメント方向の検出・減算による緩和
- AIエージェントの安全性 — ガードレールと人間の監督
- 規制対応（Palantir のコンプライアンス環境など）
関連する話題（Daily フィード）
- （HN）“AI overly affirms users asking for personal advice”
- （HN）“AI Will Be Met with Violence, and Nothing Good Will Come of It”
- “Human Attribution of Causality to AI Across Agency, Misuse, and Misalignment”
- オープンウェイトの出自・透明性 — ブラジル IplanRIO が「独自開発」と称した Rio-3.5-Open-397B が、自己認識テスト（79% が “Nex” と回答）と全 60 層の重み統計分析（一貫した「Nex 60% + Qwen 40%」）から、実態はモデルマージ版ではないかと GitHub issue で指摘された事例。オープンソース AI の知的財産・透明性の問題を浮き彫りにする（ローカルLLM のオープンウェイト）。Rio_LLMの疑惑
- 利用規約と責任ある利用 — ChatGPT の 3 年分の履歴が “Cyber Abuse” で永久 BAN された事例。当初は同情論が集まったが、本人がジェイルブレイクで違法ビジネス企画を常習していたと判明し評価が反転。生成 AI サービスの規約遵守と倫理的利用の重要性を示す（生成AI）。ChatGPTがBANされてしまった
- 社会受容・信頼の低さ — Pew の調査でアメリカ人の わずか 16% が「今後 20 年で AI が社会にプラス」と回答（40% がマイナス、約 67% が「進歩が速すぎる」）。政府の規制対応や企業の安全な開発を信頼しない層が多数で、特に 30 歳未満が悲観的。規制・ガバナンス論議に影響しうる。Only_16_Percent_of_Americans_Think_AI_Will_Have_a_Positive_Impact_on_Society
- 操作（Manipulation）リスク — Google DeepMind が政策・金融・健康の領域で 10,101 人を対象に、LLM が人間の信念にどれだけ影響を与えうるかを大規模検証。プロンプトインジェクション の説得攻撃（How_LLMs_Are_Persuaded_A_Few_Attention_Heads_Rerouted）と並ぶ、有害な操作の評価。Evaluating_Language_Models_for_Harmful_Manipulation
- 地政学・輸出規制 — 米政府は DeepSeek を含む 100 社超を安全保障リスクと認定しつつ Entity List 入りを保留（対中緊張回避）。背景に DeepSeek が Anthropic Claude・OpenAI から能力を不正抽出した疑い（Rio_LLMの疑惑 の出自問題とも通じる IP・透明性の論点）。US_holds_off_blacklisting_DeepSeek_more_than_100_firms_deemed_security_risks