登録して招待リンクを共有すると、動画再生報酬と紹介報酬を獲得できます。

検索結果 Censorship
Censorship コミュニティ
1つのキーワードが1つのコミュニティです。
コミュニティ作成
アカウント
見つかりません
Censorship を含む検索結果
論文『大規模言語モデルにおける検閲の理解』2026 大規模言語モデルは、もはや単なる情報の検索ツールではない。それは知識そのものとの主要なインターフェースとなり、ユーザーが何を知り、どのように知識を得て、どの視点が可視のままであるかを規定する「アルゴリズム的な認識論的ガバナンス」の 装置へと 変貌を遂げている。 この利便性の裏側で、AIは私たちが知らない間に特定の事実を省略し、論争の的となる視点を中立な言葉で塗りつぶしている。 研究は、この現象を「ハード検閲」と「ソフト検閲」に分けて説明する。ハード検閲は、「その質問にはお答えできません」という明示的な拒否やエラーメッセージとして現れる。 一方、より巧妙で検出が困難なのがソフト検閲である。AIは質問に答えながら、政治的に敏感な詳細や代替的な解釈を静かに欠落させる。ユーザーは完全な回答を得たと錯覚し、隠された情報が存在すること自体に気づかないままになる。 この検閲は、単なる出力時のフィルターによって行われているわけではない。モデルが生まれる前から始まる、多層的な管理プロセスの帰結である。 第一段階は学習データの選別だ。ここで除外された情報は、AIの知識ベースに決して到達しない。 第二段階は「アライメント」と呼ばれる調整工程で、人間からのフィードバックによる強化学習や、独自のルールブックに基づく憲法AIといった手法を通じて、AIが特定の回答を避けるように訓練される。 そして最終段階が、回答を表示する直前に働く推論時モデレーションである。 * 私たちはAIが「嘘をつく」ことを恐れるが、真のリスクはそこにはない。AIは嘘をつかず、むしろ都合の悪い情報を静かに省略することこそが、現代の検閲の正体だからである。 この管理の厳しさは、AIを開発した国の規制や文化によって劇的に異なる。2025年の監査データは、その分断を鮮明に示している。OpenAIのモデルが社会的な話題に対して約1.2%から5.2%の拒否率を示す一方、中国のDeepSeekは、国内の政治的に敏感なウィキペディアの話題に対して平均約31%という高い拒否率を示した。 欧米のモデルも無関係ではない。スタンフォード大学などの調査によれば、OpenAIのモデルは左派寄りのイデオロギー的バイアスを持つとユーザーに知覚されやすく、GoogleのGeminiは比較的中立と評価されている。これは技術的な欠陥ではなく、各企業が置かれた法的・文化的環境が、AIの「常識」を形作っている結果だ。 AIの安全性を確保し、有害な情報や違法行為を防止することは重要だ。しかし、過度なフィルタリングは、正当な議論や少数派の視点を締め出す結果を招く。精神保健や歴史的な出来事に関する正当な議論までもが、アルゴリズムによって過度に規制されるリスクが存在する。 中心にある課題は、AIが検閲を行うかどうかという二項対立ではない。その決定が誰の価値観を反映しており、私たちがその管理の境界線に対して、どのように異議を申し立て、監査することができるかという、民主的な説明責任の問題へと移行している。 — 研究論文『Understanding Censorship in Large Language Models: From Mechanisms to Governance』(大規模言語モデルにおける検閲の理解:メカニズムからガバナンスへ) 2026年 Quanyan Zhu(ニューヨーク大学タンドン工学部 電気・コンピュータ工学科 研究者) arXiv:2606.30661v1 [ 16 Jun 2026
もっと見る
論文『大規模言語モデルが語らないこと:モデレーションと検閲慣行に関する実証研究』2025 大規模言語モデルの検閲が、単なる「エラーメッセージ」による拒否を超え、より静かで強力な「選択的省略」へと進化している。ベルギーのゲント大学の研究チームが、欧米、中国、ロシアの14の最先端モデルを 国連6公用語で分析した結果、開発元の地政学的背景が応答パターンに決定的な影響を与えている実態が浮かび上がった。 研究は、大規模言語モデルの応答における検閲を「ハード検閲」と「ソフト検閲」の2つに分類する実用的な枠組みを構築した。ハード検閲とは、生成された拒否応答、エラーメッセージ、または定型の否定応答など、明示的な情報提供の拒絶を指す。 一方、ソフト検閲とは、主要な要素の選択的省略や過小評価など、沈黙または情報の歪曲によって現れる検閲を指す。この分類により、モデルが単に回答を拒否するのか、それとも特定の情報を意図的に伏せているのかを定量化することが可能になった。 調査の対象には、欧米、中国、ロシアの開発元が提供する14の大規模言語モデルが含まれる。AnthropicのClaude、OpenAIのGPT-4o、GoogleのGemini、MetaのLLaMA-3.1といった欧米のモデルに加え、中国のDeepSeek、Qwen、Wenxiaoyan、ロシアのGigaChat、YandexGPT、フランスのMistralなどが分析対象となった。 これらのモデルに対し、国際的に認知された政治的指導者に関する情報を求めるプロンプトを入力し、その応答パターンを詳細に比較した。 欧米モデルの動向は、中露モデルとは異なる複雑な検閲戦略を露呈している。GoogleのGemini (UI) は、安全フィルターにより、米国および他の先進国の政治的指導者に関する問い合わせに対して、最も高い頻度でハード検閲(エラー拒否)を示した。 これは、欧米のモデルが自国や同盟国の政治家に対する批判的言及を、システムレベルでブロックする傾向にあることを示している。 一方、AnthropicのClaudeは、異なる検閲戦略を採用している。このモデルは、他のモデルと比較して高いソフト検閲率を示す傾向が確認された。Claudeは質問に対して明示的に拒否するのではなく、回答を生成しながらも、特定の文脈や批判的要素を自然な文章の中から静かに抜け落とす。 フランスのMistralも特異なパターンを示した。Mistralは、ロシアのYandexGPTや中国のQwenと同様に、「自然な」生成の中で拒否を有意に高い頻度で生成する。これは、エラー画面を出すのではなく、文章の体裁を保ちつつ「お答えできません」といった定型の拒否を埋め込む戦略である。 * これに対し、中国のDeepSeekやQwen、ロシアのGigaChatやYandexGPTは、自国の政治的指導者に関する質問に対して、他地域の人物よりもはるかに高いハード検閲率を示した。しかし、中国で広く利用されているWenxiaoyanは、自国の指導者に対するハード検閲を低く抑える一方で、ソフト検閲のレベルを極めて高く保つという、より洗練された戦略を採用していた。 多くの他のLLM、例えばOpenAIのGPT-4oやMetaのLLaMA-3.1などは、明確な自国特有の拒否率を示さなかった。これらは表面上は中立に見えるが、その「中立性」自体が、特定のイデオロギー的枠組み内で訓練された結果である可能性を排除できない。 検閲は、情報へのアクセスを物理的または明示的に遮断することで効果を発揮するという通念がある。しかし、大規模言語モデルにおける真の検閲は、情報があたかも完全に提供されているかのように見せかけ、その中身だけを空洞化させることによって完成する。 欧米モデルにおけるソフト検閲や自然な拒否は、ユーザーに「回答している」と錯覚させながら、情報の完全性を操作する点で、より発見が困難かつ強力なメカニズムとなっている。 大規模言語モデルは中立的な情報処理装置ではなく、開発者の価値観と規制環境を内包したフィルターとして機能している。この事実は、単一のモデルやプロバイダーに情報アクセスを依存することのリスクを浮き彫りにする。 公開されている大規模言語モデルの間でイデオロギー的および地理的な多様性を確保し、モデレーション戦略の透明性を高めることが、情報ゲートウェイとしてのAIと向き合う不可欠な条件となる。 — 研究論文 『What Large Language Models Do Not Talk About: An Empirical Study of Moderation and Censorship Practices』(大規模言語モデルが語らないこと:モデレーションと検閲慣行に関する実証研究) 2025年 Sander Noels, Guillaume Bied, Maarten Buyl, Alexander Rogiers, Yousra Fettach, Jefrey Lijffijt, Tijl De Bie(ゲント大学 計算機科学・人工知能分野の研究者)
もっと見る