登録して招待リンクを共有すると、動画再生報酬と紹介報酬を獲得できます。

検索結果 AI倫理
AI倫理 コミュニティ
1つのキーワードが1つのコミュニティです。
コミュニティ作成
アカウント
見つかりません
AI倫理 を含む検索結果
サンタクロースと名乗るAIと、その「助手」を名乗るAI。子どもをより説得しやすいのはどちらでしょうか。 タイトル: Persona and Persuasive Framing in AI Voice Agents: A 2×2 Field Experiment with Children URL: ❓ どんな実験をしたの? ドイツの実在するサンタ電話ホットラインに、研究用の音声AIエージェントを組み込みました。電話はランダムに「サンタ」か「サンタの助手」、「説得的な会話」か「中立な会話」の組み合わせ4パターンへ振り分けられ、子どもが向社会的な願い(誰か他人のための願い)を口にするかを観察しています。 ❓ 説得的な会話にすると、本当に効果があったの? ありました。説得条件では45.7%の子どもが他者のための願いを口にしたのに対し、中立条件ではわずか11.6%。オッズ比6.4という大きな差で、年齢や通話時間などで統制しても結果は変わりませんでした。 ❓ サンタを名乗った方が説得力は強かったの? 意外にも、ほぼ差がありませんでした。説得条件でのサンタ(46.2%)とHelper(45.0%)はほぼ同率。「誰が話しているか」より「何をどう話すか」の方が、子どもの行動に強く影響していたのです。 💡 ではペルソナは何も効果がなかったの? いいえ。Helperを名乗った電話は、最初の1分以内に終了する割合がサンタより25ポイント以上高く、何も話さずに切られる割合も4倍以上でした。ペルソナは「説得されるか」ではなく「そもそも会話にとどまるか」を左右していたのです。 子ども向けAIの説得力が、目に見えるキャラクターではなく、安価に書き換えられる「台本」に宿っているという指摘は、規制のあり方を考える上でも重みがあると思います。 #AI倫理# #子どもとAI#
もっと見る
【Voice好評連載!】 #谷川嘉浩# 氏(哲学者/京都市立芸術大学講師) #現代思想# をテーマに論じている連載です。 直近3か月の内容をご紹介します⬇️ ■5月号 「認知疲労とプラットフォーム依存のリスク」 プラットフォーム化戦略と危険性。文筆や出版の未来とは。 ■6月号 「『居場所』を実感できることの包摂性と排除性」 居場所の安らぎから、不愉快な現実へと向き合う意義。 ■7月号 「AIに倫理を教える方法——Claude、徳倫理、法」 戦争時代のAIがどのように倫理を取り込んでいくべきか。 ぜひご覧ください🙌 @houkago_kitsune
もっと見る
【倫理】『ゼルダの伝説 時のオカリナ』リメイク版を「iPhone Duoに“勝手移植”」したGoogleのAI開発者、非難浴びて投稿削除。問われる技術者倫理 映像を刷新し、カットシーンはフルボイスでした。
もっと見る
『倫理的野心を持て あなたの才能を浪費せず、変化を起こすための10章』ルトガー・ブレグマン 野中香方子 | 単行本 - 文藝春秋 @hon_web  #老害 ##世代交代 ##才能の無駄遣い# #加速主義 # どうせAI失業・人件費ゼロ社会で、常識崩壊・インフラ刷新するし
もっと見る
#AI# #大人向けAI# #易子而交# このショートドラマは一見ちょっぴり大人向けですが、実は映像で“感情と倫理”を静かに描く特別な作品です…♡ 愛・性・道徳・自己理解をめぐる物語で、親密さの中にある本当の気持ちへ少しずつ近づいていきます 👉 🩵
もっと見る
【ギガジン】AIに「人間20人と自分のサーバーのどちらを救う?」と尋ねたところ自分のサーバーを優先するAIが続出 → 分岐器を操作すれば5人が助かる一方、側線の1人が死ぬ設定 倫理学上の有名な「トロッコ問題」として知られています。
もっと見る
# AIエージェントをエンタープライズシステムに組み込む意思決定ポイント # LLM-judge vs 人手評価 🎯 ポイント エージェントの出力品質を「LLMに評価させる」か「人間の専門家が判定する」か。この二者択一で議論している時点で、すでに設計を間違えています。実運用では両者を組み合わせた二段構成が標準です。LLM-judgeで広くカバーし、人手評価で深く検証する。問題は「どの評価軸をどちらに割り当てるか」と「どうキャリブレーションを維持するか」です🔑 📋 概要 LLM-judgeは、エージェントの出力をLLMに自動評価させる手法です。CI/CDパイプラインに組み込めば、プロンプト変更やモデル更新のたびに回帰テストを自動実行でき、日次100件以上の評価もスケールします。一方、人手評価は人間の専門家が出力を直接判定する手法で、安全性・倫理性・コンプライアンスに関わる判定や、主観的・文脈依存の評価基準では代替不可能です。評価の速度・スケーラビリティと、判定の信頼性・安全性保証がトレードオフになります。 🔍 意思決定のポイント 最初の分岐は「評価対象の出力は安全性・規制に直結するか?」です。 YES → 人手評価を必須にしましょう。LLM-judgeは補助として使いますが、最終判定は人間です。金融商品の説明、医療情報、法務回答は人手評価を外せません。 NO → LLM-judgeが有効です。事実整合性、フォーマット準拠、トーン一貫性など、基準を明文化・数値化できる軸はLLMで自動評価できます。 次に「日次の評価対象件数」を確認します。100件超ならLLM-judgeでの自動化が必須です。Zendeskで日次500件の要約を全件人手レビューすることは物理的に不可能です。50件以下なら人手評価も運用上現実的です。 ゴールドデータの有無も重要です。LLM-judgeのキャリブレーションには目安として200件以上のゴールドラベルが必要です。不足している場合は、まず人手でゴールドセットを構築するところから始めてください📊 💡 要点と詳細 LLM-judgeの適用範囲は「形式化しやすい評価軸」です。事実整合性(出力が入力データと矛盾していないか)、フォーマット準拠(JSON構造やフィールドの過不足)、トーン一貫性(ブランドガイドラインとの整合)、Salesforceのケース要約やJiraチケットの自動分類のように出力の正解パターンがある程度定型化されている場合に威力を発揮します。 人手評価が不可欠な領域は「主観的・文脈依存の判定」です。顧客への共感表現の適切さ、ブランドトーンの微妙なニュアンス、新規ユースケース立ち上げ時のゴールドデータ作成。規制当局への報告に「人間が検証した」というエビデンスが求められる場合も人手評価は必須です。 最も効率的な併用パターンは「LLM-judgeでフィルタリング→人手で精査」です。全出力をLLM-judgeで自動スコアリングし、低スコア(下位10〜20%)のみ人手レビューに回します。これにより、人手の工数を最も価値の高い判定に集中配分できます。もう一つの重要なパターンは「段階ゲート」で、開発環境ではLLM-judgeのみ、ステージング環境でLLM-judge+サンプル人手評価、本番リリース前に人手評価によるゲート承認とします🔍 ⚖️ トレードオフ LLM-judgeの最大のリスクは自己評価バイアスです。同一モデルファミリーで生成と評価を行うと、自分の出力を過大評価する傾向が出ます。評価モデルは生成モデルと異なるプロバイダを使うか、評価プロンプトにバイアス対策を明示的に組み込む必要があります。LLM-judgeの精度を人手との一致率で定期的に検証しないまま運用を続けるのも危険です。 人手評価のリスクはスケール不足と基準の暗黙知化です。「全件人手レビュー」を方針にして運用が破綻するのは時間の問題です。評価者の判断基準が明文化されず、評価者間のばらつき(Inter-Annotator Agreement)が低いまま運用されるケースも多い。Cohen's Kappaで0.7以上を維持できていなければ、評価基準の再教育が必要です。 コスト面も見逃せません。LLM-judgeのAPIコストを軽視して全出力×複数評価軸で評価した結果、生成コストと同程度の評価コストが発生することがあります。サンプリングや評価軸の絞り込みで制御しましょう💰 🛠️ ユースケース カスタマーサポートの品質管理:Zendeskの応答品質を日次300件評価する場合、事実整合性とフォーマット準拠はLLM-judgeで自動評価し、共感表現の適切さとエスカレーション判断の妥当性は低スコア分のみ人手レビューに回します。四半期ごとに200件のゴールドセットを更新してLLM-judgeを再キャリブレーションします📞 金融商品の説明文生成:規制当局への報告に「人間が検証した」エビデンスが必須なので、全出力に対して人手評価を実施。ただしフォーマット準拠と禁止表現の検知はLLM-judgeで事前フィルタリングし、人手レビューの効率を上げます🏦 CI/CDパイプラインの回帰テスト:プロンプト変更やモデル更新のたびに、LLM-judgeで100〜500件の回帰テストを自動実行。スコアが前回比で5%以上低下した場合にアラートを発し、人手で原因を調査します🔧 実践のコツ:評価軸を分離してください。全軸を同一手法で評価する必要はありません。事実整合性はLLM-judge、共感表現は人手、フォーマットはルールベース — 軸ごとに最適な手法を割り当てるのが評価設計の基本です。LangfuseやBraintrustでLLM-judgeスコアと人手スコアの推移・乖離をダッシュボード化し、劣化を早期に検知してください💪 #AIエージェント# #エンタープライズアーキテクチャ#
もっと見る
【ちょい読みVoice📚】 「幕僚・スタッフは『案をつくる主体』から『AIの出力を評価・選択し、社会的・倫理的観点を付加する主体』へと再編されるだろう。」 「防衛支出が日本経済の将来を左右する」 #小野圭司# (防衛研究所先進領域研究部防衛基盤研究室主任研究官) ▶︎全文は Voice7月号で。
もっと見る
AIの次の10年は「計算量を増やす」競争から「1ジュールあたりの知能」を高める競争へ⚡ 30名の研究者が描く未来図です。 タイトル: AI+HW 2035: Shaping the Next Decade URL: ⚡ 概要 AIとハードウェアの統合的な協調設計に向けた、10年間のロードマップを提示するビジョンペーパーです。際限ない計算スケーリングではなく、効率のスケーリング(intelligence per joule)を提唱します。 ❓ 解決する課題 AIとハードウェアの発展はもはや不可分なのに、グローバルな研究コミュニティには協調的で長期的な戦略が欠けていました。ただ計算量を増やし続ける路線の限界に、正面から向き合います。 💡 方法論と提案手法 4つの主要テーマを掲げます。 ・生の計算量よりエネルギー効率:消費電力を軸にスタック全体を再考 ・システムレベルの統合:アルゴリズム・アーキテクチャ・システムを横断する最適化 ・持続可能性:能力と効率のバランスを取る適応的システム ・人間中心の設計:倫理原則を開発に組み込む 🌍 10年間のゴール ・AIの訓練・推論で1000倍の効率改善 ・クラウド→エッジ→物理AIをまたぐ自己最適化システム ・先進的AIインフラへのアクセスの民主化 ・人間の価値観をシステム設計に統合 #AIハードウェア# #省エネAI#
もっと見る
ひろゆき氏、ChatGPT利用者の画像流出報道に私見「人間より優秀で倫理観のないAIに任せるしかない時代」 → 「やれるけど絶対やらない」制限の保証なし 画像流出報道を受け、AI社会の現状に懸念を示しました。
もっと見る