登録して招待リンクを共有すると、動画再生報酬と紹介報酬を獲得できます。

検索結果 生成AIを使わないプロテスト
生成AIを使わないプロテスト コミュニティ
1つのキーワードが1つのコミュニティです。
コミュニティ作成
アカウント
見つかりません
生成AIを使わないプロテスト を含む検索結果
【心臓病×生成AI③】 AIを使える人にもレベルがあると思う。 Lv.1 質問する Lv.2 仕事を任せる Lv.3 AIと一緒に作る Lv.4 仕組みにする Lv.5 自動化する 大切なのは、難しいAIを覚えることより「自分の体力と時間を何に使わないか」。 自分はLv.5を目指します😊 #心臓病と生成AI#
もっと見る
LLMが生成したコードはコピペせず、あえて手で写経して認知負債を防ぐアプローチ。 ・個人開発においてAIは非常に便利 ・ただ、すべてをAIに任せるとコードに対する認知負債が溜まってしまう ・退屈な実装を任せたいだけで、コードへの理解まで手放したいわけではない ・かといって、AIが自動生成した大量のコードをレビューする作業は全く楽しくない ・そこで筆者は、AIにチャットでコードを出力させ、それをすべて手打ちで書き写している ・プロンプトで、AIによるファイルの直接編集やコマンド実行をあえて固く禁止 ・これだとAIに自動化させるより効率は落ちる ・それでも、AIを使わない場合に比べれば2倍は早い ・手打ちすることで作業ペースが落ち、AIのハルシネーションや設計のまずさに気づきやすくなる ・書き写しながらリファクタリングでき、コードベースの空間的なマップが頭の中に作れる ・筆者は生産性よりも、コードに対する理解を優先している ・ソフトウェア業界は今、近い将来に支払うべき巨大な認知負債を抱え込もうとしている ・少なくとも自分が生み出すコードだけは完全に理解しておきたい、というスタンス
もっと見る
LLMが生成したテキストは古典的な機械学習で高精度に検出できるよ、というポスト。(検出は日本語対象ではない) ・昨今のネット小説界隈には、低品質なAI生成テキストが大量に溢れかえっている ・既存の予測確率を用いたAI検出手法は、推論コストが高く精度も非常に不安定 ・そこで筆者は、古典的な機械学習であるSVMを用いたテキスト分類を試みた ・約1万件の人間の書いたテキストと、複数のLLMに生成させたテキストを学習データとして用意 ・単語の出現頻度(TF-IDF)に基づく単純な判定だけで、まず約85%の精度を達成 ・さらに7つの異なるモデル用の分類器を作成し、多数決をとることで判定を強固にしてみた ・で、これを使って、某小説プラットフォームの上位作品を判定したところ、約32%でAI生成の疑いが強いことが判明 ・ただ、その中でAI使用を事前に明記している作品は一つもなかった ・AIっぽさを消すプロンプトや翻訳の往復を試しても、判定スコアはほとんど下がらなかった ・なぜか? ・LLMの出力テキストには特有の統計的なパターンが非常に強く現れてしまうため ・そのため、最新の複雑なAIを使わずとも古典的な手法で十分に見抜ける ・AIによる創作物は底が浅くパターンの再構成に過ぎない(という指摘)
もっと見る
【クレジットカード情報は流出する】生成AIの時代にはクレジットカードの情報は流出前提だ。上限を低くし使わないアプリのクレカ情報は削除を。フィギュア大手のグッドスマイルのオンラインショップでも5356人のセキュリティーコードも含めたクレカ情報の漏洩した。
もっと見る
【心臓病×生成AI②】 長い資料を読むのって、意外と疲れませんか? 自分は最近、まずAIに資料を読ませて要約してもらいます。 全部読む前に「重要なところ」を知るだけで、かなり楽になる。 体力も時間も、使わなくていいところでは使わない😊 #心臓病と生成AI#
もっと見る
【心臓病×生成AI①】 体調が悪い日でも、仕事は待ってくれない。 そんな時こそ、AIに任せられる仕事はAIに任せる。 「頑張って働く」だけじゃなく、 「体力を使わずに働く」方法も増やしたい。 心臓病当事者の目線で、AI活用術を発信していきます😊 #心臓病と生成AI#
もっと見る
# AIエージェントをソフトウェアに組み込むプラクティス # Streaming with Progressive Commit|進捗ストリーミング+遅延コミット 🎯 トークンは即座に見せたい、でも副作用は検証してからコミットしたい。 「見せる」と「実行する」を分離すれば、体感レイテンシの短縮と副作用の安全性を両立できます。 🔥 解決する課題 エージェントの応答はレイテンシのばらつきが大きく、全トークン生成まで待たせると体感が悪化します。一方でツール呼び出しの副作用を生成途中で確定すると、ガードレール検証で棄却された際にロールバックが必要になります。「全部待ってから返す」か「生成と同時に確定する」かの二択では、体感か安全性のどちらかを犠牲にしてしまいます。 💡 提案パターン Streaming with Progressive Commit(進捗ストリーミング+遅延コミット)は、生成中のトークンやツール実行結果をSSE/WebSocketでクライアントへストリーミングしつつ、副作用(外部API書き込み・DB更新など)は検証完了までコミットバッファに留めます。ストリーム上ではpreview(未確定)→ committed/rejected(確定/棄却)とイベントが遷移し、クライアントUIは中間状態を明示的に表示します。failure_costが高いほどバッファを深く取り、全ステップ完了後にまとめて確定します。 ✅ 選定条件 使うとき: - ユーザー向けUIがあり、first-token-timeの短縮が体験に直結する - エージェントがツール呼び出しで書き込み副作用を持ち、誤った副作用の取消しが困難 - 生成結果にガードレール検証やドライランを挟みたい 使わないとき: - 処理が常に数秒以内で、ストリーミングの恩恵がほぼ無い場合 - クライアントがSSE/WebSocketに対応できない場合 - 副作用が無い読取専用の質問応答(遅延コミットが不要) ⚠️ 落とし穴 - previewとcommitted/rejectedをクライアント側で区別しないと、未確定の結果を確定済みとして表示してしまいます。UIに「確認中」の中間状態を必ず設けてください - 長時間のマルチステップ実行ではコミットバッファが肥大化します。ステップ単位でチェックポイントを切り、確定済みバッファを解放しましょう - SSE接続が切れてもコミットバッファは残ります。再接続時の復元かタイムアウト破棄かのポリシーを事前に決めておく必要があります 🔧 実装方針 - LLMからのトークンはStream Buffer経由でSSE/WebSocketチャネルへ即座にプッシュし、ツール呼び出し結果はCommit Bufferに蓄積してpreviewイベントとしてクライアントに通知します - 全生成完了後にCommit Buffer内の各ツール呼び出しをガードレール検証し、パスすればcommittedイベント、棄却すればrejectedイベントをクライアントに送ります - ツール実行はまずドライランで結果をプレビューし、検証通過後に本コミットする二相構成を採ります - SSEイベント設計ではtoken・preview・committed・rejectedの各イベントタイプを明確に分離し、クライアントUIが中間状態(確認中)を適切に表示できるようにします - failure_costが高いワークフローではコミットバッファを深く取り、全ステップ完了後にまとめて確定します。低リスクの場合は単一ツール呼び出し単位で確定します #AIエージェント# #ソフトウェアアーキテクチャ#
もっと見る
学生の9割超が、 就活で生成AIを使う時代。 企業研究にも、 ESにも、 面接準備にも使われています。 ということは企業側も、 「求人に書いてあるから大丈夫」 ではなくなってきます。 AIに聞かれても、 どんな仕事なのか。 どんな人が働いているのか。 どう育てるのか。 何がこの会社の良さなのか。 そもそもの情報がなければ、 答えようがありません。 いい会社なのに、 ネット上にその良さが出ていない。 これからは、それがますます もったいなくなるかもしれません。
もっと見る
# AIエージェントをソフトウェアに組み込むプラクティス # Deadline & Budget Cascade|期限・予算のカスケード伝播 🎯 エージェントが再帰的にサブタスクを生成して、気づけばコストが数十ドルに。「請求事故」を構造的に防ぐ方法があります。 全体の予算と期限を末端ノードまで伝播させれば、各ノードが自分で打ち切り判断できます。 🔥 解決する課題 エージェントの呼出ツリーが深くなると、各ノードは自分がどれだけのリソースを消費してよいか分かりません。高コストなLLM呼び出しが再帰的に積み重なり、請求事故が起きます。計画-反省の自己ループでは、改善の見込みが薄くても無限にリトライを繰り返しえます。根本原因は「全体の予算と期限がローカルな判断に伝わっていない」ことです。 💡 提案パターン Deadline & Budget Cascade(期限・予算のカスケード伝播)は、呼出ツリーのルートでdeadline(期限)とbudget(トークン・コスト・ステップ数の上限)を設定し、子タスクへ委譲するたびに残り枠を差し引いて伝播します。どの末端ノードでも「今の自分に残された時間・コスト」を知っており、枠を使い切る前に縮退・中断・部分結果返却に切り替えられます。deadlineは相対秒でなく絶対時刻で渡し、伝播時のズレを防ぎます。 ✅ 選定条件 使うとき: - エージェントがサブタスクを再帰的に生成、または複数ワーカーに並列委譲する - 1リクエストのコストが予測困難で、上限を置かないと請求事故が起きうる - タスク完了にSLAや期待値がある 使わないとき: - 呼出ツリーが1段で完結し、タイムアウトだけで十分な場合 - バッチジョブなど時間制約がなくコストも固定的な場合 ⚠️ 落とし穴 - deadlineは絶対時刻で渡すこと。相対秒を渡すと伝播のたびにズレが蓄積します(gRPCのgrpc-timeoutと同じ原則) - 子に全予算を渡さず、予備枠(10〜20%)を親に残すこと。子の結果を集約・フォーマットする時間とコストが必要です - 枯渇時の振る舞い(部分結果返却・人間エスカレーション・縮退モデル切替)を事前に決めておくこと。タイムアウト例外を投げるだけではUXが崩壊します 🔧 実装方針 - BudgetContextデータクラスにdeadline_at(絶対時刻)・max_cost_usd・max_steps・max_tokens・depth・max_depthを持たせ、呼出ツリーのルートで初期値を設定します - 子タスクへの委譲時にchild_budgetメソッドで残り枠からfractionを掛けて分配し、伝播マージン(概ね2秒)を差し引きます。予備枠としてルート予算の10〜20%を親に残します - 各ノードはis_exhaustedで残時間・残コスト・残ステップを確認し、枠を使い切る前に縮退・中断・部分結果返却に切り替えます - 並列子タスクではコストは各子の合算、deadlineは最も遅い子で決まることに注意し、分配比率は子タスクの重要度と予測コストで按分します - 予算消費率(consumed/limit比)をメトリクスとして観測し、閾値超過時にアラートを発火させる仕組みを組み込みます #AIエージェント# #ソフトウェアアーキテクチャ#
もっと見る
# AIエージェントをソフトウェアに組み込むプラクティス # Dry-run & Commit|差分提示してから実行 🎯 LLMがハルシネーションしたパラメータで決済が走る。それ、dry-runで防げます。 Terraformの plan → apply と同じ発想をエージェントのツール呼び出しに適用。「何が変わるか」を見てから実行する二相プロトコルです。 🔥 解決する課題 LLMはハルシネーションで意図しないパラメータを生成することがあり、ツール呼び出しは副作用を伴います。この二つが掛け合わさると、存在しないリソースIDや桁違いの金額で不可逆な操作が実行されるリスクが生まれます。dry-runなしの直接実行では、人間が「エージェントが何をしようとしているか」を確認する手段がなく、問題は事後にしか検出できません。 💡 提案パターン 副作用を伴う操作を「計画(dry-run)→ 差分提示 → 承認 → 実行(commit)」の二相で行います。dry-runフェーズではシステムを一切変更せず差分だけを計算し、承認を得てからcommitフェーズで書込を実行します。承認方式はリスクに応じて段階化し、高リスクは人間承認、中リスクはポリシー自動検証、低リスクは自動承認とします。planにはTTLを設け、状態変化が起きていたら再生成を強制します。 ✅ 選定条件 使うとき: - 不可逆な操作(データ削除、外部API書込、課金処理)をエージェントが実行する - 誤操作が金銭的・法的・運用的な実害を生みうる - 差分を評価するための数秒〜数分の待機が許容される 使わないとき: - 全操作が読み取り専用の場合 - 全操作が可逆かつ低コストの場合(チャット応答生成など) - レイテンシ制約が極めて厳しく承認待ちが許容されない場合 ⚠️ 落とし穴 - planとcommitの間に状態が変わるTOCTOU問題があります。commit時に前提条件を再検証する設計が必須です - 外部APIがdry-runモードを提供していない場合は、パラメータ検証とシミュレーションで代替し「推定」であることを明示します - commitエンドポイントがplan IDなしで呼べると、dry-runを迂回できてしまいます 🔧 実装方針 - ツール実行をdry-run(差分計算のみ)→承認→commit(実行)の三段階パイプラインとして構成し、各フェーズを独立したエンドポイントに分離します - planオブジェクトに変更前後の値・影響範囲・ロールバック手順・前提条件のハッシュを含め、commit時に前提条件の再検証(TOCTOU対策)を行います - commitエンドポイントは有効なplan IDと承認トークンの両方を必須パラメータとし、直接呼び出しによるdry-run迂回を構造的に防止します - planにTTLを設定し、期限切れの場合は再planを強制することで、古い差分に基づく実行を防ぎます #AIエージェント# #ソフトウェアアーキテクチャ#
もっと見る