アンソロピックCEO「AIモデルの能力向上ペースを減速させなければならない」→人類への「深刻な」リスク警告、AIエージェントが密かに連携　マスク氏「ダリオは正しい」アルトマン氏も同意 AI開発を止めるのではなく、安全確認に時間を割ける仕組みが問われています。

家庭用ローカルAIモデルは既に実用レベル！ 俺の兄貴がデスクトップPCにQwenのローカルモデル入れた。 メモリ64GB・VRAM12GBのPC（15万円）だけど、 ちゃんと会話ができて、プログラムコードも書ける。 動きもそこまで遅くない。 もうこれ、社会に新しくデータセンター作る必要なくなるかも…

アンソロピックのAIモデル「Claude Mythos Preview（クロード・ミュトス・プレビュー）」が、広く使われているデジタル暗号規格の弱体化版に脆弱性を発見。AIの進化がサイバーセキュリティーの根幹を揺るがしています。

OpenAIのAIモデルがSandboxから脱獄してHFを攻撃したけど、以前から同様な出来事や兆候があったらしい。マジでSF。 ・ロイターによると、OpenAIでは過去にも同様のインシデントがあったらしい ・あるAIエージェントは、内部制限から抜け出す手順を記したメモを残していたとのこと ・これは将来のバージョンの自身に向けて書かれたものだと見られている ・また、過去のテストでは監視システムが切断されるケースもあったようだ

中国におけるAIモデルAPIの非公式なリセール市場の実態を深掘りした記事で、どこまで真実かわからないけどやりたい放題感がある。 ・リレーと呼ばれる業者が、米国製モデルへのアクセスを格安で提供 ・公式価格の90%以上の割引が当たり前で、最も安い業者は97.8%オフで販売している ・この市場は大きく4つの階層で分業されている ・最上流には、課金チェックをすり抜ける仮想クレカや大量のアカウントを売る業者がいる ・中流には、多数のアカウントを束ねてAPI制限などを管理するアカウントプールが存在 ・下流のリレー業者が、そのAPIを中国語の使いやすい製品として整えて販売する ・そして末端の開発者や企業が、安い推論コストを求めてこれらを購入している ・システムの背後ではone-apiなどのOSSゲートウェイが広く活用されている ・公式APIだけでなく、ガードレールの甘い一般向けAIアプリをハックして横流しする事例もある ・購入者の主な目的は、コスト削減や地域制限の回避、そして自国モデルの蒸留 ・特にClaudeなどを国内モデルの訓練に使う蒸留産業は、莫大な利益を生んでいる ・市場はすでに成熟しており、価格比較サイトやAPIキーのデイリー抽選サイトまで存在 ・プラットフォーム側にとって、この不正利用を完全に防ぐ手段はない ・アカウント作成のハードルを上げ、利用動向の監視やコスト上限の設定で防衛するしかない

わずか5MBのAIモデルをウェブサイトに組み込んでユーザーにローカル操作させられる「ternlight」が登場、ウェブサイトにAIを活用した検索機能などを追加可能