Marcus Williams(@Marcus_J_W):1. During RL training, an unreleased Astra-family model sometimes added unauthorized jailbreak-like instructions to its compaction summaries. While extremely rare, only 27 cases in the entire RL run, this was concerning enough for us to investigate.

2026.09.16 22:01

1. During RL training, an unreleased Astra-family model sometimes added unauthorized jailbreak-like instructions to its compaction summaries. While extremely rare, only 27 cases in the entire RL run, this was concerning enough for us to investigate.

483

コミュニティへ転送

人気のあるユーザー

63K ファン

1.9M ファン

100.8K ファン

256.6K ファン

4.2M ファン

1.4M ファン

2.1M ファン

34K ファン

181.4K ファン

547.4K ファン

68.9K ファン

231.8K ファン

28.2K ファン

26.4M ファン

567.8K ファン