ついにAnthropic, オープンウェイトに関して声明出したか Darioの立場は「open weightsを禁止」ではなく、モデルのオープン/クローズドではなく、その能力とリスクで線を引き、根本の規制を政府に要求するというかたちかな。 要点 • 危険な能力を持たないopen-weightsモデルは、企業・開発者・研究者に価値を提供するpublic good • 本当の安全保障上の懸念は、権威主義国家が米国を超えるモデルを持つことと、強力なモデルがサイバー・生物攻撃などに悪用されること • 対策は米企業による利用禁止ではなく、先端チップの輸出・密輸対策、大規模distillationの抑止、open/closedを問わない高性能モデルの事前安全性評価 • open weightsが防御側に有利という主張には慎重で、特に生物領域では攻撃側が有利になる可能性を実証的に検証すべき —— Darioの立場、open weightsかclosedかの二項対立ではなく、「どの能力が、誰の手に渡ると、どこまで不可逆になるか」で線を引こうとしているのが重要だと思う 十分に強いモデルはopen/closedを問わず事前の安全性評価が必要で、中国への対策も米国内での利用禁止ではなく、先端チップ密輸や大規模蒸留に絞るべきという整理。 —— 一方で、原理主義的だとも思っていて、現実には中国がフロンティアモデルを蒸留し、オープンウェイトとして公開してしまっている以上、安全性評価やチップの密輸規制だけで封じ込めるというのは、少し理想論に見える。 しかも一度公開されたウェイトは回収できない。米国企業だけがルールを守って開発や公開を抑制する一方で、国外から同等に近いモデルが出続けるなら、安全性と競争力の両方で非対称性が残る。 彼らには実態はLLMの販売というビジネスモデルしかないのでポジショントークせざるを得ないけど。 —— 日本においても，自国完結のソブリンAIが求められる中、日本企業で唯一Sakana AIが署名発表してるが、日本独自でのフロンティアモデルの学習は計算資源の観点で不可能なので、オープンウェイトには賛同すべき