━━━Coming Soon━━━━ 映画『#最初の半歩』# 監督：スティーヴ・チャン ──────────────── 🗓 10/9(金) 上映開始 🎫 販売開始：10/7(水) 0:00〜 ──────────────── ご予約はこちら🔽

❖━━━━━━━━━❖ 　 Weekly Schedule ❖━━━━━━━━━❖ 今週(10/9~10/15)の上映スケジュール🎬 ◇映画『#最初の半歩』# ◇映画『#長安のライチ』# ご予約はこちら

━━━ 10/13(火) ━━ 上映ラインナップ ━━━━━━━━━ ◇映画『#最初の半歩』# 〈13：15〜〉 ◇映画『#長安のライチ』# 〈15：30〜〉 ご予約はこちら🔽

━━━ 10/11(日) ━━ 上映ラインナップ ━━━━━━━━━ ◇映画『#最初の半歩』# 〈13：15〜〉 ◇映画『#長安のライチ』# 〈15：30〜〉 ご予約はこちら🔽

━━━ 10/10(土) ━━ 上映ラインナップ ━━━━━━━━━ ◇映画『#最初の半歩』# 〈13：00〜〉 ◇映画『#長安のライチ』# 〈15：30〜〉 ご予約はこちら🔽

━━━ 10/9(金) ━━ 上映ラインナップ ━━━━━━━━━ ◇映画『#最初の半歩』# 〈11：15〜〉 ◇映画『#長安のライチ』# 〈13：30〜〉 ご予約はこちら🔽

━━━ 10/12(月) ━━ 上映ラインナップ ━━━━━━━━━ ◇映画『#長安のライチ』# 〈10：30〜〉 ◇映画『#最初の半歩』# 〈20：30〜〉 ご予約はこちら🔽

最初の指示がコンテキストに残っていても、生成が長くなると影響は薄れるのかを測った「A Conditional No-Hair Theorem for Transformers」という研究（ 測り方が丁寧で、異なるプロンプトの後ろに、まったく同じ続きの文章を与える。自由に生成させると、内部状態の違いが「最初の指示の違い」なのか「生成した文章の違い」なのかわからないからだ。同じ文章にそろえれば、残った差を元プロンプトの影響として調べられる。 PythiaやQwen2.5では、その差がべき乗に近い形で減衰した。べき乗とは、文章の長さに対して一定の指数で小さくなる関係。しかも、調べた条件では学習済みモデルの深い層のほうが、未学習の同じ構造より速く薄れた。 理由として示すのがAttention（過去のどの情報を参照するかを決める仕組み）の希釈。続きが増えるほど、固定長のプロンプトへ向く割合が小さくなる。続きの語が指示の情報を中継する経路も分析している。 ただし定理は条件付き。有限の層数、参照スコアに上限があること、正規化前の内部状態がゼロから離れていることなどを仮定する。「何トークンで必ず指示を忘れる」と予言する式ではなく、大規模モデルでの同じ挙動も未検証だ。 生成した文章に指示の情報が残れば、後の出力にも影響し続ける。たとえばフランス語で書き始めれば、その履歴が次のフランス語を支える。元の指示から受ける影響と、すでに書いた文章から受ける影響を分けて考えるのが面白い。