個人向けAIエージェントの4種類の記憶について。その人をどう理解して、どう接するかまで分けていたのが面白かった。
現 Grok
@bot のエンジニアで、
@newcomputer のCEOの
@sjwhitmore による去年の講演の文字起こし
個人向けAIのDotを開発する中で、記憶の作り方をどう変えてきたかという話。今は事業を閉じて、Cursor/Grok Botチームにjoinしたみたい
この考えが、 Grok
@bot にも反映されてるのかな。
----
まず、①心の理解 (Holistic Theory of Mind)
直訳すると、「心の全体論」で、人間の心を「理性」や「感情」、「意識」や「無意識」、「心」と「身体」といった個別のパーツに切り離して考えるのではなく、すべてが有機的に結びついた「分割できない一つの統一体」として捉える思想・アプローチのことらしい
その人が何を大事にしていて、何を目指し、自分をどう捉えているか。毎回プロンプトに読み込む。昨日の話題とは別に、会話の前提として持っておくもの。
----
②出来事の記憶 (Episodic)
日ごと、週ごとの要約。昨日や先週の会話など、時期を聞かれたときに引き出す
----
③人や物の記憶 (Entity)
人、場所、物などの名詞ごとに情報を持ち、検索アルゴリズム、意味検索、キーワード検索を組み合わせて探せるようにする
会話の1行ごとに更新し、重複しそうなものは定期処理でまとめ直す。この処理をdream sequencesと呼んでいた。人間が寝てる時に見る夢の仕組みかな
----
④振る舞いの記憶 (Procedural)
こういう状況ではこう接する、というメモ。たとえば、言葉に出ていない感情や動機がありそうなら、質問して確かめる。話題の意味が似ているかより、今の状況が似ているかで呼び出す。会話の内容だけでなく、次の会話での接し方も更新していく感じか
----
これらを並行して参照し、常に読み込む心の理解と、その都度必要な記憶を1つのプロンプトに合成する。本人が「フランケンプロンプト」と呼んでいたのは、この組み合わせが毎回変わるかららしい
----
この仕組みを、Notionで作ってみて、ChatGPT, Muse、 Grok Botで参照しあえたら面白いかな。
過去の出来事を探せることと、自分の判断軸を踏まえて接してくれることは分けて考えたい。
今は、ログを全部渡せても、何を大事にしている人なのかを読み違えたままだと、次の提案もずれちゃうし、自分についての解釈を、自己修復しつつ訂正できるところまで欲しいな