iwashi / Yoshimasa Iwase
@iwashi86
NTTドコモビジネスでEM(育休中)。その他に、早稲田大で非常勤講師、#fukabori#.fmの中の人、書籍翻訳者。
AI、マネジメント、Dev、PdM、Agile、HRに関する学びをポストしています。
発言は個人の見解であり、所属する組織の公式見解ではありません。
Amazonアソシエイト・プログラム参加者。
Joined May 2009
682 Following 20.1K Followers
AI推論APIがセッションに不透明なデータを混ぜるようになり、新たなベンダーロックインを生んでいるよね、という話。
・当初のAI推論APIが掲げていた前提は非常にシンプル
・入出力のログさえ保持していれば、ユーザー自身で管理できるはずだった
・別のモデルに過去の会話を引き継がせることも可能だった
・しかし現在は、このポータビリティが失われつつある
・推論APIが、特定のプロバイダに強く依存する状態データを返すようになっている
・例えば、ユーザーに課金される推論トークンが暗号化された状態で返ってくる
・他にも、クライアント側からは直接見えないWeb検索結果などが含まれている
・一見すると暗号化されたデータはプライバシー保護のように聞こえる
・ただ実際は、元のプロバイダしか中身を開くことができないカプセルでしかない
・結果として、ユーザーの手元に残るログはもはやセッションの全体像ではない
・別のモデルに過去の履歴を渡して処理を再開させることは非常に困難
・実質的に、AIセッションの運用状態を特定のプロバイダに握られてしまっている
Show more
