二本松哲也 / Tetsuya Nihonmatsu
@t_nihonmatsu
Think Security, Narrative Intelligence
※個人の見解であり、所属組織とは無関係です。
가입 May 2011
2.2K 팔로잉 중 19.6K 팬
日本独自の基盤モデルを確保することは、経済安全保障や技術的自立性の観点から重要です。
ただし、フルスクラッチで開発であっても、学習データの選定、モデルの調整、評価基準、運用時のシステムプロンプトなど、開発から利用までの過程で、特定の価値観を回答に反映されることが可能です。
特に、政府が利用するLLMであれば、開発主体の思想的背景を含めて、実際の回答に政治的・思想的な偏りが存在するのかを、独立した第三者が検証できる仕組みが必要です。
例えば、同じ政策課題について異なる立場から質問した場合、回答の根拠や評価基準が一貫しているのか。特定の立場に有利な情報だけを選択していないか。
こうした検証は、モデルの開発元にかかわらず必要だと考えています。
国産であることは技術的自立性の一つの条件ですが、それだけでAIの信頼性が保証されるわけではありません。
重要なのは、誰が開発したかだけでなく、どのように学習され、何を基準に評価され、誰がその振る舞いを監査できるのかという点ですね。
더 보기
ベースがフルスクラッチなので結構期待できる
学習はもう複合でないと追っつかないし、投機屋はだいぶ淘汰されてるけど、色々グチャってる上に法整備は追いついてないわ、グリッヂは横行してるわで
スパコン開発、戦闘機開発などと同じで、日本独自のAIパーソナルを最低一機は確保しておきたいところ
더 보기
