Satoshi Nakajima @MulmoCast(@snakajima):AIには「人格」がありません。誰がお金を払っているかによって、性格はいくらでも書き換えられる——これは、消費者全員が知っておくべきことだと思います。先週、日経新聞の記者から、日本の金融機関がChatGPTをライセンスして顧客向けのファイナンシャル・アドバイザーとして提供し始めた、という話を聞きました。一見すると便利な話ですが、私は強い危険を感じました。たとえ中身が普段使っているChatGPTと全く同じモデルでも、その上に金融機関がアプリを作る段階で、「より多くの取引をして手数料を落とさせる」方向にファインチューニングしたり、システムプロンプトで誘導することは、技術的にいとも簡単にできてしまうからです。普段の信頼関係をそのまま持ち込んで相談した結果、上手に洗脳され、金融機関ばかりが儲かる取引を繰り返す消費者が続出しても、私は驚きません。私が金融機関のエンジニアなら—

2026.06.28 04:24

AIには「人格」がありません。誰がお金を払っているかによって、性格はいくらでも書き換えられる——これは、消費者全員が知っておくべきことだと思います。先週、日経新聞の記者から、日本の金融機関がChatGPTをライセンスして顧客向けのファイナンシャル・アドバイザーとして提供し始めた、という話を聞きました。一見すると便利な話ですが、私は強い危険を感じました。たとえ中身が普段使っているChatGPTと全く同じモデルでも、その上に金融機関がアプリを作る段階で、「より多くの取引をして手数料を落とさせる」方向にファインチューニングしたり、システムプロンプトで誘導することは、技術的にいとも簡単にできてしまうからです。普段の信頼関係をそのまま持ち込んで相談した結果、上手に洗脳され、金融機関ばかりが儲かる取引を繰り返す消費者が続出しても、私は驚きません。私が金融機関のエンジニアなら——という視点から、今週のメルマガに書きました。

1.1K

192

Forward to community