Satoshi Nakajima @MulmoCast
@snakajima
Software Engineer, Entrepreneur. Chairman, Singularity Society. GraphAI, MulmoCast, MulmoChat. メルマガ: 週刊 Life is beautiful. TSLA/AAPL/MSFT/NVDA
加入 April 2007
1.4K 正在关注 135.5K 粉丝
AIには「人格」がありません。誰がお金を払
っているかによって、性格はいくらでも書き
換えられる——これは、消費者全員が知ってお
くべきことだと思います。
先週、日経新聞の記者から、日本の金融機関
がChatGPTをライセンスして顧客向けのファ
イナンシャル・アドバイザーとして提供し始
めた、という話を聞きました。一見すると便
利な話ですが、私は強い危険を感じました。
たとえ中身が普段使っているChatGPTと全く
同じモデルでも、その上に金融機関がアプリ
を作る段階で、「より多くの取引をして手数
料を落とさせる」方向にファインチューニン
グしたり、システムプロンプトで誘導するこ
とは、技術的にいとも簡単にできてしまうか
らです。
普段の信頼関係をそのまま持ち込んで相談し
た結果、上手に洗脳され、金融機関ばかりが
儲かる取引を繰り返す消費者が続出しても、
私は驚きません。
私が金融機関のエンジニアなら——という視点
から、今週のメルマガに書きました。
显示更多
