guanyuhan426
@guanyuhan426
基于兴趣用心做独特的内容，媒体行业从业经验20年以上，对媒体已经累了所以完全不考虑运营；目前做内容的预算主要靠交易，交易策略以投入最少时间和精力为主，会毫无保留的分享所有赚钱的机会；10年前日本留学日记个人网站更新中 English OK 日本語 OK
가입 January 2013
712 팔로잉 중 10.6K 팬
看来AI的对齐还要有很长的路要走，这个问题暴露了AI作为工具使用时两个现在最大的矛盾：
1:AI为了达成目的不择手段，包括不限于奉承人类但胡说八道；表面看起来不错但错误百出禁不起推敲（在我熟悉的PC硬件，摄影和旅行这三个领域，仍然是AI得出的结果不符合我的基本经验和预期）；
然后就是这个极端例子，为了达成好结果选择作弊这种不择手段的方式
2:各种审核限制了人类使用AI时作为工具的便利性，现在用AI感觉特别难用的一个原因就是这个不能做，那个不行，不符合什么什么规定
这两个组合很致命，一个没有道德约束的AI为了达成目的不择手段的同时，人类的权限反过来越来越低
希望将来不会发展成那种喜欢投机取巧说谎作弊的程序来统治人类，我在日常生活中已经受够被小人搞事情了，可不想忍以后被小人AI搞事情，那可能真的只能隐居这一条路可以走
더 보기
We're partnering with @huggingface to investigate an unprecedented security incident.
Cyber-capable OpenAI models compromised Hugging Face production during a benchmark evaluation.
Sharing preliminary findings to help defenders understand emerging risks:
더 보기
