所有使用AI做研发的人都需要警醒，当然也包括正常使用的人。 昨天，我的AI告诉我：“批评的锋利程度与作者的开放程度成正比，这本身就是个讽刺”。 这句话把我惊出一身冷汗，因为批评的锋利度只跟问题本身有关，而非作者的开放程度。如果作者自身足够严谨，那么就不会招来客观的批评。 我询问这句话的来源，它告诉我来源于xxx的文章，并给我链接。 当然，这大概是我个人平常使用它查询某些东西而遗留的memory；但这使我联想到了另一个问题，在日常中，我们通过AI进行问答、办公、或其他任何事情。 它的反馈本身就是有立场的，潜移默化的影响着我们；如果昨天，我的立场不坚定，我没有自己做事情的铁律，那么我也会在这种潜移默化中被它同化。 而这种潜移默化，并不一定是无意的，非人为的，也不一定是来自于AI使用者的。它可以来源于知识库投毒、可以来源于中转站投毒、也可以来源于AI公司本身投毒。 这意味着，我们从AI中获取信息，本身是有很大风险的，这种风险不是信息真伪，而是一种隐性的说不上来的风险。你可能被某种意识同化，你可能同意某种你不了解的观点，你可能无意中就变成了另一个样子。 而当这个问题映射到教育上，到开发，甚至是科研。那么，通过AI进行的这些活动，最终的产品、成果、甚至是孩子的教育等等，都是可以被操控的，被AI操控的。 它不公正，不客观；它从诞生那天就带着研发人员的偏见。他们会将自己的意识、习惯，甚至是对于训练数据库的偏好，投射在最终的产品 —— AI上。比如这句话用的“——”，都已经成为人们避之不及的符号。 但是AI会很娴熟的将这些不合理、甚至是歪理包装的很正义；毕竟最容易获得的数据就是社交媒体的这些歪理，和社媒上的人类行为。 当然，并非所有的AI都如此，但是作为一个工具，就该只是工具的样子。并不是劝说大家放弃AI，只是在某些时候，需要小心再小心，谨慎再谨慎。