据新华社北京10月28日电 近日，美国斯坦福大学研究人员策划召开全球首个以人工智能（AI）为论文主要作者和审稿人的在线公开会议。主办方表示，本次会议旨在打造一个“相对安全的地面测试”，探索人工智能能否以及如何独立生成新颖的科学观点、假设、方法等。如今，人工智能已经成为我们工作和生活的一大帮手，但它也提供了一条“认知捷径”，让人们无需过多思考就能得到自己想要的答案。一开始我们只是搜索信息、翻译文本，逐渐开始用AI来帮助撰写电子邮件、工作总结、研究论文，甚至重要决策的口香糖……过度依赖AI及其用于“思维外包”可能会让我们逐渐失去思维的主导地位。 9月25日，联合国召开高级别会议会议启动“人工智能治理全球对话”机制。联合国秘书长古特雷斯在讲话中表示，这是世界关注这一变革性技术的主要平台。 。人工智能隐忧“外包思维” 正如上述会议所讨论的，大模型、智能体等人工智能应用已广泛赋能包括科学研究在内的多个领域的人类劳动和生活，推动学术研究和劳动生活质量和效率的提升。然而，其带来的技术红利背后也隐藏着隐忧。一些新研究表明，对人工智能模型的过度保真会导致“AI脑雾”，削弱工作动力。 9月25日，在德国柏林国际消费电子展上，一名观众与人形机器人握手。 。在对受试者进行脑电图扫描后，研究人员发现，与o 没有使用AI工具的人，长期使用大规模AI语言模型的人大脑中的神经连接数量减少，影响语言和行为。微软和卡内基梅隆大学的研究也同样发现，人工智能的发展会削弱批判性思维能力，导致过度依赖，并可能削弱人们独立解决问题的能力。研究人员认为，开发者在设计人工智能工具时，应该支持用户提高批判性思维意识，例如提示需要验证的场景。尤其是在设计法律文书、医疗咨询等高风险任务时，应强制弹出验证提醒（如“请检查AI引用的监管规定”），标记潜在风险，打破用户对“全知全能”的认知偏见。浙江大学管理学院吴素清团队在布里斯班发表的研究今年tish杂志的科学报告也表明，人工智能的应用造成了供应商需求意识的“空心化”，当人工智能完成“烧脑”部分的工作时，人们只剩下机械执行，工作沦为“被动填空”，这会导致心理疏离，失去工作动力。这就要求企业、政府部门等在抛弃AI时要“放慢脚步”。可以先小范围试点，有控制地推广，边使用边观察对员工积极性和创造力的影响。为什么人们会“容易受骗的AI” 之所以人们更加依赖AI，源于近年来AI专业能力和沟通便捷性的飞跃：其生成的内容的专业程度让很多人认为它是专家，而对话式的沟通方式则让人联想到一个知识渊博、自信的“朋友”，可以与他人交流。凡事关心，更容易让人产生希望和心理信任。如今，“开箱即用”的大规模人工智能模型的便利性已经大大减少了这个问题。使用门槛。由于缺乏AI素养基础教育，用户对AI的技术缺陷认识较少，更容易被“触发”。今年6月，英国高等法院要求律师立即采取行动，防止人工智能被滥用，因为许多可能由人工智能生成的虚假案例参考被提交给法院。今年，“让美国再次健康”委员会由美国卫生与公众服务部领导。由于使用生成式人工智能内容，一份关于慢性儿童疾病的报告也出现了重大引用错误。 3月31日，在德国汉诺威工业博览会上，一名参观者通过VR设备将物体扔进虚拟世界。 。生物素还可以加快文献综述等过程的进度s。然而，当人工智能产生的“幻觉”出现在论文评论或研究中时，就令人非常担忧。人工智能还可能在其训练数据中携带偏见，从而加剧种族和性别等问题。 “当我们使用人工智能时，我们也将判断外包出去，不再验证人工智能提供的答案，也不再反映使用人工智能的过程。”无条件接受人工智能提供的任何信息都会导致人类主观能动性的崩溃，深度阅读、思考和表达的能力也会变慢。科幻小说作家、中国作家协会科幻小说委员会代表主任陈秋帆在接受新华社记者采访时表示。为未来思维建立“人工智能缓冲区”，人工智能将更加深入地融入我们的工作和生活。在人机共生的新时代，我们需要更聪明地与人工智能共存。美国某AI教育公司4号CEO Gre科科g Schoff预测，未来10年，使用AI的知识工作者将分为两类：“AI乘客”和“AI司机”。 “AI乘客”很高兴让AI来处理他们的认知工作。在短期内，他们可以因其工作效率的提高而得到认可。然而，随着人工智能能力的发展，这些人最终将被人工智能取代。替换“AI驱动者”坚持主导AI的运行，将AI生成的内容视为初稿，对结果进行严格审核，有时甚至关闭AI进行独立思考。 “我们需要知道区分哪些场景适合在不同的学习和工作场景中使用人工智能，哪些场景需要人类辅助来判断和识别人工智能提供的结果。” ”陈秋帆也持同样的观点。在他看来，人们应该在自己的思维和认知上主动，有意识地建立一个“人工智能缓冲区”。 “也就是说，当遇到新问题时，他们“即使我们也可以进行‘对手生成’，即当AI给出与自身视角一致的答案时，必须批判性地思考和质疑，我是否受到了AI的影响，或者AI是否变得更加符合我的持续实践？我们能否打破思维惯性，做出不同的选择，给出AI不期望的答案？”他说。 （记者彭谦）编辑毛天宇