焦点关注：【夜航船】为AI设置伦理边界

(相关资料图)

人类点燃了AI的创造力，AI也为人类带来新的行为展现。无论是文学写作，还是艺术生产，AI均表现出惊人的创作潜能和生产水平。AI小说、AI音乐、AI绘画、AI电影、AI短视频等迅速涌现。人类艺术创作来源于生活，而AI创作来自语料库。虽然AI也常常会被人类称赞“富有情感”，然而其底层逻辑依然是根据使用者给出的需求信息进行数据重组，缺乏由真实的主观体验和切身感知带来的喜怒哀乐、爱恨情仇，缺失了历史性的、社会性的、生命个体之间的有机联系。

AI的创作行为越接近人类，越容易让人误以为其具有意识，从而影响人类的正常社会活动。因此为人工智能行为制定相关规范便成为其技术发展的“方向盘”。其中，为AI设置伦理边界至关重要——限制技术滥用，让技术为人类文明和社会进步服务，不容它剑走偏锋伤害人类自身。

过去人们对技术进步普遍怀有一种乐观主义，而冲淡了伦理考量。即使是科学素质相对较高的青年群体，对人工智能的伦理风险也不太关注。随着人工智能的迅猛发展，现在人们已经开始关注和思考人工智能带给我们的伦理风险。

比如在医疗领域，未来，AI可能通过处理少量的病例和实时数据成为诊断疾病的主要决策者。当医生面对复杂病例时，可能更倾向于听从AI给出的“最佳治疗方案”，而舍弃自己的经验和专业性，医生逐渐从掌控者变成了执行者。同时，医疗责任的认定也会为如何更好地保护患者权益带来挑战。

同样，金融是一个高度依赖数据和算法的领域，面对近似的经济信号、监管政策变动或市场突发事件时，很多AI模型极有可能作出相似甚至同步的投资或风险管理决定，或将导致社会大量资金同向流动或同向撤离，催生“模型共振”效应，不利于市场健康发展。

《新一代人工智能伦理规范》《关于加强科技伦理治理的意见》等诸多文件都强调了科技伦理的重要性，并为AI在教育、医疗、金融等领域的应用划定了“不可逾越的红线”。未来各个行业的智能化，是涵盖了安全、伦理、监管与社会责任的系统工程，既是技术与人文的深度融合，也是智能创新与伦理责任的有机共生。人类应该以实事求是的态度建立风险意识、掌握风险防范手段，正确认识和对待新科技、新应用。

关键词： 中国创投网 银行保险