简讯：也谈GPT-4风险

□邓遵红

如果说正式推出的ChatGPT让人惊喜的话，刚刚试水的GPT-4就有点让人惊恐了。GPT-4可以说是通过量变（其参数是GPT-3的近十倍，其组合关系的增长何止百千万倍）实现了某种程度的质变。以至于OpenAI的倡导人和创始人之一的马斯克集结上千人签署公开信，呼吁暂停比GPT-4更强大的AI研发6个月，留出时间“共同制定和实施一套高级人工智能设计和开发的共享安全协议，由独立外部专家进行严格审计和监督”，也就是待想清楚并制定好相关规则，确认AI不会走偏以后再继续前进。

(资料图片仅供参考)

抓住机会在GPT风口起舞的同时，金融行业也有不少人开始关注AI的风险，这些风险包括信息过载、虚假信息、隐私安全、合规、伦理问题等。

隐私和数据安全风险：更强的算力，更优的算法，就意味着更大的隐私和数据风险。一方面商业秘密需要保守，商业伦理需要遵循；另一方面信息安全需要保护，信息及安全法规需要遵循，所以隐私和数据安全问题在引入新技术、新方案时是需要考虑的重点。对此，金融机构必须采取更加具有针对性的安全措施。

偏见和歧视风险：如果说在公域数据上训练出来的GPT会有偏见和歧视的话，那么私域数据训练出来的GPT的偏见和歧视会更加明显，私域数据量比公域要小得多，小数据量比大数据量更容易形成偏见和歧视，这是规律使然。对于金融机构而言，会对企业商誉损害巨大，同时也会带来客户流失和业务损失。

内容不确定性风险：尽管ChatGPT生成的内容已经很大程度上可以代替人类，但由于GPT的黑盒问题，可能会陷入茫然。这种不确定性对于金融机构而言，若用来实时地回复客户问询，一旦出现词不达意、文不对题，可能就会闯大祸。

监管和合规风险：如果未经充分验证就使用GPT，就有可能触犯法律和监管规定，导致严重后果。合规是金融机构的生命线，在应用任何新技术、新方法、新工具、新方案时，要保证其过程和结果的合规性，GPT更是如此。

战略和变革风险：GPT的应用一定会带来企业的巨大变革，这种变革首先是过程性的、职能性的，但最终必将是全面性的和战略性的。变革就有风险，战略性变革就有战略性风险，这需要金融机构决策层及早关注好，并采取行动。

员工岗位和能力丧失风险：GPT可以高效优质地从事许多工作，可以成为善用它的人的好帮手，同时也可能完全替代部分一般性岗位。被彻底替代岗位的员工面临转岗甚至失业的风险，而使用GPT的员工可能会被工具绑架。人的能力倒退，对企业来说是致命的。

风险对于金融机构并不新奇，因为风险与收益同在。GPT是一个新鲜事物，必须慎重以待。我们要做的是培养用户意识，锻炼专业队伍，制定规范规则，加强监督管理，实施技术保护，建立风险偏好和容忍机制，设立损失补偿机制，然后大胆先行先试，积累经验，占领先机，保持优势。

（作者系金融街集团信息总监）

关键词：