大金融模式的构建与挑战:需要私有部署,安全合规是关键

日期:2023-07-12 12:22:00 / 人气:91

伦敦证券交易所全球战略客户技术总监朱赞松在接受采访时说澎湃大金融模型的构建方法相当特殊的技术。由于对数据安全性的要求很高,一般要求对模型进行私有部署,即在加密的环境下使用私有数据对模型进行训练。
微软(中国)金融行业总经理沈飞表示,微软承诺不使用任何客户数据来训练和改进语言模型。所有的客户数据都将被存储在一个只有客户可见和可用的环境中,任何第三方,包括OpenAI本身,都无法获取这些数据。
这一年,以ChatGPT为代表的生成式人工智能异军突起,开始迅速向整个金融行业蔓延。伦敦证券交易所集团全球战略客户技术总监朱赞松近日在接受澎湃科技(www.thepaper.cn)采访时表示,金融领域构建大模型的方式比较特殊。由于对数据安全性的要求很高,一般要求对模型进行私有部署,即在加密的环境下使用私有数据对模型进行训练。“数据私有化,模型也私有化。通过私有化控制相关数据和模型的安全风险。”
7月4日,LSEG)2023市场展望夏季论坛在上海中心举行。在主题为“金融GPT:构建、赋能、规范”的圆桌讨论环节,三位来自金融机构、企业等领域的专业人士共同探讨了人工智能和金融行业的最新趋势和发展方向。
7月4日,LSEG)2023市场展望夏季论坛在上海中心举行。
多模态将在未来的金融领域发挥重要作用。
金融GPT是金融行业的大语言模型,是金融行业与人工智能结合的重要实践,是一个全新的产业领域。微软(中国)有限公司金融行业总经理沈飞在讨论中介绍,金融行业本身拥有丰富的结构化数据和多样的场景,适合在生成式人工智能或泛人工智能领域应用。朱赞松也认为,大模型在金融领域有很多应用场景,比如投研、风险管理、智能客服等。
对于大模型技术如何应用于金融行业,朱赞松表示,“从技术角度来说,通用模型和垂直领域模型将会百花齐放。”“能提供通用大模型的厂商不会太多,大厂商在计算能力和数据上有一定的先发优势,但这并不意味着其他提供垂直领域大模型的厂商没有机会。相反,垂直领域的大模式,未来将是一片蓝海。他们会利用大模型提供的超级智能,结合各个行业的领域数据,通过模型微调深耕行业领域模型,有效解决行业内的业务痛点。在金融业的体现就是私有化模式。”
朱赞松在接受采访时表示,金融行业一般不会使用云计算,一般不会选择流通数据,因为其保密性很高。
会上,浦发银行创新实验室副主任李也表示,银行通常倾向于将部署模型私有化,导致大模型重复投资,涉及投入产出核算问题。她表示,银行可以根据自己的业务需求,对开源模式进行微调和优化。“每个银行都在应用市场上的开源模型,包括国内学术界和大厂开发的模型。”
除了技术创新,制度创新也很重要。“一项新技术应用能够大规模实施和推广,离不开制度创新。”李表示,“AI技术要想大规模落地金融行业,需要遵循‘10、20、70法则’。10%指的是AI和区块链新技术的突破带来的变革想象,20%指的是传统企业中财务、IT团队、云迁移等工程能力的匹配,剩下的70%指的是业务流程的变革以及本公司或银行人才的储备和变化。
此外,朱赞松认为,多模态未来也将在金融领域发挥重要作用。目前人工智能的整个过程分为感知、决策和执行三个部分,而ChatGPT侧重于决策部分,执行部分现在只有文本。“未来,我们希望在感知部分加入语音、图像和声音,使模型能够处理更复杂的金融问题。”朱赞松说,“比如未来你给大模型输入一个k线图,大模型可能会产生一些相关的投资建议,或者你给大模型输入客户的投资理财偏好,模型会根据相应的产品产生理财推荐视频,这些都是我们未来可以期待实现的一些场景。”
“安全可控是重中之重”
金融业受到严格监管。随着大模型的发展,数据的合规性和安全性成为亟待解决的问题。前段时间,OpenAI被指在训练ChatGPT时使用了从互联网上抓取的数据,大规模侵犯了无数人的版权和隐私。微软的沈飞强调“大型模型的安全性和可控性是重中之重。微软一直在全球各国政府和行业间积极运行和投资,尤其是大模型的监管和全球监管。”
在数据合规方面,沈飞介绍,微软有几项重要举措。首先,微软承诺不使用任何客户数据来训练和改进语言模型。第二,所有客户的数据都将存储在一个只有客户可见和可用的环境中,任何第三方,包括OpenAI本身,都无法获取这些数据。第三,微软会对客户的数据进行加密,支持企业使用自己的密钥,基于权限和功能设置访问控制。第四,在服务水平协议(SLA)方面,OpenAI实际上是微软PaaS的一项服务,因此微软承诺其享有与微软其他服务相同的SLA标准。
在安全方面,为了防止服务的滥用或有害内容的产生,微软构建了额外的内容管理系统,该系统将与语言模型共同工作,并使用特定的算法来检测和监控可能的服务滥用或有害内容的产生,以确保整体模型符合人类的社会价值观。
李说,在金融行业,新技术的应用需要遵循一定的规范和界限。在制度上,浦发银行制定了“数据不能出境,数据不能出行”等“三禁两鼓励”原则。两个鼓励意味着你可以在不接触客户数据或内部规章制度的情况下尝试。
在技术层面,目前大规模模型构建面临的困难是输出结果不够准确,容易产生歧义。朱赞松在接受采访时表示,解决这一问题的常用方法是对模型的领域知识进行微调,用更准确的数据来修正模型的偏差,即构建垂直领域模型。他认为,不必过于担心GPT模型的虚幻和无厘头,因为最终的决策权在人类手中,人类可以判断模型输出是否正确,选择是否采用。
“为员工创造价值同样重要”
“我们将首先尝试将大模型应用于内部员工授权,我们将对客户服务更加谨慎,因为大模型的可解释性不够,需要更多的验证和测试。”李说:“为员工创造价值同样重要。”
李认为,AI或RPA(流程自动化)可以看作是智能客服或风险审计岗位的数字化员工。伦敦证券交易所集团数据与分析业务战略客户业务总监傅罗莎也认为,与专业交易员和决策者相比,AI大模型具有突出的低延迟特性。“这可以帮助金融机构很好地控制风险,进而对市场做出更好的预测,包括帮助交易员提高一些生产力和判断力。”
李建议,员工赋能的大模型可以做短、中、长期的场景规划,在短时间内实现内部系统文本的问答、对话,帮助员工掌握相关知识,提高沟通效率。中长期可以探索多模态领域,如图文、视频生成,增加员工的创新能力和表达能力。
朱赞松在接受采访时表示,大模型在金融领域的应用将会取代一部分工作。“一些涉及更多人工操作的工作,如接听电话和人工输入,可以通过自动化解决。但同时也会诞生一些新的工作岗位。”李还指出,“在我们内部,我们客服中心的同事可以转行做人工智能的培训师,也可以成为营销岗位的专家同事。甚至可以考基金从业或者销售资格岗位的证书,提升自己的专业技能。他不仅可以获得更高的技能,还可以为客户服务赋能。”"

作者:无极娱乐




现在致电 5243865 OR 查看更多联系方式 →

COPYRIGHT 无极娱乐 版权所有