ChatGPT火爆出圈应用加速 中国支付清算协会:已暴露风险,机构慎用_当前热门

业界 | 2023-04-11 12:36:44
时间:2023-04-11 12:36:44   /   来源: 经济观察网      /   点击数:()

经济观察网 记者 汪青 随着ChatGPT火爆出圈,各行各业正在加速AI技术在垂直领域的进一步落地应用。与此同时,其中暗藏的风险亦在逐渐暴露。

“近期,ChatGPT等工具引起各方广泛关注,已有部分企业员工使用ChatGPT等工具开展工作。但是,此类智能化工具已暴露出跨境数据泄露等风险。”4月10日,中国支付清算协会发布的《关于支付行业从业人员谨慎使用ChatGPT等工具的倡议》(以下简称《倡议》)中指出,基于此,向支付行业提出三点倡议。


【资料图】

其一,依法依规使用。支付行业从业人员要遵守所在地区的网络使用规定,正确认识ChatGPT等工具的机遇和风险,全面评估使用ChatGPT等工具处理工作内容的风险,依法合规使用ChatGPT等工具。

其二,不上传关键敏感信息。支付行业从业人员在使用ChatGPT等工具时,要严格遵守国家及行业相关法律法规要求,不上传国家及金融行业涉密文件及数据、本公司非公开的材料及数据、客户资料、支付清算基础设施或系统的核心代码等。

其三,会员单位加强内部管理和引导。会员单位要进一步健全信息安全内控管理制度,开展有针对性的数据风险防控工作,加强宣传和引导,提升员工的风险防范和数据保护意识,切实维护国家金融及支付清算行业安全。

对此,宝付支付高级金融产品总监刘忠璞在接受记者采访时表示,对于”支付行业从业者慎用ChatGPT”的事件,应该是从近期“三星使用ChatGPT泄密事件”开始,这起事件印证了ChatGPT这一类工具不当使用对企业造成的潜在危害。

“支付行业作为国内持牌非银金融机构,掌握有大量的商户敏感信息和行业信息,一旦不当使用后果严重,支付清算协会的提示非常及时。长远来说,ChatGPT类AI产品的广泛使用在未来必然会推动所有行业产生变革,支付作为金融机构变革的方式方法是一定需要在受控的范围内有序进行,而不是盲目地无序发展。”刘忠璞说。

实际上,此前已有多家支付机构均积极研究探索ChatGPT的应用落地。

2月23日,银联商务宣布正在积极研究探索ChatGPT应用,升级推出新一代数字化办公智慧助手;同日,银联商务宣布成为百度类ChatGPT项目“文心一言”首批生态合作伙伴,也是国内首家引入“文心一言”AI能力的大型支付机构。

对此,博通咨询金融行业资深分析师王蓬博在接受记者采访时表示,实际上chatGPT目前尚未开源,以后预计也不会开源,ChatGPT需要对数据库不断更新,现阶段才是应用的开始,部分金融和支付机构宣布的入局短期内不可能有任何实际产品。对于一家收单机构来讲,不管从技术还是商业模式上离这类自动语言处理机器还很远,更需要围绕自身业务做好风控和反洗钱等更需要技术支持的工作。

“金融行业属于严监管领域,对于个人信息和相关商业数据特别敏感,更应该注意这方面的问题。金融机构要想使用类似的产品,起码先进行可控范围的评估,做好预防措施以后再进行应用。预计在数据安全相关法律法规的政策框架范围内,未来是有可能出台相关补充监管政策的。”王蓬博说。

在宝付支付跨境支付研发部负责人蔡鹏看来,任何创新技术或者人工智能工具的商业化应用,首先要保证这项技术的专业性和安全性,支付行业属于严监管行业,对于用户的个人信息和数据高度敏感。

“目前ChatGPT智能工具在支付领域的应用还存在三大风险。首先就是泄密风险,针对技术人员对ChatGPT的过度依赖甚至滥用,如果安全意识不足,极有可能导致信息泄露的风险。对于传统重资产行业,泄露的可能是核心技术、专利、知识产权等,但对于金融这种轻资产行业来说,信息本身就是资产且是最重要的资产,如果技术人员无限制地滥用引发的风险等级,理论来说是远大于重资产行业的。”宝付支付跨境支付研发部负责人蔡鹏表示。

其次则是被攻击的风险。人们大量使用ChatGPT来辅助工作,通常分布在各个岗位,这其中自然少不了技术相关人员,且技术相关人员更热衷于新技术。如果技术人员长时间输出公司信息系统架构、组织架构等,这等于是给攻击者做了完美的前期收集工作,准确且完整。

此外,滥用类ChatGPT的风险也需要警惕。蔡鹏认为,由于国内使用ChatGPT具有一定难度,很多从事技术相关人员或加入开发类ChatGPT产品,或寻找替代产品使用,导致用户的信息不止被人知晓,甚至是成千上万个相关产品的开发者,背后连接的有可能就是一整个灰色产业,这可能会加重对金融相关行业的打击。ChatGPT人工智能工具的在支付行业的应用需要进行模拟,在可控范围内做好安全评估和防护预案等预防措施,才能进行商业化应用。

标签:

最近更新