
人工智能正在快速走进银行的核心业务河源泡沫板胶厂,从写报告、做分析到放贷款、搞营销,大模型的身影处不在。
但能力越强,风险也越不容忽视,它可能“胡说八道”,也可能被恶意攻击,甚至因“黑箱”决策让银行和客户都措手不及。
6月18日,农业银行董事长谷澍在2026陆嘴论坛上表示,从大模型运行机理来看,模型风险是种客观存在,“我们需要做的是如何既发挥其作用,又认识到其局限,不追求风险的对消除,而是要建立与风险共生的理体系。”
“除了模型黑箱、模型幻觉,模型自主思考与决策带来的不确定也难以控制。”谷澍具体分析称,随着大模型能力的不断进化,系统已能够自主思考与决策,这放大了过程不可控、结果不可知的风险。
他结农业银行的实践河源泡沫板胶厂,就如何范大模型应用风险提出几点建议:
先是不同场景,不同管法,给大模型“分定规”。谷澍称,对于信贷决策等强监管场景,采用模型蒸馏技术,让大模型在数据成、归因分析和决策式模型生成等面提供助力;对于投研分析等认知场景,强化思维链(CoT)设计,构建清晰的“思考理”轨迹,增强决策过程的透明度;对于产品营销等创意类场景,可充分激活模型的随机来激发创新活力。
为了止大模型“信口开河”,谷澍提到,设定定的标尺约束控制模型幻觉,同时强化人机互补的约束机制。
“比如,PVC管道管件粘结胶我们应用AI赋能信贷调查报告智能生成,通过建立业务标尺、模型互检、模型反思、业务数据校准等式,对模型生成的内容进行自动校验。但信贷案、用信条件等关键内容审核要由人力主,确保结果可控。”谷澍称。
风险应对面河源泡沫板胶厂,谷澍提到了以AI对抗AI的御思路,包括部署门的安全监测模型、建立全链路可信验证与准入机制、强化数据隐私保护,通过提示词注入御、多租户会话隔离、输出内容拦截等措施,范模型理过程中的敏感数据泄露。
具体到银行内部AI理体系,既要划清红线,也要留足试验田。
谷澍认为,面要健全“权责明晰与风险包容并重”的银行内部AI理体系,确保AI既用得好、又管得好。另面,要明确责任边界,留足创新空间,建立分层的容错机制,止未经充分验证的AI能力直接面客。
举报 财经广告作,请点击这里此内容为财经原创,著作权归财经所有。未经财经书面授权,不得以任何式加以使用,包括转载、摘编、复制或建立镜像。财经保留追究侵权者法律责任的权利。如需获得授权请联系财经版权部:banquan@yicai.com 文章作者
齐琦 相关阅读 Anthropic呼吁全世界停止AI研究?网友吵翻了河源泡沫板胶厂
当喊停的是跑得快的那个,良心发现还是营销? 60068 06-05 11:57 上海OPC企业600,加码造OPC经济全国标杆
造“上下楼就是上下游,隔壁座就是伙人”的OPC社区 5136 06-02 16:59 盘中狂欢尾盘急,智谱振幅30警示解禁风险
又是场击鼓传花的资本游戏。 15211 05-29 16:45 生成式AI用户已6亿,大模型信任度、风险关注转变
信任金融、司法等域AI大模型的受访者不到二成。 5 9135 05-21 19:46 Anthropic“挖角”OpenAI创始元老,强化前沿技术研究
核心人物的加入被视为关键背书。 5 7120 05-20 10:52 财热 点击关闭相关词条:铁皮保温施工 隔热条设备 锚索 离心玻璃棉 万能胶生产厂家
奥力斯 万能胶生产厂家 联系人:王经理 手机:13903175735(微信同号) 地址:河北省任丘市北辛庄乡南代河工业区
1.本网站以及本平台支持关于《新广告法》实施的“极限词“用语属“违词”的规定,并在网站的各个栏目、产品主图、详情页等描述中规避“违禁词”。
2.本店欢迎所有用户指出有“违禁词”“广告法”出现的地方,并积极配合修改。
3.凡用户访问本网页,均表示默认详情页的描述,不支持任何以极限化“违禁词”“广告法”为借口理由投诉违反《新广告法》河源泡沫板胶厂,以此来变相勒索商家索要赔偿的违法恶意行为。