在生成式人工智能和大模型技术加速落地应用的背景下,亚太人工智能安全研究学会(Asia-Pacific Artificial Intelligence Security Research Association,简称 APAIS)近日正式宣布成立。学会将围绕人工智能安全治理、模型风险控制与数据合规体系建设开展系统性研究与交流,推动区域人工智能安全生态健康发展。
近年来,大模型与智能体(Agent)技术在金融、政务、医疗、工业等领域快速应用,在提升效率与创新能力的同时,也带来了模型训练数据安全、隐私推断风险、算法偏差、自动化决策责任界定以及工具调用安全等新型挑战。如何在促进人工智能创新发展的同时,构建系统化风险防控机制,已成为行业与监管关注的重要议题。
据介绍,APAIS 的筹备工作始于 2025 年初,由多位长期从事人工智能安全研究、企业应用实践与合规管理工作的专家联合发起。筹备期间,发起团队围绕大模型安全风险、智能体工具链安全、数据治理体系建设等问题开展了多轮闭门研讨,并形成阶段性研究报告。在充分调研亚太地区人工智能安全发展现状的基础上,最终决定成立专门研究机构,推动跨区域协作与标准建设。
一是研究大模型与智能体系统的风险识别与分级管理机制,构建可评估、可审计的安全框架;
二是加强模型训练数据治理与隐私保护技术研究,探索数据最小化、差分隐私及合规审查路径;
钱兴会担任学会秘书长,并负责金融专业委员会工作。钱兴会表示,人工智能在金融行业的应用场景高度复杂,涉及客户隐私、交易安全与风险控制等核心领域。随着大模型逐步参与智能投研、风险评估与自动化决策流程,模型风险管理与数据合规要求不断提升。金融专委会将重点关注模型风险分类管理、智能体决策可解释性、数据合规审查机制以及审计可追溯体系建设,推动人工智能在金融领域的安全规范应用。
多位行业专家在筹备阶段表示,人工智能正成为数字经济的重要基础设施,其安全治理能力将直接影响产业长期稳定发展。成立专门的区域性人工智能安全研究机构,有助于汇聚专业力量,形成更加系统的风险研究与治理方案。
未来,APAIS 将持续发布人工智能安全研究报告与风险提示,组织专题论坛与技术交流活动,促进产学研协同创新,推动人工智能安全治理理念在亚太地区落地。
目前,学会已面向人工智能研发、安全工程、数据治理与合规管理等领域专业人士与机构开放会员申请,欢迎相关单位和专家参与,共同推动人工智能安全与治理体系建设。
免责声明:此文内容为本网站刊发或转载企业宣传资讯,仅代表作者个人观点,与本网无关。仅供读者参考,并请自行核实相关内容。
从今日起,中国电信将再次大幅下调国际及港澳台地区漫游流量资费,同时开通覆盖绝大部分出访量的106个国家和地区的4G漫游服务。
奇虎360认为用户在中输入“360省电王”时,下载链接指向搜狗手机助手。
今日头条今日宣布战略投资国内知名图片库东方IC,投资案完成后,东方IC仍将继续保持独立运作。今日头条方面并未对外公布具体交易细节,不过有消息称该投资为控股级投资。
违法和不良信息举报电话(涉网络暴力有害信息举报、未成年人举报) 举报邮箱:br>