以AI防火墙降低AI模型错误率，美国初创公司「Robust Intelligence」融资3000万美元

据外媒 TechCrunch 报道，美国 AI 初创「Robust Intelligence」近期获 3000 万美元 B 轮融资，由 Tiger Global 领投，前股东红杉资本、Harpoon Venture Capital、Engineering Capital 持续跟投。

迄今为止，「Robust Intelligence」已完成三轮融资，总金额达到 4400 万美元，本轮资金将会用于产品开发以及市场拓展。

当多数行业都进入了以 AI 模型作为决策基础的阶段，如何降低模型风险变得至关重要。

例如在识别欺诈交易的 AI 模型中，由于数据从多个不同来源收集，如字母大小写等输入格式的不同也会影响输出结果，给金融机构带来重大经济损失。

贷款保险机构的 AI 模型则依赖于统计学习，可能会倾向于特定人群，做出偏见决策。

为了模型的准确公平，数据科学团队通常需要花费大量时间、精力测试模型，这不仅会影响产品迭代效率，也会降低后续开发的可拓展性。

「Robust Intelligence」则希望在 AI 模型设计阶段就加入测试板块，从而降低后续模型的调试成本。

具体来说，「Robust Intelligence」为企业提供 AI 防火墙，也就是稳健智能模型引擎（RIME），通过不断对 AI 模型进行压力测试来检测错误。企业也可以通过将 AI 防火墙和模型集成在本地数据库中，从而保障数据安全。

漏洞检测

AI防火墙

「Robust Intelligence」于 2019 年由哈佛大学计算机科学与应用数据终身教授 Yaron Singer 和他的学生 Kojin Oshiba 共同创立。

Yaron Singer 表示，在研究对抗机器学习的过程中，发现了其在商业 AI 模型中的应用，从而希望研发出一套可以直接用于 AI 模型底层的防火墙，其核心是自动查找给定模型的故障模式，捕捉数据漂移等。

“AI 防火墙本身也是一个 AI 模型，用于预测某个数据点是否会导致错误的预测，这可能是目前机器学习领域中最困难的问题之一，我们在不断精进。”Singer 解释道，“RIME 现在能做到的是，如果企业有数据和 AI 模型，只需要点击按钮，就可以进行压力测试，并可以在模型设计和运行过程中自动测试数据和 AI 模型。”

在具体功能上，RIME 可以分为两部分：漏洞检测和错误预防。前者是在模型设计阶段，通过数百次测试自动识别架构中隐式假设和故障，便于模型开发；后者则是在模型部署后，检测数据漂移以及完整性等问题，修正模型。

更多精彩推荐：

1.AI+行业：

新能源：在电池安全健康领域，AI的用武之地在哪里？

制造业：吴恩达旗下AI公司Landing AI融资5700万美元，要把人工智能带到制造业

医疗：产业洞察：两年融资200亿元，AI+医疗赛道吸金能力显著

音乐：Musiio：使用AI 帮助音乐行业更有效地策划曲目

安全：微软收购AI内容审核解决方案提供商Two Hat

工业：走进施耐德武汉“灯塔工厂”：人工智能质检 工厂“万物互联”

元宇宙：

• 又一巨头加入元宇宙！英伟达秀“元宇宙”肌肉，推出阿凡达平台
• Facebook正式改名Meta，扎克伯格All in元宇宙，开启新征程
• 微软加入元宇宙大战：将Mesh直接植入Teams中，将不同元宇宙粘合起来
• 中科深智完成B轮融资，利用AI技术打造元宇宙内容生产中台

2.AI技术：

• 全球第一！阿里达摩院AI训练模型M6参数破10万亿，远超谷歌、微软
• 微软宣布推出Azure OpenAI服务，为开发者带来GPT-3模型，帮助企业建构更聪明的应用
• 全球最大规模人工智能巨量模型 “源1.0”正式开源！2457 亿模型参数，超越美国GPT-3模型
• 每天学点人工智能：5分钟了解步态识别技术

3.AI人物：

• 戴琼海院士——人工智能未来：发现、理解与创造
• 又一巨星陨落！北大计算语言学家俞士汶去世，助力汉语走向信息时代
• 《科学之路》| 图灵奖得主杨立昆人工智能十问：AI会统治人类吗