院士带队、90后博士掌舵,这家清华系公司专做一件事:给AI“杀毒”

策划/撰文:星愿大叔    系列:智源研究院系列 · 第8期

2018年,北京清华科技园。

一家叫"瑞莱智慧"的公司注册成立。

创始人叫田天,90后,1991年出生于西安。

高中阶段,凭借物理竞赛全国金奖保送清华。

清华大学计算机系人工智能专业,从本科到博士。

他的导师是朱军——清华大学人工智能研究院基础理论研究中心主任。

他的首席科学家是张钹——中国科学院院士、清华大学人工智能研究院院长。

这样的配置,本可以做大模型。

2018年,大模型还没有今天这么火,但"数据驱动"的深度学习已经是主流。

所有人都在堆数据、堆算力、堆参数。

田天选了另一条路——

AI安全。

一个当时看起来"又冷又偏"的方向。

6年后,这家公司完成了B轮融资,金额数亿元。

投资方包括星连资本、招商局数字贸易基金、卓源亚洲等。

更关键的是——

当AI诈骗、AI换脸、AI伪造开始泛滥,所有人发现:原来真的需要有人造盾牌。

01张钹的第三代AI

要理解瑞莱智慧,得先理解张钹。

张钹是谁?中国科学院院士、清华大学人工智能研究院院长,中国人工智能的奠基人之一。可以看下之前文章介绍《大模型 “四小龙” 背后的 “清华系” 究竟有多牛?》

1979年,张钹离开他长期研究的自动化领域,联合张毓凯、林尧瑞等同事率先创立了“人工智能与智能控制”专业,旨在填补国内研究空白。作为中国首批访美学者之一,张钹远赴美国深造,深切体会到国内外人工智能发展的差距。归国后,他迅速投身于开拓性研究,在那个充满挑战的初期阶段,甚至使用的《人工智能导论》教材都是教师们紧急参照国外资料逐页编印的。随后,在张钹的带领下,清华园内陆续成立了众多人工智能实验室,不断推进AI技术的研发与应用。其中,张钹提出的商空间理论及其基于规划和点集覆盖的学习算法,对人工智能的进步贡献巨大。

他在2020年发表了一篇专刊文章,首次系统阐述"第三代人工智能"理念。

核心观点是——

第一代AI是知识驱动,用规则和符号推理。优点是可解释,缺点是泛化能力差。

第二代AI是数据驱动,用深度学习从大数据中学习。优点是泛化能力强,缺点是不透明、不可解释、容易受攻击。

第三代AI,是把知识驱动和数据驱动结合起来。利用知识、数据、算法、算力四个要素,发展安全、可信、可靠、可扩展的AI技术。

张钹的原话是:

“机器最大的缺点是’小错不犯,犯就犯大错’。”

深度学习的结构性缺陷,导致AI系统存在被攻击的风险。

对抗样本攻击、数据投毒、模型后门——这些问题,不是打补丁能解决的。

必须从算法本身做改变。

这个理论,在2016年就提出来了。

但当时,所有人都在追逐深度学习的红利。

没人关心"AI安全"。

张钹需要一个人,把这个理论变成产品,这个人就是90后的田天。

田天的故事,像一个"学霸模板"。

高中阶段,凭借物理竞赛全国金奖保送清华。

本科、硕士、博士,都在清华计算机系人工智能专业。

2018年,他面临一个选择:

做大模型,还是做AI安全?

做AI模型,是顺势。当时的AI热潮,让所有人都想挤进这个赛道。

做AI安全,是逆势。这是一个没人关注的冷门方向。

田天选了后者。

他的判断是:

“未来的AI是要作为一种生产力的,所以它未来一定会面临安全问题。”

这不是风口思维,是"基础设施思维"——

先造好路,等车来。

2018年7月,瑞莱智慧依托清华大学人工智能研究院发起设立。

张钹、朱军共同担任首席科学家。田天出任CEO。

这不是一家"孵化"公司。

这是张钹第三代AI理论的"共建"落地——

清华提供理论,瑞莱智慧做产品化。

智源研究院提供平台,瑞莱智慧做产业延伸。

02从骑电动车去路演起步公司成立后,第一件事是融资。

田天的回忆是:

“当第一次有了创业的意图后,百度风投、水木清华校友基金就找上了我们。双方在清华内部的咖啡厅会面,关于创业的一些问题都是在这里得到解决。”

更有画面感的细节是——

朱军教授骑电动车,载着田天在北京穿梭路演。

这个画面,和"院士团队""清华系"的标签,形成了有趣的反差。

2019年1月,瑞莱智慧完成天使轮融资。金额:数千万人民币。投资方:BV百度风投、中科创星领投,水木清华校友基金跟投。

2020年3月,Pre-A轮。金额:数千万人民币。投资方:松禾资本领投,同渡资本跟投。

2020年12月,Pre-A+轮。金额:数千万美元。投资方:前海母基金、达泰资本、基石资本,老股东卓源资本、松禾资本跟投。

2021年10月,A轮。金额:超3亿人民币。投资方:蚂蚁集团、达泰资本、考拉基金等。估值:数十亿人民币。正式跻身"准独角兽"。

2024年4月,战略融资。投资方:北京市人工智能产业投资基金等。

2026年7月,B轮。金额:数亿元(B1轮+B2轮)。投资方:星连资本、招商局数字贸易基金、卓源亚洲、卓源资本、福迪创投、水木清华校友种子基金等。

8年时间,6轮融资,从天使到B轮。

03AI安全成为"必选项"

2022年底,ChatGPT发布。

大模型时代正式到来。

所有人都在讨论:模型怎么变大、能力怎么变强、应用怎么落地。

很少有人讨论:模型怎么变安全?

田天的判断开始应验。

AI换脸诈骗、AI生成虚假信息、AI攻击人脸识别系统——这些问题开始大规模出现。

2023年,国内公开报道的AI诈骗案涉案金额已达数千万人民币。

AI换脸的滥用,让大众看到的视频和新闻都不再保真。

银行身份认证、支付安全防护、智能门锁——都面临被攻破的风险。

这时候,所有人发现:原来真的需要有人造盾牌。

瑞莱智慧的产品,正好踩在这个需求上。

两条产品线:一个管"内生安全",一个管"衍生安全"

瑞莱智慧的产品矩阵,分为两条主线:

第一条:大模型安全基座

解决的是AI的"内生安全"问题——大模型本身的幻觉、输出有害内容、对抗样本攻击、模型后门攻击、数据逆向攻击。

博弈对抗技术:自动化发现模型漏洞,提供安全评分和风险报告知识嵌入:把领域知识融入模型,让输出更可控模型围栏:为模型设置边界,防止有害输出

第二条:AI生成内容检测基座

解决的是AI的"衍生安全"问题——AI换脸、AI换声、AI生成虚假信息。

贝叶斯深度学习技术:判断图像、视频、音频、文本是否由AI生成深伪检测:支持检测绝大多数AI换脸假视频与图像,准确率高达99%

这两条产品线,分别对应AI安全的两个层面:一个是AI本身的安全,一个是AI被滥用后的安全。

一个真实案例:人脸识别系统被攻破

瑞莱智慧的官网上,有一个演示案例:AI版"隐身衣"。

攻击者通过在脸上贴一些特制的图案,可以让人脸识别系统失效。

不是"识别错误",而是"识别不出来"。

这个攻击方式,叫"对抗样本攻击"——

在输入数据中加入人眼看不见的扰动,让AI系统产生错误判断。

瑞莱智慧的技术,可以检测出这种攻击,并提供防御方案。

这不是理论推演,是真实发生的风险。

根据《人脸识别应用公众调研报告(2020)》:三成受访者表示已因人脸信息泄露、滥用而遭受损失。

瑞莱智慧的赛道,有传统玩家——奇安信、启明星辰、绿盟科技、安恒信息等。

区别在哪里?

传统网络安全公司,解决的是"软件漏洞"问题。他们的逻辑是:发现漏洞,打补丁。

瑞莱智慧解决的是"算法漏洞"问题。算法漏洞不是设计缺陷,而是深度学习的结构性问题。

你不能通过"打补丁"解决对抗样本攻击。

你必须从算法本身做改变——这就是张钹"第三代AI"的核心思想。

一个数据对比:

2023年,奇安信研发投入40亿元,其中AI大模型研发占比30%,即12亿元。

瑞莱智慧规模小得多,但2023年在AI安全领域的投入也达到了5亿元。

不是正面竞争,是"错位"竞争。

奇安信做的是"网络安全+AI",瑞莱智慧做的是"AI本身的安全"。

04等车来,而不是追风口

2026年7月,瑞莱智慧宣布B轮融资完成。

同时披露了一个数据:

安全可信大模型系统,已在政务、公安等政府客户和能源、运营商等央国企客户落地。

2025年,在多家头部客户实现单客户数千万以上收入。

这个数据说明什么?

AI安全,已经从"概念"变成"刚需"。

大模型进入"严肃场景"——政务、金融、公安、能源——这些场景容不得幻觉、容不得有害输出。

安全可信大模型系统的核心功能:

底层安全Token平台:对敏感业务信息识别、脱敏,在内网模型与外部模型之间安全调度上层安全智能体:为大模型提供从对抗测试到训练加固的全链路保护

让前沿模型能力可以进来,让业务机密不必出去。

瑞莱智慧的创业选择,不是"追风口"。

选了一个在当时看起来"又冷又偏"的方向。

8年后,这个方向变成了"必选项"。

田天的判断逻辑是:

“AI会成为基础设施。基础设施一定需要安全。我们提前把路铺好,等车来。”

智源系走出的这些企业,你会发现有个共同特点:用产业思维提前规划企业发展的路径,来补足AI产业基础设施的各个环节,让核心技术牢牢掌握在“自己”手里面。这就是智源研究院对中国AI行业的价值吧,致敬~!

图片

图片

声明:本文为维科号作者发布,不代表维科号立场。如有侵权或其他问题,请及时联系我们举报。