“今年，西藏定日縣地震后，一張AI生成的圖片在社交平臺上獲得數(shù)萬次轉(zhuǎn)發(fā)，虛假圖片會影響到救災(zāi)資源的分配，這是人工智能帶來的風(fēng)險?！苯眨诤贾菖e辦的一場人工智能主題大會上，浙江大學(xué)濱江研究院的青年科學(xué)家韓蒙，向人們闡述AI安全領(lǐng)域的重要性，“我們希望對AI生成內(nèi)容的導(dǎo)向和真實(shí)性等進(jìn)行管理，發(fā)現(xiàn)并降低風(fēng)險?？梢岳斫鉃椋覀兿氤蔀锳I的守護(hù)者，或者說體檢醫(yī)生?！?/p>
用兩大系統(tǒng)給AI“治病”
AI越來越聰明，但也要保證它生成的內(nèi)容是安全、合規(guī)的。為此，韓蒙團(tuán)隊研發(fā)了“君合”“君盾”兩套系統(tǒng)。
前者有點(diǎn)像“上醫(yī)治未病”，在AI部署到具體場景前，通過檢測找出AI存在的問題；后者像人體的免疫系統(tǒng)，在AI開展應(yīng)用時，識別外來病毒的攻擊。韓蒙說：“‘君合’的檢測項(xiàng)目很豐富，找漏洞的能力也精準(zhǔn)。”
對于“君盾”系統(tǒng)，韓蒙打了個比方：“我們設(shè)置了‘雙層玻璃’，其中一層用于阻隔惡意提問?！北热?，有人會向AI“請教”怎么鉆法律的空子，這層玻璃就能像免疫系統(tǒng)識別外來病毒一樣阻隔掉它，并提醒用戶重新提問。
“雙層玻璃”是一個雙保險。有些惡意問題比較隱蔽，第一層玻璃未能攔截，它會被AI接收，第二層玻璃會對AI生成的答案進(jìn)行識別，如果包含違法信息，則會及時攔截，不把回答反饋給提問者。
目前，“君合”“君盾”兩個系統(tǒng)是韓蒙團(tuán)隊的核心產(chǎn)品。他們從2021年開始研發(fā)，不斷接入各類AI，開展測試、防護(hù)，并與時俱進(jìn)地對系統(tǒng)迭代升級。
今年DeepSeek爆火后，千行百業(yè)陸續(xù)接入DeepSeek。韓蒙團(tuán)隊發(fā)現(xiàn)DeepSeek也有不足，比如在進(jìn)入專業(yè)領(lǐng)域時就有不智能的時候。今年3月，韓蒙團(tuán)隊發(fā)布了“君合”“君盾”的最新版本，希望成為更多AI的醫(yī)生和健康管家，幫助AI健康、合規(guī)發(fā)展。
“杭州對我來說，是理想的創(chuàng)業(yè)之地”
“這是一個既能做科研，又能開展成果轉(zhuǎn)化的地方。”浙江大學(xué)濱江研究院于2020年成立，2021年，韓蒙加入其中，“我在美國博士畢業(yè)后，由于研究方向有非常強(qiáng)的落地性，我對于創(chuàng)業(yè)充滿期待?！?/p>
浙江大學(xué)濱江研究院的科研人員既能獲得杭州市、濱江區(qū)提供的支持，也能聯(lián)動起浙江大學(xué)的學(xué)術(shù)資源。依托該院成立的杭州君同未來科技有限責(zé)任公司是浙江大學(xué)濱江研究院的學(xué)術(shù)成果轉(zhuǎn)化、產(chǎn)業(yè)落地的重要載體。韓蒙是該院的數(shù)智融合研究中心主任，還擔(dān)任企業(yè)的負(fù)責(zé)人，推動產(chǎn)學(xué)研一體化。
就杭州這座城市來說，數(shù)字經(jīng)濟(jì)發(fā)達(dá)，數(shù)字化程度高，也為AI發(fā)展提供了很好的土壤?！鞍l(fā)展人工智能需要開放的生態(tài)，在杭州，我們可以和很多人工智能企業(yè)思想碰撞、互相教育，進(jìn)而提升產(chǎn)品質(zhì)量。”
良好的創(chuàng)新生態(tài)催生出更多成果。目前，公司已在人工智能領(lǐng)域獲得了大量專利，團(tuán)隊的技術(shù)創(chuàng)新成果陸續(xù)服務(wù)于工信部、公安部、中國人民銀行等政府部門及國家金融科技測評中心、浙江省電子信息檢驗(yàn)檢測研究院、阿里巴巴集團(tuán)等大型企事業(yè)單位、互聯(lián)網(wǎng)頭部企業(yè)，釋放著可觀的社會經(jīng)濟(jì)效益。
“杭州對我來說，是理想的創(chuàng)業(yè)之地，我希望在這里發(fā)揮自己的技術(shù)積累，幫助人工智能安全、可信地發(fā)展?！闭劶拔磥?，韓蒙將目光停留在墻上的愿景，那是團(tuán)隊的共同目標(biāo)——助力人類基礎(chǔ)腦力勞動可信替代。
責(zé)任編輯：蔡曉慧AI,韓蒙
