“無中生有”可謂生成式人工智能強(qiáng)壯學(xué)習(xí)才能的“本色”。可是，在從無到有的過程中，人工智能會(huì)不會(huì)犯錯(cuò)？近日，由上海計(jì)算機(jī)軟件技能開發(fā)中心籌建的上海市生成式人工智能質(zhì)量查驗(yàn)檢測(cè)中心掛牌。作為上海首家批籌的人工智能范疇質(zhì)檢中心，其將幫助生成式人工智能在深度學(xué)習(xí)，智能生成過程中及時(shí)修偏糾錯(cuò)，助生成式AI產(chǎn)品當(dāng)之無愧，少走彎路。

Chatgpt強(qiáng)壯的智能潛力，讓生成式AI瞬間火遍全球。本年5月發(fā)布的《中國人工智能大模型地圖研究報(bào)告》顯示，我國已有79個(gè)10億級(jí)以上參數(shù)規(guī)模的大模型。不過，在一些大言語模型使用初期，部分歹意用戶可能會(huì)經(jīng)過角色扮演、分步提問等方式，躲避大言語模型安全規(guī)則，誘導(dǎo)其給出違背法律法規(guī)的回答，或許生成違背倫理道德的內(nèi)容。怎么客觀地點(diǎn)評(píng)大模型的性能，同時(shí)讓剛剛萌發(fā)且學(xué)習(xí)才能飛快的大模型使用合禮、合規(guī)，成為賦能各行各業(yè)的重要一環(huán)。

生成式人工智能質(zhì)量查驗(yàn)檢測(cè)中心，正是要檢測(cè)生成式AI產(chǎn)品中潛在的類似縫隙，提高人工智能體系的安全性，減少各類危險(xiǎn)。“咱們會(huì)對(duì)送檢的人工智能軟件各項(xiàng)指標(biāo)進(jìn)行‘體檢’，并出具詳細(xì)‘體檢報(bào)告’�！鄙虾？茖W(xué)院直屬上海計(jì)算機(jī)軟件技能開發(fā)中心主任蔡立志說，上海市生成式人工智能質(zhì)檢中心要點(diǎn)聚集生成式人工智能、工業(yè)智能質(zhì)檢、才智醫(yī)療、人臉辨認(rèn)、自動(dòng)駕駛范疇的人工智能查驗(yàn)檢測(cè)。

據(jù)介紹，該質(zhì)檢中心將參考國內(nèi)外人工智能測(cè)評(píng)標(biāo)準(zhǔn)，自主研制人工智能深度安全和測(cè)評(píng)技能與東西，包括對(duì)立樣本生成與防御評(píng)估東西、自然言語處理體系測(cè)評(píng)數(shù)據(jù)生成東西、人工智能虛假人臉檢測(cè)東西、人工智能危險(xiǎn)評(píng)估與管理東西等，為企事業(yè)單位供給人工智能質(zhì)量“一站式”測(cè)評(píng)服務(wù)。

近年來，在上�？茖W(xué)院布置下，上海計(jì)算機(jī)軟件技能開發(fā)中心布局并開展了人工智能的使用、管理、測(cè)評(píng)等技能研究與第三方技能服務(wù)，參加編寫了《人工智能標(biāo)準(zhǔn)化白皮書（2021版）》，完成了《人工智能深度組成圖像體系技能規(guī)范》《人工智能計(jì)算機(jī)視覺體系測(cè)評(píng)規(guī)范》等30余項(xiàng)標(biāo)準(zhǔn)研制，近三年來為人工智能企業(yè)與使用方供給第三方測(cè)評(píng)年均超越500項(xiàng)。