2024年,世界人工智能大會發(fā)布《人工智能全球治理上海宣言》,強調促進人工智能技術發(fā)展和應用的同時,要確保安全性、可靠性、可控性和公平性。
中國信息通信研究院(簡稱“中國信通院”)華東分院長期深耕“人工智能可信”等人工智能前沿方向,立足上海,面向長三角及華東地區(qū),持續(xù)在相關部門戰(zhàn)略支撐、標準制定、產業(yè)研究、可信評估評測方面提供全流程的咨詢服務與解決方案,并取得眾多亮眼成果。
人臉識別是人工智能應用落地最快最廣泛的領域之一,在安防、交通、金融、教育、支付等領域已得到了廣泛應用,深入到人們生活的方方面面。2023年,上海市提出規(guī)范本市人臉識別技術應用的要求,由中國信通院華東分院牽頭的《公共場所人臉識別分級分類應用》地方標準已于2024年4月2日發(fā)布,2024年7月1日開始實施。
此外,中國信通院華東分院還支撐了《上海市推動人工智能大模型創(chuàng)新發(fā)展若干措施》等多項市、區(qū)級重要政策文件編制;同時推進上海市人工智能公共服務平臺等人工智能產業(yè)平臺建設。
二、推動我國生成式人工智能服務合規(guī)發(fā)展
生成式人工智能服務對網絡安全監(jiān)管提出了新挑戰(zhàn)和新問題,我國網信部門推動實施算法備案制度和生成式人工智能服務備案制度,同時加強抽查工作、處罰違規(guī)行為等監(jiān)管措施,保障生成式人工智能服務的合規(guī)運行。
為促進人工智能產業(yè)安全穩(wěn)健發(fā)展,中國信通院華東分院持續(xù)為企業(yè)提供全方位、深層次的咨詢和測評服務,幫助企業(yè)進行數據安全、模型安全、個人信息保護等安全風險評估,并圍繞大模型安全性、可靠性、透明性、準確性等指標廣泛開展大模型安全測評服務。
三、推進人工智能大模型可信賴應用評測
通過“上海可信AI評測中心”,中國信通院華東分院正在加速建設人工智能大模型可信賴應用評測平臺,推動建立大模型可信賴應用評測體系。依托于中國信通院的智庫優(yōu)勢及測試認證能力,圍繞安全、標準、評測等工作,探索開展垂類應用場景下的可信賴應用評測標桿示范,探索多元化的可信AI落地措施,推動產業(yè)健康可持續(xù)發(fā)展。
同時,上??尚臕I評測中心也在積極推動建立人工智能大模型安全應用指標體系,2023年11月,由中國信通院華東分院牽頭的《人工智能大模型可信賴應用評價指標體系》地方標準正式立項。
昵稱 驗證碼 請輸入正確驗證碼
所有評論僅代表網友意見,與本站立場無關