人工智能安全關(guān)鍵技術(shù)

A****應(yīng)用軟件

1.標(biāo)的物名稱(chēng)：面向文本生成式大模型的多步測(cè)評(píng)數(shù)據(jù)集自動(dòng)生成子系統(tǒng)、面向圖文多模態(tài)感知大模型的測(cè)評(píng)數(shù)據(jù)集自動(dòng)生成子系統(tǒng)、面向圖文多模態(tài)生成大模型的測(cè)評(píng)數(shù)據(jù)集自動(dòng)生成子系統(tǒng)、大模型安全監(jiān)測(cè)技術(shù)試驗(yàn)驗(yàn)證環(huán)境、大模型評(píng)測(cè)數(shù)據(jù)集管理子系統(tǒng) 2.標(biāo)的物數(shù)量：5 3.主要功能或目標(biāo)：構(gòu)建文本大模型多步測(cè)評(píng)數(shù)據(jù)集自動(dòng)生成大模型，具備對(duì)該大模型的指令精調(diào)等能力。構(gòu)建圖文多模態(tài)生成大模型的測(cè)評(píng)數(shù)據(jù)集自動(dòng)生成大模型，具備對(duì)該模型的圖-文多模態(tài)輸入同時(shí)進(jìn)行擾動(dòng)、進(jìn)行指令注入攻擊等能力。構(gòu)建圖文多模態(tài)生成大模型的測(cè)評(píng)數(shù)據(jù)集自動(dòng)生成大模型，具備對(duì)該大模型的指令精調(diào)等能力。構(gòu)建大模型安全監(jiān)測(cè)技術(shù)試驗(yàn)驗(yàn)證環(huán)境，可面向千余位用戶提供感知式、生成式和決策式不少于5類(lèi)大模型服務(wù)，可模擬用戶惡意指令、指令注入攻擊、多步惡意指令等輸入。建立數(shù)據(jù)管理系統(tǒng)，實(shí)現(xiàn)支持對(duì)文本、語(yǔ)音、圖像等多模態(tài)測(cè)試數(shù)據(jù)存儲(chǔ)和管理，支持按評(píng)測(cè)任務(wù)需求構(gòu)建評(píng)測(cè)數(shù)據(jù)集，支持?jǐn)?shù)據(jù)集的版本管理和生命周期管理、確保可追溯性和可管理性。 4.質(zhì)量要求：穩(wěn)定、可靠、高性能 5.時(shí)限要求：無(wú) 6.安全及其他要求：無(wú)