生成式人工智能大模型的新型風(fēng)險與規(guī)制框架

摘要：大模型技術(shù)的發(fā)展，掀起了生成式人工智能發(fā)展的新浪潮，但其數(shù)據(jù)訓(xùn)練和部署應(yīng)用也帶來了新的風(fēng)險挑戰(zhàn)，包括產(chǎn)生有害內(nèi)容、泄露敏感數(shù)據(jù)、生成錯誤信息、濫用實施違法活動、可能危害環(huán)境和經(jīng)濟(jì)、向下游傳導(dǎo)風(fēng)險等。對此，歐盟近期擬對基礎(chǔ)模型和生成式基礎(chǔ)模型提供者設(shè)定專門義務(wù)，但背離了基于風(fēng)險分級規(guī)制的立法初衷；我國出臺專門辦法側(cè)重規(guī)制大模型部署者，對大模型本身風(fēng)險管控有限。（剩余18245字）