大語言模型發(fā)展現(xiàn)狀與應用趨勢

打開文本圖片集

〔內(nèi)容提要〕自然語言處理（Natural Language Processing，NLP）始于上世紀50年代，是人工智能（AI）研究的重要方向。2018年以來，NLP從預訓練語言模型PLMs（Pre-trained Language Models）進化到大規(guī)模語言模型LLMs（Large Language Models），語料庫達到百億規(guī)模，參數(shù)超過千億，特別是隨著ChatGPT 3.5和GPT 4的橫空出世，LLMs的發(fā)展和應用進入新紀元，以其為代表的AI已成為經(jīng)濟社會發(fā)展的重要驅動力。（剩余5210字）