近期，人工智能大模型在用戶體驗上取得了顯著提升，發(fā)展與應用機遇不斷涌現(xiàn)。例如在文本生成領域，人工智能大模型有望基于互聯(lián)網(wǎng)文本生成針對某個事務相對更全面深入的分析，從而輔助人類更好地利用互聯(lián)網(wǎng)信息解決問題。在圖像生成領域，能夠根據(jù)文字描述生成以往并不存在的圖像以及視頻，甚至給人“一圖勝千言”的感受。

　　然而，潛在的發(fā)展與應用機遇的井噴也帶來諸多隱患。生成式人工智能大模型基于包括個人信息的互聯(lián)網(wǎng)數(shù)據(jù)進行內(nèi)容生成，目前已經(jīng)出現(xiàn)了模型及其服務侵犯用戶個人隱私的案例;人工智能內(nèi)容生成技術的濫用和惡用，使得越來越多的虛假信息被用于網(wǎng)絡詐騙和網(wǎng)絡犯罪等場景，對社會信任產(chǎn)生明顯的沖擊;此外，有些人工智能內(nèi)容生成系統(tǒng)對社會文化和價值觀沒有客觀的評價和闡述方式，對特定群體的價值觀和文化認同也產(chǎn)生了挑戰(zhàn);人工智能內(nèi)容生成甚至會對危險行為的實施提供建議……支撐人工智能內(nèi)容生成訓練的原始互聯(lián)網(wǎng)數(shù)據(jù)、用戶對人工智能內(nèi)容生成系統(tǒng)提出的問題、系統(tǒng)生成式輸出結(jié)果的三重不可預期性，使得人工智能內(nèi)容生成面臨的風險更加不可控。

　　由于人工智能大模型迅速廣泛的發(fā)展與應用，目前的潛在風險并沒有留給人類足夠的時間準備，就已迅速成為實存風險。人類將如何理解和使用生成式人工智能大模型的輸出?潛在風險是什么?現(xiàn)在學術界和社會還來不及討論，相關的應用就已經(jīng)大規(guī)模進入社會，技術創(chuàng)新和服務的倫理治理卻還沒有跟上。

　　我們在發(fā)展人工智能內(nèi)容生成技術的同時，需要開展對人工智能內(nèi)容生成的深度治理。每一個服務于社會的人工智能大模型與系統(tǒng)，都應當為其設計和實現(xiàn)道德與安全框架，以技術落地和自動化檢測與評估等形式，深度融入產(chǎn)品與服務。與發(fā)展人工智能技術應用相比，推進人工智能倫理安全的研究不僅同等重要，而且也必不可少。人工智能的研發(fā)與服務企業(yè)、各級政府監(jiān)管部門應當盡快建立人工智能倫理與安全委員會，對風險進行實質(zhì)有效的監(jiān)管。

　　近期人工智能大模型的發(fā)展，主要依靠的是工程技術的組合創(chuàng)新，同時和海量人工標注與反饋進行深度融合，這跟自然演化錘煉出的“智能”千差萬別。在這種情況下，一方面，應當給予人工智能內(nèi)容生成產(chǎn)品與服務以明確標識，幫助人們識別合成信息。這是因為目前的人工智能還只是個看似智能的信息處理模型，既不具備真正的智能，更無法承擔道德的責任，不應當混淆人工智能內(nèi)容生成與人類生產(chǎn)內(nèi)容的界限。另一方面，研究結(jié)構(gòu)和機理受自然與人類啟發(fā)，特別是受腦與心智啟發(fā)的人工智能，仍應是形成未來真正意義上的人工智能的突破途徑。自然演化過程中的優(yōu)勝劣汰避免掉了諸多潛在風險，科學意義上擴展和延伸自然演化的人工智能探索更合乎社會與生態(tài)長遠發(fā)展的期待。

　　從現(xiàn)實的視角來看，人工智能大模型的發(fā)展和應用機遇仍然是顯見的。接下來，中國的前進方向是發(fā)展信息處理能力接近世界高水平，而倫理安全方面顯著超越當前產(chǎn)品的人工智能大模型。與發(fā)展信息處理能力同步，賦能社會服務的每一個人工智能大模型應構(gòu)建可技術落地的倫理安全框架，并經(jīng)過倫理安全的自動化檢測與評估。在應用層面，由于人工智能大模型目前還存在明確的倫理安全隱患，也只是看似智能的信息處理工具，推進其在不同領域應用的時候，應當把握“人工智能不必無所不在，應適度使用”的原則。對那些用人工智能大模型服務替代人類勞動的嘗試，應積極探索人與人工智能在特定工作中的協(xié)作模式，而非急于完全替代。

　　這也提醒我們，對通用人工智能和超級智能潛在風險的前瞻研究應盡早提上日程。雖然目前的人工智能大模型及其發(fā)展路徑的延伸，難以實現(xiàn)真正意義上的通用人工智能，但目前實存風險就已經(jīng)超出人類預期，而通用人工智能和超級智能的風險如何應對，現(xiàn)在幾乎看不到任何可行的方案。因此人類需要對此盡早準備，避免潛在風險變成實存風險再次上演，到時只會更加措手不及。

　　總體而言，我們應本著“適度發(fā)展，深度治理”的原則，最小化技術發(fā)展的倫理安全隱患，并積極主動應對潛在與實存挑戰(zhàn)，推進人工智能大模型穩(wěn)健發(fā)展，賦能社會、經(jīng)濟與生態(tài)的可持續(xù)發(fā)展。同時，應積極長遠布局，源頭創(chuàng)新，在科學意義上取得人工智能發(fā)展的真正突破，并以中國的產(chǎn)業(yè)創(chuàng)新體系孵化和放大來自中國的源頭創(chuàng)新，做好充足的準備迎接人工智能發(fā)展的“中國時刻”。