中國發(fā)展高層論壇2024年年會于3月24日在京召開。在人工智能發(fā)展與治理專題研討會上，十幾位中外嘉賓共同研討如何利用好人工智能的機遇，應(yīng)對好人工智能的挑戰(zhàn)。國務(wù)院發(fā)展研究中心副主任張順喜主持專題研討會。

　　科學(xué)技術(shù)部副部長吳朝暉在作主題發(fā)言時表示，人工智能將成為第四次工業(yè)革命的標配，中國政府高度重視人工智能發(fā)展，通過加強人工智能領(lǐng)域科技創(chuàng)新、推動人工智能深度賦能實體經(jīng)濟、推進人工智能倫理治理等方面發(fā)展。

　　對于人工智能的發(fā)展趨勢，吳朝暉認為，一是人工智能正在邁向多智能融合新階段，以ChatGPT為代表的技術(shù)突破，打開了邁向通用人工智能的序幕，大模型已成為主流技術(shù)路線，并加快迭代演進。二是人工智能將成為第四次工業(yè)革命的標配，它將推動傳統(tǒng)實體經(jīng)濟實現(xiàn)革命性升級與發(fā)展，從而催生智能經(jīng)濟新形態(tài)，成為發(fā)展新質(zhì)生產(chǎn)力的重要引擎。三是人工智能將引發(fā)社會發(fā)展的深遠變革，它將廣泛地應(yīng)用于教育、醫(yī)療、家政等行業(yè)，充分滿足消費者對于自動化、實時化、個性化的要求。

　　“我們希望與世界各國攜手合作，共同探索人工智能邊界，共享創(chuàng)新成果，共管風(fēng)險與挑戰(zhàn)，從而共贏美好未來?！眳浅瘯熣f。

　　北京智源研究院創(chuàng)始人、創(chuàng)始理事長張宏江在作主題發(fā)言時表示，當前，AI進入了一個新的發(fā)展階段，以大模型為代表的階段，它代表了第四次技術(shù)革命，帶來了效率的提高，為我們的生活帶來了諸多方便，將會創(chuàng)造大量的價值以及一個又一個新的產(chǎn)業(yè)。但同時，人工智能可能導(dǎo)致全球性的災(zāi)難性后果。為了避免這樣的危險發(fā)生，我們需要劃出紅線，改進治理機制，同時需要研發(fā)更多安全的技術(shù)，控制人工智能不去跨越這些紅線。要想做到這一點，最重要的一條是堅持和加強國際科學(xué)界和政府間在安全方面的合作。

　　在小組討論中，Verimag實驗室創(chuàng)始人、2007年圖靈獎得主約瑟夫·希發(fā)基思表示，人工智能本身既不是好的，也不是壞的，關(guān)鍵的挑戰(zhàn)是要明智地使用它，通過規(guī)范來預(yù)防風(fēng)險。他認為，有兩種主要風(fēng)險，一種是技術(shù)風(fēng)險，另一種是人為的風(fēng)險，這可能是來自于對AI的誤用或者無意中的使用而產(chǎn)生的影響，可以通過監(jiān)管或者法律的框架來控制。由于AI所帶來的自動化導(dǎo)致的失業(yè)問題，也可以通過適當?shù)纳鐣邅響?yīng)對。此外，還有兩種風(fēng)險，一個是怎么在選擇和性能之間取得平衡，如果我們不能確保系統(tǒng)是以公正、中立的方式使用可靠信息，則不要將決策權(quán)交給系統(tǒng)。另一個是性能的提升是否與人類控制的缺失相平衡。

　　香港中文大學(xué)（深圳）前海國際事務(wù)研究院院長、廣州粵港澳大灣區(qū)研究院理事長鄭永年表示，人工智能的發(fā)展與治理必須要同時發(fā)展、同時進步。美國跟中國在AI領(lǐng)域?qū)嶋H上是互補的，各有自己的比較優(yōu)勢，可以互相學(xué)習(xí)。在治理方面，在國際社會上，更需要中美兩個國家在AI治理領(lǐng)域進行合作。互聯(lián)網(wǎng)AI最重要的還是要開放，中國要通過開放向美國學(xué)習(xí)，把發(fā)展做起來；美國應(yīng)當向中國的監(jiān)管、治理方面學(xué)習(xí)，互相進步。

　　清華大學(xué)蘇世民書院院長薛瀾表示，人工智能的發(fā)展面臨一系列風(fēng)險需要防范。從人工智能治理的角度來看，面臨五大挑戰(zhàn)。一是人工智能的技術(shù)發(fā)展是非常快的，但是我們治理體系的構(gòu)建相對慢一些。二是信息不對稱的問題。比如，企業(yè)不知道政府規(guī)制最關(guān)心的問題在哪兒；對技術(shù)發(fā)展可能會帶來什么風(fēng)險，政府不清楚。三是防范風(fēng)險的成本要遠遠高于它有可能造成危害的成本，所以風(fēng)險治理的成本較高。四是在全球治理方面，互相之間有重疊甚至也有矛盾的機構(gòu)，都對某個問題有相關(guān)的利益，都希望來參與治理，使得全球治理體系的形成有很大的困難。五是人工智能領(lǐng)域的治理，一定要有美國和中國的合作，但是目前這種地緣政治也會帶來相應(yīng)的一些問題。

　　怎么去解決上述這些問題？薛瀾建議，第一，要加強安全和技術(shù)。目前，在安全領(lǐng)域的研發(fā)是不夠的，今后在這方面需要加強研究，尤其是需要加強國際合作。第二，通過敏捷治理的方式解決治理方面的問題。第三，鼓勵企業(yè)的自我規(guī)制。第四，加強國際治理。在全球治理方面，聯(lián)合國剛剛通過了協(xié)議，并且召開高級別專家的討論。第五，在人工智能領(lǐng)域，中美雙方一定要加強合作，這樣才能真正解決人類面臨的各種問題。

　　清華大學(xué)智能產(chǎn)業(yè)研究院院長、中國工程院院士張亞勤表示，目前，Sora的能量很大，但是剛剛開始，未來5年，我們會看到其在各領(lǐng)域的大規(guī)模應(yīng)用，所以會帶來很多風(fēng)險。他認為有三大風(fēng)險：一是信息世界的風(fēng)險。比如，有錯誤的信息、虛假的信息。二是在大模型領(lǐng)域獨有的幻覺，但這個風(fēng)險本身是可控的。而比較大的風(fēng)險是，當把信息智能延伸到物理智能、延伸到生物智能，在大規(guī)模使用的時候，會出現(xiàn)風(fēng)險的規(guī)?；?。三是大模型連接到經(jīng)濟體系、金融體系、電站、電力網(wǎng)絡(luò)等的風(fēng)險是相當大的。

　　怎樣防備這些風(fēng)險？張亞勤提出以下五個建議。第一，標識我們所產(chǎn)生的數(shù)字人或者智能體。第二，要有映射和注冊機制。未來會有很多機器人，但機器人本身是一個從屬體，不是主體，必須要映射到主體。第三，建立分級體制。對于一般規(guī)模的模型監(jiān)管可以少一點，對于前沿大模型、萬億級參數(shù)用到物理世界無人車的、用到金融系統(tǒng)的、用到生物系統(tǒng)監(jiān)管的要多一些，要分級。第四，呼吁把10%的經(jīng)費投入到大模型風(fēng)險的研究中，這不僅是政策研究，還有很多算法、技術(shù)的研究。第五，人工智能大模型一定不要跨越紅線。紅線可能在不同的時間并不一樣，但是需要有這個紅線。中國需要和全球不同人工智能領(lǐng)域一起合作，否則就會有生存風(fēng)險。

更多精彩，請關(guān)注“官方微信”