隨著ChatGPT迅速破圈，AIGC（AI Generated Content)被看作繼PGC、UGC之后新型利用AI技術(shù)自動(dòng)生產(chǎn)內(nèi)容的生產(chǎn)方式。而AIGC的快速迭代演變，讓大模型應(yīng)用落地有了新領(lǐng)域，國(guó)內(nèi)企業(yè)紛紛跟進(jìn)大模型研究應(yīng)用。大模型在帶來(lái)變革性體驗(yàn)的同時(shí)，也帶來(lái)內(nèi)容安全、隱私保護(hù)、侵權(quán)、結(jié)果合法性等諸多隱憂，在鼓勵(lì)創(chuàng)新的同時(shí)，如何規(guī)范科技向善？

大突破帶來(lái)新問(wèn)題

(資料圖片僅供參考)

AIGC推動(dòng)人工智能從感知理解世界到生產(chǎn)創(chuàng)造世界。內(nèi)容創(chuàng)作模式由早期專業(yè)制作（PGC）、用戶制作（UGC）發(fā)展到AI輔助用戶制作（AIUGC），再到目前AIGC(人工智能創(chuàng)作內(nèi)容)。備受關(guān)注的OpenAI近日發(fā)布的GPT-4，即是一個(gè)多模態(tài)大模型（接受圖像和文本輸入，生成文本）。

在國(guó)內(nèi)，大型互聯(lián)網(wǎng)公司早已進(jìn)入大模型研究領(lǐng)域，隨著AIGC的火熱，國(guó)內(nèi)企業(yè)在大模型的布局也紛紛浮出水面。我國(guó)超大模型不僅不落后于國(guó)外同類產(chǎn)品，在某些領(lǐng)域還能實(shí)現(xiàn)反超。

專家預(yù)測(cè)，到2030年，合成數(shù)據(jù)（Synthetic data）將取代真實(shí)數(shù)據(jù)成為AI模型所使用數(shù)據(jù)的主要來(lái)源。“架構(gòu)統(tǒng)一、模態(tài)統(tǒng)一、任務(wù)統(tǒng)一的通用多模態(tài)大模型逐漸成為人工智能研究的一大趨勢(shì)?！?strong>京東集團(tuán)副總裁、IEEE Fellow何曉冬在接受《通信產(chǎn)業(yè)報(bào)》全媒體記者采訪時(shí)表示，多模態(tài)大模型是人工智能技術(shù)從限定領(lǐng)域的弱人工智能邁向通用人工智能路徑的重要途徑。通用多模態(tài)大模型將逐漸在人工智能領(lǐng)域扮演著基礎(chǔ)模型的角色。

當(dāng)前人工智能技術(shù)三要素包括數(shù)據(jù)、算法、算力，然而數(shù)據(jù)往往是靜態(tài)的、算法是單一任務(wù)驅(qū)動(dòng)。何曉冬認(rèn)為，未來(lái)會(huì)升級(jí)為場(chǎng)景、系統(tǒng)、算力新三要素，包括復(fù)雜交互智能場(chǎng)景及其產(chǎn)生的動(dòng)態(tài)數(shù)據(jù)、多任務(wù)協(xié)同和多算法融合的系統(tǒng)和能支撐復(fù)雜場(chǎng)景與系統(tǒng)的新型算力，從而讓計(jì)算機(jī)能深度地理解真實(shí)世界及解決重大的真實(shí)問(wèn)題，提升智能系統(tǒng)的通用性、適應(yīng)性和任務(wù)完成率。新一代融合性智能需要能基于“活的”交互場(chǎng)景去迭代和發(fā)展，包括人與智能體的交互、以及多智能體之間的交互，將成為人工智能的一個(gè)新發(fā)展趨勢(shì)。

盡管大模型本身還存在一些技術(shù)挑戰(zhàn)和不完善，但人們已經(jīng)看到了其威力，甚至已對(duì)現(xiàn)行治理帶來(lái)了不利影響。

隱私、偏見(jiàn)、侵權(quán)……

全球前2%頂尖科學(xué)家榜單入選者、聯(lián)通數(shù)科首席AI科學(xué)家廉士國(guó)向《通信產(chǎn)業(yè)報(bào)》全媒體記者表示，一方面，它并不是按照人類創(chuàng)作內(nèi)容的方式學(xué)習(xí)的，并未學(xué)習(xí)到創(chuàng)作的本質(zhì)，貌似有對(duì)已有內(nèi)容的風(fēng)格模仿和元素重組，其產(chǎn)生的內(nèi)容可能存在版權(quán)侵權(quán)風(fēng)險(xiǎn)。例如，仿照畢加索風(fēng)格繪畫，仿照某作家風(fēng)格寫小說(shuō)，合成一段明星人物的語(yǔ)音，將圖片或視頻中人物面部替換，生成某人的高仿數(shù)字化身等。

另一方面，它是以數(shù)據(jù)驅(qū)動(dòng)為主構(gòu)建的，依然存在深度學(xué)習(xí)的不可解釋性、不公平性等問(wèn)題，其產(chǎn)生的內(nèi)容可能存在不真實(shí)、不合規(guī)等的風(fēng)險(xiǎn)。例如，同樣的問(wèn)題不同的問(wèn)法，ChatGPT會(huì)給出不同的回答、繪畫AI會(huì)產(chǎn)生不同的畫作，甚至?xí)蛇`背事實(shí)的、歧視性的文字/圖畫內(nèi)容等。

與PGC、UGC相比，AIGC提升了內(nèi)容生產(chǎn)效率，但當(dāng)AIGC內(nèi)容不可控時(shí)，相應(yīng)的應(yīng)用風(fēng)險(xiǎn)也會(huì)增大。例如，AIGC技術(shù)讓內(nèi)容創(chuàng)作更容易了，這也會(huì)降低侵權(quán)、造假等的成本，而增加監(jiān)管的成本；AIGC技術(shù)使得批量快速生成內(nèi)容成為現(xiàn)實(shí)，這可能帶來(lái)蓄意控制輿情走向的潛在風(fēng)險(xiǎn)。

何曉冬表示，隨著人工智能應(yīng)用的深入，其自身的技術(shù)缺陷以及帶來(lái)的隱私倫理、決策偏見(jiàn)、使用安全等問(wèn)題引發(fā)了信任危機(jī)。技術(shù)上，算法脆弱易受攻擊帶來(lái)的危險(xiǎn)性；黑箱模型導(dǎo)致算法不透明，使得人們無(wú)法直觀理解決策背后的原因。應(yīng)用上，訓(xùn)練數(shù)據(jù)中存在的偏見(jiàn)導(dǎo)致公平性缺失；以人臉識(shí)別技術(shù)為代表的生物識(shí)別信息的頻繁使用增加了隱私泄露的可能。倫理上，人工智能系統(tǒng)決策復(fù)雜，難以界定責(zé)任主體，帶來(lái)倫理安全問(wèn)題。

用AI治理AI

通信行業(yè)法律觀察家伍霞表示，雖然監(jiān)管層面已緊密跟蹤了新技術(shù)新業(yè)態(tài)，針對(duì)互聯(lián)網(wǎng)信息服務(wù)算法推薦、深度合成等出臺(tái)了相關(guān)管理規(guī)定，但隨著實(shí)踐創(chuàng)新加速，立法與執(zhí)法都需要結(jié)合具體場(chǎng)景加強(qiáng)預(yù)判性。

“人工智能領(lǐng)域的專家們已經(jīng)開(kāi)始考慮用技術(shù)手段來(lái)鑒別AI生成的內(nèi)容?！?/strong>廉士國(guó)表示，通過(guò)人工規(guī)則來(lái)判斷內(nèi)容合法性、通過(guò)文本內(nèi)容統(tǒng)計(jì)分析及添加文本水印等方法來(lái)鑒權(quán)等。我們相信，除了技術(shù)手段之外，相關(guān)的數(shù)字治理制度也將啟動(dòng)建立。

“我們需要構(gòu)建安全可信的人工智能治理體系”何曉冬表示。

所謂“道高一尺，魔高一丈”，技術(shù)演進(jìn)需要有相應(yīng)的治理配套技術(shù)的跟進(jìn)。廉士國(guó)認(rèn)為，AIGC的健康發(fā)展依賴于通過(guò)提升技術(shù)成熟度、升級(jí)監(jiān)管手段、健全政策法規(guī)等來(lái)完善可控性，包括AIGC可解釋性技術(shù)創(chuàng)新、AIGC內(nèi)容合規(guī)檢測(cè)、AIGC內(nèi)容盜版監(jiān)測(cè)、AIGC內(nèi)容溯源、AIGC適用法律法規(guī)配套、AIGC用戶風(fēng)險(xiǎn)意識(shí)培訓(xùn)等。

何曉冬認(rèn)為，加強(qiáng)魯棒性、可解釋性、隱私保護(hù)等方面的技術(shù)研究，解決當(dāng)前應(yīng)用人工智能時(shí)所遇到的問(wèn)題，增強(qiáng)大眾對(duì)人工智能的信任，確保應(yīng)用和服務(wù)在最大程度上減少偏見(jiàn)，促進(jìn)人工智能健康高質(zhì)量發(fā)展。

此外，國(guó)家知識(shí)產(chǎn)權(quán)局專家王雷表示，大模型健康有序發(fā)展，從專利方面需要從兩個(gè)角度開(kāi)展工作。一是利用專利文獻(xiàn)，梳理AIGC的技術(shù)發(fā)展脈絡(luò)、技術(shù)硬核、技術(shù)未來(lái)發(fā)展的趨勢(shì)。通過(guò)專利文獻(xiàn)的梳理具有很大的價(jià)值，可以幫助中國(guó)產(chǎn)業(yè)界從全景（Big Picture）看整個(gè)技術(shù)體系，尋找有利的切入點(diǎn)和生發(fā)點(diǎn)。二是專利是一種獨(dú)占性的保護(hù)權(quán)利，其實(shí)施要獲得專利權(quán)人的許可。發(fā)展技術(shù)需要早期就關(guān)注到專利權(quán)的分布，避開(kāi)雷區(qū)和禁區(qū)，或者在有利條件下購(gòu)買專利許可，避免未來(lái)產(chǎn)品和服務(wù)面臨的專利風(fēng)險(xiǎn)。

在AI等新興技術(shù)應(yīng)用發(fā)展中，統(tǒng)籌好發(fā)展與安全尤為重要。伍霞認(rèn)為，網(wǎng)絡(luò)安全方面，當(dāng)人類無(wú)法輕易分辨對(duì)話背后究竟是機(jī)器還是真人時(shí)，電信網(wǎng)絡(luò)詐騙等違法犯罪行為打擊的難度和壓力也將陡增。所以，更深層次而言，在AIGC的飛速發(fā)展中，還應(yīng)關(guān)注文化安全。

“有理由相信，AIGC的快速發(fā)展終將會(huì)促進(jìn)人類的進(jìn)步”廉士國(guó)表示。

科技向善是技術(shù)發(fā)展的基本倫理，我們有理由相信，AI大模型能“善”解人意，我們也應(yīng)該擁抱大模型，在發(fā)展中完善，在進(jìn)步中規(guī)范。技術(shù)沒(méi)問(wèn)題，問(wèn)題只會(huì)出現(xiàn)在用它的人身上。

【關(guān)注】第四屆2023中國(guó)智慧屏行業(yè)發(fā)展峰會(huì)正在火熱進(jìn)行中！點(diǎn)擊碼上報(bào)名！

責(zé)任編輯：房家輝