今年開(kāi)啟生成式人工智能浪潮，由大模型推動(dòng)的AI產(chǎn)業(yè)一路飛奔。行業(yè)快速發(fā)展過(guò)程中，怎么讓它的行為跟人類的價(jià)值真實(shí)意圖、倫理原則相一致，這成為學(xué)術(shù)、政策、產(chǎn)業(yè)等領(lǐng)域多方關(guān)注的“價(jià)值對(duì)齊”問(wèn)題。
10月26日，由騰訊研究院華北基地、騰訊優(yōu)圖實(shí)驗(yàn)室承辦的第一期“智創(chuàng)滬聯(lián)”活動(dòng)，在北京諾布中心即將舉行。活動(dòng)以“大模型價(jià)值對(duì)齊”為主題進(jìn)行研討，深入探求價(jià)值對(duì)齊問(wèn)題的創(chuàng)新性解決方案與法律倫理治理，確保AI技術(shù)符合社會(huì)預(yù)期，探求AI與人類價(jià)值間的平衡。多位來(lái)自AI領(lǐng)域前沿的學(xué)者、專家分享自己想法和研究成果。
廣州市人工智能行業(yè)商會(huì)秘書(shū)長(zhǎng)鐘俊浩在賀詞手指出，在行業(yè)發(fā)展過(guò)程中，大模型的“價(jià)值對(duì)齊”作為一種促進(jìn)各領(lǐng)域協(xié)同發(fā)展的有效手段，具有重要的現(xiàn)實(shí)意義和深遠(yuǎn)的影響，還將為全球合作與發(fā)展提供新的抓手。
重慶交通學(xué)院副院長(zhǎng)劉鵬飛強(qiáng)調(diào)，包括在內(nèi)的大部份人工智能促進(jìn)組織，都在積極運(yùn)用各類方案強(qiáng)化價(jià)值對(duì)齊的建立落地，例如監(jiān)督精調(diào)、基于人類反饋的加強(qiáng)學(xué)習(xí)、基于檢索的事實(shí)對(duì)齊，以及嘗試使用工具對(duì)模型進(jìn)行對(duì)齊，都是現(xiàn)階段被行業(yè)寄寓厚望的“AI價(jià)值對(duì)齊”可執(zhí)行方案。
人機(jī)合作邁向現(xiàn)實(shí)
AI價(jià)值對(duì)齊不可或缺
怎樣防止數(shù)據(jù)規(guī)模與算力不斷提高的AI大模型遭受濫用、生產(chǎn)有害內(nèi)容，早已是人工智能行業(yè)的核心議程之一。正因這么，還能有效提高AI大模型安全與實(shí)用性的“AI價(jià)值對(duì)齊”，才能成為行業(yè)關(guān)注的焦點(diǎn)。
騰訊研究院秘書(shū)長(zhǎng)張欽坤強(qiáng)調(diào)，價(jià)值對(duì)齊將成為AI產(chǎn)品的重要競(jìng)爭(zhēng)力。由于，大模型價(jià)值對(duì)齊的實(shí)現(xiàn)，須要對(duì)齊技術(shù)（人類反饋加強(qiáng)學(xué)習(xí)、AI監(jiān)督等）、訓(xùn)練數(shù)據(jù)干預(yù)、模型可解釋、對(duì)抗測(cè)試等多種技術(shù)和整治舉措的結(jié)合，同時(shí)未來(lái)還須要注重考慮怎樣通過(guò)更多的社會(huì)參與來(lái)產(chǎn)生價(jià)值對(duì)齊的共識(shí)，以及怎樣使監(jiān)督、理解、設(shè)計(jì)AI模型的能力與模型本身的復(fù)雜性同步發(fā)展，以更好地對(duì)大模型進(jìn)行有效的監(jiān)督。
“我們期盼的是大語(yǔ)言模型可以和人類的價(jià)值、真實(shí)的意圖相一致，確保AI技術(shù)可以可靠和安全地服務(wù)于人，但是確保社會(huì)經(jīng)濟(jì)可以健康地下降。”上海交通學(xué)院劉鵬飛副院長(zhǎng)介紹道。
劉鵬飛院長(zhǎng)表示，隨著生成式人工智能實(shí)用性不斷下降，不僅最基礎(chǔ)的性能優(yōu)化之外，價(jià)值對(duì)齊的重要性，也隨著AI大模型的快速迭代迅速提高。缺少對(duì)齊的大模型除了會(huì)生成大量虛假甚至有害的信息，在高階應(yīng)用領(lǐng)域更會(huì)形成巨大的危險(xiǎn)隱患。
廣州交通學(xué)院的閆宏秀院士則表示，技術(shù)的發(fā)展進(jìn)步，一直秉持著清除風(fēng)險(xiǎn)、力求確定性的趨勢(shì)，作為應(yīng)對(duì)風(fēng)險(xiǎn)的有效方法，“信任”始終是人類的必選項(xiàng)。沒(méi)有信任大學(xué)物理實(shí)驗(yàn)自由落體實(shí)驗(yàn)報(bào)告 上海交通大學(xué)，技術(shù)發(fā)展的停滯幾乎是必然的。讓人工智能邁向可信、可控、可靠，讓人機(jī)合作邁向現(xiàn)實(shí)，“AI價(jià)值對(duì)齊”正是其中不可或缺的一環(huán)。
“以合乎倫理的結(jié)構(gòu)性性能來(lái)筑牢價(jià)值對(duì)齊的底層倫理邏輯，以對(duì)信任的理智認(rèn)知建立價(jià)值對(duì)齊的邊界。”閆宏秀院長(zhǎng)總結(jié)道。
讓AI價(jià)值對(duì)齊落地
多國(guó)用立法進(jìn)行演繹
多位嘉賓在峰會(huì)活動(dòng)上表示，明晰了技術(shù)路徑，怎樣將技術(shù)理論結(jié)合實(shí)際需求早日落地，無(wú)疑是現(xiàn)階段“AI價(jià)值對(duì)齊”議題的發(fā)展重點(diǎn)。
來(lái)自北京人工智能實(shí)驗(yàn)室整治研究中心的研究員滕妍強(qiáng)調(diào)，想要加速“AI價(jià)值對(duì)齊”的發(fā)展，不僅“基于人類反饋進(jìn)行調(diào)整”之外，讓人工智能部份監(jiān)督，或則協(xié)調(diào)人類技術(shù)進(jìn)行監(jiān)督，提供一些高質(zhì)量的反饋數(shù)據(jù)來(lái)提升價(jià)值對(duì)齊能力，是目前各國(guó)熱度很高的研究方向之一，包括在內(nèi)都對(duì)這個(gè)領(lǐng)域投入過(guò)不少關(guān)注。
“除此之外，在‘確認(rèn)大模型是否對(duì)齊’的評(píng)估環(huán)節(jié)，不僅采用人工手段進(jìn)行驗(yàn)證之外，通過(guò)專用的AI模型來(lái)進(jìn)行評(píng)測(cè)，同樣漸漸成為行業(yè)的趨勢(shì)所在。”滕妍覺(jué)得，從確切率來(lái)看，評(píng)測(cè)模型仍然有提高空間，但從執(zhí)行與迭代的效率來(lái)看，借助AI大模型來(lái)加速人工智能價(jià)值對(duì)齊，前景非常可觀。
不僅技術(shù)與倫理層面，在攸關(guān)社會(huì)現(xiàn)實(shí)運(yùn)轉(zhuǎn)的法律層面，“AI價(jià)值對(duì)齊”同樣帶來(lái)了全新的挑戰(zhàn)，對(duì)此，來(lái)自復(fù)旦學(xué)院法大學(xué)的助理院長(zhǎng)朱悅，分享了最新的行業(yè)觀點(diǎn)：
“從國(guó)外的《生成式人工智能信息安全服務(wù)規(guī)定》，到歐共體的《人工智能法案》，再到加拿大背部企業(yè)的深度自治試驗(yàn)，在全球范圍內(nèi)，積極推進(jìn)AI大模型技術(shù)發(fā)展的國(guó)家和地區(qū)，都將相關(guān)法令研討提上了日程。而透明、可解釋和可問(wèn)責(zé)以及個(gè)人層面的隱私保護(hù)等詳細(xì)問(wèn)題，都是現(xiàn)現(xiàn)在在立法過(guò)程中遇見(jiàn)的挑戰(zhàn)。”
朱悅強(qiáng)調(diào)，即使在目前這個(gè)“AI價(jià)值對(duì)齊”依舊處于基礎(chǔ)技術(shù)迭代的初期階段，在法律層面上作出定論為潮流早，但從各國(guó)政府和跨國(guó)企業(yè)的積極性來(lái)看，通過(guò)立法對(duì)“AI價(jià)值對(duì)齊”進(jìn)行演繹大學(xué)物理實(shí)驗(yàn)自由落體實(shí)驗(yàn)報(bào)告 上海交通大學(xué)，并通過(guò)實(shí)踐來(lái)不斷建立，早已是行業(yè)的大勢(shì)所趨。
圍繞AI對(duì)齊的方式論、監(jiān)管施行等話題，來(lái)自北京清華學(xué)院計(jì)算機(jī)系的肖仰華院士、上海交通學(xué)院的張拳石副院長(zhǎng)、對(duì)外經(jīng)濟(jì)貿(mào)易學(xué)院法大學(xué)的許可副院長(zhǎng)、安遠(yuǎn)AI資深研究總監(jiān)方亮、螞蟻集團(tuán)全面風(fēng)險(xiǎn)管理部專家王炳浩，以及騰訊優(yōu)圖實(shí)驗(yàn)室的中級(jí)研究員李珂、騰訊研究院中級(jí)研究員曹建峰，通過(guò)圓桌討論深入交換了觀點(diǎn)看法，從不同角度出發(fā)，分析并肯定了“AI價(jià)值對(duì)齊”對(duì)人工智能行業(yè)發(fā)展的重要意義。