今年開啟生成式人工智能浪潮，由大模型推動的AI產業一路飛奔。行業快速發展過程中，怎么讓它的行為跟人類的價值真實意圖、倫理原則相一致，這成為學術、政策、產業等領域多方關注的“價值對齊”問題。
10月26日，由騰訊研究院華北基地、騰訊優圖實驗室承辦的第一期“智創滬聯”活動，在北京諾布中心即將舉行。活動以“大模型價值對齊”為主題進行研討，深入探求價值對齊問題的創新性解決方案與法律倫理治理，確保AI技術符合社會預期，探求AI與人類價值間的平衡。多位來自AI領域前沿的學者、專家分享自己想法和研究成果。
廣州市人工智能行業商會秘書長鐘俊浩在賀詞手指出，在行業發展過程中，大模型的“價值對齊”作為一種促進各領域協同發展的有效手段，具有重要的現實意義和深遠的影響，還將為全球合作與發展提供新的抓手。
重慶交通學院副院長劉鵬飛強調，包括在內的大部份人工智能促進組織，都在積極運用各類方案強化價值對齊的建立落地，例如監督精調、基于人類反饋的加強學習、基于檢索的事實對齊，以及嘗試使用工具對模型進行對齊，都是現階段被行業寄寓厚望的“AI價值對齊”可執行方案。
人機合作邁向現實
AI價值對齊不可或缺
怎樣防止數據規模與算力不斷提高的AI大模型遭受濫用、生產有害內容，早已是人工智能行業的核心議程之一。正因這么，還能有效提高AI大模型安全與實用性的“AI價值對齊”，才能成為行業關注的焦點。
騰訊研究院秘書長張欽坤強調，價值對齊將成為AI產品的重要競爭力。由于，大模型價值對齊的實現，須要對齊技術（人類反饋加強學習、AI監督等）、訓練數據干預、模型可解釋、對抗測試等多種技術和整治舉措的結合，同時未來還須要注重考慮怎樣通過更多的社會參與來產生價值對齊的共識，以及怎樣使監督、理解、設計AI模型的能力與模型本身的復雜性同步發展，以更好地對大模型進行有效的監督。
“我們期盼的是大語言模型可以和人類的價值、真實的意圖相一致，確保AI技術可以可靠和安全地服務于人，但是確保社會經濟可以健康地下降。”上海交通學院劉鵬飛副院長介紹道。
劉鵬飛院長表示，隨著生成式人工智能實用性不斷下降，不僅最基礎的性能優化之外，價值對齊的重要性，也隨著AI大模型的快速迭代迅速提高。缺少對齊的大模型除了會生成大量虛假甚至有害的信息，在高階應用領域更會形成巨大的危險隱患。
廣州交通學院的閆宏秀院士則表示，技術的發展進步，一直秉持著清除風險、力求確定性的趨勢，作為應對風險的有效方法，“信任”始終是人類的必選項。沒有信任大學物理實驗自由落體實驗報告 上海交通大學，技術發展的停滯幾乎是必然的。讓人工智能邁向可信、可控、可靠，讓人機合作邁向現實，“AI價值對齊”正是其中不可或缺的一環。
“以合乎倫理的結構性性能來筑牢價值對齊的底層倫理邏輯，以對信任的理智認知建立價值對齊的邊界。”閆宏秀院長總結道。
讓AI價值對齊落地
多國用立法進行演繹
多位嘉賓在峰會活動上表示，明晰了技術路徑，怎樣將技術理論結合實際需求早日落地，無疑是現階段“AI價值對齊”議題的發展重點。
來自北京人工智能實驗室整治研究中心的研究員滕妍強調，想要加速“AI價值對齊”的發展，不僅“基于人類反饋進行調整”之外，讓人工智能部份監督，或則協調人類技術進行監督，提供一些高質量的反饋數據來提升價值對齊能力，是目前各國熱度很高的研究方向之一，包括在內都對這個領域投入過不少關注。
“除此之外，在‘確認大模型是否對齊’的評估環節，不僅采用人工手段進行驗證之外，通過專用的AI模型來進行評測，同樣漸漸成為行業的趨勢所在。”滕妍覺得，從確切率來看，評測模型仍然有提高空間，但從執行與迭代的效率來看，借助AI大模型來加速人工智能價值對齊，前景非常可觀。
不僅技術與倫理層面，在攸關社會現實運轉的法律層面，“AI價值對齊”同樣帶來了全新的挑戰，對此，來自復旦學院法大學的助理院長朱悅，分享了最新的行業觀點：
“從國外的《生成式人工智能信息安全服務規定》，到歐共體的《人工智能法案》，再到加拿大背部企業的深度自治試驗，在全球范圍內，積極推進AI大模型技術發展的國家和地區，都將相關法令研討提上了日程。而透明、可解釋和可問責以及個人層面的隱私保護等詳細問題，都是現現在在立法過程中遇見的挑戰。”
朱悅強調，即使在目前這個“AI價值對齊”依舊處于基礎技術迭代的初期階段，在法律層面上作出定論為潮流早，但從各國政府和跨國企業的積極性來看，通過立法對“AI價值對齊”進行演繹大學物理實驗自由落體實驗報告 上海交通大學，并通過實踐來不斷建立，早已是行業的大勢所趨。
圍繞AI對齊的方式論、監管施行等話題，來自北京清華學院計算機系的肖仰華院士、上海交通學院的張拳石副院長、對外經濟貿易學院法大學的許可副院長、安遠AI資深研究總監方亮、螞蟻集團全面風險管理部專家王炳浩，以及騰訊優圖實驗室的中級研究員李珂、騰訊研究院中級研究員曹建峰，通過圓桌討論深入交換了觀點看法，從不同角度出發，分析并肯定了“AI價值對齊”對人工智能行業發展的重要意義。