??對智能機器人自我意識問題的深切關注，反映了人們對智能機器人失控的憂懼。而消除這種憂懼的最佳方式，就是深刻認識和把握其原理與本質，打開智能機器人自我意識的黑箱，并推動其向善發展。

??把握不同路徑

??總的來看，人類自我意識的產生主要有兩種方式，一是自我激發，二是他人認同。自我意識與自我認同是不可分割的，而自我認同則離不開群體中他人的認同。所以，自我意識通常在獲得社會其他成員的認同中產生。在探索智能機器人自我意識時，這兩種路徑各自進行了嘗試，并取得了不同的進展。按照技術發展路徑，智能機器人主要分為數據智能和類腦智能，二者自我意識產生分別采用了他人認同路徑和自我激發路徑，其本質也不相同。

??一是數據智能機器人“設計”出自我意識，即他人認同路徑。這一路徑通過算法設計和大數據支持，讓機器人表現得具有“自我意識”。無論是數字計算機，還是量子計算機，其產生自我意識的途徑都屬于數據智能路徑。但這一路徑存在數據兼容和溢出的風險。很明顯，這一路徑產生的“自我意識”是環境中的設計者和使用者賦予智能機器人的，認知主體是人體而非機體。這在情感機器人或社交機器人中尤為常見。而社交類智能機器人的使用者，往往會在與其長期相處中產生機器人也有情感和自我意識的錯覺。心理學上將這種現象稱為共情效應。通常情況下，能產生越強共情效應的機器人往往越受消費者歡迎。然而，通過考察情感或自我意識內在的真實內容及其規律性就會發現，這只是特定情境中的使用者認為機器人已彰顯出自我意識和情感。因此，并不能說明這類機器人能夠自我激發產生自我意識或情感。

??二是類腦智能機器人“生長”出自我意識，即自我激發路徑。這一路徑通過類腦技術支持，讓機器人擁有能感知的“身體”，形成獨立的“自我意識”。這里的“自我意識”雖然源自機體，但卻是承載生物芯片的有機體，因此無論是技術悲觀派還是樂觀派都不能否認其產生自我意識的可能性。比如，曾毅團隊在認知神經科學家的實驗基礎上，用自主研發的類腦機器人成功挑戰了自我意識鏡像實驗，為機器人自我意識建立了受生物激發的模型。雖然鏡像實驗只能作為機器人自我意識驗證的一個視角，但我們可以據此展望未來，制造出生物性質的類人自我意識的智能機器人并不是天方夜譚。這一路徑存在生物芯片信息難以掌控的風險。目前大多數相關研究都局限于實驗室內，而已臨床使用的僅是針對腦部疾病的腦機接口技術，并且這種技術的使用需要患者提前進行訓練，也就是要通過人的協助才能展現出智能。

??探索人機融合

??智能機器人自我意識的產生可能增加人類對其失控的憂懼，而人機融合發展則能夠降低這種危害的可能性。人機融合智能是充分利用人和機器各自的長處形成的新型智能形式。大數據人工智能、互聯網群體智能、感知和跨媒體智能、人機混合智能、自主智能系統等是目前主要的五類人機融合智能。為引導智能機器人向善發展，規避不良社會影響，需要人類主動回應和采取措施。

??一是進行前瞻性倫理設計。技術實體論認為，技術是一種實體，是負載著價值的。尤其是現在自主性越來越強的智能機器人，根據算法的設計能夠自適應環境自主決策，產生的結果甚至是不可控的。這種算法復雜性和不可控性，很好地支持了技術實體論的立場。由此，對技術風險的治理則需要一種前瞻模式。雖然目前類腦智能對意識和自我意識的研究尚處于初級階段，但讓其自主產生自我意識一直是很多研發者的目標。因此，要在其自我意識研究尚處于初級階段時提出倫理框架，根據“自上而下”和“自下而上”各自的優勢提出組合模式：將“不傷害不作惡”作為底線原則進行價值敏感設計，并在后天學習中通過底線原則對學習到的人類行為進行過濾。倘若完全采取情境學習的路徑，一旦投入市場使用，就會出現不可控的后果。因此，必須將底線原則與情境學習相結合，才能保證智能機器人的安全可控。

??二是建立以人為主導的人機協同演化關系。對智能機器人自我意識的深切關注，實質上反映了人們對智能機器人失控的憂懼。在此基礎上形成的人機關系，既不利于人工智能的健康發展，也不利于人的自由而全面發展。對此，我們需要探索出一種健康、可持續的人機關系，即以人為主導的人機協同演化關系。以人為主導，可以保證人在協同演化中不喪失主體性。只有保持這種主體性，人類才能理性決定機器人“能夠做什么”和“應該做什么”，保證人工智能產品按照人的價值理念演化，從而掌握協同演化的主動權，實現智能機器人向善發展的目標。同時，以人為主導才能促使人類主動承擔協同演化中的過失責任。若智能機器人產生自我意識，將引發其道德地位和道德承受能力的爭論。實際上，讓機器人擁有一定的道德判斷能力，目的是為了更好地為人類服務，盡量減少甚至避免負面影響，而不是讓它們必須擁有權利或承擔責任，二者是可以分開的。人是責任的承擔者。人的責任不僅包括在風險預防階段做好價值敏感設計，也包括在風險產生后通過制度構建來降低損失。

??三是建立“社會—技術”一體化協調發展的體制機制。若智能機器人產生自我意識，所帶來的變化不僅是技術上的顛覆性創新，而且對原有社會運行機制的影響更是難以清楚預判。面對具有自我意識的智能機器人的來臨，不僅需要在研發階段進行提前干預，同時也需要社會體制機制的創新來適應。為保證新的智能機器人產品的向善導向，就必須在研發和使用中進行監管。同時，政府要積極引導第三方機構對其可能引發的隱私、安全、社會公正等問題進行敏感性評估，要求企業對出現問題的產品建立補償或召回機制。

??四是積極引導公眾參與。技術的進步與應用在為人們的生活帶來便利的同時，也讓人們在一定程度上產生了恐懼。這種技術恐懼源于技術自身的復雜性和不確定性，尤其是對于可能產生自我意識的智能機器人。要消除技術恐懼的根本方法，就是讓公眾參與到智能機器人的技術治理過程當中。一方面，公眾參與有助于提高智能機器人的社會接受度。公眾對技術研發的參與程度越深入，對技術細節越了解，也就越容易接受具有自我意識的智能機器人。另一方面，公眾參與有助于提高智能機器人社會風險評估的準確性。適當的公眾參與對智能機器人的社會風險因素識別更加全面和準確，由此制定的預防性措施將更加有效?？傊?，更多公眾參與將有助于實現人工智能向善的目標，這也是提出人機融合智能的初衷。