人工智能，由我們親手作出的跳脫天然范疇的人工設計，堪稱為人類實現自我突破與變革的一場“逆天革命”與“瘋狂冒險”。面對人工智能，與其說我們是對自身的未來抱有美好的憧憬，倒不如說對未來滿懷“恐懼著的希望”，人工智能碾壓一切的進步性與潛在的失控風險始終拉扯著我們的神經。如何制衡人工智能這把“雙刃利劍”，已然成為智慧產業前行面臨的重要課題。在人工智能“夠聰明”之前，能否為它們制定并能夠實際遵循的行為準則，以此構建較完善的監管體系或者是“道德束縛”，是對人類智慧的考驗。

智慧進化箭在弦上

曾幾何時，人工智能還只是計算機科學的一個分支，出于對人類意識、思維的信息模擬。自1956年達特茅斯會議誕生“人工智能”一詞以來，短短60年，商業動機已經讓與工業力量相關的人工智能無處不在，互聯網、金融、醫療、教育、物流、娛樂、傳媒等行業都在加速自身智能化的進程。市場研究公司IDC預測，到2020年，人工智能的市場規模將從今年的80億美元增長到470億美元，而對話機器人、智能語音、人工智能醫療等則成了人工智能這一熱點中的熱點。

互聯網及物聯網技術的不斷進步、大數據在數量與內容上的持續性幾何級數增長與應用，讓人工智能得以不斷“深度學習和演化”，在具備學習能力的機器眼中，一切“人、事、物”皆可以被數據化，而算法基于這些數據便可以建立“人、事、物”之間錯綜復雜的關聯關系。在算法可以充分捕獲描述人事物的關鍵數據后，機器便可以復制甚至超越人類的學習能力。

2016年3月15日，谷歌阿爾法圍棋（AlphaGo）與李世石的五局人機大戰在首爾四季酒店戰罷，人類代表韓國棋手李世石九段不敵AlphaGo，代表人類大腦最復雜領域的圍棋被機器攻破，進一步論證了人工智能在模擬人腦、基因演化和自我進化的過程中已深度“進階”。人工智能正在由“弱人工智能”向“超級人工智能”高速進化。

人與機器“相愛相殺”

工業革命將人類從“體力勞動”中解放，當科技的發展進入人工智能領域，人們不可避免地期待著它來解放我們的“腦力勞動”。當前社會，人工智能的發展已經改變了很多人的生活方式。在醫藥領域，人工智能做到了對病毒爆發的提前模擬，從而提前防控疫情；在教育領域，人工智能代替人們做到了一對一家教般的精準體貼；在旅游領域，人工智能可以實時完成快速調取當前場景信息并實時講解與翻譯……

但是，人類似乎一直糾結于一種矛盾的存在，始終生活在悖論里。我們一邊以科技的進步標榜自己的成就，一邊焦慮并懼怕著被科技產物所取代甚至毀滅。這種巨大的恐懼和擔憂，在文藝工作者的作品中體現得尤其明顯：電影《終結者》中邪惡的機器人天網企圖審判并滅絕人類；《黑客帝國》中機器人要完全控制并奴役人類；《銀翼殺手》中人工智能復制人與人類對抗……雖然我們還不至于親眼目睹、親身經歷電影橋段中可能出現的危機，但是接下來確實很可能會產生一個群體——無用的人群。因為以往人類社會的幾次技術革命在導致失業的同時，也創造了大量新型工作。而人工智能技術的發展，在替代人類勞動的同時，對創造新工作可能貢獻有限，這將在一定程度上對就業產生負面影響。

充分吸收了人類幾十萬年以來的思維進化成果，并在記憶、計算、邏輯推理上占據絕對優勢的人工智能，單從硬件上來看，很可能讓人類大腦望塵莫及。大腦的內部信息傳播速度是每秒120米，相較于電腦的光速已經沒有比較的意義。而且，人工智能還可以隨意運用更多的硬件以獲得更大的內存，不但容量大而且更精準。甚至，我們覺得困難的事情，對于人工智能來說未必有多大的難度系數，而這無疑將導致不少工種的在崗人員被替代。與此同時，不少人圍繞人工智能可能產生的社會倫理、道德、戰爭等都表現出了深深的擔憂。在尋求矛盾破解之法的旅程中，人工智能的發展將持久地伴隨著人類的自我博弈過程。但不管社會發展最終走向何方，未來人類自身的存在方式甚至人體構成模式都會朝著更加注重高效、實用與低耗、持久的方向演化。

“洪荒之力”需要約束

人工智能領域的研究和應用在很多方面都取得了快速進步，但與之相對應的規范化約束方案卻嚴重滯緩。人工智能與核武器、生化技術、基因技術等其他影響巨大的技術一樣，潛在的威脅和其潛在的利益是成正比的，想要妥善利用這股“洪荒之力”，在它們“夠聰明”之前，為其建立一套可靠的行為準則是十分必要的。我們要的不僅僅是嫻熟的技術以引燃智能爆炸，還需要在更高水平上掌握控制權，以免我們在智能爆炸中“身首異處”。

科幻小說作家艾薩克·阿西莫夫在他的短篇小說《環舞》中提出的“機器人三大法則”，可以說是一種保護性設計和內置的道德原則。時至今日，這對現實中的人工智能發展同樣具有指導意義。

目前，全球最大的5家科技公司如谷歌母公司Alphabet、亞馬遜、Facebook、IBM和微軟都在率先嘗試制定關于人工智能機器人的道德標準，并規劃成立人工智能行業組織。雖然尚不清楚這一行業組織最終會取得什么樣的成果，但其基本的出發點很明確：確保人工智能的研究專注于造福人類，而非不利于人類。

此外，開發人工智能已經是全球性的競爭，這樣的競賽機制也許會讓某些害怕落后的團隊通過增加冒險行為的方式趕上競爭者，非良性的循環會讓這一風險直達最高水平。因此，除了圍繞人工智能研究制定規則，行業內也須制定自我約束框架。而在這一過程中，政府有效并適時地參與到為人工智能規劃目標、價值觀和道德規范的過程中，也將是一種必然行為，因為人工智能已經將技術發展和社會經濟政策更緊密地聯系在一起。

更多資訊請關注工業機器人頻道