人工智能應(yīng)用越來越廣法律面對(duì)人工智能應(yīng)該做什么？

來源：光明日?qǐng)?bào)

作者：

2019-05-12 09:15:05

2月15日，河北省秦皇島市海港區(qū)燕大西苑社區(qū)小朋友體驗(yàn)學(xué)習(xí)機(jī)器人科普知識(shí)。曹建雄攝/光明圖片

【法眼觀天下】

編者按

智能型機(jī)器人、自動(dòng)駕駛、AI創(chuàng)作、語音識(shí)別……當(dāng)前，人工智能的應(yīng)用越來越廣泛，由此也產(chǎn)生了一系列法律問題，尚沒有達(dá)成廣泛共識(shí)。科技是一把雙刃劍，人工智能技術(shù)概莫能外。本期法治版特刊發(fā)三篇專家文章，探討如何從法理、法律方面對(duì)人工智能的發(fā)展和應(yīng)用予以回應(yīng)，讓人工智能能夠在法律的規(guī)范下健康發(fā)展并造福人類。

智能型機(jī)器人的出現(xiàn)和廣泛應(yīng)用無疑是21世紀(jì)的一個(gè)重大事件，不但會(huì)引起新的工業(yè)革命和社會(huì)變革，而且會(huì)顛覆許多傳統(tǒng)的社會(huì)結(jié)構(gòu)和人類觀念。早在1942年，著名科幻小說家艾薩克·阿西莫夫在其科幻小說《環(huán)舞》中就提出了著名的機(jī)器人三原則：第一，不得傷害人類；第二，服從人類命令；第三，盡可能地保護(hù)自己。筆者以為，這不但是機(jī)器人設(shè)計(jì)中應(yīng)當(dāng)遵循的基本原則，而且也是機(jī)器人立法中必須充分考慮的原則。面對(duì)以人工智能為代表的飛速發(fā)展的現(xiàn)代科學(xué)技術(shù)，人類必須高度關(guān)注技術(shù)對(duì)社會(huì)關(guān)系和社會(huì)觀念所帶來的巨大沖擊，同時(shí)充分利用法律的引導(dǎo)、規(guī)制和促進(jìn)功能，實(shí)現(xiàn)法律與技術(shù)進(jìn)步的良性互動(dòng)。

利用良好的法律制度促進(jìn)科技發(fā)展

法律不僅承擔(dān)著行為調(diào)控、沖突解決、社會(huì)控制、公共管理等功能，而且負(fù)有促進(jìn)社會(huì)發(fā)展，引導(dǎo)社會(huì)生活的使命。良好的機(jī)器人法律制度應(yīng)當(dāng)是既能夠充分調(diào)動(dòng)社會(huì)主體的創(chuàng)造熱情、促進(jìn)社會(huì)經(jīng)濟(jì)發(fā)展的社會(huì)財(cái)富創(chuàng)造法，又能夠在發(fā)明創(chuàng)造和財(cái)富創(chuàng)造之間搭建起便捷轉(zhuǎn)換通道的市場經(jīng)濟(jì)催化法。

為此，一方面，要應(yīng)用良好的制度設(shè)計(jì)滿足機(jī)器人發(fā)展的客觀要求，積極利用機(jī)器人解放人的功能，實(shí)現(xiàn)人的全面發(fā)展，并積極改善人與自然、人與社會(huì)的關(guān)系。另一方面，要充分發(fā)揮法律對(duì)科學(xué)研究的價(jià)值引領(lǐng)功能。從發(fā)展經(jīng)驗(yàn)來看，并非所有的技術(shù)成果都能夠造福于人類。因此，不是所有的科學(xué)活動(dòng)都會(huì)得到法律鼓勵(lì)(典型的如克隆人技術(shù)、換頭技術(shù)等)。我們在充分肯定人工智能對(duì)解放人類生產(chǎn)力所帶來的重大便利的同時(shí)，也必須高度重視人工智能對(duì)傳統(tǒng)的社會(huì)機(jī)構(gòu)、社會(huì)關(guān)系、人倫關(guān)系所帶來的顛覆性影響，嚴(yán)格劃定人工智能作用(活動(dòng))的禁區(qū)。由于目前對(duì)機(jī)器人活動(dòng)可能對(duì)人類帶來的負(fù)面影響還缺乏必要的實(shí)踐數(shù)據(jù)，加之人類還沒有完全做好與機(jī)器人和諧相處的精神準(zhǔn)備，因此在早期的機(jī)器人立法中，對(duì)機(jī)器人的自主性活動(dòng)應(yīng)作較多限制。隨著人工智能技術(shù)的日趨完善和自然人與機(jī)器人相處能力的逐步增強(qiáng)，可以通過不斷修改法律逐步放寬對(duì)機(jī)器人行為的限制。

確立人類優(yōu)先和安全優(yōu)先原則

現(xiàn)代國家確立了以人為本的立法理念。這就要求一切立法都應(yīng)圍繞改善人的生存條件和生存環(huán)境，增進(jìn)人類福祉，促進(jìn)人的全面發(fā)展而進(jìn)行。這既是文明立法的本質(zhì)要求，也是良法善治的應(yīng)有之意。這里的良法，首先要求必須具有公正性，其次要求必須是能夠滿足大多數(shù)人的需要，最后必須符合社會(huì)公眾對(duì)法律的預(yù)期，符合公序良俗的基本要求。

具體到機(jī)器人立法，由于機(jī)器人的應(yīng)用不但會(huì)帶來深刻的社會(huì)變化，而且也會(huì)影響到人類自身的發(fā)展，影響到對(duì)人本身的認(rèn)知，甚至?xí)＜叭说纳妗Ｕ\如霍金所說：“人工智能的真正風(fēng)險(xiǎn)不是它的惡意，而是它的能力。一個(gè)超智能的人工智能在完成目標(biāo)方面非常出色，如果這些目標(biāo)與我們的目標(biāo)不一致，我們就會(huì)陷入困境。因此，人工智能的成功有可能是人類文明史上最大的事件，但人工智能也有可能是人類文明史的終結(jié)！”因此在相關(guān)立法中必須確立人類優(yōu)先的原則和理念，以尊重人的存在、人的生命健康、人的利益、人的安全為根本旨?xì)w。

同時(shí)，相關(guān)立法絕不能僅僅關(guān)注機(jī)器人的技術(shù)性內(nèi)涵，而更應(yīng)當(dāng)關(guān)注其文化內(nèi)涵，相關(guān)的制度設(shè)計(jì)不應(yīng)是僅具有程序性操作意義的技術(shù)性規(guī)范，而應(yīng)是充滿人文關(guān)懷和倫理精神的技術(shù)性與道德性完美融合的法律。一方面，我們要堅(jiān)決把違背公序良俗和有可能挑戰(zhàn)人類倫理底線的人工智能技術(shù)產(chǎn)品，排除在法律的保護(hù)之外，另一方面，通過政策或法律，對(duì)那些有可能影響人類倫理的技術(shù)進(jìn)行嚴(yán)格的管控和必要的限制，對(duì)風(fēng)險(xiǎn)不明的技術(shù)應(yīng)用必須留下足夠的安全冗余度，防止因技術(shù)的失控可能給人類帶來的毀滅性打擊。

謹(jǐn)慎承認(rèn)機(jī)器人的法律主體資格

機(jī)器人出現(xiàn)之后，其身份和主體資格受到高度重視。2017年，機(jī)器人索菲亞(Sophia)被沙特授予公民身份。美國律師約翰·弗蘭克·韋弗于2015年出版的《機(jī)器人也是人——人工智能將如何改變法律》一書提出，由于機(jī)器人已經(jīng)具備自然人的很多能力，如思維能力、辨別能力、有目的的活動(dòng)能力和一定的判斷能力與自主決策能力，因此應(yīng)當(dāng)賦予機(jī)器人以和人相同的法律地位。實(shí)際上這已不是第一次對(duì)人的排他性主體地位提出質(zhì)疑，早在機(jī)器人出現(xiàn)之前就已經(jīng)被多次提出，其中最為典型的是對(duì)動(dòng)物主體地位的爭議。

從目前的發(fā)展進(jìn)程來看，機(jī)器人雖然已具備人的很多要素，但還不足以達(dá)到和人分庭抗禮的地步。機(jī)器人雖然可能會(huì)有思維，但卻并沒有上升到有生命的狀態(tài)，不具備生命所要求的能夠利用外界物質(zhì)形成自己的身體和繁殖后代，按照遺傳的特點(diǎn)生長、發(fā)育并在外部環(huán)境發(fā)生變化時(shí)及時(shí)適應(yīng)環(huán)境的能力。因此從理論上說，機(jī)器人作為一種工業(yè)設(shè)計(jì)，只具有使用壽命而不具有自然生命，當(dāng)然也不享有以生命為載體的生命權(quán)。

機(jī)器人是按照人類的預(yù)先設(shè)計(jì)而生產(chǎn)出來的，因此就其本質(zhì)來說具有可預(yù)知性、可復(fù)制性和可分類性，而可預(yù)期的活動(dòng)是無法用傳統(tǒng)的法律行為進(jìn)行解釋和規(guī)范的。此外，機(jī)器人沒有自然人所具有的道德、良心、良知、倫理、宗教、規(guī)矩和習(xí)慣，只有功能的強(qiáng)弱。因此機(jī)器人不可能有道德感，只有基于程序的反復(fù)和預(yù)先設(shè)計(jì)而總結(jié)出的規(guī)律，從而也就沒有民事主體所必備的基于內(nèi)心感知(良知)所做出的善惡評(píng)判和行為選擇。法律也無法通過對(duì)其行為進(jìn)行否定性評(píng)價(jià)而實(shí)現(xiàn)抑制或矯正其非法行為的效果。最后，機(jī)器人并不具有與周圍環(huán)境交互影響的內(nèi)在感知能力，其改造自然的活動(dòng)均是在人的設(shè)計(jì)、命令和指揮下完成的，從這個(gè)意義上說機(jī)器人并不是人，充其量僅是準(zhǔn)自然人而已。機(jī)器人也無獨(dú)立的財(cái)產(chǎn)能力和責(zé)任能力，機(jī)器人對(duì)人類造成傷害之后，只有通過懲罰其實(shí)際控制人(設(shè)計(jì)人、使用人)的方式，才能真正實(shí)現(xiàn)懲罰與保護(hù)并重的目的。

充分尊重社會(huì)公眾的知情權(quán)

人工智能技術(shù)及其應(yīng)用不僅是簡單的技術(shù)創(chuàng)造，也是一個(gè)對(duì)人類未來影響深遠(yuǎn)且關(guān)涉每一個(gè)人切身利益的重大歷史變革。面對(duì)功能強(qiáng)大的機(jī)器人，每一個(gè)行業(yè)、每一個(gè)領(lǐng)域的自然人的就業(yè)機(jī)會(huì)都有可能被剝奪，每一個(gè)生命個(gè)體的生存空間都有可能被嚴(yán)重?cái)D壓。公眾對(duì)于信息、知識(shí)的獲取，不但是其融入公共生活的一個(gè)條件，也是維護(hù)自身合法權(quán)益的必然要求。因此，每一個(gè)自然人都應(yīng)當(dāng)對(duì)人工智能技術(shù)享有充分的知情權(quán)，都有權(quán)知道機(jī)器人被廣泛應(yīng)用之后對(duì)自己意味著什么。

在相關(guān)立法中，必須充分保護(hù)社會(huì)公眾的知情權(quán)和參與權(quán)，重大人工智能技術(shù)的應(yīng)用應(yīng)廣泛征求公眾的意見并進(jìn)行科學(xué)的論證，應(yīng)強(qiáng)調(diào)任何人工智能產(chǎn)品的開發(fā)和應(yīng)用都不能以損害自然人利益為代價(jià)，不能以損害社會(huì)公共利益為代價(jià)。同時(shí)必須有效平衡各方利益，特別是平衡生產(chǎn)者和普通社會(huì)公眾之間的利益。相關(guān)的制度設(shè)計(jì)一方面要充分保護(hù)研發(fā)者的創(chuàng)造積極性，鼓勵(lì)其發(fā)明出更多更高質(zhì)量的人工智能產(chǎn)品，另一方面應(yīng)保證社會(huì)公眾能夠更多地分享因科學(xué)技術(shù)的進(jìn)步而產(chǎn)生的社會(huì)經(jīng)濟(jì)利益和其他人類福祉。

建立符合國情的人工智能法律制度體系

法律是為社會(huì)服務(wù)的，任何法律都必須根植于特定的土壤才能發(fā)揮其最大效用。制定符合中國需要的人工智能法律，一方面必須充分尊重人工智能技術(shù)發(fā)展水平，在尚無充足實(shí)踐經(jīng)驗(yàn)指導(dǎo)的情況下，我們暫時(shí)無法設(shè)計(jì)出具有世界引領(lǐng)意義和示范作用的完備的人工智能法律體系；另一方面也應(yīng)看到，發(fā)展人工智能技術(shù)既是搶占世界新興技術(shù)制高點(diǎn)的需要，也是世界社會(huì)經(jīng)濟(jì)發(fā)展的大勢所趨。

因此，我們的法律必須積極回應(yīng)人工智能技術(shù)的發(fā)展需要，通過良好的制度設(shè)計(jì)滿足人工智能技術(shù)的發(fā)展要求。同時(shí)，必須積極借鑒國外在人工智能領(lǐng)域的立法經(jīng)驗(yàn)和司法實(shí)務(wù)經(jīng)驗(yàn)，盡快完善相關(guān)的法律設(shè)計(jì)。當(dāng)務(wù)之急是盡快制定人工智能基本法、人工智能產(chǎn)業(yè)促進(jìn)法等法律法規(guī)，明確我國對(duì)人工智能和機(jī)器人產(chǎn)業(yè)發(fā)展的基本態(tài)度，同時(shí)出臺(tái)人工智能產(chǎn)品倫理審查辦法、人工智能產(chǎn)品設(shè)計(jì)指南等規(guī)章，未雨綢繆，提前用立法防范因機(jī)器人應(yīng)用可能帶來的社會(huì)問題。

(作者：趙萬一，系中國法學(xué)會(huì)商法學(xué)研究會(huì)副會(huì)長、西南政法大學(xué)教授)