人工智能是引領(lǐng)新一輪科技革命和產(chǎn)業(yè)變革的戰(zhàn)略性技術(shù)。它如同一把“雙刃劍”，深刻改變著人類的生存方式和社會(huì)交往方式，也帶來(lái)了一些倫理和法律方面的風(fēng)險(xiǎn)及挑戰(zhàn)。習(xí)近平總書(shū)記強(qiáng)調(diào)，要加強(qiáng)人工智能發(fā)展的潛在風(fēng)險(xiǎn)研判和防范，維護(hù)人民利益和國(guó)家安全，確保人工智能安全、可靠、可控。要整合多學(xué)科力量，加強(qiáng)人工智能相關(guān)法律、倫理、社會(huì)問(wèn)題研究，建立健全保障人工智能健康發(fā)展的法律法規(guī)、制度體系、倫理道德。

9月13日至18日，就“人工智能發(fā)展中的科技倫理與法律問(wèn)題”，全國(guó)政協(xié)副主席陳曉光、汪永清先后率全國(guó)政協(xié)社會(huì)和法制委員會(huì)調(diào)研組赴安徽省、江蘇省開(kāi)展專題調(diào)研。調(diào)研組深入合肥、蕪湖、南京、蘇州、無(wú)錫等地多家企業(yè)、科研院所和高校，與企業(yè)負(fù)責(zé)人、一線科研人員和專家學(xué)者面對(duì)面交流，并同兩省相關(guān)部門(mén)座談。通過(guò)現(xiàn)場(chǎng)走訪和體驗(yàn)，調(diào)研組了解了黨中央決策部署的落實(shí)情況，真切感受到我國(guó)人工智能發(fā)展的成就、優(yōu)勢(shì)和潛力，進(jìn)一步增強(qiáng)了推動(dòng)我國(guó)經(jīng)濟(jì)社會(huì)高質(zhì)量發(fā)展的信心。委員們表示，要認(rèn)真落實(shí)習(xí)近平總書(shū)記重要指示精神，尊重新一代人工智能發(fā)展規(guī)律，把握好創(chuàng)新發(fā)展和風(fēng)險(xiǎn)治理的“度”。要組織專門(mén)力量深入研究人工智能創(chuàng)新發(fā)展存在的倫理、法律等風(fēng)險(xiǎn)問(wèn)題，進(jìn)行風(fēng)險(xiǎn)評(píng)估、提出防范意見(jiàn)。需要下大力氣推動(dòng)研發(fā)機(jī)構(gòu)、應(yīng)用主體加強(qiáng)內(nèi)部自治，促進(jìn)行業(yè)自律，強(qiáng)化研發(fā)、應(yīng)用人員教育培訓(xùn)，為人工智能發(fā)展?fàn)I造良好環(huán)境。

“刷臉”背后的安全隱患

“電腦密碼可以換，但‘人臉’這樣的生物數(shù)據(jù)是不可換的。一旦信息丟失或被攻擊，你就一張臉，怎么辦？”

調(diào)研中，在與安徽省、江蘇省相關(guān)部門(mén)座談時(shí)，全國(guó)政協(xié)委員談劍鋒多次提及這個(gè)問(wèn)題，引起大家的關(guān)注。

今年全國(guó)兩會(huì)期間，從事網(wǎng)絡(luò)安全技術(shù)行業(yè)的談劍鋒多次就此遞交提案，呼吁做好人臉等生物數(shù)據(jù)的隱私保護(hù)。在這次調(diào)研座談會(huì)上，他很鮮明地亮出自己的觀點(diǎn)：“我反對(duì)用唯一的生物特征信息用作身份認(rèn)證?！?/p>

新冠肺炎疫情防控期間推行的“健康碼”為防疫作出了巨大貢獻(xiàn)，但談劍鋒擔(dān)心由此而來(lái)的安全問(wèn)題：“每個(gè)公民都在‘刷臉’，這個(gè)人臉信息數(shù)據(jù)存在哪里？誰(shuí)能使用？保存時(shí)限是多少？法律監(jiān)管是否到位？”在他看來(lái)，目前還沒(méi)有足夠安全的方式來(lái)保證生物特征數(shù)據(jù)不被濫用，如果將各類生物特征數(shù)據(jù)集中保管在數(shù)據(jù)庫(kù)中，再被采集到不安全的網(wǎng)絡(luò)上，一旦數(shù)據(jù)庫(kù)遭受攻擊，可能造成社會(huì)風(fēng)險(xiǎn)。

人工智能高度依賴對(duì)個(gè)人數(shù)據(jù)的采集和應(yīng)用，在調(diào)研組看來(lái)，這是一個(gè)亟待重視的問(wèn)題。

“一些關(guān)鍵數(shù)據(jù)的問(wèn)題不能任其散落在企業(yè)。”全國(guó)政協(xié)委員汪鵬飛說(shuō)。

調(diào)研組組長(zhǎng)、全國(guó)政協(xié)社會(huì)和法制委員會(huì)副主任陳智敏表示，現(xiàn)在數(shù)據(jù)交易的灰色產(chǎn)業(yè)非常發(fā)達(dá)，全國(guó)從事電信詐騙行業(yè)的人員有幾百萬(wàn)，“數(shù)據(jù)在大量流失、大量買賣，這是非?？膳碌?。”

今年年初，美國(guó)600多家執(zhí)法機(jī)構(gòu)使用的人臉識(shí)別應(yīng)用程序ClearviewAI遭遇重大數(shù)據(jù)泄露，被泄露的客戶名單包括美國(guó)警方、執(zhí)法機(jī)構(gòu)和銀行。談劍鋒認(rèn)為，這就是前車之鑒，“人臉數(shù)據(jù)泄露不僅會(huì)危及老百姓的隱私、財(cái)產(chǎn)和人身安全，一旦被境內(nèi)外非法勢(shì)力攻擊獲取，將危及社會(huì)安全和國(guó)家安全。”

怎么防范？談劍鋒認(rèn)為，生物數(shù)據(jù)一定不能上“云”，生物數(shù)據(jù)上“云”后則完全依賴于“云”自身安全。世界上沒(méi)有任何一個(gè)“云”敢于承諾自己是無(wú)懈可擊的、是100%安全的?！叭绻欢ㄒ褂萌四樧R(shí)別等生物數(shù)據(jù)，則一定將生物數(shù)據(jù)存儲(chǔ)在手機(jī)等終端設(shè)備上。為進(jìn)一步增強(qiáng)安全性，不能簡(jiǎn)單地將生物數(shù)據(jù)存儲(chǔ)在手機(jī)存儲(chǔ)空間，一定要存儲(chǔ)在安全芯片中，并設(shè)置嚴(yán)格的安全策略以保護(hù)對(duì)安全芯片的訪問(wèn)?！闭剟︿h還提醒：“對(duì)于每一個(gè)個(gè)體而言，要盡量地少用生物數(shù)據(jù)，或僅僅將生物數(shù)據(jù)用在不太敏感的場(chǎng)合，不建議用于關(guān)鍵場(chǎng)合的身份認(rèn)證、轉(zhuǎn)賬交易等，這也是保護(hù)自己的方式?！?/p>

目前我國(guó)數(shù)據(jù)安全和隱私保護(hù)水平總體較低，不能等到出現(xiàn)非常嚴(yán)重的生物數(shù)據(jù)泄漏事件后才亡羊補(bǔ)牢，這是調(diào)研組不少委員的一致看法。

現(xiàn)在，全國(guó)人大已經(jīng)把個(gè)人信息保護(hù)法、數(shù)據(jù)安全法列入國(guó)家五年立法規(guī)劃第一序列，這讓委員們充滿期待?！皢?wèn)題的核心在于這些數(shù)據(jù)的所有權(quán)歸誰(shuí)，現(xiàn)在始終沒(méi)有解決。”陳智敏說(shuō)：“我認(rèn)為‘人臉’信息這類具有唯一性的數(shù)據(jù)主權(quán)在國(guó)家，企業(yè)可以使用，但現(xiàn)狀卻是誰(shuí)搜集誰(shuí)壟斷?！标愔敲舸騻€(gè)比喻說(shuō)，這就像原始社會(huì)向奴隸社會(huì)轉(zhuǎn)化時(shí)期，人們占有土地，誰(shuí)搶到就是誰(shuí)的，這種野蠻生長(zhǎng)到了需要規(guī)范的時(shí)候。

清華大學(xué)法學(xué)院院長(zhǎng)申衛(wèi)星認(rèn)為，數(shù)據(jù)的權(quán)屬不清已成為人工智能發(fā)展的一大制度性障礙，“企業(yè)采集、加工個(gè)人隱私數(shù)據(jù)，并不足以讓他擁有所有權(quán)，就像一個(gè)人寫(xiě)小說(shuō)，被改成相聲小品，改編者是不能擁有著作權(quán)的?！鄙晷l(wèi)星認(rèn)為，數(shù)據(jù)安全很重要，但如果只注重安全，沒(méi)有相應(yīng)的權(quán)益激勵(lì)，問(wèn)題也難以得到徹底解決，他建議根據(jù)風(fēng)險(xiǎn)的不同類型給予企業(yè)適當(dāng)?shù)臄?shù)據(jù)財(cái)產(chǎn)權(quán)益，有使用權(quán)但不能有擁有權(quán)。

把人力“解放”出來(lái)

當(dāng)前，我國(guó)人工智能技術(shù)發(fā)展勢(shì)頭良好。調(diào)研中，委員們看到了人工智能在交通、制造、家居、醫(yī)療等眾多領(lǐng)域的應(yīng)用場(chǎng)景，眼界大開(kāi)。

不過(guò)，全國(guó)政協(xié)社會(huì)和法制委員會(huì)駐會(huì)副主任呂忠梅提出了這樣一個(gè)問(wèn)題：“當(dāng)前我國(guó)人工智能的發(fā)展方向是什么？”這也是不少委員一路思考的問(wèn)題。

事實(shí)上，每一項(xiàng)先進(jìn)技術(shù)的出現(xiàn)都是為了讓人類的生活變得更舒服更美好，以“模擬”人類為目標(biāo)的人工智能就更是如此。

9月17日上午，在江蘇省蘇州市極目機(jī)器人科技有限公司，調(diào)研組在大屏幕上看到了一個(gè)有趣的場(chǎng)景：一架無(wú)人機(jī)從綠油油的農(nóng)田上方輕巧地飛過(guò)，機(jī)翼兩邊噴灑出如綿綿細(xì)雨般的藥水。

“傳統(tǒng)的植物農(nóng)藥噴灑方式靠的是人工，風(fēng)險(xiǎn)系數(shù)高、工作效率低，即便使用無(wú)人機(jī)，大部分也都需要人來(lái)操控，但這款產(chǎn)品可以真正解放人力?！惫矩?fù)責(zé)人向調(diào)研組介紹，這款無(wú)人機(jī)可以規(guī)避田間固定或移動(dòng)的障礙，無(wú)須人為干預(yù)或中斷作業(yè)，就像給無(wú)人機(jī)安上了“眼”和“腦”。能夠完成丘陵、山區(qū)等復(fù)雜地形的任務(wù)。這一系列“智能”優(yōu)勢(shì)讓傳統(tǒng)的手工勞動(dòng)在無(wú)人機(jī)面前相形失色，農(nóng)藥噴灑作業(yè)效率更高，并且農(nóng)藥用量也明顯減少一半，施藥效果更好。

高大上的無(wú)人機(jī)“聯(lián)姻”接地氣的農(nóng)業(yè)，著實(shí)令委員們感到振奮。顯然，重復(fù)性的繁重勞動(dòng)由機(jī)器取代，能夠極大地提升生產(chǎn)效率。

與此類似的還有人工智能在醫(yī)學(xué)影像領(lǐng)域的應(yīng)用。9月18日，在無(wú)錫祥生醫(yī)療科技股份有限公司，一款“掌上超聲”產(chǎn)品吸引了委員們的目光：把一個(gè)“探頭”在人體上掃一番，超聲圖像信號(hào)就通過(guò)無(wú)線網(wǎng)絡(luò)傳到安裝了超聲App軟件的手機(jī)或電腦屏幕上，而且清晰度遠(yuǎn)遠(yuǎn)超過(guò)傳統(tǒng)的超聲儀。

調(diào)研組了解到，這家公司擁有5G超聲、物聯(lián)網(wǎng)遠(yuǎn)程會(huì)診系統(tǒng)等多項(xiàng)自主知識(shí)產(chǎn)權(quán)技術(shù)，能夠攜手各級(jí)醫(yī)院建成遠(yuǎn)程超聲醫(yī)聯(lián)體。有了智能化的遠(yuǎn)程會(huì)診系統(tǒng)，能讓病人少奔波，對(duì)于醫(yī)療服務(wù)能力不足的地區(qū)更是福音———“大病不出縣、小病不出鄉(xiāng)”將成為現(xiàn)實(shí)。

與相關(guān)醫(yī)院合作完成5G超聲引導(dǎo)下的穿刺活檢遠(yuǎn)程手術(shù)，連線三甲醫(yī)院與鄉(xiāng)衛(wèi)生院，讓專家進(jìn)行超聲遠(yuǎn)程指導(dǎo)……現(xiàn)在，這些應(yīng)用已經(jīng)取得了較好的效果。

一路上看到的應(yīng)用場(chǎng)景引發(fā)了委員們的思考：我們還處于一個(gè)弱人工智能時(shí)代，即這些機(jī)器和技術(shù)能完成指定任務(wù)，尚不具備自主意識(shí)，更多是在增加人類能力的外延。

對(duì)此，全國(guó)政協(xié)委員錢鋒認(rèn)為，相對(duì)于在中高端消費(fèi)領(lǐng)域的應(yīng)用，人工智能如何與制造業(yè)深度融合、穩(wěn)定產(chǎn)業(yè)鏈供應(yīng)鏈?zhǔn)歉o迫的課題。在調(diào)研組看來(lái)，人工智能的發(fā)展也應(yīng)遵循以人為本原則，服務(wù)人類才是技術(shù)發(fā)展的最終目的。

智能駕駛汽車出事故，誰(shuí)擔(dān)責(zé)?

汽車的核心部件將不再是發(fā)動(dòng)機(jī)、變速箱、底盤(pán)這三大件，而是由芯片、軟件以及數(shù)據(jù)等組成的“大腦”———在人工智能大潮下，這個(gè)夢(mèng)想正在成為現(xiàn)實(shí)。

在此次調(diào)研中，調(diào)研組走訪了多家車企，看到了智能駕駛的各種場(chǎng)景。

“車輛到達(dá)目的地后，用戶通過(guò)手機(jī)終端向T平臺(tái)發(fā)送指令，車輛自動(dòng)駛?cè)胲噹?kù)并完成自動(dòng)泊車。利用手機(jī)終端遠(yuǎn)程發(fā)送召車請(qǐng)求信息，車輛能夠自車庫(kù)車位自動(dòng)行駛至召車點(diǎn)……”

9月15日上午，在安徽省蕪湖市雄獅汽車科技有限公司，公司負(fù)責(zé)人向委員們介紹了他們的技術(shù)。

調(diào)研組了解到，2014年，SAEInternational（國(guó)際汽車工程師協(xié)會(huì)）制訂了一套自動(dòng)駕駛汽車分級(jí)標(biāo)準(zhǔn)，從完全手動(dòng)駕駛到完全自動(dòng)駕駛，其對(duì)自動(dòng)化的描述分為5個(gè)等級(jí)。在L0至L2級(jí)，由司機(jī)負(fù)責(zé)駕駛，到了L3級(jí)，駕駛功能的操作主要由自動(dòng)駕駛系統(tǒng)來(lái)完成，這也意味著L3是駕駛責(zé)任由人轉(zhuǎn)向機(jī)器的分水嶺。

當(dāng)人類越來(lái)越多地依靠人工智能的輔助決策時(shí)，機(jī)器也可能在人們知曉或不知曉的情形下，造成人類決策不能自主?！拔覀儾还膭?lì)設(shè)立L3的產(chǎn)品級(jí)別，因?yàn)槿说摹邢藿庸堋瑫?huì)使人、自動(dòng)駕駛汽車和汽車制造商之間的責(zé)任不清晰。”這位負(fù)責(zé)人說(shuō)。

委員們認(rèn)為，在機(jī)器決策情形造成事故損失時(shí)，責(zé)任如何劃分，這已成為一個(gè)非常具有挑戰(zhàn)性的法律難題。另外，發(fā)生事故時(shí)，應(yīng)該優(yōu)先考慮乘客安全還是行人的安全，這也是未來(lái)智能駕駛技術(shù)發(fā)展到L4級(jí)以后必須面對(duì)的倫理問(wèn)題。

在一些委員看來(lái)，人工智能應(yīng)用場(chǎng)景下，責(zé)任相關(guān)主體可能涉及人工智能設(shè)計(jì)者、生產(chǎn)者、經(jīng)銷商、使用者等，人工智能系統(tǒng)及其應(yīng)用場(chǎng)景的復(fù)雜性、不確定性使得在事故發(fā)生時(shí)的責(zé)任主體界定困難。這樣的事件已有先例，比如谷歌、特斯拉等自動(dòng)駕駛致人傷亡事件。

除了“誰(shuí)擔(dān)責(zé)”的問(wèn)題，調(diào)研中，委員們也在擔(dān)憂智能駕駛技術(shù)發(fā)展帶來(lái)的隱私泄露問(wèn)題：如果這種技術(shù)得到普遍應(yīng)用后，無(wú)論一個(gè)人開(kāi)車要去哪里、在車?yán)镎f(shuō)了什么或做了什么，都不再有私密性，而成為車企或者是車聯(lián)網(wǎng)企業(yè)眼中的“數(shù)據(jù)”，可以隨時(shí)隨地使用，并從中獲益。

對(duì)此，委員們建議，要重視數(shù)據(jù)的過(guò)度使用和數(shù)據(jù)泄露問(wèn)題，這不僅要依靠企業(yè)、行業(yè)的道德自律，更要依靠管理部門(mén)的立法和監(jiān)督。

人工智能需要綜合性立法嗎？

“我們成立了道德委員會(huì)，還推出了基于企業(yè)自身管理標(biāo)準(zhǔn)的《人工智能應(yīng)用準(zhǔn)則》，從正當(dāng)性、人的監(jiān)督、技術(shù)可靠性和安全性、公平和多樣性、問(wèn)責(zé)和及時(shí)修正、數(shù)據(jù)安全與隱私保護(hù)六個(gè)維度，對(duì)人工智能正確有序發(fā)展作出明確規(guī)范……”9月16日上午，在南京曠云科技有限公司，公司負(fù)責(zé)人給調(diào)研組介紹了他們?cè)凇白月伞狈矫娴某晒?/p>

自2016年以來(lái)，以科大訊飛發(fā)布的《人工智能深圳宣言》為發(fā)端，國(guó)內(nèi)掀起了有關(guān)人工智能治理的一場(chǎng)議論風(fēng)潮，多項(xiàng)有關(guān)人工智能治理的倡議、準(zhǔn)則、原則也應(yīng)運(yùn)而生。值得關(guān)注的是，企業(yè)界在人工智能治理相關(guān)問(wèn)題上率先發(fā)聲，成為自下而上推動(dòng)中國(guó)人工智能規(guī)范發(fā)展的一股活躍力量。

“企業(yè)建立道德委員會(huì)非常好，企業(yè)自律、行業(yè)自治很重要。”全國(guó)政協(xié)常委張大方說(shuō)。調(diào)研中，該采取何種方式解決人工智能發(fā)展中的倫理規(guī)范問(wèn)題，是委員們討論的熱點(diǎn)。

“對(duì)人工智能的治理應(yīng)該分五個(gè)層面：法律規(guī)范、政府引導(dǎo)、行業(yè)自律、企業(yè)自覺(jué)和公民共識(shí)?！笨萍疾啃乱淮斯ぶ悄馨l(fā)展研究中心主任趙志耘認(rèn)為，對(duì)人工智能進(jìn)行立法很重要，但如果每一項(xiàng)技術(shù)都要通過(guò)立法去規(guī)范，有些技術(shù)很快會(huì)被新的技術(shù)顛覆，立法部門(mén)就得浪費(fèi)大量人力物力?！傲⒎ㄐ枰_立的是基本的準(zhǔn)則，范圍要寬泛?，F(xiàn)在最欠缺的是行業(yè)自律，企業(yè)都在跑馬圈地，政府應(yīng)該鼓勵(lì)做得好的、鞭策做得不足的，為人工智能的發(fā)展劃出邊界，給企業(yè)確立標(biāo)準(zhǔn)和規(guī)范?！?/p>

清華大學(xué)法學(xué)院院長(zhǎng)申衛(wèi)星認(rèn)為，人工智能的技術(shù)發(fā)展給法律帶來(lái)了非常大的沖擊，而我們的法學(xué)研究還停留在“風(fēng)車磨坊”的時(shí)代，沒(méi)有看到數(shù)據(jù)已經(jīng)成為生產(chǎn)要素，缺乏更深入研究。

全國(guó)政協(xié)社法委駐會(huì)副主任呂忠梅認(rèn)為，當(dāng)前應(yīng)該在數(shù)據(jù)安全、個(gè)人隱私保護(hù)等領(lǐng)域做一些制度性規(guī)范，處理好人工智能發(fā)展和隱私保護(hù)的關(guān)系，另外還要對(duì)從業(yè)人員進(jìn)行倫理道德方面的教育與培養(yǎng)，在教育體制改革上做一些基礎(chǔ)性工作。

“在一片空曠的土地上，我們可以人工栽種樹(shù)木，但如果自由生長(zhǎng)，讓小鳥(niǎo)銜來(lái)種子，風(fēng)吹來(lái)種子，也能長(zhǎng)成茂密的森林?！比珖?guó)政協(xié)委員魏青松認(rèn)為，對(duì)人工智能的發(fā)展進(jìn)行綜合性立法要慎重，要充分考量公權(quán)和私權(quán)的邊界問(wèn)題?，F(xiàn)有的法律法規(guī)對(duì)人工智能領(lǐng)域一些違反倫理的問(wèn)題是能夠發(fā)揮作用的，人工智能的未來(lái)究竟會(huì)有怎樣的發(fā)展，會(huì)產(chǎn)生怎樣的影響，目前還難以估算，不宜過(guò)早制定剛性法律，以免扼殺創(chuàng)新的可能性。

對(duì)此，調(diào)研組組長(zhǎng)、全國(guó)政協(xié)社法委副主任陳智敏認(rèn)為，處理人工智能發(fā)展存在的倫理和法律問(wèn)題，一定要從我們還處于“弱人工智能時(shí)代”這個(gè)基本前提出發(fā)，從中國(guó)的實(shí)際出發(fā)，尊重新一代人工智能發(fā)展規(guī)律，更好推動(dòng)人工智能安全可控和高質(zhì)量發(fā)展。