舊金山政府在全美首次允許警方使用機(jī)器人擊斃嫌犯，這一決定引發(fā)了巨大的爭(zhēng)議。這是否會(huì)在未來(lái)打開一個(gè)潘多拉魔盒，讓機(jī)器人鎮(zhèn)壓抗議示威成為現(xiàn)實(shí)，更顛覆機(jī)器人“不可殺人”的人工智能倫理準(zhǔn)則？

    治安惡化與爭(zhēng)議決議

上周二，舊金山議會(huì)通過(guò)了一項(xiàng)議案，同意授權(quán)舊金山警察局在必要的情況下，將警用機(jī)器人用于致命用途。用通俗的話說(shuō)，他們批準(zhǔn)警方在保護(hù)生命且沒(méi)有其他選擇的必要情況下，用機(jī)器人遠(yuǎn)程殺死嫌犯。

這一極具爭(zhēng)議的決定不僅立即引發(fā)了全美媒體關(guān)注，也讓持續(xù)數(shù)年的“殺人機(jī)器人”話題重新成為了討論焦點(diǎn)。這份議案上個(gè)月提交討論時(shí)，就引發(fā)了舊金山灣區(qū)社會(huì)各界的普遍關(guān)注和激烈討論。

正式表決之前，舊金山市議會(huì)已經(jīng)就此事討論了數(shù)周時(shí)間。而投票表決當(dāng)天，舊金山市議會(huì)圍繞著這一議題，進(jìn)行了兩個(gè)多小時(shí)的激烈辯論。最終還是以8:3的投票結(jié)果，批準(zhǔn)了舊金山警察局的裝備使用授權(quán)。

舊金山市議會(huì)批準(zhǔn)這一議案的背景是，他們正承受著民眾要求打擊犯罪的呼聲。和美國(guó)很多大城市一樣，舊金山過(guò)去幾年也面臨著嚴(yán)重的治安惡化問(wèn)題，讓民眾和商家怨聲載道。車窗被砸已經(jīng)成為舊金山停車的尋常體驗(yàn)。

由于警方應(yīng)顧不暇，舊金山核心商業(yè)區(qū)多次發(fā)生光天化日之下肆無(wú)忌憚?chuàng)尳俪泻蜕莩奁飞痰甑氖录?，不少商店只能選擇關(guān)門撤離。除了打砸搶奪的財(cái)物犯罪案件居高不下，持槍搶劫殺人的惡性暴力犯罪事件也在日益增多。80多萬(wàn)人口的舊金山去年殺人案56起，比疫情之前2019年的41起有明顯增長(zhǎng)。

由于對(duì)治安惡化問(wèn)題不滿，今年7月，舊金山選民通過(guò)特別公投罷免了對(duì)犯罪問(wèn)題應(yīng)對(duì)不力的激進(jìn)左派地方檢察官布丁(Chesa Boudin)。在連任壓力下，舊金山市長(zhǎng)承諾采取措施嚴(yán)打犯罪，而舊金山議會(huì)也連續(xù)引入新技術(shù)手段來(lái)遏制犯罪。今年9月，舊金山議會(huì)批準(zhǔn)警方在特定情況下獲取私人監(jiān)控?cái)z像頭數(shù)據(jù)。

在上周二的辯論過(guò)程中，支持與反對(duì)雙方都指責(zé)對(duì)方在制造恐慌。雙方都提出了自己的理由和擔(dān)憂。支持者認(rèn)為這一授權(quán)是非常慎重和明確限制的，是在極端情況下給警方提供最后手段；但反對(duì)者則認(rèn)為可能會(huì)帶來(lái)警方濫用武力的風(fēng)險(xiǎn)，更會(huì)加劇警方和有色人種，尤其是非裔之間的沖突。

提出這一議案的舊金山華裔議員陳詩(shī)敏(Connie Chan)表示，她理解外界對(duì)警方使用武力的擔(dān)憂情緒，但“我們需要根據(jù)加州法律使用這些裝備。這絕對(duì)不是一個(gè)輕率的討論。”另一位議員曼德?tīng)柭?Rafael Mandelman)也投下支持票。他表示，激進(jìn)派將警察視為危險(xiǎn)和不值得信任的對(duì)立面，這對(duì)公共安全無(wú)益。

而反對(duì)的非裔議員沃爾頓(Shamann Walton)則強(qiáng)調(diào)，自己不是在針對(duì)警方，而是擔(dān)心提升警方武器裝備可能會(huì)增加警察與有色人種發(fā)生負(fù)面沖突的機(jī)會(huì)。相對(duì)而言，非裔民眾更為擔(dān)憂和反對(duì)警方濫用武力的可能性。

值得一提的是，舊金山檢察官也站在了警察局的對(duì)立面。就在舊金山議會(huì)表決前一天，舊金山檢察官辦公室發(fā)表公開信，認(rèn)為授權(quán)機(jī)器人遠(yuǎn)程殺人有悖于舊金山的進(jìn)步價(jià)值觀，他們因此呼吁市議會(huì)禁止警方使用機(jī)器人針對(duì)任何人采用武力。

    隨時(shí)可改裝加載武器

為什么會(huì)有這項(xiàng)授權(quán)表決？根據(jù)今年生效的一部加州新法律，加州警察局裝備軍用級(jí)別的設(shè)備需要獲取使用批準(zhǔn)。為了預(yù)防恐怖襲擊事件，過(guò)去十年美國(guó)諸多城市的警察局都購(gòu)置了一批軍用級(jí)別的防爆機(jī)器人。舊金山警察局也不例外，因此需要提交設(shè)備使用授權(quán)申請(qǐng)。

但舊金山警察局此次在申請(qǐng)授權(quán)的時(shí)候，加入了一個(gè)極端案例的使用場(chǎng)景申請(qǐng)，即在“公眾或者警察生命遭受迫切威脅，無(wú)法使用其他武力手段時(shí)，允許他們將機(jī)器人用于致命武器選擇”。這意味著，他們有權(quán)將機(jī)器人改裝成攻擊性武器，從而遠(yuǎn)程擊斃或者炸死恐怖嫌犯。

舊金山警察局副局長(zhǎng)拉扎爾(David Lazar)在市議會(huì)辯論環(huán)節(jié)中提到，他們申請(qǐng)極端情況授權(quán)是為了應(yīng)對(duì)2017年拉斯維加斯大規(guī)模槍擊案那樣的案例?！拔覀儽仨氁紤]，在那樣的情況下，(動(dòng)用機(jī)器人)是一個(gè)可能的選擇?！?/span>

拉斯維加斯槍擊案是美國(guó)歷史上最血腥的大規(guī)模槍擊和國(guó)內(nèi)恐怖襲擊事件。2017年10月1日，一名男子在賭城曼德拉灣酒店32樓套間，用二十多支經(jīng)過(guò)改裝的半自動(dòng)步槍向樓下參加音樂(lè)會(huì)的人群瘋狂射擊了1000多發(fā)子彈。警方直到1個(gè)多小時(shí)之后才找到嫌犯，但他已經(jīng)自殺身亡，作案動(dòng)機(jī)迄今依然成謎。此次槍擊案導(dǎo)致61人死亡(包括嫌犯)，還有500多人受傷。

或許拉扎爾提到的這一場(chǎng)景太過(guò)令人震撼，最終舊金山議會(huì)還是以多數(shù)票同意了警察局的申請(qǐng)。但議會(huì)也對(duì)此作出了特別規(guī)定，要求警察只能在使用其他武力或避免戰(zhàn)術(shù)之后，或認(rèn)定他們無(wú)法通過(guò)其他手段控制嫌犯之后，才能使用機(jī)器人用于致命用途。而且，只有少數(shù)高級(jí)別警官才能批準(zhǔn)使用機(jī)器人作為致命武力。

為了化解外界對(duì)“殺人機(jī)器人”的擔(dān)憂情緒，舊金山警察局則強(qiáng)調(diào)，他們現(xiàn)有的機(jī)器人并沒(méi)有安裝武器，目前也沒(méi)有計(jì)劃這么做。但是在得到授權(quán)之后，如果在生命受到威脅時(shí)，他們就可以在機(jī)器人上安裝爆炸物，“接近、迷惑以及讓暴力、攜帶武器或者危險(xiǎn)的嫌犯失去行動(dòng)能力”，“安裝這些設(shè)備的機(jī)器人只會(huì)被用在極端情況下，用于保護(hù)或者防止無(wú)辜民眾繼續(xù)喪生。”

根據(jù)舊金山警局公布的裝備清單，他們目前共有17部拆彈機(jī)器人，其中12部可以投入使用。這些設(shè)備采購(gòu)于2010-2017年，主要用于處理爆炸物、危險(xiǎn)品或者在低能見(jiàn)度環(huán)境，此前從未安裝或被用于爆炸用途過(guò)。除了申請(qǐng)用于致命用途之外，舊金山警察局還申請(qǐng)將這些機(jī)器人用于“訓(xùn)練和模擬、刑事拘捕、重要事件、突發(fā)情況、執(zhí)行逮捕或處理可疑設(shè)備等情況”。

雖然舊金山警察局當(dāng)前機(jī)器人并沒(méi)有安裝致命武器，但其中部分較新的型號(hào)是可以配裝武器并且遠(yuǎn)程遙控操作的。型號(hào)F5A的拆彈機(jī)器人可以通過(guò)配件安裝大口徑步槍；另一部QinetiQ Talon的機(jī)器人也可以改裝成軍用版本，安裝手雷發(fā)射器、機(jī)槍以及反器材步槍，這原本就是美國(guó)陸軍使用的同款機(jī)器人的警用版。

換句話說(shuō)，在得到舊金山市議會(huì)批準(zhǔn)之后，舊金山警察局在滿足使用條件的情況下，隨時(shí)都可以將目前的拆彈機(jī)器人改裝成一部遠(yuǎn)程操作和直接開火的機(jī)器人。而這正是外界擔(dān)憂的原因所在。

    擔(dān)憂警方濫用機(jī)器人

與舊金山隔海相望的奧克蘭警察局上個(gè)月則因?yàn)楣娍棺h，放棄了類似的改裝機(jī)器人用于極端場(chǎng)景的授權(quán)申請(qǐng)。種族矛盾是奧克蘭警方不得不考慮的因素。這里的黑人與拉丁裔人口比例合計(jì)超過(guò)45%，是舊金山灣區(qū)比例最高的地區(qū)。

盡管緊鄰硅谷，奧克蘭卻是美國(guó)治安最糟糕的城市。去年暴力犯罪率高達(dá)75.5，遠(yuǎn)遠(yuǎn)高于美國(guó)平均水平22.7。新冠疫情更是加劇了社會(huì)矛盾和治安問(wèn)題。奧克蘭這座43萬(wàn)人口的城市，去年謀殺案高達(dá)133起，槍擊案更是接近600起，均創(chuàng)下了2006年以來(lái)的最高紀(jì)錄。

既然美國(guó)大城市社會(huì)治安這么糟糕，為什么還有那么多人反對(duì)授權(quán)警察更先進(jìn)的武器應(yīng)對(duì)襲擊嫌犯？為什么警用機(jī)器人改裝成武器，會(huì)引發(fā)那么大的爭(zhēng)議？

2020年美國(guó)新冠疫情爆發(fā)之后，社會(huì)矛盾進(jìn)一步激化，更出現(xiàn)了多次大規(guī)模種族騷亂事件。在遏制游行示威行動(dòng)中，美國(guó)各地的警察都與示威者發(fā)生了不同程度的沖突，更使用了催淚彈、煙霧彈等平暴手段。

此次舊金山警方獲準(zhǔn)使用機(jī)器人擊斃嫌犯，即便明確規(guī)定了極端場(chǎng)景，也讓不少人擔(dān)心未來(lái)美國(guó)警方是否可能濫用機(jī)器人這種尖端科技手段來(lái)鎮(zhèn)壓民眾抗議示威活動(dòng)，擔(dān)心屆時(shí)可能出現(xiàn)警方機(jī)器人阻止示威者前行的科幻場(chǎng)面。

南加州大學(xué)法學(xué)院教授伊麗莎白·喬(Elizabeth Joh)認(rèn)為，弗洛伊德事件引發(fā)全球反種族歧視抗議僅僅過(guò)去兩年時(shí)間，舊金山批準(zhǔn)警方使用機(jī)器人作為武器會(huì)影響民眾對(duì)執(zhí)法部門的信任?！拔覀兪欠裨敢馍钤谝粋€(gè)警察用機(jī)器人殺人的世界，我肯定不愿意?！?/span>

雖然此次舊金山議會(huì)在全美率先批準(zhǔn)警方改裝機(jī)器人，但達(dá)拉斯警察局早在2016年，就在一起大規(guī)模槍擊案中，率先將拆彈機(jī)器人用于攻擊用途并殺死嫌犯。

那年7月，一名曾經(jīng)上過(guò)阿富汗戰(zhàn)場(chǎng)的陸軍退伍軍人，因?yàn)閷?duì)美國(guó)社會(huì)和種族問(wèn)題不滿，在達(dá)拉斯市區(qū)用狙擊步槍殺死了5名警察并擊傷9名平民與警察，這是美國(guó)自911事件之后警察死傷最多的襲擊事件。達(dá)拉斯警方在與槍手對(duì)峙數(shù)個(gè)小時(shí)并且談判無(wú)果的情況下，在他們拆彈機(jī)器人MARCbot上加裝炸彈，遠(yuǎn)程遙控移動(dòng)到嫌犯附近引爆，炸死了這位拒絕放下武器的嫌犯。

達(dá)拉斯警方擊斃殺人嫌犯并沒(méi)有爭(zhēng)議，但使用遙控機(jī)器人擊斃卻引發(fā)了巨大的爭(zhēng)議，因?yàn)檫@是美國(guó)警方首次在國(guó)內(nèi)使用機(jī)器人殺人。達(dá)拉斯警察局長(zhǎng)對(duì)此解釋說(shuō)，“當(dāng)時(shí)實(shí)在沒(méi)有其他選擇，這是唯一減少傷亡的手段?！?/span>

在此之前，美國(guó)警察也曾經(jīng)多次使用機(jī)器人來(lái)應(yīng)對(duì)嫌犯，但并沒(méi)有用機(jī)器人來(lái)直接擊斃嫌犯。2013年新墨西哥州特警就使用了機(jī)器人潛入嫌犯所在房間進(jìn)行偵查，2016年加州警察也用過(guò)機(jī)器人和嫌犯進(jìn)行談判和運(yùn)送物資，避免派出談判專家。機(jī)器人的存在，大大降低了警察直接面對(duì)嫌犯的風(fēng)險(xiǎn)。

    機(jī)器人早被用于戰(zhàn)場(chǎng)

實(shí)際上，此次舊金山警方尋求授權(quán)的機(jī)器人，早就被美國(guó)軍方投入戰(zhàn)場(chǎng)使用。2011年的《不斷變化的戰(zhàn)爭(zhēng)角色》(The Changing Character of War)一書記載，美軍士兵在伊拉克遇到伏擊危險(xiǎn)的時(shí)候，就會(huì)讓MARCbot機(jī)器人先去探路，如果發(fā)現(xiàn)敵人就直接遠(yuǎn)程引爆安裝在上面的Claymore地雷。售價(jià)僅為5000美元的MARCbot機(jī)器人因?yàn)閭€(gè)頭小、動(dòng)靜輕、成本低等優(yōu)勢(shì)，成為美軍士兵的“最愛(ài)替死鬼”。

從某種程度來(lái)說(shuō)，無(wú)人機(jī)也是作戰(zhàn)機(jī)器人。從阿富汗戰(zhàn)爭(zhēng)時(shí)期開始，無(wú)人機(jī)就開始從偵查用途轉(zhuǎn)向攻擊手段，被美軍普遍用于遠(yuǎn)程襲擊。而從2020年的亞美尼亞阿塞拜疆納卡沖突起，無(wú)人機(jī)更是成為了現(xiàn)代戰(zhàn)爭(zhēng)主力。阿塞拜疆軍方派出大量攜帶炸彈的無(wú)人機(jī)對(duì)亞美尼亞地面部隊(duì)以及防空體系展開了密集攻擊，成為他們贏得戰(zhàn)爭(zhēng)的重要手段。

今年10月，波士頓動(dòng)力、Agility Robotics、ANYbotics等五家機(jī)器人公司聯(lián)合簽署了一份請(qǐng)?jiān)笗?，呼吁用戶不要將他們的機(jī)器人用于攻擊用途?！霸谶h(yuǎn)程遙控或者自動(dòng)運(yùn)行的機(jī)器人上加裝武器，會(huì)帶來(lái)對(duì)人類的新風(fēng)險(xiǎn)以及嚴(yán)重的道德問(wèn)題?！?/span>

然而，這份請(qǐng)?jiān)笗皇窍笳饔猛?，并沒(méi)有任何約束力。美國(guó)軍方本就是這些機(jī)器人公司的重要客戶和資金來(lái)源，波士頓動(dòng)力的機(jī)器狗也被美國(guó)軍方和警察用于后勤、偵查等諸多用途。波士頓動(dòng)力根本無(wú)力阻止美軍將自己的機(jī)器狗改裝成攜帶武器的殺人狗。

相比遠(yuǎn)程遙控的機(jī)器人與無(wú)人機(jī)，更為可怕的威脅則來(lái)自于“AI殺人機(jī)器人”，即搭載視覺(jué)識(shí)別等人工智能技術(shù)的新一代全自動(dòng)武器。這類機(jī)器人或無(wú)人機(jī)可以無(wú)需人工操作，靠著計(jì)算芯片和多種傳感器，根據(jù)預(yù)先設(shè)定的程序自動(dòng)選擇攻擊目標(biāo)并發(fā)起攻擊。

目前還沒(méi)有此類機(jī)器人投入使用的正式記錄，但未來(lái)一旦出現(xiàn)并投入使用，勢(shì)必會(huì)動(dòng)搖“不可用于殺人“的機(jī)器人倫理準(zhǔn)則。隨著AI技術(shù)的不斷成熟，歐美各界都在擔(dān)憂如果不采取全球協(xié)調(diào)一致的有效措施，”AI殺人機(jī)器人”的出現(xiàn)只會(huì)是時(shí)間問(wèn)題。

早在2013年，科學(xué)界和法律界的專家就組建了“國(guó)際機(jī)器人武器控制委員會(huì)”(International Committee for Robot Arms Control)，致力于推動(dòng)各國(guó)和平使用機(jī)器人，對(duì)機(jī)器人武器研發(fā)生產(chǎn)采取共同監(jiān)管措施。該組織明確提出，“不能允許機(jī)器人自主作出殺人的決定”。

2015年，霍金等全球1000多名知名科學(xué)家和人工智能專家聯(lián)合發(fā)表公開信，警告未來(lái)全球可能會(huì)出現(xiàn)人工智能軍備競(jìng)賽，督促聯(lián)合國(guó)發(fā)布攻擊性自動(dòng)化武器的禁令。其中包括了特斯拉CEO馬斯克、蘋果聯(lián)合創(chuàng)始人沃茲尼亞克以及谷歌DeepMind項(xiàng)目負(fù)責(zé)人等來(lái)自硅谷的代表。

公開信寫道，“盡管不合法，自動(dòng)化武器的使用會(huì)在未來(lái)幾年，而不是幾十年內(nèi)成為現(xiàn)實(shí)。這會(huì)給人類社會(huì)帶來(lái)極大的風(fēng)險(xiǎn)，自動(dòng)化武器會(huì)成為火藥和核武器之后的第三次武器革命。我們必須呼吁聯(lián)合國(guó)禁止此類武器，就像禁止化學(xué)武器一樣?！?/span>

版權(quán)說(shuō)明：
本文僅代表作者個(gè)人觀點(diǎn)，版權(quán)歸原創(chuàng)者所有。部分圖片源自網(wǎng)絡(luò)，未能核實(shí)歸屬。本文僅為分享，不為商業(yè)用途。若錯(cuò)標(biāo)或侵權(quán)，請(qǐng)與我們聯(lián)系刪除。

本文僅代表作者觀點(diǎn)，版權(quán)歸原創(chuàng)者所有，如需轉(zhuǎn)載請(qǐng)?jiān)谖闹凶⒚鱽?lái)源及作者名字。

免責(zé)聲明：本文系轉(zhuǎn)載編輯文章，僅作分享之用。如分享內(nèi)容、圖片侵犯到您的版權(quán)或非授權(quán)發(fā)布，請(qǐng)及時(shí)與我們聯(lián)系進(jìn)行審核處理或刪除，您可以發(fā)送材料至郵箱：service@tojoy.com