安防AI倫理困境何解？歐盟發(fā)布道德準(zhǔn)則

發(fā)布時(shí)間：2025-01-27

現(xiàn)在各行各業(yè)都在向ai靠攏，但若論在哪個(gè)行業(yè)ai發(fā)展的會(huì)更快、更具有潛力，非安防莫屬。以智能監(jiān)控系統(tǒng)為代表的ai安防產(chǎn)品已經(jīng)覆蓋到眾多應(yīng)用領(lǐng)域，ai技術(shù)的應(yīng)用讓安防行業(yè)嘗到了甜頭。如今，無(wú)論是公共安全領(lǐng)域、智能交通、智慧城市、智能樓宇、工廠園區(qū)，乃至物流運(yùn)輸、電力巡檢等都少不了ai安防產(chǎn)品的身影。不過(guò)，ai技術(shù)被安防行業(yè)采納不僅是為了更有效地完成當(dāng)前業(yè)務(wù)，這是一個(gè)多方面的過(guò)程，更重要的是，ai還需要不斷重新評(píng)估這些實(shí)踐結(jié)果，以適應(yīng)客戶不斷變化的需求。另外，ai技術(shù)固然能在擴(kuò)大監(jiān)控規(guī)模的前提下能夠有效收集情報(bào)并充分分析，及時(shí)阻止安全事件發(fā)生，也有可能產(chǎn)生一些倫理道德問(wèn)題。目前，從很多案例可以看出，有些ai做判斷時(shí)存在歧視。例如，美國(guó)ai會(huì)更偏向中年白人，而預(yù)測(cè)違法時(shí)往往會(huì)把黑人和黑人集中區(qū)域當(dāng)做重點(diǎn)預(yù)測(cè)對(duì)象。我國(guó)也有根據(jù)一個(gè)人臉部特征與行為舉止來(lái)判斷此人是否具有社會(huì)威脅性并提醒警方先發(fā)質(zhì)人的ai系統(tǒng)。人類的偏見(jiàn)被機(jī)器學(xué)習(xí)并吸收，這是ai發(fā)展所面臨的一種道德危機(jī)。這些表現(xiàn)無(wú)疑會(huì)使ai受到大量道德譴責(zé)。此外，個(gè)人隱私與數(shù)據(jù)保護(hù)、ai系統(tǒng)對(duì)外部攻擊的防御能力、以及算法透明度等問(wèn)題也越來(lái)越成為ai安防亟需突破的重點(diǎn)問(wèn)題。毫無(wú)疑問(wèn)，ai的確需要監(jiān)管，但現(xiàn)在我們還不清楚如何對(duì)其進(jìn)行監(jiān)管。歐盟(eu)近日發(fā)布了一套指南，指導(dǎo)企業(yè)和政府在開(kāi)發(fā)人工智能時(shí)遵循道德準(zhǔn)則，旨在解決ai帶來(lái)的棘手問(wèn)題。該指南認(rèn)為，未來(lái)ai系統(tǒng)應(yīng)該滿足下列7項(xiàng)要求：人道機(jī)構(gòu)的監(jiān)督、技術(shù)穩(wěn)健性和安全性、隱私和數(shù)據(jù)治理、算法透明度、多元化非歧視和公平性、環(huán)境和社會(huì)福利以及完善的問(wèn)責(zé)制。這份清單為減輕ai的潛在危害提供了一個(gè)實(shí)用且具前瞻性的視角。數(shù)字權(quán)利組織access now的政策經(jīng)理范妮·希德維吉認(rèn)為：歐盟不應(yīng)止步于道德準(zhǔn)則，因?yàn)榈赖聹?zhǔn)則只有在法律基礎(chǔ)上才能發(fā)揮更大作用。但是由道德走向法律，必須非常審慎。在此之前，還需要ai技術(shù)進(jìn)一步發(fā)展并更廣泛且深入地應(yīng)用。結(jié)語(yǔ)：對(duì)影響日益擴(kuò)大乃至滲透人們生活各個(gè)方面的ai安防而言，為了使系統(tǒng)發(fā)揮應(yīng)有的作用，加強(qiáng)監(jiān)視和構(gòu)建倫理之間必須有一個(gè)可以被社會(huì)廣泛接受的平衡。如果在采用人工智能技術(shù)的過(guò)程中包含了日后數(shù)據(jù)收集訓(xùn)練的方向，那么可能會(huì)減少假警報(bào)的風(fēng)險(xiǎn)，也可以在ai驅(qū)動(dòng)的決策中充分體現(xiàn)其公平性，盡量減少其可能對(duì)社會(huì)產(chǎn)生的負(fù)面影響。