本報(bào)記者 張歆 吳曉璐

    9月3日，在由北京市地方金融監(jiān)督管理局和北京市朝陽(yáng)區(qū)人民政府聯(lián)合主辦的2021中國(guó)國(guó)際金融科技論壇上，證監(jiān)會(huì)科技監(jiān)管局局長(zhǎng)姚前表示，近年來(lái)隨著云計(jì)算、大數(shù)據(jù)、人工智能、區(qū)塊鏈等創(chuàng)新技術(shù)的發(fā)展和應(yīng)用，數(shù)據(jù)作為生產(chǎn)要素的價(jià)值日益體現(xiàn)，算法在經(jīng)濟(jì)活動(dòng)中的重要性日趨凸顯。

    “算法經(jīng)濟(jì)大幅改善了市場(chǎng)經(jīng)濟(jì)的匹配效率和交易成本，但是，其背后隱藏的風(fēng)險(xiǎn)和作惡的可能也值得關(guān)注。”姚前表示，首先是算法的濫用。算法規(guī)則的背后是商業(yè)利益，為了追求利益最大化，算法有可能違背社會(huì)公平、道德和人心。其次是算法偏見。算法的數(shù)據(jù)可能不一定全面，片面的數(shù)據(jù)得到的結(jié)果必然導(dǎo)致某種偏見。此外，算法鴻溝也值得重視，算法通常是隱秘的，或是專利或是商業(yè)秘密，即便公開也因技術(shù)門檻不是每個(gè)人都能看懂，這就形成新的數(shù)字鴻溝，不懂算法的人群在利益受損時(shí)有可能并不知情，即便知情也可能無(wú)力舉證和對(duì)抗。

    “在特定領(lǐng)域，算法還可能引致特定的危險(xiǎn)，如智能算法形成的信息減防容易掩蓋金融風(fēng)險(xiǎn)的復(fù)雜性，引入過度消費(fèi)和負(fù)債，甚至誤導(dǎo)投資者。智能算法趨同導(dǎo)致羊群效應(yīng)，加大了金融的順周期風(fēng)險(xiǎn)。”姚前如是說(shuō)。

    姚前表示，最近，網(wǎng)信辦就《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》公開征求意見，征求意見稿指出算法推薦服務(wù)提供者應(yīng)當(dāng)落實(shí)算法安全主體責(zé)任，建立健全相應(yīng)的管理制度，制定并公開算法推薦相關(guān)服務(wù)規(guī)則，配備與算法推薦服務(wù)規(guī)模相適應(yīng)的專業(yè)人員和技術(shù)支撐。應(yīng)當(dāng)堅(jiān)持主流的價(jià)值導(dǎo)向，同時(shí)算法推薦服務(wù)提供者不得利用算法實(shí)施自我優(yōu)待不正當(dāng)競(jìng)爭(zhēng)，影響網(wǎng)絡(luò)輿論或者規(guī)避監(jiān)管。

    姚前認(rèn)為，智能算法已在很多行業(yè)大量采用，考慮到其生態(tài)規(guī)模趨大、潛在風(fēng)險(xiǎn)不容忽視，我國(guó)算法監(jiān)管制度正在逐步完善和健全，具體內(nèi)容還有待完善。算法監(jiān)管具體內(nèi)容至少包括：一是信息披露，即作為算法的設(shè)計(jì)者，相關(guān)主體和利益相關(guān)者應(yīng)該披露算法設(shè)計(jì)執(zhí)行使用過程中可能存在的偏見和漏洞、數(shù)據(jù)來(lái)源以及可能對(duì)個(gè)人和社會(huì)造成的潛在危害。二是解釋，即作為采用算法自動(dòng)化的機(jī)構(gòu)，相關(guān)主體和利益相關(guān)者有義務(wù)解釋算法運(yùn)行原理和算法具體決策結(jié)果。三是留痕與可審計(jì)，算法系統(tǒng)的設(shè)計(jì)測(cè)試運(yùn)行表現(xiàn)及變動(dòng)留有記錄，全程監(jiān)測(cè)并可審計(jì)。四是質(zhì)詢與申訴，確保受到算法決策負(fù)面影響的個(gè)人或組織享有對(duì)算法進(jìn)行質(zhì)詢并申訴的權(quán)利。五是內(nèi)部治理，相關(guān)主體應(yīng)建立清晰有效的內(nèi)部治理框架、內(nèi)部控制機(jī)制和責(zé)任體系，防止算法濫用，防范算法風(fēng)險(xiǎn)并提高算法的對(duì)抗性，避免算法攻擊。六是加強(qiáng)行業(yè)自律，通過行業(yè)自律機(jī)制加強(qiáng)算法道德和算法倫理的建設(shè)。

    “算法催生了新的經(jīng)濟(jì)模式，帶來(lái)了社會(huì)整體效益的提升，有其獨(dú)特的優(yōu)勢(shì)，但有利必有弊，近年來(lái)算法的作惡、算法道德、算法倫理問題已引起了廣泛關(guān)注。”姚前表示，為此，加強(qiáng)算法監(jiān)管、以監(jiān)管科技應(yīng)對(duì)新型科技，既是順應(yīng)之策又是必然之舉。

（編輯 田冬）