• <bdo id="qgsrm"><optgroup id="qgsrm"></optgroup></bdo>
      1. <tbody id="qgsrm"></tbody>
        <bdo id="qgsrm"><dfn id="qgsrm"><thead id="qgsrm"></thead></dfn></bdo>

        <tbody id="qgsrm"><div id="qgsrm"><optgroup id="qgsrm"></optgroup></div></tbody>
        <track id="qgsrm"></track>
        <bdo id="qgsrm"></bdo>

            厘清算法濫用的邊界 九部門印發算法治理意見

            馮慶艷2021-09-29 21:34

            經濟觀察網  記者   馮慶艷    由算法引發的諸多亂象,終于有了專門的“緊箍咒”。

            9月29日,臨近國慶節,國家互聯網信息辦公室(下稱“網信辦”)等九部門聯合印發了一則關于算法治理的指導意見,即《關于加強互聯網信息服務算法綜合治理的指導意見》。

            “防范算法濫用風險。”意見中稱,維護網絡空間傳播秩序、市場秩序和社會秩序,防止利用算法干擾社會輿論、打壓競爭對手、侵害網民權益等行為,防范算法濫用帶來意識形態、經濟發展和社會管理等方面的風險隱患。

            這讓上海財經大學電子商務研究所執行所長崔麗麗看到,國家對互聯網平臺經濟行業發展,進行規范、保持市場公平以及維護消費者正當權益的決心。“今后,平臺算法不可以基于人性弱點或者根據消費者的特定特征來區別同樣產品或服務的定價。”

            “行業發展將更符合市場公平、科技向善和可持續發展的預期。”崔麗麗說。

            算法亂象亟待治理

            第一個有著算法意義的自動化推薦系統,最早是1994年美國明尼蘇達大學研究組推出的,近年來,隨著我國平臺經濟的繁榮成長,算法技術已經席卷了新聞資訊、社交、短視頻、購物、餐飲、出行以及搜索引擎等各類APP,平臺的用戶和從業者均深切感觸到其無處不在。

            “算法是一種在有限的步驟中,生成問題答案或者解決方案的系統程序,在大數據時代之前就已經被廣泛應用,但是在數字經濟崛起之后得到廣泛的使用。”與此同時,北京達曉律師事務所中國合伙人林蔚還看到,算法濫用行為已經對公民、市場、社會和意識形態等多個層面的利益或秩序,產生了較為嚴重的影響,并且有進一步發展的趨勢。

            林蔚告訴經濟觀察網記者,算法的濫用行為表現集中在平臺對熱點事件的刻意推動和引導,推送內容和檢索結果的干預所帶來的信息繭房,以及大數據殺熟,算法歧視等,這些行為破壞了網絡空間傳播秩序、社會秩序,數字經濟的競爭秩序,不僅侵害了消費者的合法權益,和競爭者的利益,嚴重的甚至還危害了公共安全,給經濟發展和社會管理等方面帶來風險隱患。

            “算法雖然是個新現象,但不要把其定義為有別于傳統技術的一個特殊現象,”在上海交通大學安泰經濟與管理學院教授黃少卿看來,它的一些特殊性在于意見中提及的“互聯網信息服務算法”,即算法過程中,是和服務者本人或者服務的主體機構緊密相關的,它獲得大量的消費者信息,或者數據作為前提。

            濫用的邊界何在

            平臺在算法運用當中,緣何陷入濫用的漩渦,其運用算法的邊界何在?

            黃少卿對經濟觀察網記者說,算法在一定程度上講,屬于企業技術范疇,或者甚至是企業商業機密,因為企業的算法給消費者提供了獨特的價值,或者更加有效的服務,別的企業知道了就會模仿,這個很容易被抄襲。理論上有保密的內在要求,但算法現在的確有一種現象就是算法濫用風險。

            崔麗麗也認為,算法作為企業核心機密信息是不予公開的。對算法的解讀也需要相當的技術基礎。

            黃少卿看到,算法本質是一種技術,企業可以用一項技術來提高它的生產效率和服務效率,當然也可能會利用這項技術來形成自己的壟斷或者是消費者能力。

            “數據和算法是數字經濟時代平臺企業技術能力的集中體現,數據資產的多少和算法的優劣,會直接決定企業的競爭能力以及變現能力。”崔麗麗對經濟觀察網記者說。

            “企業一旦掌握了大量消費者信息,就會有一些涉及到違背壟斷和反不正當競爭,以及損害消費者權益的算法出現。”黃少卿說,比如網約車,平臺知道這個點消費者需要用車,給出比較高的加價,這就把消費者剩余利益轉移到提供服務的平臺上去了,還有通過算法打壓競爭對手的現象,平臺上的司機想要轉去其他平臺,可能需付出更高代價。

            黃少卿表示,區別于之前的生產者角度,平臺經濟是使用者角度,即平臺上的用戶越多,平臺的效率就越高,這就必然會趨向于一個贏家通吃的現象,而這種現象其實就給平臺濫用算法提供了可能性。

            三年為期

            至于意見明確的用三年左右時間,逐步建立治理機制健全、監管體系完善、算法生態規范的算法安全綜合治理格局。

            黃少卿看到,目前我國已經有一些相應的法律出臺了,比如《網絡安全法》《數據安全法》《個人信息保護法》等等,不過這中間有個司法的實踐過程,這個過程也許兩年,也許三年。

            “算法治理意見稱,用三年的時間來建立算法治理格局,已經是比較樂觀的目標了。”林蔚說,“算法治理的難度很大。”因為,算法是執行平臺意志的計算機程序,其外在形式是程序,其作用過程和決策機制都非常隱蔽,甚至不便于人類思維理解,類似“黑匣子”。

            林蔚看到,目前對算法的監管的困難表現在,監管技術上的困難,法律依據上的滯后,和目前還未達成具體共識的算法倫理,以及多部門的協調。

            “在此背景下,各國政府開始嘗試對算法進行監管,但也都在摸索和嘗試之中。”林蔚稱。

            公開信息顯示,歐盟在《通用數據保護條例》中規定“收集個人數據進行自動化決策時,應當向數據主體提供關于此類問題處理的邏輯及預期后果的有效信息”。

            美國則在2019年4月發布了《算法問責法案(草案)》,其中顯示,涉及相關算法影響評估的規定,要求衡量算法在設計和訓練數據中,對準確性、公平性、偏見、歧視及對隱私和安全的影響。 

            落實到中國,林蔚認為,具體說來,治理工作首先要花時間摸清算法使用的現狀,然后構建符合中國國情的算法倫理,最后建立有效的治理機制。

            林蔚補充稱,倫理原則的大方向是“對人類有益”,但在各類應用場景中,還有算法透明、公正誠信、內容向善等等細致要求。還要建立事前備案評估,事中監管,事后救濟等多層次的監管體系。這些問題既專業又細致還交叉。每一項都需要花較大的力氣。

            崔麗麗也表示,難點可能主要包括,算法采用何種技術手段,可以實現既具有隱私特性,又可以實現技術手段的監管。

            崔麗麗補充道,這其中可能是否采用常規性算法不當使用后果的抽檢策略,還是從源頭上進行控制?可能企業還需要有相應的人員配合,相關政府部門也需要儲備相應的技術力量,以及在此過程中對于難點問題的專家咨詢和解決方案尋找……

            黃少卿對經濟觀察網記者稱,算法濫用的問題,涉及到傳統意義上的反壟斷和反不正當競爭,以及保護消費者權利,結合以上情況,要對算法進行監管,應該不偏離已經有的反壟斷的法律框架,反不正當的法律框架和維護消費者權益的法律框架。

            “意見的印發是個好消息,”黃少卿說,不過由于算法是個技術,很多東西是企業內部正當的經營活動,相關部門執法過程中需要謹慎,避免過度介入到企業的正常經營當中去。

            林蔚看到,算法治理的意義重大。“首先我們要明確算法治理并不是要否定或拒絕算法,而是積極參與到算法糾偏的過程中來,聯合多種力量對算法的運作過程進行監督。”

            林蔚對記者表示,在擁抱技術,利用技術發展生產力和改善人民生活的同時,發揮算法的巨大“向善”潛力,塑造健康包容可持續的智慧社會,樹立尊重人類尊嚴的價值理念,維護人類的自主性和多元性,維護人的基本權利,人類社會的基本秩序和市場經濟的公平格局。

            版權聲明:以上內容為《經濟觀察報》社原創作品,版權歸《經濟觀察報》社所有。未經《經濟觀察報》社授權,嚴禁轉載或鏡像,否則將依法追究相關行為主體的法律責任。版權合作請致電:【010-60910566-1260】。
            TMT新聞部主任
            關注TMT(科技/媒體/電信)領域的重大事件。擅長調查、深度及人物報道。
            男女后进式猛烈XX00免费视频
          1. <bdo id="qgsrm"><optgroup id="qgsrm"></optgroup></bdo>
              1. <tbody id="qgsrm"></tbody>
                <bdo id="qgsrm"><dfn id="qgsrm"><thead id="qgsrm"></thead></dfn></bdo>

                <tbody id="qgsrm"><div id="qgsrm"><optgroup id="qgsrm"></optgroup></div></tbody>
                <track id="qgsrm"></track>
                <bdo id="qgsrm"></bdo>