近年來，因數(shù)據(jù)規(guī)模的急劇擴(kuò)大和運(yùn)算能力的飛躍提升，基于“算法”的自主收集、挖掘、識別、分析、預(yù)警、處理、診斷、決策系統(tǒng)，被廣泛應(yīng)用于各行各業(yè)，日益滲進(jìn)社會各領(lǐng)域。

“算法”指的是為解決某個問題、完成某項任務(wù)、達(dá)到某種目的而采取的處理規(guī)則、運(yùn)算指令、策略機(jī)制?！八惴ā痹跒槿祟惿鐣砭薮蟊憷瑫r，也產(chǎn)生了一些負(fù)面作用，如在新媒體領(lǐng)域，媒體內(nèi)容“把關(guān)人”讓位“算法”后，已引起了有關(guān)方面的擔(dān)憂。人民網(wǎng)曾連續(xù)3次就“算法推薦”展開評論，批評部分智能新聞客戶端任由傳播內(nèi)容“野蠻生長”，認(rèn)為“一旦失去節(jié)制的美德，‘算法’也可能誤入歧途，甚至走向創(chuàng)新的反面”。

目前，我國手機(jī)網(wǎng)民規(guī)模已達(dá)7.88億人，網(wǎng)民通過手機(jī)接入互聯(lián)網(wǎng)的比例高達(dá)98.3%。各種手機(jī)應(yīng)用多達(dá)數(shù)百萬種，幾乎涵蓋社會生活的所有方面，而一旦5G手機(jī)全面普及，“算法”將會釋放出更大的技術(shù)效應(yīng)。

黨的十九大報告指出，“統(tǒng)籌發(fā)展和安全，增強(qiáng)憂患意識，做到居安思危，是我們黨治國理政的一個重大原則”，要求統(tǒng)籌好“傳統(tǒng)安全和非傳統(tǒng)安全”。在信息化智能化不斷深化的背景下，“算法”會催生與衍生出前所未有的社會新現(xiàn)象，如算法政治、算法經(jīng)濟(jì)、算法戰(zhàn)爭、算法新聞、算法倫理等。其中有些“算法”導(dǎo)致的結(jié)果，能夠引起人們的警覺，如數(shù)量很少的“網(wǎng)絡(luò)水軍”可以利用軟件大量傳播虛假負(fù)面信息，誤導(dǎo)整個社會輿論。有些“算法”導(dǎo)致的結(jié)果短時間根本無法感知，如在經(jīng)濟(jì)領(lǐng)域，有學(xué)者提出了“算法共謀”概念，即通過有意無意的“算法”技術(shù)，即時獲取、調(diào)整、預(yù)測價格，對價格偏離與競爭行為進(jìn)行阻斷，從而實(shí)現(xiàn)“沒有競爭者協(xié)議干預(yù)價格，卻達(dá)到限制競爭的結(jié)果”。 這種基于技術(shù)的價格壟斷現(xiàn)象，具有極強(qiáng)的隱蔽性，完全超出人們現(xiàn)有常識，不能用常規(guī)反壟斷手段進(jìn)行監(jiān)管。類似“算法共謀”這樣具有破壞作用的現(xiàn)象，在不久的將來，必然會在社會各領(lǐng)域大面積出現(xiàn)。因此，有必要從總體國家安全觀角度，認(rèn)識“算法”、重視“算法”、治理“算法”。

提高認(rèn)識水平，增強(qiáng)“算法”風(fēng)險意識。技術(shù)進(jìn)步往往攜帶著“價值正確”的社會心理，作為技術(shù)創(chuàng)新或新興現(xiàn)象，“算法”的負(fù)面作用還沒有引起全社會重視。在鋪天蓋地的“算法”運(yùn)作中，“算法”始終隱藏在不為人知的“暗箱”之中，普通民眾處在被動接受甚至隨之“翩翩起舞”狀態(tài)，不僅難以覺察一些“算法”的潛在危害，而且客觀上散播了負(fù)面影響。因此，應(yīng)加大“算法”的宣傳與教育力度，提高民眾認(rèn)識水平，提升民眾識別能力，營造抵制“惡劣算法”的輿論監(jiān)督環(huán)境。

規(guī)范行業(yè)倫理，遏制“算法”負(fù)面影響。技術(shù)只有在人類良心的呵護(hù)下，才能發(fā)揮出應(yīng)有的價值。要在社會主義核心價值觀引導(dǎo)下，以高度的社會責(zé)任感，研判不同領(lǐng)域的“算法”應(yīng)用，對政治、經(jīng)濟(jì)、文化、教育、社會倫理、社會心理的可能影響，在充分發(fā)揮“算法”積極作用下，主動修改、完善、規(guī)范“算法”，消除“算法”的價值和倫理缺陷，在技術(shù)不夠成熟情況下，通過人員把關(guān)和人力過濾，加大對“算法”產(chǎn)品的“質(zhì)檢”。

加強(qiáng)執(zhí)法力度，嚴(yán)懲“算法”危害行為?！八惴ā蔽：Ρ举|(zhì)上是人的危害，對于罔顧“算法”危害，單純追求商業(yè)利益，造成惡劣影響的平臺和機(jī)構(gòu)，國家應(yīng)加大執(zhí)法力度，按照有關(guān)法律進(jìn)行懲戒。在國家重大政治、經(jīng)濟(jì)、外交、軍事等活動以及民間突發(fā)事件中，以網(wǎng)絡(luò)空間、移動終端等平臺，通過自主設(shè)計的“算法”技術(shù)（平臺）或外部引進(jìn)的“惡意算法”軟件（平臺），故意誤導(dǎo)社會輿情的行為，國家應(yīng)依法進(jìn)行追查與問責(zé)。

支持技術(shù)研發(fā)，以“算法”治“算法”。消除技術(shù)負(fù)面影響，同樣需要技術(shù)的參與。“算法”本身是中性技術(shù)，但一旦被別有用心的人、組織、外部勢力加以利用，就有可能對不同領(lǐng)域的安全與穩(wěn)定構(gòu)成或隱或現(xiàn)的影響。在“算法”已成為智能化社會運(yùn)行的基礎(chǔ)性技術(shù)背景下，單是依靠職業(yè)倫理或群眾輿論，是很難對其進(jìn)行有效治理的。有關(guān)部門應(yīng)采取應(yīng)對策略，鼓勵技術(shù)研發(fā)機(jī)構(gòu)積極開發(fā)“算法監(jiān)管工具”，通過“好算法”應(yīng)用，遏制“壞算法”的不良影響。

（作者系長江師范學(xué)院重慶教育改革研究中心執(zhí)行主任）

《中國教育報》2019年04月18日第5版