算法社會(huì )的隱憂(yōu)
1
算法社會(huì )中的信息獲�。�“無(wú)菌”的“過(guò)濾泡”
在信息時(shí)代，用戶(hù)選擇性地獲取信息成為一種必然。傳統媒體時(shí)代，信息的選擇權掌握在記者和編輯手中，新聞專(zhuān)業(yè)主義使從業(yè)者在考慮受眾喜好的同時(shí)兼顧信息的公共性，即不僅考慮“受眾想要知道什么”，還進(jìn)一步與“受眾應該知道什么”平衡。
當算法取代人工編輯時(shí)，新聞專(zhuān)業(yè)主義逐漸隱退，算法通過(guò)記錄用戶(hù)行為以及參考與用戶(hù)相似的人群，猜測用戶(hù)信息喜好從而做出推薦，通過(guò)取悅、順從用戶(hù)的個(gè)性化信息推薦運算規則，最終達到讓用戶(hù)對軟件“上癮”的目的。用戶(hù)在愉快地享受算法服務(wù)的同時(shí)，不可抑制地陷入更深的擬態(tài)環(huán)境中。
信息推薦算法將與用戶(hù)意見(jiàn)相悖的信息、受眾不感興趣的知識拒之門(mén)外，看似為用戶(hù)營(yíng)造了一個(gè)“無(wú)菌環(huán)境”，但社會(huì )的復雜性也隨之消失。用戶(hù)被孤立地放置于封閉性的信息擬態(tài)環(huán)境之中，卻又時(shí)常感知不到算法的隱秘操縱；其被算法反復“投喂”類(lèi)似的信息，消除了偶遇其他觀(guān)點(diǎn)的可能性。
有學(xué)者在研究搜索引擎背后的算法時(shí)，將算法為用戶(hù)形成的信息環(huán)境稱(chēng)作“過(guò)濾泡”，它使得用戶(hù)沉浸于熟悉、認可的信息中，而非多維視角內，使得用戶(hù)更習慣被動(dòng)地接收信息而非主動(dòng)地探索信息，從而進(jìn)一步丟失創(chuàng )新的可能性。
2019年5月26日至29日，2019中國國際大數據產(chǎn)業(yè)博覽會(huì )在貴州省貴陽(yáng)市舉行。圖/傳播君 李晗 攝
2
算法社會(huì )中的判斷：依賴(lài)算法的思考
算法對于人類(lèi)的影響不止于對世界的認知。在算法社會(huì )中，很多時(shí)候人們依賴(lài)算法做出判斷，甚至將判斷的權力交付于算法手中。例如，現在人們在規劃出行路線(xiàn)時(shí)，依靠導航系統判斷最佳出行路線(xiàn)甚至全權由系統決定出行路線(xiàn)。
的確，基于大數據的算法通過(guò)高效的運算在很多時(shí)候幫助人們做出更好的判斷，但這是否證明算法的判斷一定是最優(yōu)解還處于未知狀態(tài)。
人類(lèi)的判斷模型不僅應建立在事實(shí)層面，還應包括情感、道德、倫理等層面，后三者是如今算法無(wú)法抵達的。
事實(shí)上，研究者發(fā)現，算法對于人群的分類(lèi)與判斷常常攜帶著(zhù)人類(lèi)社會(huì )習慣性的偏見(jiàn)與歧視。但不同的是，算法的學(xué)習在于對過(guò)去數據的輸入及模仿，而人類(lèi)能夠基于此進(jìn)行反思。
若人們將決策的權力交給算法，人們將逐漸被貼上“算法標簽”，算法攜帶的偏見(jiàn)與歧視將優(yōu)質(zhì)資源更進(jìn)一步傾斜給算法標記的社會(huì )優(yōu)勢人群，社會(huì )不平等將進(jìn)一步擴大。
3
算法社會(huì )中的隱私：無(wú)孔不入的數據收集
數據收集并非只是互聯(lián)網(wǎng)時(shí)代的產(chǎn)物，傳統媒體時(shí)代，電視收視率報告、用戶(hù)調研皆為用戶(hù)數據收集的典型代表。但與之不同的是，由于數字痕跡的出現，平臺依托算法的數據收集，成為 7×24 小時(shí)的常態(tài)化行為。
算法對用戶(hù)的數據收集的確帶來(lái)了便利，但同時(shí)也對人們的隱私形成巨大威脅。社交平臺收集用戶(hù)數據，進(jìn)而推薦個(gè)性化廣告；在私人領(lǐng)域中，智能音箱、家庭攝像頭等互聯(lián)網(wǎng)家居無(wú)時(shí)無(wú)刻不在收集著(zhù)信息，且將用戶(hù)信息上傳至平臺。
同時(shí)，用戶(hù)有時(shí)甚至會(huì )向算法主動(dòng)提供信息，以隱私換取便利，但卻忽略了便利背后的風(fēng)險。算法在收集用戶(hù)數據后還會(huì )對用戶(hù)數據進(jìn)行處理，以描繪用戶(hù)畫(huà)像，進(jìn)而控制用戶(hù)行為。
在短視頻平臺上，用戶(hù)的點(diǎn)贊、評論、瀏覽單個(gè)視頻時(shí)長(cháng)、瀏覽記錄、在線(xiàn)時(shí)間等都決定著(zhù)算法對于用戶(hù)喜好的判定，也決定著(zhù)用戶(hù)將接收何種內容的信息推薦；在購物平臺上，算法通過(guò)個(gè)性化推薦進(jìn)一步挖掘用戶(hù)的購買(mǎi)欲望，助推消費主義；在社交平臺中，算法通過(guò)收集用戶(hù)之間的互動(dòng)歷史測算親密度，決定其信息流的排序，也決定了不同好友信息的可見(jiàn)性。
可見(jiàn)，用戶(hù)的所有行為都將成為算法運行的基礎，最終影響算法運行的結果。
算法須協(xié)同治理
我們現在僅處于“弱人工智能時(shí)代”，算法的智能化水平比較有限，但算法作為一個(gè)擁有極大發(fā)展潛力的新興技術(shù)，其對人類(lèi)產(chǎn)生愈發(fā)強烈的影響，無(wú)疑是一種時(shí)代趨勢。將算法社會(huì )的風(fēng)險以依靠個(gè)體算法素養來(lái)解決顯然不現實(shí)。未來(lái)，對算法的治理需要多主體、多層級共同參與。
1
平臺：倫理約束，創(chuàng )新設計
作為對算法最了解的一方，算法開(kāi)發(fā)平臺首先需要在遵守算法倫理規范的基礎上自覺(jué)進(jìn)行內在約束。其次應改變算法的“黑箱子”性質(zhì)，提高運算規則的透明度。
此外，近年來(lái)有學(xué)者提出可以在算法設計過(guò)程中應用參與策略。參與式設計即通過(guò)賦予用戶(hù)權力的方式，使他們在一定程度上參與到對技術(shù)的開(kāi)發(fā)中。
這不僅有助于開(kāi)拓用戶(hù)的計算機思維，提高他們對算法風(fēng)險的應對能力，還能幫助算法開(kāi)發(fā)平臺解決設計者意圖與使用者期望之間的脫節問(wèn)題。
2
政府：規范法治，加強監管
如今，算法技術(shù)發(fā)展日新月異。2017 年，國務(wù)院頒布的《新一代人工智能發(fā)展規劃》中強調，適應人工智能發(fā)展的基礎設施、政策法規、標準體系亟待完善。
雖然我國目前已經(jīng)出臺《中華人民共和國網(wǎng)絡(luò )安全法》《互聯(lián)網(wǎng)信息服務(wù)管理辦法》等一系列針對互聯(lián)網(wǎng)信息安全和信息服務(wù)的法律規定，但對于高速發(fā)展的智能算法技術(shù)帶來(lái)的問(wèn)題和風(fēng)險，還須更完備的法規建設和更強力的監管措施。
未來(lái)，人類(lèi)必將面臨算法帶來(lái)的信息權力動(dòng)蕩、意識形態(tài)風(fēng)險等問(wèn)題，但也正如媒介素養教育中所強調的，我們不能一味抵制媒介影響，而應提升自身的綜合能力來(lái)應對風(fēng)險。
算法素養也是如此，我們需要合理運用人的價(jià)值理性駕馭算法的工具理性，在探索與實(shí)踐中尋求最佳的共存方式。
