科技棱鏡涵蓋 100 個獨立技術趨勢。為了幫助讀者深入理解這些趨勢，Thoughtworks分五個“視角”來進行分析。這些視角將幫助讀者重點了解各個發(fā)展趨勢對貴企業(yè)意味著什么，以及需要如何做好準備。這些視角可以單獨使用，也可以相互結合以形成更廣闊的視角，開辟全新的調查途徑和思路。

本報告重點介紹了通過不同視角能夠發(fā)現(xiàn)的各種機會，以及可用于衡量新趨勢發(fā)展速度的預兆信號。報告將從以下兩個方面分析這 100 個趨勢：時間范圍，以及建議的應對策略，即采納、分析或預測。希望本報告能幫助讀者識別在當下和未來影響貴企業(yè)的最重要趨勢。

以下是報告全文之視角 Ⅳ：技術作惡的影響擴大

“惡意”技術通常與勒索軟件、入侵系統(tǒng)竊取數據或制造計算機病毒等犯罪活動聯(lián)系在一起，但這并不是全部。

由于技術形勢的發(fā)展，技術作惡的定義也應該相應擴展，以包含那些雖然合法甚至被廣泛接受，但最終會威脅社會福祉的行為。

科技棱鏡趨勢分析

隨著技術變得越來越復雜，技術被誤用濫用的形式也越來越多。人們在日?；顒又性絹碓揭蕾嚳萍迹鄳?，他們日益受到意想不到的、甚至是惡意后果的影響。再加上高度的自動化以機器的速度做出決策，出錯的可能性就會迅速增加。

根據我們的定義，“作惡”技術不僅包括惡意軟件和黑客工具等犯罪技術，還包括惡意廣告和客戶定位。一項技術是否屬于作惡，可能是一個視角問題。有些人并不認為互聯(lián)網廣告、跟蹤 Cookie 或社交媒體傳播活動具有侵入性，他們很樂意用自己的數據換取他們認為個性化或特殊價值的服務。有些人則在瀏覽器中安裝了廣告攔截軟件，并完全避開微博、朋友圈等社交應用。對某些人來說，同意跟蹤記錄或收集個人數據基本上是一種自動選擇；而對另一些人來說，則需要經過謹慎思考。這就是說，由于不同人口群體對技術的獲取和體驗程度不同，以及關于知情同意的信息和選擇的呈現(xiàn)方式存在各種差異，導致許多人已經忘記了一個事實，即他們首先是有選擇權的。

并非所有的作惡行為都是蓄意或是惡意的。算法或機器學習系統(tǒng)中的偏差就是一例。由于在構建或開發(fā)過程中發(fā)生的意外偏差和疏忽，可能會對某些客戶群體表現(xiàn)出惡意傾向，但這種偏差并非由于系統(tǒng)遭到了破壞或設計者有意為之。

相關預兆信號包括：

? 技術日益普及，潛在威脅同時也在擴大。海量的聯(lián)網設備就是一個簡單的例子：弗若斯特沙利文咨詢公司（全球最大的企業(yè)增長咨詢公司） 預測，到 2026 年，全球活躍物聯(lián)網 (IoT) 設備的數量將超過 650億臺。所有這些設備都會存在可能被利用的潛在安全漏洞。

? 消費者對廣告和營銷技術的態(tài)度和行為正在發(fā)生變化，接受廣泛使用自身數據的人和更關心隱私的人之間的分歧也越來越大。

? 對于社交媒體在政治競選中的使用和影響，以及社交媒體渠道如何影響健康、政治和其他社會輿論，人們日益感到焦慮。

? 人工智能 (AI) 和機器學習 (ML) 的使用越來越多，造成了一些意想不到的后果，如算法和所收集數據集中的偏見。對惡意影響的擔憂促使人們試圖控制人工智能在比如招聘等流程中的使用。

? 圍繞數據收集、保留和使用的法規(guī)得到加強，如《中華人民共和國個人信息保護法》（新版）、《歐洲通用數據保護條例》(GDPR)、《加州隱私權法》(CPRA) 以及其他司法轄區(qū)的同類規(guī)定。

機會

隨著數據泄露接近歷史峰值，防范黑客蓄意攻擊和惡意軟件變得日益重要。企業(yè)必須在日益擴大的攻擊面上大力投入進行防御，以對抗資金雄厚、組織嚴密的攻擊者。然而，隨著發(fā)生危險的可能性上升，企業(yè)還必須考慮惡意技術其他方面的問題。我們相信，尊重客戶的意愿，避免”如影隨形“的受眾定位，并根除算法系統(tǒng)中的偏見，不僅從本質上講是合乎倫理的，而且有利于建立信任和積極的公眾認知，最終有利于企業(yè)的健康發(fā)展。

據媒體報道，SolarWinds 供應鏈遭黑客攻擊，致使該公司損失了近 2,000 萬美元，保險索賠估計達到 1 億美元，這表明惡意事件的財務的不良影響很容易失去控制。GDPR 的罰金在緩慢起步后又有所提高，總罰金較上年激增 113.5%。最值得注意的是，亞馬遜在其 2021 年 7 月的財報中宣布了 8.77 億美元的巨額 GDPR 罰金，比此前的記錄高出近 15 倍。隨著消費者對隱私日益重視，穩(wěn)健的安全保護措施已成為某些公司的一大優(yōu)勢。思科最近的一項調查發(fā)現(xiàn)，近 80% 的消費者將數據保護納入購買決策，并愿意為隱私標準更高的產品或供應商支付更多費用。

我們所看到的當前形勢

在與英國政府為期七年的一個合作項目中，我們幫助他們改變了與公民互動以及向公民提供公共服務的方式，從一開始就將信任和安全視為重中之重。該項目將不同的政府網站整合為一個強大而便利的平臺，增強了公民體驗，并大大縮短了部署周期。重要的是，該平臺有一個在線身份認證系統(tǒng)提供支持，從而在公民提交服務申請時，同時滿足所有必要的數據保護要求，并尊重個人的隱私權。最大限度減少產生負面結果的可能性，增強人們對平臺的信心，促進了該平臺的迅速普及。

值得關注的趨勢

采納：當下存在的技術，正在業(yè)界得到充分利用。

——安全的軟件交付：過去的一年里，我們觀察到，“軟件供應鏈”受到的攻擊顯著增加?！败浖湣辈⒎擒浖旧?，而是幫助我們將軟件投入生產的工具、過程和庫。美國白宮甚至發(fā)布了一項關于網絡安全的行政令，包括改善供應鏈安全的具體指令，如要求所有政府系統(tǒng)都提供軟件“材料清單”。安全軟件交付強調，安全問題人人有責，這一理念應貫穿整 個軟件生命周期。

分析：受到關注的技術，但依賴不同行業(yè)和應用場景。

——道德框架：任何決定都有后果。在科技界，隨著 AI 決策開始成為主流，倫理學家們一直在探討道德決策框架，試圖讓決策過程變得透明和清晰。

預測：成熟度欠缺的技術，可能在未來幾年產生重大影響。

——量子機器學習：雖然量子機器學習可能是解決復雜的化學和材料科學問題的一支重要力量，但也可能在數據的倫理使用方面帶來進一步的挑戰(zhàn)。

對采納者的建議

網絡安全是一場與對手的貓鼠游戲。AI 在各企業(yè)中迅速普及，以助力其應對安全威脅，各種各樣的產品正在涌現(xiàn)，以滿足不斷增長的需求。目的是通過自動化手動檢測的任務，提供入侵警報和仔細檢查網絡流量等智能功能，以檢測異常行為、違反政策的情況或機器人故障，從而創(chuàng)造公平的競爭環(huán)境。也許 AI方法最關鍵之處在于，它們不僅能夠限制受攻擊面和填補漏洞，而且還能夠幫助預測未來可能發(fā)生的攻擊，從而可以提前采用適當的風險緩解策略。

?AI 不是靈丹妙藥。重要的是要記住，任何用于防御的技術也可能被攻擊者利用，雖然企業(yè)可能會從 AI中受益，但它不是靈丹妙藥。企業(yè)需要擯棄將人工智能、機器學習和數據導向型工具視為“一體適用”的解決方案。相反，任何工具都需要成為貫穿整個組織結構的廣泛智能戰(zhàn)略的一部分。例如，機器學習不能孤立地實現(xiàn)有效的安全性；它需要管理數據和模型的生命周期，并反饋結果。更重要的是，安全問題人人有責。這使得零信任架構方法能夠應用于細分現(xiàn)實網絡，并以一種安全擴展的方式覆蓋安全和數據訪問原則，根據需要提供信息；不多不少正好滿足隱私保護的目的。

采用或構建一個數據道德框架，向員工和客戶明確數據是如何存儲、使用和保持安全的。我們建議您只保留實際需要的數據，不超過所需的量?，F(xiàn)代合規(guī)性和隱私法要求審慎的高水平審查，這可以轉變?yōu)橐粋€積極的差異化因素。作為數據保留策略和數據集構建和使用的基礎，強大的數據倫理框架也可以在您的整體數據戰(zhàn)略中發(fā)揮重要作用。

即使不是一目了然，也總是會存在偏見，所以要不斷地努力。偏見很難在事后消除，因此，前期處理（包括不公平在內的問題）至關重要。重要的是，記錄數據的方式要允許對基于數據的行動、產品或決策進行審計和分析，以了解其對特定群體的影響。需要對數據來源的表述、所提取樣本的人口特征以及所用算法的選擇進行具體思考。我們負責任的技術手冊提供了指導和最佳實踐，可以協(xié)助實施這一過程。

永遠不要假設自己的數據不存在偏見。我們是人類，偏見無處不在。

【未完待續(xù)】

xiesc