科技棱鏡涵蓋 100 個獨立技術(shù)趨勢。為了幫助讀者深入理解這些趨勢，Thoughtworks分五個“視角”來進(jìn)行分析。這些視角將幫助讀者重點了解各個發(fā)展趨勢對貴企業(yè)意味著什么，以及需要如何做好準(zhǔn)備。這些視角可以單獨使用，也可以相互結(jié)合以形成更廣闊的視角，開辟全新的調(diào)查途徑和思路。

本報告重點介紹了通過不同視角能夠發(fā)現(xiàn)的各種機會，以及可用于衡量新趨勢發(fā)展速度的預(yù)兆信號。報告將從以下兩個方面分析這 100 個趨勢：時間范圍，以及建議的應(yīng)對策略，即采納、分析或預(yù)測。希望本報告能幫助讀者識別在當(dāng)下和未來影響貴企業(yè)的最重要趨勢。

以下是報告全文之視角 Ⅳ：技術(shù)作惡的影響擴大

“惡意”技術(shù)通常與勒索軟件、入侵系統(tǒng)竊取數(shù)據(jù)或制造計算機病毒等犯罪活動聯(lián)系在一起，但這并不是全部。

由于技術(shù)形勢的發(fā)展，技術(shù)作惡的定義也應(yīng)該相應(yīng)擴展，以包含那些雖然合法甚至被廣泛接受，但最終會威脅社會福祉的行為。

科技棱鏡趨勢分析

隨著技術(shù)變得越來越復(fù)雜，技術(shù)被誤用濫用的形式也越來越多。人們在日?；顒又性絹碓揭蕾嚳萍?，相應(yīng)地，他們?nèi)找媸艿揭庀氩坏降?、甚至是惡意后果的影響。再加上高度的自動化以機器的速度做出決策，出錯的可能性就會迅速增加。

根據(jù)我們的定義，“作惡”技術(shù)不僅包括惡意軟件和黑客工具等犯罪技術(shù)，還包括惡意廣告和客戶定位。一項技術(shù)是否屬于作惡，可能是一個視角問題。有些人并不認(rèn)為互聯(lián)網(wǎng)廣告、跟蹤 Cookie 或社交媒體傳播活動具有侵入性，他們很樂意用自己的數(shù)據(jù)換取他們認(rèn)為個性化或特殊價值的服務(wù)。有些人則在瀏覽器中安裝了廣告攔截軟件，并完全避開微博、朋友圈等社交應(yīng)用。對某些人來說，同意跟蹤記錄或收集個人數(shù)據(jù)基本上是一種自動選擇；而對另一些人來說，則需要經(jīng)過謹(jǐn)慎思考。這就是說，由于不同人口群體對技術(shù)的獲取和體驗程度不同，以及關(guān)于知情同意的信息和選擇的呈現(xiàn)方式存在各種差異，導(dǎo)致許多人已經(jīng)忘記了一個事實，即他們首先是有選擇權(quán)的。

并非所有的作惡行為都是蓄意或是惡意的。算法或機器學(xué)習(xí)系統(tǒng)中的偏差就是一例。由于在構(gòu)建或開發(fā)過程中發(fā)生的意外偏差和疏忽，可能會對某些客戶群體表現(xiàn)出惡意傾向，但這種偏差并非由于系統(tǒng)遭到了破壞或設(shè)計者有意為之。

相關(guān)預(yù)兆信號包括：

? 技術(shù)日益普及，潛在威脅同時也在擴大。海量的聯(lián)網(wǎng)設(shè)備就是一個簡單的例子：弗若斯特沙利文咨詢公司（全球最大的企業(yè)增長咨詢公司） 預(yù)測，到 2026 年，全球活躍物聯(lián)網(wǎng) (IoT) 設(shè)備的數(shù)量將超過 650億臺。所有這些設(shè)備都會存在可能被利用的潛在安全漏洞。

? 消費者對廣告和營銷技術(shù)的態(tài)度和行為正在發(fā)生變化，接受廣泛使用自身數(shù)據(jù)的人和更關(guān)心隱私的人之間的分歧也越來越大。

? 對于社交媒體在政治競選中的使用和影響，以及社交媒體渠道如何影響健康、政治和其他社會輿論，人們?nèi)找娓械浇箲]。

? 人工智能 (AI) 和機器學(xué)習(xí) (ML) 的使用越來越多，造成了一些意想不到的后果，如算法和所收集數(shù)據(jù)集中的偏見。對惡意影響的擔(dān)憂促使人們試圖控制人工智能在比如招聘等流程中的使用。

? 圍繞數(shù)據(jù)收集、保留和使用的法規(guī)得到加強，如《中華人民共和國個人信息保護(hù)法》（新版）、《歐洲通用數(shù)據(jù)保護(hù)條例》(GDPR)、《加州隱私權(quán)法》(CPRA) 以及其他司法轄區(qū)的同類規(guī)定。

機會

隨著數(shù)據(jù)泄露接近歷史峰值，防范黑客蓄意攻擊和惡意軟件變得日益重要。企業(yè)必須在日益擴大的攻擊面上大力投入進(jìn)行防御，以對抗資金雄厚、組織嚴(yán)密的攻擊者。然而，隨著發(fā)生危險的可能性上升，企業(yè)還必須考慮惡意技術(shù)其他方面的問題。我們相信，尊重客戶的意愿，避免”如影隨形“的受眾定位，并根除算法系統(tǒng)中的偏見，不僅從本質(zhì)上講是合乎倫理的，而且有利于建立信任和積極的公眾認(rèn)知，最終有利于企業(yè)的健康發(fā)展。

據(jù)媒體報道，SolarWinds 供應(yīng)鏈遭黑客攻擊，致使該公司損失了近 2,000 萬美元，保險索賠估計達(dá)到 1 億美元，這表明惡意事件的財務(wù)的不良影響很容易失去控制。GDPR 的罰金在緩慢起步后又有所提高，總罰金較上年激增 113.5%。最值得注意的是，亞馬遜在其 2021 年 7 月的財報中宣布了 8.77 億美元的巨額 GDPR 罰金，比此前的記錄高出近 15 倍。隨著消費者對隱私日益重視，穩(wěn)健的安全保護(hù)措施已成為某些公司的一大優(yōu)勢。思科最近的一項調(diào)查發(fā)現(xiàn)，近 80% 的消費者將數(shù)據(jù)保護(hù)納入購買決策，并愿意為隱私標(biāo)準(zhǔn)更高的產(chǎn)品或供應(yīng)商支付更多費用。

我們所看到的當(dāng)前形勢

在與英國政府為期七年的一個合作項目中，我們幫助他們改變了與公民互動以及向公民提供公共服務(wù)的方式，從一開始就將信任和安全視為重中之重。該項目將不同的政府網(wǎng)站整合為一個強大而便利的平臺，增強了公民體驗，并大大縮短了部署周期。重要的是，該平臺有一個在線身份認(rèn)證系統(tǒng)提供支持，從而在公民提交服務(wù)申請時，同時滿足所有必要的數(shù)據(jù)保護(hù)要求，并尊重個人的隱私權(quán)。最大限度減少產(chǎn)生負(fù)面結(jié)果的可能性，增強人們對平臺的信心，促進(jìn)了該平臺的迅速普及。

值得關(guān)注的趨勢

采納：當(dāng)下存在的技術(shù)，正在業(yè)界得到充分利用。

——安全的軟件交付：過去的一年里，我們觀察到，“軟件供應(yīng)鏈”受到的攻擊顯著增加?！败浖?yīng)鏈”并非軟件本身，而是幫助我們將軟件投入生產(chǎn)的工具、過程和庫。美國白宮甚至發(fā)布了一項關(guān)于網(wǎng)絡(luò)安全的行政令，包括改善供應(yīng)鏈安全的具體指令，如要求所有政府系統(tǒng)都提供軟件“材料清單”。安全軟件交付強調(diào)，安全問題人人有責(zé)，這一理念應(yīng)貫穿整 個軟件生命周期。

分析：受到關(guān)注的技術(shù)，但依賴不同行業(yè)和應(yīng)用場景。

——道德框架：任何決定都有后果。在科技界，隨著 AI 決策開始成為主流，倫理學(xué)家們一直在探討道德決策框架，試圖讓決策過程變得透明和清晰。

預(yù)測：成熟度欠缺的技術(shù)，可能在未來幾年產(chǎn)生重大影響。

——量子機器學(xué)習(xí)：雖然量子機器學(xué)習(xí)可能是解決復(fù)雜的化學(xué)和材料科學(xué)問題的一支重要力量，但也可能在數(shù)據(jù)的倫理使用方面帶來進(jìn)一步的挑戰(zhàn)。

對采納者的建議

網(wǎng)絡(luò)安全是一場與對手的貓鼠游戲。AI 在各企業(yè)中迅速普及，以助力其應(yīng)對安全威脅，各種各樣的產(chǎn)品正在涌現(xiàn)，以滿足不斷增長的需求。目的是通過自動化手動檢測的任務(wù)，提供入侵警報和仔細(xì)檢查網(wǎng)絡(luò)流量等智能功能，以檢測異常行為、違反政策的情況或機器人故障，從而創(chuàng)造公平的競爭環(huán)境。也許 AI方法最關(guān)鍵之處在于，它們不僅能夠限制受攻擊面和填補漏洞，而且還能夠幫助預(yù)測未來可能發(fā)生的攻擊，從而可以提前采用適當(dāng)?shù)娘L(fēng)險緩解策略。

?AI 不是靈丹妙藥。重要的是要記住，任何用于防御的技術(shù)也可能被攻擊者利用，雖然企業(yè)可能會從 AI中受益，但它不是靈丹妙藥。企業(yè)需要擯棄將人工智能、機器學(xué)習(xí)和數(shù)據(jù)導(dǎo)向型工具視為“一體適用”的解決方案。相反，任何工具都需要成為貫穿整個組織結(jié)構(gòu)的廣泛智能戰(zhàn)略的一部分。例如，機器學(xué)習(xí)不能孤立地實現(xiàn)有效的安全性；它需要管理數(shù)據(jù)和模型的生命周期，并反饋結(jié)果。更重要的是，安全問題人人有責(zé)。這使得零信任架構(gòu)方法能夠應(yīng)用于細(xì)分現(xiàn)實網(wǎng)絡(luò)，并以一種安全擴展的方式覆蓋安全和數(shù)據(jù)訪問原則，根據(jù)需要提供信息；不多不少正好滿足隱私保護(hù)的目的。

采用或構(gòu)建一個數(shù)據(jù)道德框架，向員工和客戶明確數(shù)據(jù)是如何存儲、使用和保持安全的。我們建議您只保留實際需要的數(shù)據(jù)，不超過所需的量?，F(xiàn)代合規(guī)性和隱私法要求審慎的高水平審查，這可以轉(zhuǎn)變?yōu)橐粋€積極的差異化因素。作為數(shù)據(jù)保留策略和數(shù)據(jù)集構(gòu)建和使用的基礎(chǔ)，強大的數(shù)據(jù)倫理框架也可以在您的整體數(shù)據(jù)戰(zhàn)略中發(fā)揮重要作用。

即使不是一目了然，也總是會存在偏見，所以要不斷地努力。偏見很難在事后消除，因此，前期處理（包括不公平在內(nèi)的問題）至關(guān)重要。重要的是，記錄數(shù)據(jù)的方式要允許對基于數(shù)據(jù)的行動、產(chǎn)品或決策進(jìn)行審計和分析，以了解其對特定群體的影響。需要對數(shù)據(jù)來源的表述、所提取樣本的人口特征以及所用算法的選擇進(jìn)行具體思考。我們負(fù)責(zé)任的技術(shù)手冊提供了指導(dǎo)和最佳實踐，可以協(xié)助實施這一過程。

永遠(yuǎn)不要假設(shè)自己的數(shù)據(jù)不存在偏見。我們是人類，偏見無處不在。

【未完待續(xù)】

xiesc