-
微信號:youuav
關(guān)注官方微信
m.youuav.com手機掃碼看新聞
-
- 添加收藏
- 關(guān)于我們
無人機整機
無人機配件
無人機服務(wù)
設(shè)備與工具
認真對待AI出現(xiàn)的偏見
偏見和歧視是AI的嚴重問題。已經(jīng)有許多與歷史數(shù)據(jù)相關(guān)的不公平對待案例，需要采取措施以確保在人工智能中不普遍。有關(guān)實體經(jīng)濟中歧視的現(xiàn)行法規(guī)需要擴展到數(shù)字平臺。這將有助于保護消費者并建立對這些系統(tǒng)整體的信心。
為了使這些進步得到廣泛采用，人工智能系統(tǒng)的運行方式需要更高的透明度。Immuta的安德魯·伯特（Andrew Burt）指出：“預測分析面臨的關(guān)鍵問題實際上是透明度。我們處在一個數(shù)據(jù)科學運營正在承擔越來越重要的任務(wù)的世界中，唯一使它們受阻的是訓練模型的數(shù)據(jù)科學家能夠很好地解釋其模型在做什么?！?/p>
維持人類監(jiān)督和控制機制
一些人認為，人類需要對AI系統(tǒng)進行監(jiān)督和控制的途徑。例如，艾倫人工智能研究所首席執(zhí)行官Oren Etzioni認為應該有規(guī)則來規(guī)范這些系統(tǒng)。他說，首先，AI必須受制于已經(jīng)針對人類行為而制定的所有法律，包括有關(guān)“網(wǎng)絡(luò)攻擊，股票操縱或恐怖主義威脅”的法規(guī)，以及“誘使人們實施犯罪”的法規(guī)。其次，他認為這些系統(tǒng)應該公開它們是自動化系統(tǒng)，而不是認為操縱。第三，他指出：“未經(jīng)信息源的明確許可，人工智能系統(tǒng)無法保留或披露機密信息?！彼睦碛墒沁@些工具存儲了太多數(shù)據(jù)，因此人們必須意識到AI帶來的隱私風險。
同樣，IEEE（美國電氣電子工程師學會）全球倡議組織擁有關(guān)于AI和自治系統(tǒng)的道德準則。它的專家建議對這些模型進行編程時要考慮到廣泛接受的人類行為規(guī)范和規(guī)則。AI算法需要考慮這些規(guī)范的重要性，如何解決規(guī)范沖突以及這些系統(tǒng)對規(guī)范解決方案透明的方式。倫理專家稱，軟件設(shè)計應該針對“不欺騙”和“誠實”進行編程。發(fā)生故障時，必須有緩解機制來處理后果。尤其是，人工智能必須對偏見，歧視和公平等問題敏感。
一群機器學習專家聲稱可以自動進行道德決策。他們將電車問題視為道德困境，他們提出以下問題：如果自動駕駛汽車失控，是否應該對其編程以殺死自己的乘客或過馬路的行人？他們設(shè)計了一個“基于投票的系統(tǒng)”，該系統(tǒng)要求130萬人評估替代方案，總結(jié)總體選擇，并將這些人的總體觀點應用于各種交通工具。這使他們能夠在考慮到公眾偏好的情況下自動執(zhí)行AI算法中的道德決策。當然，此程序不會減少任何形式的死亡所造成的悲劇，例如在Uber案中所見，但是它提供了一種機制，可以幫助AI開發(fā)人員將道德考慮納入其計劃中。
懲罰惡意行為并促進網(wǎng)絡(luò)安全
與任何新興技術(shù)一樣，重要的是要阻止旨在誘騙軟件或?qū)⑵溆糜诓涣寄康牡膼阂馓幚??？紤]到AI的雙重用途，這一點尤其重要，因為同一方面的工具可以用于有益或惡意目的。惡意使用AI會使個人和組織面臨不必要的風險，并破壞了新興技術(shù)的優(yōu)點。這包括諸如黑客行為，操縱算法，損害隱私和機密性或竊取身份之類的行為。劫持AI以獲取機密信息的行為應受到嚴懲，以制止此類行為。
在一個瞬息萬變的世界中，許多實體都具有先進的計算功能，因此需要認真關(guān)注網(wǎng)絡(luò)安全。各國必須謹慎保護自己的系統(tǒng)，并防止其他國家破壞其安全。根據(jù)美國國土安全部的資料，一家大型美國銀行每周在其服務(wù)中心接聽大約1100萬個電話。為了保護其電話免遭拒絕服務(wù)攻擊，它使用“基于機器學習的策略引擎，該引擎根據(jù)語音防火墻策略（包括騷擾呼叫者，自動化呼叫和潛在的欺詐性呼叫），每月阻止超過120,000個呼叫。”這代表了機器學習可以幫助防御惡意系統(tǒng)的技術(shù)系統(tǒng)的一種方式。
五、結(jié)論
總而言之，世界正處于通過AI和數(shù)據(jù)分析革新，使得許多行業(yè)處于風口浪尖。在金融、國家安全、醫(yī)療保健、刑事司法、交通和智慧城市中已經(jīng)有大量部署，已經(jīng)改變了決策，業(yè)務(wù)模型，風險緩解和系統(tǒng)性能。這些事態(tài)發(fā)展正在產(chǎn)生可觀的經(jīng)濟和社會效益。
世界正處于通過人工智能使許多領(lǐng)域發(fā)生革命的時刻，但是由于這些技術(shù)將對整個社會產(chǎn)生重大影響，因此需要更好地理解AI系統(tǒng)的開發(fā)方式。
然而，人工智能系統(tǒng)的發(fā)展方式對整個社會都具有重大意義。重要的是如何解決政策問題，解決道德沖突，解決法律現(xiàn)實以及在AI和數(shù)據(jù)分析解決方案中需要多少透明度。人們對軟件開發(fā)的選擇會影響決策的方式以及將決策整合到組織例程中的方式。這些過程的確切執(zhí)行方式需要更好地理解，因為它們將在不久的將來對公眾產(chǎn)生重大影響。人工智能很可能是人類事務(wù)的一場革命，并且將成為歷史上最有影響力的人類創(chuàng)新。
特別鳴謝：
Grace Gilberg，Jack Karsten，Hillaryary Schaub和Kristjan Tomasson在此項目上的研究幫助。
2025-09-12 11:30
2025-09-11 10:41
2025-09-09 10:52
2025-09-04 21:58
2025-08-28 11:13
2025-08-27 14:14
2025-08-26 13:50
2025-08-23 20:37
2025-08-22 10:33
2025-08-18 14:20
